A PyTorch Kínában mutatta be az összekapcsolt nyílt AI-vermet

A modellektől a gyorsítókig terjedt a program

A PyTorch Conference China 2026 a PyTorch közösségét hozta össze Sanghajban, a KubeCon + CloudNativeCon és az OpenInfra Summit rendezvényei mellett. A szeptember 7-i, szponzorok által szervezett kapcsolódó eseményeket követően szeptember 8-án és 9-én modellekről, keretrendszerekről, elosztott tanításról, következtetésről, hardverről, felhőalapú infrastruktúráról és ügynökrendszerekről szóltak az előadások.

A konferencia központi témája az „Open Source for the AI Era”, vagyis a nyílt forráskód szerepe volt a mesterséges intelligencia korszakában. A programban vitaindító előadások, technikai bemutatók, közösségi találkozók és a PyTorch Foundation sajtótájékoztatója is szerepelt. Mark Collier, a PyTorch Foundation ügyvezető igazgatója arról beszélt, hogyan dolgozhatnak együtt a kutatók, fejlesztők, modellépítők és hardvergyártók a kísérletezéstől a termelési használatig.

Három új taggal bővült a PyTorch Foundation

A PyTorch Foundation szeptember 8-án jelentette be, hogy az Alibaba Cloud, az Ant Group és a Cambricon csatlakozik a szervezethez. Az Alibaba Cloud Platinum Member státusszal érkezett, és a felhős infrastruktúra, valamint a Qwen modellcsalád területén dolgozik. Az Ant Group Gold Member lett, a szervezet pedig a pénzügyi szolgáltatások méretében működtetett mesterségesintelligencia-rendszerekben szerzett tapasztalatát emelte ki.

A Cambricon szintén Platinum Memberként csatlakozott. A vállalat MLU gyorsítókat fejleszt, és az „Upstream First” megközelítést követi a PyTorchhoz benyújtott hozzájárulásaiban. Ezek a torch.compile, az Eager Operators, az eszközfuttatási környezet, az elosztott számítás, az AMP, a Dataloader és a Profiler területeit érintik. A konferencia színpadán az Alibaba Cloud, az Ant Group, a Cambricon és a Huawei képviselői beszéltek a hardvereket, modelleket és infrastruktúrát összekapcsoló nyílt AI-veremről.

Egy verem többféle modellhez, chiphez és felhőhöz

A PyTorch Foundation sanghaji sajtótájékoztatóján felvázolt nyílt forráskódú AI-verem több rétegből áll. A modellek építését és az intelligencia szállítását a PyTorch, a vLLM és a Ray képviselte. Az AI-munkaterhelések futtatásához és skálázásához a Kubernetes, a KServe, a Kueue, az OpenTelemetry és az llm-d kapcsolódik. Az infrastruktúra és az elkülönítés rétegében az OpenStack és a Kata Containers szerepel. Ezek a szoftverek NPU-kon, CPU-kon, GPU-kon és más gyorsítókon futhatnak.

A Foundation tagjai négy terület köré rendeződnek: bármilyen modell, bármilyen chip, bármilyen felhő és bármilyen ügynök. A szervezet szerint egyetlen szereplő sem építi fel a teljes rendszert, a tagok együtt azonban annak több rétegét lefedik.

A PyTorch közlése szerint több mint 100, Kínában dolgozó fejlesztő járul hozzá a PyTorchhoz több mint 40 kapcsolódó szervezeten keresztül. A szeptember 8-i tagsági bejelentés több mint 250 kínai szervezetet említett, amelyek a PyTorch Foundation projektjeihez járulnak hozzá. A felsorolt projektek között a DeepSpeed, a Helion, a PyTorch, a Ray, a Safetensors és a vLLM szerepel.

A hardverek sokfélesége külön fejlesztési feladatot jelent

A konferencia egyik hangsúlyos témája az AI-hardverek heterogenitása és az ehhez kapcsolódó magas alkalmazkodási költség volt. A PyTorch TAC Accelerator Integration Working Group, amelynek társelnöke a Huawei és az Intel, szabványos hardverbevezetési irányelveken, több tárolót érintő folyamatos integrációs tesztelésen, általános eszközfüggő tesztcsomagokon és platformbevezetési folyamatokon dolgozik.

A csoport a konferencián finomított eszközfüggetlen API-kat és kibővített, több háttérrendszert vizsgáló tesztmátrixot is bemutatott. A PyTorch Foundation szerint a hardvergyártók és fejlesztők csatlakozhatnak a munkacsoporthoz, ha közösen szeretnének nyílt és hatékony, heterogén számítási környezetet kialakítani a PyTorch számára.

A rendezvényen egy DeepSeek-R1-re épülő esettanulmányban a konferencia anyagai szerint ugyanazon a GB300 hardveren, hat hónappal később, az optimalizált rendszer 2,77-szeres áteresztőképességet és 60 százalékkal alacsonyabb tokenköltséget ért el. Egy másik bemutatott példa szerint a Kínában fejlesztett nyílt súlyú modellek részesedése az OpenRouter tokenforgalmából a 2024 végi 2 százalékról 45 százalékra nőtt 2026 áprilisára.