Kilenc új taggal bővült a PyTorch Foundation

Három vállalat Platinum szinten csatlakozik

A PyTorch Foundation, a Linux Foundation által támogatott, nyílt forráskódú mesterséges intelligenciával foglalkozó közösségi szervezet október 20-án jelentette be kilenc új tag érkezését. A tagok között vállalatok, alapítványok és oktatási intézmények is vannak.

Platinum szinten csatlakozott a Nebius, az Nscale és a Shopify Inc. Silver tag lett a LightSeek Foundation és a Lablup Inc. Associate szinten pedig a SKOPOS INDIA FOUNDATION, a Siksha ‘O’ Anusandhan, a Messiah University és a Valencia College lépett be.

A PyTorch Foundation szerint a bővülés tovább erősíti a szervezet szerepét a nyílt forráskódú AI-fejlesztés központi együttműködési helyeként. A közösség a PyTorch mellett olyan projekteket is összefog, mint a vLLM, a DeepSpeed, a Ray, a Helion és a Safetensors.

A teljes AI-stack köré szervezik a közösséget

A szervezet közleménye szerint az AI-innováció egyszerre zajlik a teljes technológiai rétegben. A kutatás, a modellek, az infrastruktúra, a hardver és az éles működtetés folyamatosan hat egymásra. A PyTorch Foundation ezt az összekapcsolt ökoszisztémát igyekszik egy közös közösségben összefogni, kutatók, fejlesztők és nyílt AI-rendszereken dolgozó vállalatok részvételével.

Mark Collier, a PyTorch Foundation ügyvezető igazgatója szerint „a nyílt rendszerek gyorsabban tanulnak, amikor több ember, projekt és szervezet dolgozik együtt, és ez egymást erősítő fejlődést hoz létre”. Hozzátette, hogy a nyílt forráskódú ökoszisztémák lehetővé teszik, hogy az áttörések szervezetek között terjedjenek, ahelyett hogy egyetlen vállalaton belül maradnának.

A közlemény a PyTorch ökoszisztémájának több friss fejlesztését is felsorolja. Az ExecuTorch már közvetlen utat kínál a PyTorch-tréningtől az eszközön futó következtetésig Arm Cortex-M CPU-kon. A TorchNeuron nyílt forráskódú, natív PyTorch-hátteret biztosít az AWS Trainiumhoz, míg a Google a TPU-fejlesztők számára tette nyilvánosan elérhetővé a natív PyTorch-támogatást.

Hardveres támogatás és Shopify-esettanulmány

Az IBM Spyre gyorsítójához az IBM AI-natív szoftveres rétege kiterjeszti a PyTorch Inductor fordítóját és natív futtatókörnyezetét. A közlemény szerint ez hétszeresére csökkenti a Spyre-specifikus fordítókódot a tesztelt munkaterhelések teljesítményének megtartása mellett. A fejlesztés több ezer modell támogatását tette lehetővé 44 adapterrel és hozzávetőleg 10 000 sornyi kóddal.

A PyTorch Foundation egy Shopify-esettanulmányt is ismertetett. A vállalat PyTorch és vLLM használatával folyamatos tanulási hurkot épített, amely naponta modellparaméterekké alakítja az éles környezetben jelentkező hibákat. A közlemény szerint ez a megoldás felülmúlta a frontier modellek minőségét, miközben 96 százalékkal csökkentette a kiszolgálás költségeit. Ezek a számok a PyTorch Foundation által közölt esettanulmányból származnak.

Mit jelent a bővülés a fejlesztőknek?

A PyTorch Foundation a fejlesztők, kutatók és vállalatok közös fórumaként írja le magát, amely a modellek tanítását, optimalizálását, kiszolgálását és összehangolását támogatja különböző chipeken és felhőkben. Az új tagok érkezése több szervezetet kapcsol be ebbe a munkába, miközben a közösség a tréningtől és a következtetéstől a kernelfejlesztésig és a felelős AI-ig terjedő területeket fedi le.

A konferencia a közlemény szerint a teljes AI-technológiai stacket bemutatja, a csupasz hardveres infrastruktúrától az alkalmazásokig és az ügynökökig. A Foundation célja, hogy a nyílt fejlesztésben érdekelt szereplők együttműködése révén a kutatási eredmények, a hardveres támogatás és a gyártási használat között gyorsabban lehessen kapcsolatot teremteni.