Platina fokozatú tagként csatlakozik az Nscale a PyTorch Foundationhöz

Az Nscale a Rayen keresztül kapcsolódott be

A PyTorch Foundation október 20-i bejelentése szerint az Nscale platina tagként csatlakozott a szervezethez. Az Nscale teljes körű AI-felhőplatformként írja le magát, amely egyetlen, vertikálisan integrált rendszerben fogja össze az energiaellátást, az adatközpontokat, a számítási kapacitást és a szoftvereket.

A vállalat először a Ray révén került közelebb a PyTorch Foundation projektökoszisztémájához. A Ray nyílt forráskódú keretrendszer elosztott számításra és AI-munkaterhelések nagy léptékű futtatására szolgál. Az Nscale tervei szerint felvásárolja az Anyscale-t, a Ray mögött álló vállalatot, és ennek részeként folytatja a Ray fejlesztésének, valamint közreműködői közösségének támogatását.

A Ray irányítása 2025 októbere óta a PyTorch Foundation alatt zajlik. Az Nscale közleménye szerint erre a működésre építve kívánja folytatni a projektbe történő befektetést.

Képviseletet kap a vezető testületben

A platina tagság az Nscale számára egy helyet biztosít a PyTorch Foundation kormányzó testületében. A testület az alapítvány szabályzata, küldetése és jövőképe alapján alakítja a szervezet irányelveit, kezdeményezéseinek átfogó kereteit, technikai elképzeléseit és működési irányát.

A testületben Nick Jones, az Nscale felhőnatív platformmérnöki részlegének alelnöke képviseli a vállalatot. Jones az Nscale nagy teljesítményű GPU-felhőjének mérnöki stratégiájáért felel. A PyTorch Foundation szerint több mint 15 év tapasztalattal rendelkezik a felhőnatív infrastruktúra, a mesterséges intelligencia és a nagy teljesítményű számítástechnika területén. Korábban a SUSE, a Rancher és a Mesosphere munkatársa volt, és olyan nyílt forráskódú projektekhez járult hozzá, mint a Kubernetes, az OpenStack és az elosztott rendszerek.

Eyal Lantzman, az Nscale AI-szolgáltatásokért felelős alelnöke a PyTorch Foundation technikai tanácsadó testületéhez, a TAC-hoz csatlakozik. Az Nscale-nél az AI-szolgáltatási réteget vezeti, amely nagy, nyílt súlyú modellek éles környezetben történő kiszolgálására és optimalizálására összpontosít. Lantzman korábban a JPMorgan Chase, az AWS és a Microsoft munkatársa volt, és több mint 20 év tapasztalatot szerzett az AI- és gépi tanulási platformok, a felhőinfrastruktúra, valamint a fejlesztői eszközök területén.

A PyTorch, a Ray és az infrastruktúra összekapcsolása a cél

Nick Jones, az Nscale alelnöke szerint a legtöbb infrastruktúraszolgáltató külön kezeli a keretrendszert és az adatközpontot, miközben az Nscale egyetlen problémaként tekint rájuk. Úgy fogalmazott, hogy a PyTorch a kutatók által ismert Python-központú működést ötvözi a nagy teljesítménnyel, a Ray pedig lehetővé teszi, hogy a munkát több ezer GPU-n futtassák. Jones szerint az Anyscale tervezett csatlakozásával az Nscale nemcsak használni akarja ezt az ökoszisztémát, hanem az alatta működő infrastruktúrát is építeni kívánja.

Mark Collier, a PyTorch Foundation ügyvezető igazgatója szerint a határterületi AI-munkaterhelések több billió paraméteres méretre növekednek. Ezért szerinte alapvető a PyTorch, a Rayhez hasonló elosztott keretrendszerek és az alapul szolgáló klaszterinfrastruktúra zökkenőmentes együttműködése.

A szervezet szerint az Nscale tagsága a nyílt forráskód iránti elkötelezettséget jelzi. A célok között szerepel a fejlesztők munkáját nehezítő akadályok csökkentése, a több csomóponton futó feladatok teljesítményének javítása, valamint annak biztosítása, hogy a PyTorch a fejlett hardvereken alapértelmezett beállításokkal is megfelelően működjön. A PyTorch Foundation a Linux Foundation által működtetett, gyártófüggetlen közösségi központként támogatja a PyTorch keretrendszert és többek között a vLLM, a DeepSpeed, a Ray, a Helion és a Safetensors projektet.