A Cambricon platina tagként csatlakozott a PyTorch Foundationhöz

A hardver és a szoftver összehangolását célozzák

A PyTorch Foundation szeptember 8-i bejelentése szerint a 2016-ban alapított Cambricon korai úttörő az AI-chipek területén. A vállalat mesterségesintelligencia-chipek és szoftverek kutatásával, illetve fejlesztésével foglalkozik. A közlemény szerint egy évtized folyamatos fejlesztése nyomán hardveres és szoftveres termékportfóliót épített ki, amelyet fejlesztőbarátnak és jól skálázhatónak írnak le.

A Cambricon saját chiptechnológiáira és szoftveres ökoszisztémájára támaszkodva nagy nyelvi modellek nagy léptékű tanítását és következtetését támogatja. Termékeit a közlemény szerint többek között társalgási AI-rendszerekben, ügynökalapú AI-ban, keresésben, hirdetésben, ajánlórendszerekben, hang- és videógenerálásban, valamint más multimodális alkalmazásokban használják.

Elton Gong, a Cambricon szoftverfejlesztésért felelős alelnöke szerint az AI-számítási kapacitás teljes kihasználásához szoros hardveres és szoftveres közös optimalizálásra, valamint élő nyílt ökoszisztémára van szükség. A vállalat a PyTorchot saját szoftveres ökoszisztémája magjának tekinti. Gong szerint az egységes keretrendszer kevesebb migrációs költséget, egységes eszközláncot és jobb fejlesztői élményt biztosíthat.

A Cambricon több PyTorch-területen is közreműködött

A Cambricon az úgynevezett „Upstream First” megközelítést követi, vagyis a fejlesztéseit elsősorban a központi, nyílt forráskódú projektekbe igyekszik beépíteni. A vállalat régóta hozzájárul a PyTorchhoz, az elmúlt években pedig több alapvető területen dolgozott a projekten.

A felsorolt területek között szerepel a torch.compile, az Eager Operators, az eszközfuttatási környezet, az elosztott számítás, az automatikus vegyes pontosság, az adatbetöltő és a teljesítményprofilozó. A Cambricon emellett szorosan együttműködött a vLLM közösségével, hogy a vállalat hardverén már a megjelenés napjától elérhető legyen több vezető nyílt forráskódú nagy nyelvi modell támogatása, köztük a DeepSeek-V4 és a GLM-5.

A következő időszakban a vállalat a közlemény szerint tovább növeli befektetését a nyílt forráskódú ökoszisztémába. A tervezett együttműködések között szerepel a fordítási infrastruktúra fejlesztése, a folyamatos integráció és szállítás javítása, valamint a PyTorch szakterületi könyvtárainak eszközfüggetlen támogatása.

Képviseletet kap az irányításban és a technikai tanácsban

A platina tagsággal a Cambricon egy helyet kap a PyTorch Foundation irányítótestületében. A testület az alapítvány szabályzata, küldetése és jövőképe alapján határozza meg a szakpolitikai irányokat, a kezdeményezések átfogó kereteit, valamint a technikai jövőképet és a fejlesztési irányt.

A Cambricont Jin Wang, a vállalat AI-keretrendszerekért és infrastruktúráért felelős vezető igazgatója képviseli az irányítótestületben. Csapata a hatékony következtetéshez és a nagy léptékű modellbetanításhoz nyújt szoftveres támogatást. Munkájuk nagy nyelvi modellekre, keresésre, hirdetésre és ajánlásra, valamint megerősítéses tanulásra is kiterjed.

Jing Zhu, a Cambricon PyTorchon dolgozó vezető karbantartója a PyTorch Foundation Technikai Tanácsadó Testületéhez csatlakozik. Munkája a Torch-MLU kiterjesztéshez kapcsolódik, ezen belül az operátortámogatáshoz, az Inductor integrációjához, a CNCL alapú elosztott tanításhoz, a vegyes pontossághoz, a gráfalapú gyorsításhoz, valamint a profilozási és teljesítményoptimalizálási eszközökhöz.

Mark Collier, a PyTorch Foundation ügyvezető igazgatója szerint a Cambricon tartós, központi projektre irányuló hozzájárulásai és a vLLM Cambricon-hardveren való támogatása az egész ökoszisztémát erősítheti. A tagság a PyTorch Foundation szerint az AI-infrastruktúra nyitottságát, hordozhatóságát és a különböző hardverek közötti versenyt szolgálja.