Az Astera Labs moduláris felépítéssel gyorsítaná az AI-inferenciát

Az inferencia gyorsan változó igényeihez kell igazodni

Chris Petersen, az Astera Labs technológiai alelnöke szerint a chip szintjétől egészen az adatközponti hálózatig moduláris felépítésre van szükség ahhoz, hogy az iparág megfelelő ütemben tudjon kapacitást kiépíteni. A vállalat blogbejegyzése a 2026-os OCP Global Summit tanulságait foglalja össze.

Az AMD vezérigazgatója, Dr. Lisa Su, 2026-ot „az inferencia évének” nevezte, miközben az ügynökalapú forgalom a bejegyzés szerint az év során 14-szeresére nőtt. Dr. Dimitrios Ziakas, a Hyve Solutions technológiai vezetője pedig arról beszélt, hogy a Google tokenfelhasználása májusig éves összevetésben hétszeresére emelkedett.

Az Astera Labs álláspontja szerint egy húsz évre, vagy akár csak három évre rögzített adatközponti terv ma már korlátozó tényező lehet. A gyakran változó munkaterhelések, chipek és adatközponti infrastruktúrák miatt olyan rendszerekre van szükség, amelyek új konfigurációkhoz is gyorsan hozzáigazíthatók.

Újrahasznosítható elemek a chiptől az épületig

A moduláris tervezés három fő előnye az Astera Labs szerint az újrahasznosíthatóság, a konfigurációs rugalmasság és a gyorsabb piacra lépés. A közös építőelemek többféle helyen és összeállításban használhatók, így az egyes telepítések tapasztalatai a következő rendszerek kialakításában is hasznosulhatnak.

Az OCP a chip szintjétől a racken és az adatközponton át az infrastruktúrát kiszolgáló közművekig határoz meg szabványokat. A szervezet Open Chiplet Economy kezdeményezése ismételhető szabványokat és interfészeket céloz a szilícium szintjén. Ez lehetővé teheti, hogy különböző gyártók közös I/O chipleteket alkalmazzanak, miközben a gyorsító többi része megőrzi saját kialakítását.

A rendszer- és kártyaszinten az OCP Open Adapter Card, röviden OAC specifikációja jelent új irányt. A függőleges kártya hátlapi csatlakozót használ, nyomtatott áramköri területe körülbelül 1,75-szerese egy teljes magasságú és teljes hosszúságú PCIe-kártyáénak, modulonként pedig akár 5 kW teljesítményt is kezelhet közvetlen folyadékhűtéssel.

Rack- és podszinten az Open Rack Wide szabvány fejlődik a nagyobb teljesítmény-, hűtési és csatlakozási igényekhez. Az Open Data Center for AI kezdeményezés a podok méreteit, a rackek közötti kábelezést és a rackek adatközponton belüli elhelyezését is szabványosítaná. Az Astera Labs szerint a kábelek és a réz, illetve optikai összeköttetések szintén fontos tervezési rugalmasságot adnak.

A szoftver és a kivitelezés is része a modularitásnak

A különálló, cserélhető komponensek önmagukban nem elegendők. Az Astera Labs szerint közös szoftverrétegre van szükség, amely láthatóvá teszi és kezelhetővé teszi az adatközpont eltérő részeit. Ez történhet gyártóhoz kötött, komplett megoldásokkal vagy olyan API-kapcsolatokkal, amelyek több adatfolyamot továbbítanak a meglévő platformokba és telepítési rendszerekbe.

A Crusoe munkatársai, Alex Akesson és Bill Stube a „Modular by Design: Building AI Clusters from Factory-Built Units” című előadásban azt szorgalmazták, hogy az adatközpontok építése „projektből termékké” váljon. A cél ismételhető és szabványosított keretrendszer, amelyben minden rackhez, podhoz és épülethez előre kialakított telepítési eljárás tartozik.

Az IDC elemzője, Chris Drake szerint a hangsúlynak a nyílt építőelemekről az integrált referenciaarchitektúrákra kell áthelyeződnie. Ezek több specifikációt egy rendszerben egyesítenek, sikerük mércéje pedig a versengő beszállítók közötti együttműködés.

Az Orion 8 és 160 GPU közötti rendszereket céloz

Az Astera Labs az OCP idei rendezvényén jelentette be az Orion Rack-Scale Reference Architecture megoldást. A vállalat szerint ez egy gyártófüggetlen, vagyis compute-agnosztikus architektúra, amely különböző XPU- és CPU-változatok befogadására készült.

Az Orionhoz moduláris komponensek referencia-tervei készültek, köztük számítási tálcákhoz, hálózati tálcákhoz, memóriatálcákhoz, számítási lapokhoz és összekötő lapokhoz. A rendszer az Astera Labs közlése szerint 8 és 160 GPU között skálázható.

A vállalat szerint a platform a hiperskálázóknál tesztelt kapcsolati technológiára épül. Az Orion Compute Board Scorpio X-Series 320L Smart Fabric Switch egységet tartalmaz, amely az Astera Labs állítása szerint akár 89 százalékkal több tokent képes továbbítani más megoldásokhoz képest. A bejegyzés ennél a pontnál megszakad, ezért az architektúra további specifikációi nem ismertek.