Négy fal korlátozza az AI fejlődését az Astera Labs szerint

Négy korlát az AI-gyárak előtt

Az Astera Labs október 7-i blogbejegyzésében arról ír, hogy az AI a tanítási klaszterek mérete után egyre inkább a következtetési korszakba lépett. A cég szerint az adatközpontok üzemeltetőinek figyelme ezért már nem kizárólag az AI-modellekre, hanem az úgynevezett AI-gyárakra irányul. Ezeknél a teljesítmény és a megbízhatóság mellett a gazdaságos működés is meghatározó.

A vállalat négy falhoz, vagyis korláthoz köti a másodpercenként előállítható tokenek, illetve a dolláronként előállítható tokenek mennyiségét. Az első a lapkafal: az Astera Labs szerint egy gigawattnyi AI-számítási kapacitáshoz hozzávetőleg 55 000 logikai és 170 000 memória-wafer szükséges. A cég által idézett előrejelzés alapján 2030-ra 1 és 4 millió közötti hiány alakulhat ki a fejlett technológiával gyártott waferekből.

A második a teljesítményfal. Az Egyesült Államok villamosenergia-hálózata lineárisan bővül, miközben az AI iránti kereslet exponenciálisan nő. Az Astera Labs szerint az adatközpont-fejlesztők 2028-ig 34 százalékos nettó energiahiánnyal, hozzávetőleg 32 gigawattos elmaradással szembesülhetnek, miközben a szokásos hálózati csatlakozási kérelmek 70 százalékát visszavonják az évekig tartó várakozások miatt.

A memória és a kapcsolat is szűk keresztmetszet

A harmadik korlát a memóriafal. Az Astera Labs az AI Infra Summit 2026 eseményen elhangzott elemzői adatot idézi, amely szerint a DRAM ára éves összevetésben 250 százalékkal nőtt. A vállalat ezt az inferencia- és ügynöki terhelések által felhajtott KV-cache-igénnyel hozza összefüggésbe.

A negyedik a kapcsolatfal, amely azt határozza meg, hogy egy nagy GPU-klaszter számítási kapacitásából mennyi végez ténylegesen hasznos munkát. Az új GPU-generációk nagyobb számítási teljesítménye és memória-sávszélessége az Astera Labs szerint nagyobb terhelést ró az adatokat szállító hálózatra is. Ha az adatok nem jutnak elég gyorsan a gyorsítókhoz, a drága GPU-k várakozásra kényszerülnek.

A vállalat szerint a négy korlát közül három fizikailag adott: a wafer-, az energia- és a memóriahiányt ebben a ciklusban nem lehet gyorsan megszüntetni. A kapcsolat viszont olyan terület, ahol a jobb kihasználtság új kapacitást teremthet ugyanabból a szilíciumból, energiából és költségkeretből.

Az Astera Labs a meglévő GPU-k kihasználtságát növelné

Az Astera Labs az OCP 2026 rendezvényen több élő bemutatót tervez. Ezek egyik központi eleme a Scorpio X-Series 320L Smart Fabric Switch, amelyet a vállalat az iparág legnagyobb portszámú PCIe skálázókapcsolójaként mutat be. A Scorpio Hypercast és In-Network Compute funkciói a cég szerint akár kétszeresére növelhetik a kollektív műveletek teljesítményét az optimalizált adatútvonalakkal és a kommunikációs többletterhelés csökkentésével.

A nemrég kiadott Leo X-Series Smart Memory Controller a Scorpio kapcsolókkal együtt a KV-cache számára, a hálózathoz csatlakozó memóriaréteget hoz létre. Az Astera Labs korai adatai szerint ez a dedikált memória-áthelyezési réteg önmagában 22 százalékkal növeli a GPU-kihasználtságot, ami a vállalat értelmezésében 22 százalékkal több tokent jelent másodpercenként.

A második generációs Leo E-Series és P-Series vezérlők CPU-hoz kapcsolt CXL-memóriabővítést, memória-megosztást és memória-készletezést kínálnak. A cég szerint ezek DDR4 memória újrahasznosítását is lehetővé teszik, miközben a DDR5 kínálata korlátozott.

A hardver mellett a szoftver és az energiafogyasztás is számít

Az Astera Labs szerint a hardveres gyorsítás csak akkor eredményez tartós teljesítményt, ha az infrastruktúra nagy léptékben is zökkenőmentesen működik. Ezt szolgálja a COSMOS szoftveres keretrendszer, amely lehetővé teszi a vállalati termékek testreszabását, a rendszer teljesítményének optimalizálását és az összetett rendszerek hibakeresését. A platform flottaszintű telemetriát is biztosít, és a Scorpio kapcsolók Hypercast, valamint In-Network Compute funkcióinak kezelésével segíti a gyorsítók kihasználtságát.

A vállalat a Taurus Smart Signal Conditioners termékcsaládot is bemutatja. Ezek Ethernet, ESUN és UALink alkalmazásokhoz kínálnak alternatívát az újraidőzítők és újraillesztők között. Ha egy csatorna teljes jelregenerálás helyett jelerősítéssel is kompenzálható, a rendszertervezők az Astera Labs szerint alacsonyabb energiaigényű redriver megoldást választhatnak. A cég réz- és optikai kapcsolati fejlesztéseket is bemutat, a réz a racken belüli sűrű kapcsolatokhoz, az optika pedig a dobozon és a racken túlnyúló PCIe-fabricokhoz használható.