Az Arm szerint a processzorok lettek az ügynöki AI alapinfrastruktúrái
Az Arm szerint az Arm-alapú processzorok az ügynöki mesterséges intelligencia felhős infrastruktúrájának alapvető elemeivé váltak. A Microsoft Cobalt és az Amazon Graviton terjedése azt mutatja, hogy a hyperscale szolgáltatók saját, testreszabott lapkákkal bővítik AI-rendszereiket.
- A Microsoft több mint 25 adatközpontban telepít Cobalt 200 rackeket.
- Az AWS Graviton, Trainium és Nitro üzletágának évesített bevétele meghaladta a 25 milliárd dollárt.
- Az AWS legnagyobb EC2-ügyfeleinek 98 százaléka használ Gravitont.
- A Cobalt 200 az Arm szerint akár 50 százalékkal gyorsabb elődjénél.
- Az Arm a Google Axiont és az NVIDIA Verát is az Arm-alapú AI-infrastruktúra példái közé sorolja.
A CPU-k szerepe túlmutat a modellfuttatáson
Az Arm augusztus 5-én közzétett elemzése szerint a generatív AI első hullámában elsősorban a modellek mérete, a gyorsítók elérhetősége és a feldolgozott tokenek száma került előtérbe. Az ügynöki AI működése ennél összetettebb: az ügynökök adatokat keresnek vissza, eszközöket hívnak meg, kódot futtatnak, szabályokat alkalmaznak és ellenőrzik saját munkájukat.
A GPU-k továbbra is a modellbetanítás és a következtetés, vagyis a tokenek létrehozásának nagy részét végzik. A CPU-k közben a körülöttük zajló feladatokat kezelik: az igények útválasztását, az adatok előkészítését, az eszközök összehangolását, a memória és a tárhely kezelését, valamint több ezer párhuzamos interakció működtetését.
Satya Nadella, a Microsoft vezérigazgatója egy eredménybeszámolón így fogalmazott: „Amikor az ügynökök futtatásáról van szó, a CPU-k ugyanolyan fontosak, mint a GPU-k.”
A Microsoft és az AWS gyorsan bővíti saját lapkáit
A Microsoft július végéig több mint 25 adatközpontban várt Cobalt 200 rackeket világszerte. A vállalat 2025 novemberében jelentette be a chipet, a virtuális gépek előnézete pedig 2026 júniusában indult. Az Arm Neoverse Compute Subsystems V3-ra épülő Cobalt 200 a Microsoft második generációs Arm-alapú felhős processzora, amely a cég állítása szerint elődjénél akár 50 százalékkal jobb teljesítményt nyújt, és legfeljebb 128 vCPU-ra skálázható.
A Microsoft Cobalt VM-portfólióján már saját szolgáltatások és ügyfélmunkaterhelések futnak. Az Arm által idézett felsorolásban az Adobe, az Arm, az Elastic, az OpenAI, a Sprinklr és a TomTom is szerepel.
Az AWS júniusban tette általánosan elérhetővé a Graviton5-alapú M9g és M9gd példányokat. Ezek a Graviton4-re épülő M8g példányokhoz képest akár 25 százalékkal jobb számítási teljesítményt és akár 35 százalékkal gyorsabb gépi tanulási következtetést kínálnak. Az AWS szerint a teljes Graviton termékcsalád összehasonlítható példányokhoz viszonyítva 30 és 40 százalék közötti ár-teljesítmény arányt biztosít.
A hatékonyság kapacitássá és bevétellé válik
Az AWS lapkaüzletágának, vagyis a Graviton, a Trainium és a Nitro együttesének évesített bevétele meghaladta a 25 milliárd dolláros ütemet. A Gravitonhoz kapcsolódó bevételi vállalások negyedévről negyedévre csaknem megháromszorozódtak, a Graviton5 átvétele pedig az AWS szerint csaknem kétszer gyorsabb a Graviton4 terjedésénél.
Az AWS 1000 legnagyobb EC2-ügyfele közül 98 százalék használ Gravitont, és több mint 120 ezer ügyfél épít rá. Az új AWS CPU-kapacitás több mint fele immár harmadik egymást követő évben Graviton-alapú.
A Microsoft Azure bevétele a negyedévben 43 százalékkal nőtt, miközben a kereslet továbbra is meghaladta a rendelkezésre álló kapacitást. Amy Hood pénzügyi igazgató a CPU- és GPU-flották hatékonyságjavulását, valamint az infrastruktúra gyorsabb üzembe állítását emelte ki. Az Arm szerint ilyen környezetben a hatékonyabb processzorok ugyanabból a rackből és energiaellátási keretből több használható kapacitást tesznek lehetővé.
A vállalat szerint hasonló irányt jelez a Google Cloud Axion processzora és az NVIDIA Vera CPU-ja is. Az Arm értelmezésében ezek a fejlesztések azt mutatják, hogy az AI-infrastruktúra a modellkövetkeztetéstől az önálló ügynöki feladatvégzésig terjed, és ebben az Arm-alapú CPU-k az adatközpontok összehangolásának közös számítási alapjává válhatnak.
