Az NVIDIA Vera CPU több mint 11 ezer ügynökkörnyezetet futtat egy rackben

Az ügynökök munkájára szabott processzor

A CoreWeave 2026. október 2-i bejelentése szerint az NVIDIA Vera az első, mesterségesintelligencia-ügynökökhöz tervezett CPU. A processzor az Arm architektúrára épül, és 88 egyedi Olympus magot használ. Ezeket a vállalat az ügynökök által végzett, sok elágazást és memóriaműveletet tartalmazó feladatokra optimalizálta.

Az AI-folyamatokban a GPU-k végzik a generálást és a következtetést, a CPU-k pedig az ezekhez kapcsolódó műveleteket kezelik. Ide tartoznak a homokozók, az eszközhívások és az adatfolyamok. A CoreWeave szerint a megerősítéses tanulási környezetek, az utótréning-folyamatok, az adat-előfeldolgozás, valamint az elkülönített ügynökfuttatás egyre nagyobb CPU-kapacitást igényel.

A CoreWeave saját tesztjeiben az NVIDIA Vera CPU-val több mint háromszor gyorsabban indultak az ügynöki homokozók, mint egy meg nem nevezett, alternatív x86-os processzoron.

Több mint 11 ezer környezet egy rackben

A Vera Rubin NVL72 számítási tálcái két Vera CPU-t és négy Rubin GPU-t párosítanak. Egy rackben így 36 CPU és 72 GPU dolgozik együtt. A CoreWeave önálló Vera-kapacitást is kínál, amelyet a vállalat szerint az adott AI-folyamat igényeihez lehet méretezni.

A CoreWeave által ismertetett Vera-csomópont két, egyenként 88 magos NVIDIA Vera CPU-t, 1,5 TB memóriát, 15,36 TB helyi NVMe-tárhelyet és egy 800 Gbps sebességű BlueField-4 DPU-t tartalmaz. Rack szinten ez 128 Vera CPU-t és 11 264 magot jelent, több mint 11 000 párhuzamos környezet támogatásával.

A kapacitást a Spatial Multithreading technológia is segíti. A CoreWeave leírása szerint minden szál saját, dedikált processzorrészt kap, így a szálak nagy terhelés mellett sem versenyeznek ugyanazért a kapacitásért. A szolgáltató bare metal környezetet biztosít, hipervizor többletterhelése nélkül, a DPU pedig a hálózati, tárhely- és üzemeltetési feladatokat veszi át.

Rugalmas kapacitás a változó terheléshez

Az ügynöki és megerősítéses tanulási feladatok terhelése a CoreWeave szerint nehezen kiszámítható. Egyetlen AI-lépés akár több tízezer környezetet is igényelhet egy órára, majd a kapacitás hosszabb ideig kihasználatlan maradhat. A szolgáltató fogyasztásalapú modelljei ezt a különbséget kezelik: a lekötött kapacitás az állandó alapterhelést, a szerver nélküli kapacitás a kiugrásokat, a spot kapacitás pedig a megszakítható feladatokat szolgálja.

A spot kapacitás a CoreWeave szerint akár 60 százalékos megtakarítást kínál, és a munkák leállítása előtt hétperces figyelmeztetést ad. A vállalat CoreWeave Sandboxes szolgáltatása a CoreWeave Kubernetes Service és a Serverless környezetében futtathat elkülönített környezeteket megerősítéses tanuláshoz, ügynöki eszközhasználathoz és kiértékeléshez.

Bővül a CoreWeave többgyártós CPU-kínálata

Az NVIDIA Vera az AMD EPYC és az Intel Xeon mellé érkezik a CoreWeave többgyártós CPU-portfóliójába. A vállalat szerint mindegyik processzort bare metal környezetben, közös működési modell alatt kínálja, így a feladatokhoz illeszkedő processzor kiválasztása platformváltás nélkül változtatható.

A Vera Arm-kapacitást biztosít a GPU-rendszerekhez, és architekturálisan összhangban van a modern NVIDIA GPU-rendszerekben, köztük a Vera Rubin NVL72-ben található Vera CPU-kkal. A CoreWeave szerint ez lehetővé teszi, hogy ugyanaz az eszközkészlet működjön a teljes infrastruktúrában. A Vera CPU hamarosan érkezik a szolgáltatóhoz, elsősorban azoknak a csapatoknak, amelyek homokozóflottái, megerősítéses tanulási környezetei vagy adatfolyamai már túlnőttek az általános célú CPU-kapacitáson.