Az NVIDIA szerint a Vera CPU az agentikus AI-flották szűk keresztmetszetét célozza

A telemetria szerint nagyon változékonyak az agentikus munkafolyamatok

Az NVIDIA bejegyzése szerint az AI-gyárak összekapcsolt rendszerek, ahol a flotta gazdaságosságát az határozza meg, hogy a teljes szoftveres és hardveres réteg milyen hatékonyan alakítja át az energiát és a tőkét elvégzett agentikus feladatokká. A vállalat leírása alapján a GPU-k futtatják a modelleket, míg a CPU-k az orchestrációt, az eszközök végrehajtását és a sandboxolt számításokat kezelik.

Az NVIDIA 163,594 agentikus munkamenet telemetriájára hivatkozik. A cég szerint ezek több mint 97 százaléka egyedi trajektóriaprofilt mutatott. Ez azt jelenti, hogy a futások hossza, az eszközhívások, az újrapróbálkozások, az alfeladatok és a párhuzamosan elinduló műveletek mintázata nagy szórást mutat.

A blog szerint ez a változékonyság megnehezíti, hogy egy AI-flottát több, szűken specializált CPU-dizájnpontra méretezzenek. Az NVIDIA érvelése alapján az agentikus terhelések jellemzően hosszú, egymásra épülő gondolkodási és végrehajtási láncot követnek, amelyet időnként rövid párhuzamos kitörések szakítanak meg.

A kritikus út a késleltetésen múlik

Az NVIDIA a bejegyzésben az agentikus trajektóriákat két jellemzővel írja le: hosszúsággal és szélességgel. A hossz azt jelöli, hány gondolkodási lépésre, eszközhívásra, újrapróbálkozásra és részfeladatra van szükség egy felhasználói forduló lezárásához. A szélesség azt mutatja, hogy egy adott szakaszban mennyi munka ágazik szét párhuzamosan, például egyidejű eszközhívások, lekérdezések, sandboxok vagy alügynökök formájában.

A vállalat szerint egy munkamenet jelentős párhuzamosságot is tartalmazhat, miközben a teljes faliórás futási idő nagy részét mégis a szekvenciális láncra várakozás teszi ki. Ennek oka, hogy a párhuzamos kitörések átmenetiek, az alapvető függőségi lánc viszont végig jelen van. A fő agent gyakran addig nem tud továbblépni, amíg a párhuzamos feladatok be nem fejeződnek.

Az NVIDIA ezért azt állítja, hogy egy CPU-flottát nem a nyers magszám, hanem a befejezett felhasználói munkamenetek száma alapján érdemes optimalizálni. A nagy magszámú rendszerek a cég szerint papíron hatékonynak tűnhetnek, de a magsűrűség érdekében feláldozhatják az egyszálas teljesítményt, amely a kritikus út késleltetésének csökkentéséhez szükséges.

Mit ígér a Vera CPU az NVIDIA szerint

A Vera CPU-t az NVIDIA olyan működési pontra tervezte, ahol egyszerre van szükség párhuzamos kapacitásra és erős szálankénti teljesítményre. A blog szerint a Vera az NVIDIA Olympus magokra épül, amelyek célja, hogy a teljes CPU aktív terhelése mellett is erős szálankénti teljesítményt tartsanak fenn.

A vállalat a széles frontendet, a fejlett elágazásbecslést, a mély soron kívüli végrehajtást és a nagy sávszélességű memórialrendszert emeli ki. Az NVIDIA szerint ezek segítik a magokat nagy kódbázisok, sok elágazást tartalmazó vezérlési folyamatok, dinamikus futtatókörnyezetek és függőségekkel terhelt végrehajtás esetén.

A cég egy valós Claude Code munkamenetet is példaként hoz, amelyben a fő agent a 33 perces futás nagy részében hosszú, szekvenciális trajektórián haladt, miközben az alügynök-aktivitás rövid párhuzamos terhelési csúcsokat hozott létre. Az NVIDIA szerint ez a minta jól mutatja, miért kell a CPU-nak egyszerre kezelnie a fan-out jellegű párhuzamosodást és a késleltetésérzékeny fő végrehajtási útvonalat.

A bejegyzés szerint a CPU adott pillanatban magokat is kikapcsolhat az egyszálas teljesítmény ideiglenes növelésére, ez azonban akár 8 GB magonkénti kihasználatlan memóriát és jelentős memória TCO-terhet okozhat. A kapcsolódó ábra szerint ez akár 1.5 TB memóriakapacitás lekötését is eredményezheti alulhasznosított számítás mellett.

Belső mérések és piaci jelentőség

Az NVIDIA a bejegyzésben becsült SPEC CPU 2026 eredményekre hivatkozik, amelyeket a vállalat szerint 2026 júliusában belsőleg mértek. A cég azt állítja, hogy a Vera CPU legfeljebb 1.5-szeres magonkénti teljesítményt nyújt az AMD Venice-hez képest négy agentikus munkaterhelésen, köztük compiler, statikus elemzés és Python benchmarkokon.

A vállalat értelmezése szerint az agentikus AI-flottáknak egyetlen kiegyensúlyozott CPU-dizájnpontra van szükségük. A Vera CPU erős egyszálas teljesítménye a teljes foglalat terhelése mellett a szekvenciális, késleltetésérzékeny útvonalat gyorsítaná, miközben a magok közötti magas párhuzamosság és a nagy memóriasávszélesség az időszakos eszközhívásokat és alügynökös fan-out terheléseket szolgálná ki.

A felhasználók és az AI-infrastruktúrát üzemeltető szereplők számára a hír jelentősége az NVIDIA állításaiból vezethető le: a cég szerint a kiegyensúlyozott CPU-dizájn csökkentheti a kihasználatlan erőforrásokat, hatékonyabban használhatja a CPU-magokhoz kapcsolt memóriát, és mérsékelheti annak igényét, hogy a flottát több, eltérő CPU-típusra bontsák a kiszámíthatatlan eszközhívási minták miatt. Az NVIDIA további részletekért a Vera CPU Whitepaper elolvasását javasolja.