A Supermicro 256 NVIDIA Vera CPU-s, folyadékhűtéses rackot mutatott be

Több mint 22 ezer processzormag egy rackben

A Supermicro közleménye szerint a NVIDIA Vera CPU rack 256 NVIDIA Vera processzort integrál, összesen 22 528 maggal és 45 056 szállal. A gyártó megoldása rackenként akár 22 500 párhuzamos ügynöki homokozót, vagyis elkülönített végrehajtási környezetet támogat.

Az agentikus AI-rendszerek a hagyományos, lineáris következtetési láncoknál összetettebb munkafolyamatokat futtatnak. Az ügynökök műveleteket hajtanak végre, kiértékelik az eredményeket, eszközöket használnak és munkafolyamatokat vezényelnek. A közlemény szerint a GPU-k elsősorban a tokenek, kódok és lekérdezések előállítását végzik, miközben a CPU-k a homokozók és az ügynöki feladatok futtatásában kapnak szerepet.

A rack NVIDIA BlueField-4 DPU-kat is használ a nagy teljesítményű hálózatkezeléshez és a hardveralapú biztonsághoz. A Supermicro DLC-2 közvetlen folyadékhűtési rendszere 100 százalékban folyadékhűtéses rack kialakítását teszi lehetővé.

Közös infrastruktúra a Vera Rubin NVL72-vel

A Vera CPU rack a harmadik generációs NVIDIA MGX kialakítására épül, amelyet a Vera Rubin NVL72-vel közös infrastruktúra részeként terveztek. Az NVIDIA MGX moduláris referenciaarchitektúra gyorsított számítástechnikai rendszerekhez. A közlemény szerint ez a rendszerépítőknek segíthet a jövőbeli rendszerek gyorsabb megtervezésében, a költségek mérséklésében és a piacra lépés felgyorsításában.

A rack hagyományos váltóáramú betáplálással vagy 800 voltos egyenáramú oldalsó tápegységgel is működhet. Utóbbi esetben akkumulátoros tartalékegységek válthatják ki a hagyományos szünetmentes tápegységet. A Supermicro szerint ez helyet szabadíthat fel az adatközpontban, javíthatja a teljes energiaátalakítás hatásfokát, valamint csökkentheti a beruházási és üzemeltetési költségeket.

A vállalat külön kialakítást kínál azoknak, akik a Vera Rubin NVL72 rackeket Vera CPU rackekkel párosítanák. Ez az opció NVIDIA Spectrum-X Ethernetre épülő hálózati topológiát, melegfolyosó-elzárást, valamint redundáns, soron belüli hűtőfolyadék-elosztó egységeket és hátsó ajtós hőcserélőket tartalmaz.

Folyamatos felügyelet az agentikus rendszerekben

A megoldás natívan támogatja az NVIDIA OpenShell Reference Architecture-t, amely az ügynökök működésének folyamatos megfigyelésére és szabályozására szolgál. Az NVIDIA OpenShell a Vera CPU-kon fut, és futás közben, a legkisebb szükséges jogosultság elve alapján, szabályzatokra épülő korlátozásokat alkalmaz.

Az NVIDIA Sentry a BlueField-4 DPU-kon, a gazdarendszeren kívül működő monitorként fut. A közlemény szerint szabályzatokat kényszerít ki, hitelesített telemetriát biztosít, és ezredmásodpercek alatt karanténba helyezhet egy ügynököt, ha az túllépi a számára engedélyezett határokat. A két szoftveres megoldás a vállalatok számára megfigyelhetőséget és auditálhatóságot biztosíthat anélkül, hogy a gazdagép CPU-erőforrásait használná.

Önálló platformként is használható

A Supermicro szerint a Vera CPU rack önálló CPU-platformként is telepíthető. Ilyen konfigurációban agentikus munkafolyamatok vezénylésére és homokozók futtatására, adatbázis-műveletekre, fürtkezelésre, valamint a Slurm és Kubernetes ütemezők támogatására használható. A felsorolt alkalmazások között adatbányászati feladatok és nagy léptékű szoftverépítési folyamatok is szerepelnek.

A Supermicro közleménye szerint a NVIDIA Vera CPU rackre már kérhető árajánlat. A vállalat a helyszíni felméréstől és a tervezéstől kezdve az L11 és L12 szintű integráción, tesztelésen és telepítésen át a folyamatos támogatásig egyetlen csapat szolgáltatásait kínálja, akár Vera Rubin NVL72 mellett, akár önálló használat esetén.