A CoreWeave-hez érkezik az NVIDIA HGX Rubin NVL8

Nagyobb memória és gyorsabb GPU-kapcsolat

Az NVIDIA HGX Rubin NVL8 nyolc NVIDIA Rubin SXM GPU-t integrál egyetlen alaplapra. A CoreWeave az NVIDIA adataira hivatkozva azt írja, hogy a rendszer a korábbi architektúrákhoz képest akár tízszer nagyobb tokenátvitelt biztosíthat, miközben a tanítási teljesítményt négyszer kevesebb GPU-val is elérheti.

A platform összesen 2 TB HBM4 memóriát és 130 TB/s összesített memória-sávszélességet kínál. A hatodik generációs NVIDIA NVLink a vállalat szerint 24 TB/s kapcsolati sávszélességet biztosít a csomóponton belül, ami az összetett, több GPU-t használó modellkiszolgálást és a nagy számításigényű szimulációkat segítheti.

A skálázást nyolc NVIDIA ConnectX-9 SuperNIC támogatja, GPU-nként akár 800 Gb/s hálózati kapcsolattal. Az NVIDIA BlueField-4 az előlapi kapcsolatot, valamint hálózati, tárolási és biztonsági feladatok leválasztását kezeli.

Ügynökalapú AI, adatelemzés és HPC egy rendszeren

A CoreWeave szerint az HGX Rubin NVL8 különösen azoknál a feladatoknál lehet hasznos, amelyeknél a memória kapacitása, a memória-sávszélesség és a GPU-k közötti kommunikáció sebessége korlátozó tényező. Az ügynökalapú AI rendszereknél a 2 TB HBM4 memória nagy kulcsérték-gyorsítótárak, vagyis KV cache-ek tárolását teszi lehetővé. A vállalat ezt akár millió tokenes kontextusablakokkal és több, párhuzamosan aktív munkamenettel hozza összefüggésbe.

Az adatelemzési feladatok között a GPU-gyorsított ETL, az adatkeretek lekérdezése, a vektorindexelés és a beágyazások előállítása szerepel. A CoreWeave szerint a nagy sávszélességű hálózat ezeket több csomóponton is képes támogatni.

A rendszer csomópontonként 265 TFLOPS FP64 dupla pontosságú teljesítményt kínál. Ez tudományos szimulációkhoz, molekuladinamikai számításokhoz és számítási pénzügyi feladatokhoz használható. A CoreWeave emellett olyan munkafolyamatokat is említ, amelyek a hagyományos HPC-szimulációkat mesterséges intelligencián alapuló helyettesítő modellekkel kapcsolják össze.

A vállalat előrejelzése szerint az HGX Rubin NVL8 a Kimi K2 Thinking modell futtatásakor, 4K bemeneti és 4K kimeneti token mellett, megawattonként akár tízszer több tokent adhat másodpercenként, mint az NVIDIA HGX B200. DeepSeek-R1 tanításánál a közlés szerint a B200 teljesítményét négyszer kevesebb GPU-val éri el.

A CoreWeave folyadékhűtéssel és saját eszközökkel készül

A CoreWeave 2026. október 20-i közlése szerint a vállalat már elvégezte az NVIDIA Vera Rubin NVL72 első üzembe helyezését, hitelesítését és benchmarktesztelését. A cég állítása szerint a Cognition ezen a rendszeren 4,8-szor nagyobb SWE-2 következtetési áteresztőképességet és 3,8-szor gyorsabb kimeneti tokensebességet ért el megerősítéses tanulásnál.

Az HGX Rubin NVL8 teljes egészében folyadékhűtéses. A CoreWeave ehhez saját Racky és Valvey eszközöket épített: előbbi a rack szintű vezérlést, utóbbi a hűtési és leválasztási műveleteket végzi. A Rack Life Cycle Controller az üzembe helyezési, állapotfelügyeleti és helyreállítási folyamatokat hangolja össze.

A CoreWeave Kubernetes Service kezelt klaszter-, teljesítmény-, biztonsági és üzemeltetési alapot ad. A SUNK a Slurm erőforrás-tudatos ütemezését ötvözi a Kubernetes konténerkezelésével és rugalmasságával. A vállalat közvetlen mérnöki támogatást is kínál a munkaterhelések illesztéséhez, a telepítések hangolásához és a teljesítményproblémák feltárásához.

Az NVIDIA HGX Rubin NVL8 a CoreWeave tájékoztatása szerint még ebben a negyedévben érkezik a CoreWeave Cloudba. A vállalat kapacitástervezéshez, bevezetési időzítéshez és munkaterhelési illesztéshez eligazítást kínál, valamint ARENA Pass hozzáférést is említ, amellyel az ügyfelek saját munkaterhelésüket futtathatják a rendszeren.