A CoreWeave telepítette elsőként az NVIDIA GB300 NVL72 rendszert

A CoreWeave új NVIDIA-platformot állított üzembe

A CoreWeave közlése szerint 2026. október 22-én elsőként indította el felhőjében az NVIDIA GB300 NVL72 rendszert. A platform az NVIDIA legújabb, AI-következtetésre szánt megoldása, amely a Dell integrált rackméretű rendszerében kapott helyet.

A vállalat korábban az NVIDIA HGX H100, az NVIDIA H200, valamint az NVIDIA GB200 NVL72 rendszerhez is elsőként biztosított hozzáférést saját állítása szerint. A GB300 NVL72 bevezetésével a CoreWeave a nagy méretű AI-modellek fejlesztését, optimalizálását és üzembe helyezését kívánja gyorsítani.

A CoreWeave szerint az új platform az előző generációs NVIDIA Hopper architektúrához képest akár tízszeres felhasználói válaszidő-javulást és watt-onként ötször nagyobb teljesítményt kínál. A vállalat 50-szeres növekedést is említ a következtetési modellek kimenetében, valamint 1,5-szer sűrűbb FP4-teljesítményt és kétszer nagyobb NVIDIA Quantum-X800 InfiniBand-sebességet.

72 GPU egyetlen rackméretű rendszerben

A folyadékhűtéses NVIDIA GB300 NVL72 egyetlen platformon egyesít 72 NVIDIA Blackwell Ultra GPU-t, 36 Arm-alapú NVIDIA Grace CPU-t és 18 NVIDIA BlueField-3 DPU-t. A rendszer rackenként akár 21 terabájt nagy sávszélességű GPU-memóriát biztosít. Ez a CoreWeave szerint 1,5-szer több GPU-memória, mint az NVIDIA GB200 NVL72 esetében, így nagyobb kötegméretek és modellek használatát teszi lehetővé.

Az NVIDIA Blackwell Ultra GPU-k a közlemény szerint 1,5-szer több AI-számítási FLOPS-ot kínálnak, mint a Blackwell GPU-k. Az ötödik generációs NVIDIA NVLink összesített sávszélessége 130 TB/s. A hálózati kapcsolatot NVIDIA Quantum-X800 InfiniBand kapcsolók és NVIDIA ConnectX-8 SuperNIC-ek biztosítják, GPU-nként 800 gigabit/másodperc dedikált hálózati kapcsolattal.

A NVIDIA BlueField-3 eszközökön futó NVIDIA DOCA szoftveres keretrendszer legfeljebb 200 Gb/s sebességű, vonali sebességű bérlői hálózatot és nagy teljesítményű GPU-adatelérést támogat. A rendszert a CoreWeave a tesztidőben skálázott következtetés, vagyis a modellek futtatás közbeni nagy számítási igényeinek kezelésére tervezi.

A felhőszolgáltatások és a partnerek szerepe

A GB300 NVL72 teljesítményének kihasználásához a CoreWeave saját felhőszolgáltatásait is hozzáigazította. A vállalat Kubernetes-szolgáltatása, a CKS, a Slurm on Kubernetes, vagyis a SUNK, a részletes megfigyelhetőségi eszközök, valamint az egyedi Rack LifeCycle Controller mind a rackméretű rendszer működését támogatják.

A CoreWeave új Cabinet Wrangler és Cabinet Details irányítópultjai részletesebb rálátást adnak a rackek állapotára. A hardverszintű adatok és a fürt állapotával kapcsolatos események közvetlenül a Weights & Biases modelljein keresztül is elérhetők. A vállalat szerint ez lehetővé teszi a kutatók számára, hogy összekapcsolják az infrastruktúra problémáit a tanítási futásokkal, majd gyorsabban elhárítsák a fennakadásokat.

A telepítésben a CoreWeave mellett a Dell Technologies, a Switch és a Vertiv is részt vett. A CoreWeave korábbi, NVIDIA GB200 NVL72-alapú példányokról közzétett mérései szerint ezek a példányok GPU-nként 2,86-szor jobb következtetési teljesítményt értek el a H100-alapú példányokhoz képest.

A szélesebb hozzáférés később érkezhet

A CoreWeave az új telepítést a nagy méretű AI-modellek és a nagy teljesítményű számítási feladatok számára kialakított infrastruktúra részeként mutatja be. A vállalat szerint a GB300 NVL72 révén az AI-laborok és a vállalatok nagyobb, összetettebb modelleket fejleszthetnek és helyezhetnek üzembe.

A mostani bejelentés az első CoreWeave-es telepítésről szól. A szélesebb elérhetőséggel kapcsolatban a vállalat további frissítéseket ígér, így a közlemény alapján annak részleteit később ismerteti.