MLPerf-rekordot állított fel a CoreWeave 2496 Blackwell GPU-val

2496 Blackwell GPU 39 rackszekrényben

A 2026. október 22-én ismertetett közös mérés 2496 NVIDIA Blackwell GPU-t használt 39 rackszekrényben. Minden rackben 64 aktív GPU működött a CoreWeave infrastruktúráján. A vállalat szerint ez az eddigi legnagyobb MLPerf Training-benyújtás.

A rendszer több mint 34-szer nagyobb volt, mint egy felhőszolgáltatótól érkezett, NVIDIA GB200 Grace Blackwell példányon végzett korábbi benyújtás, amely egyetlen, 72 GPU-s rackből állt. A következő legnagyobb, NVIDIA által önállóan benyújtott eredményhez képest 4,8-szeres volt a mérete, az a mérés 512 Blackwell GPU-t használt.

A CoreWeave szerint a konfiguráció számítási teljesítménye több mint 5000 NVIDIA H100 GPU-éval egyenértékű. A vállalat ezt tekinti eddigi legnagyobb betanítási benchmarkjának, amely meghaladja a korábbi, 3584 H100 GPU-s MLPerf Training v3.1 eredményét.

Több mint kétszeres gyorsulás a Hopperhez képest

Az MLPerf a MLCommons által fejlesztett, iparági szabványként használt tesztcsomag. A betanítási mérések azt vizsgálják, milyen gyorsan képes egy rendszer nyílt forráskódú modelleket meghatározott minőségi cél eléréséig betanítani. Az MLPerf Training v5.0 újdonsága volt a Meta Llama 3.1 405B modellje, a tesztcsomag legnagyobb és legösszetettebb alapmodellje.

A CoreWeave, az NVIDIA és az IBM közös 2496 GPU-s eredménye 27,33 perc alatt teljesítette a Llama 3.1 405B benchmarkot. A CoreWeave közlése szerint ez 2,1-szer gyorsabb volt az NVIDIA 2560 H100 GPU-s eredményénél. A 2048 Blackwell GPU-s mérés 32,6 perc alatt végzett, ami 2,15-szeres előnyt jelentett az azonos méretű H100-as eredményhez képest.

A kisebb konfigurációkban is Blackwell-vezetést közölt a vállalat. Az 1536 GPU-s futás 42,46 percig tartott, az 1024 GPU-s 62,1 percig, az 512 GPU-s pedig 121,1 percig. Ezek a CoreWeave adatai szerint rendre 2,85-szeres, kétszeres és kétszeres gyorsulást jelentettek a megadott összehasonlító rendszerekhez képest.

Sűrűbb infrastruktúra és 91 százalékos skálázási hatékonyság

A GB200 NVL72 rendszer a CoreWeave számítása szerint a fizikai helykihasználásban is előnyt kínál. A 2496 Blackwell GPU-s méréshez 39 rackre volt szükség, míg hasonló teljesítményű, rackenként 32 GPU-val kialakított H100-konfiguráció körülbelül 156 racket igényelt volna. Ez négyszer kisebb helyigényt jelent a vállalat összevetése alapján, és a CoreWeave szerint az energiahatékonyság szempontjából is előnyös lehet.

A mérés a Carina nevű fürtön futott. A CoreWeave ezt az IBM számára kiépített és átadott, nagyméretű NVIDIA Blackwell-fürtöt az NVIDIA technikai közreműködésével használta a benchmarkhoz. A vállalat közlése szerint a rendszer több, 1000 GPU feletti betanítási futást kezelt nagy megbízhatósággal.

A 512-ről 2496 GPU-ra való bővítés során 91 százalékos skálázási hatékonyságot mértek. A benchmarkok a CoreWeave Kubernetes Service és a SUNK nevű, Slurm on Kubernetes megoldáson futottak. Ezek a szolgáltatások a vállalat szerint a megfigyelhetőséget, a fizikai teljesítmény elkülönítését és a GB200 NVL72 rendszereken belüli feladatütemezést támogatják.

Mit jelent ez az AI-infrastruktúra használóinak?

Az eredmények elsősorban a nagy méretű alapmodellek betanításán dolgozó ügyfelek számára lehetnek fontosak. A CoreWeave szerint a Blackwell-fürtök a Hopper-alapú rendszerekhez képest nagyobb sebességet kínálnak azonos fürtméretnél, miközben a nagyobb GPU-sűrűség kevesebb rackszekrényt igényelhet.

A vállalat korábban az MLPerf Inference v5.0 során is GB200 Grace Blackwell rendszerekkel adott be eredményeket. Akkor a Llama 3.1 405B modellen chipenként több mint 200 token/másodperc átvitelt közölt, ami a CoreWeave szerint 2,86-szoros javulás volt az NVIDIA H200 GPU-khoz viszonyítva. A mostani Training v5.0 eredmények a betanítási oldalon mutatják be ugyanezt az infrastruktúrát.