GB200 NVL72
A CoreWeave szerint az AI-gyárakat élesben is bizonyítani kell
A GPU-k önmagukban már nem bizonyítják, hogy egy AI-infrastruktúra készen áll a termelésre. A CoreWeave és az NVIDIA a számítási kapacitást, a hálózatot, a tárhelyet, az…
A vLLM Qwen3.5-teljesítménye elérte a 25 ezer tokent GPU-nként
A vLLM szerint a Qwen3.5 diszaggregált kiszolgálása több mint 25 ezer token/másodperc/GPU teljesítményt ért el GB200 NVL72 rendszeren. A fejlesztéshez a GDN számításának…
Az NVIDIA szerint a beállításokon múlik az AI-klaszterek teljesítménye
Azonos NVIDIA H100, GB200 NVL72 vagy GB300 NVL72 hardveren is 8 és 12 százalék közötti teljesítménykülönbség alakulhat ki a klaszterek között. Az NVIDIA szerint a…