A CoreWeave CAIOS tárhelye 7 GB/s feletti sebességet ért el GPU-nként

16 Blackwell Ultra csomóponton tesztelték

A CoreWeave 2026. október 22-én ismertette a CAIOS legújabb mérési eredményeit. A tesztet 16 NVIDIA Blackwell Ultra GPU-csomóponton futtatták, a CoreWeave Kubernetes Service környezetében, a Warp S3 teljesítménymérő eszközzel. A vizsgálat tárgyát objektumok olvasása jelentette.

A tesztben 10 000, egyenként 50 MB méretű objektumot használtak, 15 MB-os részekre bontva. A Warp párhuzamossági értéke 100 volt, ami 100 gorutin egyidejű hívását jelentette. A csővezetékes feldolgozás is engedélyezve volt, így a gyorsítótárba történő olvasási kéréseket a rendszer előre sorba állította a csomópontok között.

A CoreWeave két hálózati átviteli módot hasonlított össze: Ethernetet TCP-vel, valamint RDMA-t NVIDIA Quantum InfiniBand használatával. A Blackwell Ultra konfigurációban csomópontonként négy GPU található.

Az InfiniBand jelentős különbséget hozott

Ethernet használatakor a teljes, 16 csomópontos rendszer tartósan 180 GB/s sebességet ért el. Ez csomópontonként 11,25 GB/s-nak, GPU-nként pedig 2,81 GB/s-nak felelt meg. A CoreWeave közlése szerint a labor Ethernet-hálózata korlátozta a csomópontonként elérhető teljesítményt.

Az NVIDIA Quantum InfiniBand hálózat ezzel szemben 449 GB/s-os tartós átvitelt tett lehetővé a 16 csomóponton. Ez csomópontonként 28,06 GB/s, GPU-nként pedig 7,02 GB/s átlagos sebességet jelentett. A vállalat szerint az InfiniBand hálózati infrastruktúrája kezelni tudta a teljes rendszer párhuzamos terhelését.

A mérés során a Local Object Transport Accelerator, vagyis LOTA gyorsítótára fokozatosan töltötte fel az objektumokat. Az egyes csomópontok maximális értékei 25,6 és 36,9 GB/s között alakultak, az átlagos csomópontonkénti teljesítmény 28,06 GB/s volt.

Három lépésben javult a GPU-nkénti teljesítmény

A CoreWeave márciusban NVIDIA H100 GPU-csomópontokon közölt 2 GB/s feletti, GPU-nkénti tartós átviteli eredményt. A vállalat mostani magyarázata szerint a javulás több tényezőből állt össze.

• Kevesebb GPU csomópontonként: a H100 konfigurációk nyolc GPU-t tartalmaztak csomópontonként, míg a Blackwell Ultra csomópontok négyet. Mivel a csomópontonkénti átvitel azonos vagy magasabb maradt, a GPU-nkénti teljesítmény 2 GB/s-ról 4 GB/s-ra nőtt.
• InfiniBand használata: a csomópontok közötti adatátvitel InfiniBandra helyezése körülbelül 50 százalékos javulást hozott, így a mérésben 4 GB/s-ról 6 GB/s-ra emelkedett a GPU-nkénti érték.
• LOTA-optimalizálások: a gyorsítótár adatolvasási és adatírási működésének módosításai körülbelül 17 százalékos további teljesítménynövekedést eredményeztek. Ezzel a sebesség 7 GB/s fölé került GPU-nként.

A CAIOS az AI-adatfolyamok gyorsítására készült

A CAIOS a CoreWeave AI-központú objektumtárolási szolgáltatása. A vállalat olyan rendszerként mutatja be, amelyet több százezer GPU-ra való skálázásra terveztek, és amely a hagyományos objektumtárolási szolgáltatásoknál nagyobb GPU-nkénti átvitelt céloz.

A szolgáltatás LOTA komponense átlátható módon előkészíti és gyorsítótárazza az objektumokat a GPU-csomópontokon. A CoreWeave szerint ez gyorsíthatja a nagy tanítóadat-készletek GPU-khoz továbbítását, lerövidítheti az ellenőrzési pontok mentési és visszaállítási ciklusait, valamint felgyorsíthatja a modellparaméterek betöltését és a nagy átviteli sebességű kulcsérték-gyorsítótárak működését.

A vállalat szerint a 7 GB/s feletti értékek csökkenthetik a tanítási időt, mérsékelhetik az inferencia első tokenjéig eltelt időt, és javíthatják az ETL-folyamatok hatékonyságát. A CoreWeave célja, hogy a további CAIOS-optimalizálásokkal szűkítse a GPU-k számítási teljesítménye és az elérhető adatok közötti különbséget, így a gyorsítók nagy párhuzamosság és jelentős rendszerterhelés mellett is kihasználhatók maradjanak.