A CoreWeave AI-modellekhez optimalizált objektumtárolót indított

AI-munkafolyamatokra tervezett tároló

A CoreWeave október 22-én, az NVIDIA GTC rendezvényén jelentette be a CoreWeave AI Object Storage általános elérhetőségét. A menedzselt objektumtárolási szolgáltatást kifejezetten nagy méretű AI-modellek tanításához és következtetéshez, vagyis a betanított modellek futtatásához fejlesztették.

A termék a CoreWeave meglévő tárolási kínálatához csatlakozik, amelyben a Distributed File Storage és a Dedicated Storage is megtalálható. A vállalat szerint az AI-modellek méretének és összetettségének növekedésével a hagyományos felhős tárolási megoldások teljesítménye nem mindig elegendő az adatintenzív munkafolyamatokhoz.

Az AI Object Storage exabájtos méretű, S3-kompatibilis tárhelyet kínál, amelyet GPU-központú modelltréninghez szabtak. A CoreWeave NVIDIA GPU-s számítási fürtjeivel való integráció mellett a szolgáltatás több százezer GPU-ra is skálázható.

A LOTA a GPU-csomópontok helyi tárhelyét használja

A szolgáltatás egyik központi eleme a Local Object Transport Accelerator, röviden LOTA. Ez a technológia a gyakran használt adathalmazokat gyorsítótárazza, illetve előre a GPU-csomópontok helyi NVMe-lemezeire tölti. A CoreWeave szerint ezzel csökkenthető a hálózati késleltetés, és gyorsíthatók a modelltréning-folyamatok.

Az AI Object Storage teljesítménye GPU-nként akár 2 GB/s lehet. A vállalat ezt azzal kapcsolja össze, hogy a tárolórendszer csökkentheti az adatintenzív AI-folyamatok szűk keresztmetszeteit, és javíthatja a GPU-k kihasználtságát.

A gyorsítótárazás a CoreWeave közlése szerint további eszközök vagy összetett konfigurációk nélkül működhet. A szolgáltatás támogatja a legújabb NVIDIA GPU-architektúrákat, köztük a Blackwellt és a Hoppert.

Biztonság, megfigyelhetőség és automatizált üzemeltetés

A CoreWeave AI Object Storage titkosítást biztosít nyugalmi állapotban és adatátvitel közben is. A szolgáltatás része a szerepköralapú hozzáférés-vezérlés, az auditnaplózás és az életciklus-kezelési szabályok támogatása.

Az árképzés a vállalat leírása szerint egyszerű: nincs kimenő adatforgalmi, kérésenkénti vagy rejtett díj, a felhasználók a felhasznált tárhelyért fizetnek.

A CoreWeave Cloud ökoszisztémájába való integráció részeként a szolgáltatás támogatja a SAML- és SSO-hitelesítést. A CoreWeave Console felületéről elérhető menedzselt Grafana-irányítópult valós időben mutatja többek között a másodpercenkénti kérésszámot, a sávszélesség-használatot és a válaszidőket. Az adatokat vödör, régió, művelettípus vagy válaszkód szerint is lehet csoportosítani és szűrni.

A LOTA integrálódik a CoreWeave Kubernetes Service-be, a fejlesztők pedig a CoreWeave Terraform-szolgáltatójával automatizálhatják a tárhely-infrastruktúra kezelését. Ez lehetővé teszi a tárolási erőforrások gyors telepítését a GPU-s számítási fürtök mellett.

Mit jelent ez az AI-fejlesztőknek?

Az általánosan elérhető AI Object Storage a CoreWeave teljes AI-infrastruktúráján belül használható tárolási réteget kínál a modelltréninghez és a következtetéshez. A GPU-khoz igazított teljesítmény, a LOTA gyorsítótárazása és a beépített Grafana-megfigyelhetőség egyetlen, menedzselt szolgáltatásban kapcsolódik össze.

A szolgáltatás a CoreWeave szerint akár több ezermilliárd objektumot és exabájtos adatmennyiséget is kezelhet. A vállalat infrastruktúrájának további elemeivel együtt az AI Object Storage célja, hogy a felhasználók a tárolást, a GPU-s számítási kapacitást és a munkafolyamatok skálázását egyetlen felhős környezetben hangolják össze.