A CoreWeave támogatja az NVIDIA AI Enterprise platformját

Egyszerűbb AI-alkalmazásfejlesztést ígér a CoreWeave

A CoreWeave közlése szerint az új támogatás célja, hogy az ügyfelek könnyebben hozzanak létre, vezessenek be és kezeljenek AI-alkalmazásokat. A vállalat 2026. október 22-i bejelentése az NVIDIA AI Enterprise szoftverplatformra és a DGX Cloud Serverless Inference alapját adó NVIDIA Cloud Functionsre, röviden NVCF-re vonatkozik.

Az NVIDIA AI Enterprise felhőalapú szoftverplatform, amely a gyártási használatra szánt, teljes körű generatív AI-folyamatok fejlesztését és telepítését támogatja. A csomag része többek között az NVIDIA NIM mikroszolgáltatásai, az NVIDIA NeMo, különféle AI-keretrendszerek, referenciális alkalmazások és munkafolyamatok, SDK-k, könyvtárak, valamint infrastruktúra-kezelési eszközök.

A CoreWeave szerint az AI-modellek képességeinek növekedésével és használatuk terjedésével az inferencia, vagyis a modellek futtatása és válaszainak előállítása egyre összetettebbé válik. Az ügyfeleknek gyakran jelentős időt kell fordítaniuk a telepítések kezelésére és a modellkiszolgálás teljesítményének javítására.

Automatikus skálázást kínál az NVIDIA Cloud Functions

Az NVIDIA Cloud Functions a DGX Cloud Serverless Inference egyik alapvető technológiája. A CoreWeave leírása szerint automatikusan skálázódó AI-inferencia-megoldásról van szó, amely gyorsabbá és megbízhatóbbá teszi az alkalmazások telepítését.

Az NVCF csökkenti az optimalizált infrastruktúra bevezetéséhez szükséges időt, és egyszerűsíti az olyan inferenciafeladatok hosztolását a CoreWeave-en, mint az NVIDIA NIM mikroszolgáltatásai. Ezek teljesítményre optimalizált, konténerekbe csomagolt AI-modellek és inferenciamotorok, amelyek a legújabb NVIDIA GPU-kon telepíthetők és skálázhatók.

A támogatás a CoreWeave Kubernetes Service, vagyis a CKS használatával érhető el. A szolgáltatás előre használható komponenseket tartalmaz, köztük optimalizált hálózati és tárolási interfészeket, GPU-illesztőprogramokat, Slurm-on-Kubernetes-integrációt és beépített megfigyelhetőségi eszközöket.

GB200 NVL72 gyorsítón is fut az NVCF

A CoreWeave mérnökei az NVIDIA AI Enterprise és az NVCF támogatásának kialakítása során a vállalat közlése szerint GB200 NVL72 gyorsítású CoreWeave-példányokon is telepítették és futtatták az NVCF-et, CKS környezetben.

A teszt során egy egyedi modellhez kapcsolódó új felhőfunkciót hoztak létre, majd GB200 NVL72 példányokon telepítették azt, hogy meghívható legyen. A vállalat egy DeepSeek R1 modell GB200 NVL72 gyorsítású CoreWeave-példányon történő telepítését is bemutatja.

A CoreWeave a megoldást NVIDIA Hopper GPU-khoz és NVIDIA GB200 NVL72 alapú példányokhoz kínálja. A beállításhoz az ügyfelek telepíthetik az NVIDIA NGC Platformján elérhető NVIDIA Cluster Agent Operatort, amely lehetővé teszi, hogy egy meglévő CKS-fürt NVCF-telepítési célpontként működjön.

A fejlesztők a konzolból vagy parancssorból indíthatják a telepítést

Regisztrált CKS-fürt és telepített Cluster Agent esetén az ügyfelek az NVIDIA Cloud Functions konzolján vagy az NGC CLI használatával hozhatnak létre és telepíthetnek NVCF-funkciót. A webes felületen az „Elastic NIM” funkciótípust választhatják, amely az NVIDIA AI Enterprise platformhoz tartozó, teljesítményre optimalizált NIM-mikroszolgáltatásokat használja.

A CoreWeave szerint az NVIDIA szoftvereinek és saját felhőplatformjának együttes használata további lehetőségeket ad az ügyfeleknek az AI-megoldások gyorsabb fejlesztésére. A vállalat célja, hogy az ügyfelek nagyobb teljesítmény mellett, alacsonyabb költségek elérésére törekedve juttathassák el megoldásaikat a piacra.