NVIDIA HGX H100 szuperszámítógépeket kínálna a CoreWeave
NVIDIA HGX H100 szuperszámítógépekre épülő felhőpéldányok kínálatát jelentette be a CoreWeave. A szolgáltató szerint az új infrastruktúra nagy léptékű AI- és gépi tanulási feladatok képzését, skálázását és futtatását támogatja.
- A CoreWeave NVIDIA HGX H100 szuperszámítógépekre épülő felhőpéldányokat kínálna.
- A vállalat szerint a H100 akár kilencszer gyorsabb AI-betanítást és harmincszor gyorsabb következtetést tesz lehetővé az HGX A100-hoz képest.
- A kínálat H100, A100 és A5000 GPU-kat, virtuális gépeket, tárhelyet és nagy teljesítményű hálózatot is tartalmaz.
- A CoreWeave szerint az ügyfelek csak a használt HPC-erőforrásokért fizetnek.
- A platform több nyílt forráskódú AI-modellt, köztük a Stable Diffusiont, a GPT-NeoX-20B-t és a BLOOM-ot támogatja.
H100 alapú felhőpéldányokat kínál a CoreWeave
A CoreWeave közlése szerint az elsők között lehet azok között a szolgáltatók között, amelyek NVIDIA HGX H100 szuperszámítógépekre épülő felhőpéldányokat kínálnak. A vállalat az új ajánlatot olyan AI- és gépi tanulási cégeknek szánja, amelyek nagy léptékű számítási feladatokon dolgoznak.
Az NVIDIA HGX H100 platform a CoreWeave szerint a korábbi NVIDIA HGX A100 rendszerhez képest akár hétszer jobb hatékonyságot biztosíthat nagy teljesítményű számítási, vagyis HPC-feladatokban. Az AI-modellek betanítása a legnagyobb modellek esetében akár kilencszer gyorsabb lehet, az AI-következtetés, vagyis az elkészült modellek futtatása pedig akár harmincszoros gyorsulást érhet el.
Gyorsabb modellképzés és hálózati kapcsolat
A vállalat az NVIDIA Quantum-2 InfiniBand platformjára épülő NVIDIA GPUDirect hálózat alacsony késleltetését is kiemeli. A CoreWeave állítása szerint a nagy számítási teljesítmény és a hálózati kapcsolat együtt a modellek képzési idejét hónapokról napokra vagy órákra csökkentheti.
Dave Salvator, az NVIDIA Scale-Up Stage Companies üzleti infrastruktúráért felelős termékmarketing-igazgatója szerint a CoreWeave új, NVIDIA HGX H100 szuperszámítógépeket használó példányai biztosítják az ügyfelek számára a nagy léptékű HPC-alkalmazások futtatásához szükséges rugalmasságot és teljesítményt.
A szolgáltatás részeként a H100 mellett A100 és A5000 GPU-k, virtuális gépek, rugalmas tárhely, nagy teljesítményű hálózat és további erőforrások is elérhetők a CoreWeave Kubernetes-alapú infrastruktúráján keresztül.
Kubernetesre és nyílt forráskódú modellekre épít a platform
A CoreWeave infrastruktúrája nagy léptékű, GPU-gyorsított munkaterhelésekre készült. A vállalat több nyílt forráskódú Kubernetes-projektet használ, és olyan technológiákat is integrál, mint a Determined.AI.
A szolgáltató támogatást kínál több nyílt forráskódú AI-modellhez, köztük a Stable Diffusion, a GPT-NeoX-20B és a BLOOM rendszerekhez. Ez a megközelítés a közlés szerint lehetővé teszi, hogy az ügyfelek a modellfejlesztéshez és a telepítéshez szükséges GPU-s erőforrásokat ugyanazon infrastruktúrán használják.
A használat alapján számlázna a CoreWeave
Michael Intrator, a CoreWeave vezérigazgatója és társalapítója szerint az NVIDIA HGX H100 platformba történő beruházás bővíti a GPU-gyorsított számítási kapacitás startupok és nagyvállalati ügyfelek számára elérhető körét. A vállalat vezetője úgy fogalmazott, hogy a CoreWeave árazási modellje olyan cégeknek kínál partnerséget, amelyek nagy léptékű, GPU-gyorsított AI-munkaterheléseket futtatnának.
A CoreWeave állítása szerint árazási modellje akár 80 százalékos megtakarítást is jelenthet a nagy, általános célú nyilvános felhőkhöz képest. Az ügyfelek a közlés szerint csak az általuk használt, konfigurálható HPC-erőforrásokért fizetnek, az üresjárati időért nem.
A vállalat szerint Kubernetes-alapú infrastruktúrája és hálózati architektúrája gyors rendszerindítást és rugalmas automatikus skálázást tesz lehetővé. Az új H100-as kínálat így az AI-modellek betanítását, méretezését és telepítését végző ügyfelek számára kínálhat nagyobb számítási kapacitást, miközben a felhasznált erőforrásokhoz igazított működést ígér.
CoreWeave: CoreWeave to Offer NVIDIA HGX H100 Supercomputers - Supporting Cutting Edge AI & ML Companies
CoreWeave: CoreWeave to Offer New 4th Gen Intel Xeon Scalable Processors for Accelerated CPU Performance
