NVIDIA H200
Az NVIDIA H200 a vállalat adatközponti GPU-ja, amelyet nagy számítási igényű mesterségesintelligencia feladatokhoz, különösen modellek futtatásához és inferenciához használnak. Fontos szerepet tölt be abban, hogy a generatív MI rendszerek gyorsan és nagy léptékben működhessenek felhőalapú környezetben.
Ezen a címkeoldalon az NVIDIA H200 telepítésével és gyakorlati alkalmazásával kapcsolatos hírek jelennek meg. Ide tartoznak a CoreWeave felhős megoldásai, az NVIDIA H200 első felhőbeli telepítése, valamint a CUDA-kernellel és más optimalizálásokkal gyorsított nyílt forrású modellek futtatásáról szóló beszámolók.
A CoreWeave rekordot jelentett az NVIDIA GB200-zal végzett AI-inferenciában
A CoreWeave közlése szerint első felhőszolgáltatóként adott le eredményt NVIDIA GB200 Superchipekkel az MLPerf Inference v5.0 mérésén. A vállalat 800 tokent dolgozott…
A CoreWeave elsőként telepít NVIDIA H200 GPU-kat felhőben
A CoreWeave közlése szerint első felhőszolgáltatóként telepítette piacra az NVIDIA H200 Tensor Core GPU-kat. Az új példányok generatív AI-modellek betanítását…
Nyílt forrású CUDA-kernellel gyorsítja a Kimi K2.x MoE futtatását a Novita
A Novita AI nyílt forrásúvá tette a Chord nevű CUDA-kernelcsomagot, amely INT4-es, W4A16 formátumú Mixture-of-Experts modellek futtatását gyorsítja Kimi K2.x…