B300
A Modal mindenki számára elérhetővé tette a többgépes GPU-klasztereket
A Modal általánosan elérhetővé tette a Modal Clusters szolgáltatást, amely több számítási csomópontot kapcsol össze nagy léptékű modelltréninghez és következtetéshez. A…
Általánosan elérhetővé váltak a Modal többgépes AI-fürtjei
A Modal általánosan elérhetővé tette a Modal Clusters szolgáltatást, amely több csomópontból álló AI-fürtök indítását és kezelését egyszerűsíti. A vállalat szerint a…
FejlesztőknekA vLLM-ben akár 2,8-szorosára nőtt a Kimi K3 áteresztőképessége
Jelentősen gyorsult a Kimi K3 kiszolgálása a vLLM-ben: a fejlesztések 2,2, 2,8-szoros áteresztőképességet és 56, 60 százalékkal alacsonyabb késleltetést hoztak. A vLLM…
Az NVIDIA felgyorsítaná a fehérjeszerkezetek AI-alapú előrejelzését
Az NVIDIA olyan eszközöket mutatott be, amelyek a fehérjeszerkezetek és molekuláris komplexek AI-alapú előrejelzésének több lépését is felgyorsítják. A vállalat szerint…