DSpark
A vLLM DSpark modellel négyszeresére nőtt a Kimi K3 sebessége
A vLLM Project új DSpark spekulátorral gyorsította fel a 2,8 billió paraméteres Kimi K3 modell kiszolgálását. A vállalat mérése szerint a matematikai feladatoknál az…
A Liquid AI DSpark modelljei akár 3,18-szoros gyorsulást ígérnek
A Liquid AI elérhetővé tette három LFM2.5 modell DSpark változatát, amelyek a vállalat mérései szerint akár 3,18-szoros átviteli sebességet kínálnak GPU-n, és akár…
Élesben is elérhető a DeepSeek V4 Pro 0813 a Novita AI-on
A Novita AI éles kiadásként tette elérhetővé a DeepSeek V4 Pro 0813 modellt, amely 1 048 576 kontextustokent és legfeljebb 393 216 kimeneti tokent támogat. A szolgáltató…
A vLLM adaptív ellenőrzéssel javítja a spekulatív dekódolást
A vLLM új adaptív ellenőrzési módja menet közben szabja meg, hány előre generált tokent érdemes ellenőrizni. A DSpark megoldása a közlemény szerint alacsony és magas…