A CoreWeave szerint nála fut a leggyorsabban a Kimi K2.6

A Kimi K2.6 a CoreWeave szerint kiemelkedő nyílt modell

A Moonshot AI zászlóshajóként bemutatott, nyílt súlyú modellje, a Kimi K2.6 2026. április 20-án jelent meg. A CoreWeave szerint a modell az OpenRouter ranglistáján a második helyen áll, és a széles körben használt nyílt súlyú modellek közé tartozik.

A Kimi K2.6 egy 1 billió paraméteres, szakértőkeveréses, vagyis Mixture-of-Experts (MoE) modell. Tokenenként 32 milliárd aktív paramétert használ, natív multimodális bemenettel rendelkezik, a kontextusablaka pedig 262 ezer tokenes. A CoreWeave által idézett eredmények szerint 86,3 pontot ért el a BrowseComp, 80,2 pontot a SWE-Bench Verified és 66,7 pontot a Terminal-Bench 2.0 teszten. A vállalat szerint a modell gyorsan népszerűvé vált a kódolási ügynökök és a többlépcsős ügynöki keretrendszerek körében.

205 kimeneti token másodpercenként

A CoreWeave közlése szerint az Artificial Analysis 11 szolgáltató Kimi K2.6-inferenciáját hasonlította össze a kimeneti sebesség és az ár alapján. A közzétett grafikonon a CoreWeave 205 kimeneti token/másodperc értékkel szerepel, miközben a következő érték 158, majd 125 token/másodperc.

Az Artificial Analysis az ár-teljesítményt a gyorsaság és a tokenenkénti költség kombinációjaként vizsgálja. Az ár összevetése 7:2:1 arányban veszi figyelembe a gyorsítótár-találatokat, a bemeneti és a kimeneti tokeneket. A CoreWeave szerint ebben a sebesség és ár alapján kialakított, legkedvezőbb negyedben is vezető helyen áll. A vállalat hangsúlyozza, hogy ez független, külső mérés, az eredmények pedig 2026. május 11-én voltak érvényesek.

NVFP4 és EAGLE3 gyorsítja a szolgáltatást

A CoreWeave szerint a legnagyobb teljesítménynövekedést egyedi, NVFP4 formátumra kvantált modell és az EAGLE3 spekulatív dekódolás együttes alkalmazása hozta. A vállalat Applied Training csapata NVIDIA GB300 és GB200 NVL72 klasztereken dolgozik, többek között az NVIDIA Model Optimizer PTQ használatával. A kísérleteket a közlés szerint a Weights & Biases, valamint korszerű tesztkeretrendszerek segítségével értékelték.

A kvantált modell minőségét a Terminal-Bench 2.0, SWE-Bench Verified, SWE-Bench Pro, GPQA Diamond, AIME 2026 és LiveCodeBench v6 teszteken is ellenőrizték. A CoreWeave szerint ezek az ellenőrzések azért fontosak, hogy a teljesítménynövelés ne rontsa a modell minőségét.

Háromféle hozzáférést kínálnak a felhasználóknak

A CoreWeave az inferenciaszolgáltatásnál többféle üzemeltetési modellt kínál. A Serverless Inference egy egységes API-n keresztül biztosít hozzáférést több modellhez. A Dedicated Inference nagyobb rugalmasságot ad, például a GPU, a futási konfiguráció és az automatikus skálázás beállításával, miközben az infrastruktúrát a CoreWeave kezeli.

A maximális kontrollt a CoreWeave Kubernetes Service-en, vagyis a CKS-en futtatott inferencia biztosítja. Itt az ügyfelek közvetlenül kezelhetik a GPU-kat, a futtatókörnyezeteket, a vezérlést és a kapacitást. A vállalat szerint ezekkel a lehetőségekkel a tokenalapú fogyasztás és a GPU-alapú skálázás között választhatnak az ügyfelek, a munkafolyamat igényeihez igazítva a költséget és a teljesítményt.