A Moonshot bemutatta a 2,8 billió paraméteres Kimi K3 modellt

Gigantikus modell, egymillió tokenes kontextussal

A Kimi K3 a Moonshot AI új nyílt súlyú modellje, amely a Kimi K2.7 Code utódja. A vállalat július 16-án tette elérhetővé az API-hozzáférést, a modell teljes súlyait pedig július 27-én publikálta. A Firecrawl augusztus 13-i ismertetője szerint a K3 jelenleg a legnagyobb kiadott nyílt súlyú modell, összesen 2,8 billió paraméterrel.

A modell tokenenként 104 milliárd paramétert aktivál, és 896 szakértőt használó kevert szakértői architektúrára, vagyis Mixture-of-Experts rendszerre épül. Tokenenként 16 szakértőt választ ki, emellett két közös szakértőt is alkalmaz. A kontextusablak 1 048 576 tokenes, ami pontosan négyszerese a Kimi K2.7 Code 262 144 tokenes kapacitásának.

A Kimi K3 natívan dolgozik szöveggel, képekkel és videóval. A látási feladatokhoz a 401 millió paraméteres MoonViT-V2 képkódolót használja. A modell licencelése egyedi Kimi K3 License alatt történik, tehát nem a hagyományos MIT-licenc vonatkozik rá.

Erős eredmények a kódolási és ügynöki teszteken

A Moonshot technikai blogján közölt mérések alapján a Kimi K3 több kódolási teszten versenyben volt a zárt, élvonalbeli modellekkel. A DeepSWE teszten 67,5 pontot ért el, ezzel kissé megelőzte a GPT-5.5 67,0 pontos eredményét. A FrontierSWE mérésén 81,2 pontot kapott, a Program Bench teszten pedig 77,8 ponttal minden vizsgált modellt megelőzött.

A Terminal Bench 2.1 teszten 88,3 pontot szerzett, ami közel volt a GPT-5.6 Sol 88,8 pontos eredményéhez. A SWE Marathon mérésén 42,0 pontot ért el, és a forrás szerint minden más vizsgált modellt megelőzött. A Firecrawl ugyanakkor jelzi, hogy egyes pontszámok eltérnek a később módosított arXiv technikai jelentésben.

Az általános ügynöki feladatok között a K3 a BrowseComp teszten 91,2 pontot szerzett, a GPT-5.6 Sol 90,4 pontjával szemben. Ez az eredmény kontextustömörítési stratégiával született. A teljes, egymillió tokenes kontextusablak és kontextuskezelés nélkül a modell 90,4 pontot ért el.

A vizuális teszteken a Kimi K3 második lett a Claude Fable 5 mögött. A Python-eszköz használatával a CharXiv teszten 91,3, a ZeroBench mérésén pedig 41,0 pontot ért el. Eszközhozzáférés nélkül ezek az eredmények 84,8, illetve 23,0 pontra estek.

API-hozzáférés és a futtatás költségei

A Kimi K3 súlyai a Hugging Face-en érhetők el, API-n keresztül pedig több szolgáltatónál használható. Ilyen az OpenRouter, a Fireworks AI, a Baseten, a Together AI és a Moonshot saját platformja. A legtöbb elsődleges szolgáltató tokenenként azonos díjat alkalmaz: egymillió bemeneti token 3 dollárba, a gyorsítótárazott bemenet 0,30 dollárba, egymillió kimeneti token pedig 15 dollárba kerül.

Az OpenRouter legolcsóbb útvonala 2,80 dollárt kér egymillió bemeneti és 14 dollárt egymillió kimeneti tokenért. Ez azonban nem egységes OpenRouter-ár, az egyes végpontok díja 2,80 és 6,00 dollár közötti bemeneti, illetve 14,00 és 22,50 dollár közötti kimeneti költséget jelenthet.

A saját üzemeltetés technikailag lehetséges, a hardverigény viszont adatközponti szintű. A modell súlyai nagyjából 1,561 terabájtot foglalnak, a vLLM becslése szerint legalább 1 680 gigabájt videomemóriára van szükség. Az egycsomópontos alsó határ nyolc B300, GB300 vagy MI355X gyorsító, míg a termelési használathoz legalább 64 gyorsítót javasolnak.

Mit jelent ez a fejlesztőknek?

A Kimi K3 azoknak a fejlesztőknek lehet érdekes, akik hosszú dokumentumokat, képeket és videókat is egyetlen modellkörnyezetben szeretnének feldolgozni. Az egymillió tokenes kontextusablak különösen nagy bemenetek kezelését teszi lehetővé, miközben a modell kódolási, böngészési és vizuális ügynöki teszteken is erős eredményeket mutatott.

A nyílt súlyok letölthetők, de a saját futtatás költsége és hardverigénye jelentős. Emiatt a legtöbb felhasználó számára az API-szolgáltatók jelentik a gyakorlatiasabb hozzáférést, míg a teljes önálló üzemeltetés elsősorban nagyobb infrastruktúrával rendelkező szervezeteknek reális.