A Snowflake Cortex AI-ba érkezik a Kimi K3

Hosszú munkafolyamatokra szánják

A Snowflake szeptember 24-i bejelentése szerint a Kimi K3 jelenleg privát előzetesként használható a Snowflake Cortex AI Functions és a Snowflake Cortex Inference szolgáltatásaiban. A Snowflake CoCo, a Snowflake Cortex Agents és a Snowflake CoWork támogatása később érkezik, a közlemény szerint.

A Kimi K3 egy 2,8 ezermilliárd paraméteres, szakértőkeverék-alapú modell. A rendszer tokenenként 896 szakértőből 16-ot aktivál a Moonshot AI Stable LatentMoE keretrendszerével. A Moonshot állítása szerint ez 2,5-szer jobb skálázási hatékonyságot jelent az elődhöz, a K2-höz képest.

A modell célterületei közé a nagy kódtárakon végzett, hosszú ideig tartó fejlesztési munkák, a kutatási anyagok összegzése és az elemzési feladatok tartoznak. A Moonshot által bemutatott példákban a modell termináleszközöket használ, képernyőképekre támaszkodik, szakirodalmat dolgoz fel, futtatható kódot készít, majd ellenőrzi az eredményt.

Saját feladatokon is tesztelhető

A privát előzetesben a csapatok saját minőségi követelményeik és munkafolyamataik alapján értékelhetik a Kimi K3-at. A Snowflake szerint ehhez nem kell külön inferenciakörnyezetet létrehozni. A modell azonosítója kimi-k3.

A Cortex AI Functions segítségével a modellhívások SQL-ből is elindíthatók. A Snowflake példája szerint az AI_COMPLETE függvénnyel több fiktív ügyfélinterjú igényei hasonlíthatók össze, csoportosíthatók, majd a rendszer utánkövetési kérdéseket javasolhat.

A fejlesztők az OpenAI SDK-n keresztül is elérhetik a modellt a Snowflake Cortex REST API-ján. Ehhez Snowflake programozott hozzáférési tokenre és a Snowflake-fiók HTTPS-címére van szükség. A Kimi K3 a Chat Completions kérésformátumot támogatja.

A beszélgetési előzményekre figyelni kell

A Snowflake külön kiemeli, hogy a beszélgetési előzmények megőrzése hatással lehet a modell teljesítményére. A K3-at a Moonshot megőrzött gondolkodási előzményekkel tanította, ezért a Snowflake azt javasolja, hogy az értékelést új munkamenetben kezdjék a felhasználók. A közlemény szerint egy másik modellről menet közben K3-ra váltás, illetve a gondolkodási tartalom elhagyása ronthatja a kimenet minőségét.

A modell kisebb problémák vagy kétértelmű szándék esetén önállóan is cselekedhet. Emiatt a Snowflake egyértelmű korlátozásokat javasol a rendszerutasításokban, valamint megfelelő jóváhagyási jogosultságokat azoknál a telepítéseknél, ahol szigorú határokra van szükség.

A Moonshot szerint a K3 teljes felhasználói élménye „még elmarad a legerősebb zárt modellekétől, a Claude Fable 5 és a GPT 5.6 Sol modellétől”. A Snowflake ezért erős nyílt súlyú lehetőségként írja le, amelyet az egyes munkaterheléseken érdemes értékelni.

A közzétett tesztek eredményei

A Snowflake a Moonshot közzétett értékelési táblázatából több eredményt is közölt. A Kimi K3 a DeepSWE teszten 67,5, a ProgramBenchen 77,8, a Terminal-Bench 2.1-en 88,3, a FrontierSWE-n 81,2 pontot ért el. A BrowseComp eredménye 91,2, a DeepSearchQA eredménye 95,0, a ResearchRubricsé 76,2.

A további eredmények között szerepel a GDPval-AA v2 1686-os értéke, a GPQA Diamond 93,5, az AA-LCR 74,7, az OmniDocBench 91,1 és a PerceptionBench 58,5 pontja. A módszertan, a tesztelési környezet és a lábjegyzetek részleteit a Moonshot Kimi K3 modellkártyája tartalmazza.

A Snowflake szerint az inferencia a platform peremén belül fut, így az adatok a vállalat irányítási határain belül maradnak. A Kimi K3 támogatásának bővítése a CoCo, a CoWork és a Cortex Agents szolgáltatásokban a kódolási, kutatási és adatalapú ügynöki munkafolyamatok értékelését is lehetővé teheti, a közleményben szereplő előretekintő állítások azonban nem jelentenek kötelezettségvállalást a termékek szállítására.