Egyre több modellt használnak a fejlesztők, és saját hardverre költöznek
A fejlesztőcsapatok egyre több modellcsalád között osztják meg a munkát, és mind több feladatot futtatnak saját hardveren. A Kilo Code szerint a költségek, a feladatok eltérő igényei és a nagyobb kontroll egyaránt a többmodellű működés felé tereli a vállalatokat.
- Az OpenRouter ügyfelei egyre több modellcsaládot használnak.
- A Kilo adatai szerint a vezető modell feladatonként változik.
- A Revolut GLM 5.3-at futtat alapértelmezett kódolómodellként mintegy 2000 mérnök számára.
- A Revolut körülbelül 56 Nvidia B200 GPU-n üzemelteti a modellt.
- A Kilo ügynökszerepenkénti modellválasztást és automatikus útválasztást kínál.
Megfordult az egyetlen modellre épülő trend
Az OpenRouter november 2-án közzétett adatai szerint azok az ügyfelek, amelyek havonta legalább 100 dollárt költenek, mediánértékben hat modellcsaládot használnak. Ez kétszerese az egy évvel korábbi értéknek. A legtöbbet költő 10 százalék esetében a modellcsaládok száma 7-ről 14-re nőtt.
A változás egy korábbi konszolidáció után következett be. A mutató 2025 első felében még csökkent, júniusban 3,8-nál érte el mélypontját, majd minden negyedévben emelkedett, és 2026 októberében 7,3-ra jutott. Az OpenRouter szerint ez a legmagasabb érték, amelyet eddig mértek.
A nagyobb használat szélesebb modellválasztással jár. Az októberi adatok alapján a havi 100 és 1000 dollár között költő ügyfelek mediánosan öt, az 1000 és 10 000 dollár közöttiek nyolc, a 10 000 dollár felett költők pedig 12 labor modelljeit használták. A legnagyobb költési csoport 90 százaléka legalább öt labor modelljeit vette igénybe. Az OpenRouter ugyanakkor jelzi, hogy adataiban kiválasztási torzítás lehet, mivel a felhasználók éppen több modell eléréséért fordulnak egy modellközvetítőhöz.
Feladatonként változik a vezető modell
A Kilo saját használati irányítópultja hasonló megoszlást mutat egyetlen fejlesztői eszközön belül is. A vezető modell az adott feladattól függ, és egyik modell sem képvisel 30 százaléknál nagyobb részesedést egy szerepkörben.
Az Nvidia Nemotron modelljei a kódolás, a tervezés és a hibakeresés területén vezetnek. Az ellenőrzés különbözik a többi feladattól, itt jelennek meg nagyobb arányban az Anthropic és az OpenAI csúcsmodelljei. A Claude Opus önmagában a használat 11,5 százalékát adja, a GPT-modellek pedig további 14,4 százalékot képviselnek.
A kódolásnál a tíz leggyakrabban használt modell között csak egy csúcsmodell szerepel, a gpt-6-luna, 1,4 százalékos aránnyal. A Kilo értelmezése szerint a fejlesztők olcsóbb modellekkel írják és javítják a kódot, majd erősebb modellt választanak ott, ahol a hibák kiszűrése történik.
A Revolut saját hardveren futtatja az alapértelmezett modellt
A Revolut mintegy 2000 mérnök számára saját üzemeltetésű, nyílt modellt, a GLM 5.3-at állította be alapértelmezett kódolómodellként. A bank AI-műveletekért felelős vezetője, David Abitbol október 13-án beszélt a megoldásról az AI Engineer NYC rendezvényen, az előadás pedig november első hetében terjedt el az X-en.
Abitbol szerint a kezdeményezést a költség indította el. Egyes mérnökök havonta 1000 és 10 000 dollár közötti összeget költöttek csúcsmodellekre, „nem túl nagy megtérüléssel”. A Revolut 2026 áprilisában kezdett saját modellt futtatni GLM 5.1-gyel, jelenleg pedig GLM 5.3-at használ körülbelül 56 Nvidia B200 GPU-n. A vegyes költség mintegy 30 cent egymillió tokenenként, Abitbol beszámolója szerint ez a kiadás az Anthropic és az OpenAI modelljeire fordított összeg tizede.
A saját üzemeltetés a Revolut mérésében a fejlesztési átfutási idő 70 százalékos, a kódolási idő pedig 60 százalékos javulásával járt a GLM 5.1-re váltás után. Abitbol szerint az állandó költség miatt a mérnökök kevésbé takarékoskodtak a tokenekkel, és az AI-t Jira-, Confluence- és postafiókfeladatokra is használni kezdték.
A Kilo többféle beállítást kínál
A Kilo szerint a két trend közös működési modellhez vezet: az irányítás alatt álló, olcsóbb modell végzi a rutinfeladatokat, a csúcsmodellek pedig azokon a lépéseken kapnak szerepet, ahol nagyobb értéket adnak. A vállalat ezt többféleképpen teszi elérhetővé.
A felhasználók ügynökszerepenként választhatnak modellt, és a Code, illetve Debug szerepkörhöz nyílt modellt, az ellenőrzéshez pedig csúcsmodellt állíthatnak be. A beállítás a Settings → Models lapon vagy a kilo.jsonc fájlban végezhető el. A Kilo Desktop helyi és saját üzemeltetésű modellek csatlakoztatását is támogatja.
Az Auto Efficient, vagyis a kilo-auto/efficient útválasztó minden kérést a legolcsóbb, az adott feladathoz megfelelő pontosságúnak bizonyult modellhez küld. A Kilo élő használati adatai a kilo.ai/models oldalon érhetők el, és a vállalat szerint ezek az új nyílt modellek megjelenésével folyamatosan változnak.
Kilo Code: The Model Mix Is Growing, and Moving In-House
