Az IQuest-Q1 a kódolásban és ügynöki feladatokban mutatkozott be

Kódolásra és több lépésből álló feladatokra tervezték

Az IQuest Research közleménye szerint az IQuest-Q1-et olyan fejlesztői munkákra tanították, mint egy kódtár navigálása, terminál kezelése, eszközök meghívása, hosszú kontextus követése és több lépésből álló feladatok végrehajtása. A vállalat szerint az érvelés, az eszközhasználat, a hosszú kontextus megértése és a több lépésben végzett végrehajtás már a képzési célok között szerepelt, nem utólag illesztették a modellhez.

A PR Newswire-ben október 8-án megjelent közlemény alapján külső fejlesztői és szakmai beszélgetések is vizsgálták a modell képességeit. Ezek között szerepelt alkalmazások építése, háromdimenziós térbeli generálás, kóddiagnosztika és javítás, valamint összetett, eszközökkel támogatott munkafolyamatok. Egy nyilvánosan bemutatott felhasználási esetben egy írott termékleírásból interaktív SaaS-analitikai irányítópult készült.

Játékokat generál, és hibákat keres a futó rendszerekben

Az IQuest Research bemutatói szerint a modell természetes nyelvű utasításból, egyetlen menetben futtatható interaktív alkalmazásokat készít. Egy FPS-játék példájában egy generálás részeként létrehozta a háromdimenziós jelenetet, a karakter mozgását, az életerőt, a pontozást, a játékmódok váltását és a játékbeli erőforrásokat, illetve felszereléseket kínáló boltot. A közlemény szerint ehhez a kód, a fájlszerkezet, az interakciós logika és a vizuális elemek is ugyanabban a menetben készültek.

Egy versenyjáték esetében a modell folyamatosan bővítette a jelenetet, beleértve a pálya geometriáját, valamint az előtér és a háttér közötti átmeneteket. A vállalat ezt olyan térbeli és interakciós feladatként mutatja be, amelynél az egyszeri generálás gyakran nehézségekbe ütközik.

Egy megerősítéses tanulási futtatás hibakeresésénél a modell a tanulási görbékből indult ki, naplókat és végrehajtási nyomokat olvasott be, majd a kódban lokalizálta a hibát. A javítás és az újraindítás után az új mérőszámok alapján ellenőrizte a helyreállást. Az IQuest Research szerint a kiváltó ok egy, a tanítási trajektóriába került felesleges szóköz volt.

320 milliárd paraméter, ritka szakértői architektúra

Az IQuest-Q1 decoder-only Transformer architektúrát használ, ritka Mixture-of-Experts feed-forward réteggel. A modell összesen körülbelül 320 milliárd paramétert tartalmaz, tokenenként körülbelül 15 milliárd aktív paraméterrel.

A tanítás három szakaszban zajlott: előtanítás, középső tanítási szakasz és utótanítás. A folyamat először a kódolási jártasságot építette fel, majd hosszabb és nehezebb feladatokkal bővült. Az utótanítás a szoftvermérnöki munkára, a hosszú távú ügynöki feladatokra és az általános érvelésre összpontosított, felügyelt finomhangolással és megerősítéses tanulással.

A fejlesztők Multi-Teacher On-Policy Distillation módszert is alkalmaztak. Ennek során több tanármodell erősségeit vonták össze a tanuló saját, aktuális működés közben létrehozott mintáin, így a közlemény szerint a modell anélkül vehetett át képességeket, hogy egyetlen tanár elfogultsági mintázatát örökölné.

Nyilvános súlyok és benchmarkok

Az IQuest-Q1 modell súlyai és technikai anyagai nyilvánosan elérhetők. A fejlesztők a GitHubon benchmarkot és kódtárat, a Hugging Face-en pedig a modellt tették közzé. Az IQuest Research blogján szintén további anyagok találhatók.

A közlemény szerint az értékelések a kódolást, a szoftvermérnöki feladatokat, a terminálhasználatot, az eszközhasználatot és az ügynöki munkát fedik le. A felsorolt tesztek között van az NL2Repo a kódtárszintű kódgenerálásra, a CyberGym kiberbiztonsági feladatokra, a Terminal-Bench 2.1 terminálműveletekre, a DeepSWE v1.1 hosszú távú kódolásra és a JobBench irodai munkafolyamatokra. A teljes számokat, összehasonlításokat és az értékelési beállításokat a technikai jelentés tartalmazza.

Az IQuest Research közlése alapján a fejlesztők és kutatócsoportok e-mailben jelentkezhetnek a közelgő korai hozzáférési tesztprogramokra. A vállalat szerint az IQuest-Q1 így közvetlenül kipróbálhatóvá válhat azok számára, akik kódolási, terminálhasználati vagy több lépésből álló eszközvezérelt munkafolyamatokban vizsgálnák a modellt.