Egyetlen képen térképezi fel a Comet a Claude Code 400 fordulóját

Alváskövető ihlette a kódolási munkamenet térképét

A Comet Cost Intelligence a Claude Code és a Codex tokenfelhasználásának optimalizálására szolgáló eszköz. A fejlesztés során a vállalat arra jutott, hogy a költségeket nemcsak a túl magas alapértelmezett modellek, illetve a minden munkamenetbe betöltött, de gyakran meg sem hívott készségek és MCP-szerverek növelhetik. Ugyanaz a modell, kódtár és eszközkészlet is nagyon eltérő költséget eredményezhet attól függően, hogyan dolgozik a fejlesztő.

A Comet ezért egy könnyen áttekinthető munkamenet-térképet próbált létrehozni. Az ötletet egy alváskövető adta, amely külön szakaszokra bontja az alvást. A kódolási munkameneteknél hasonló fázisokat kerestek, de a fejlesztésnek célja is van, ezért a végeredmény inkább útvonalhoz hasonlít.

A vállalat kezdetben legfeljebb hat fázissal számolt. Az első prototípusból azonban kiderült, hogy a javítás nem önálló fázis, hanem egy bizonyos hangulatú implementálás. Az is fontosnak bizonyult, hogy a grafikon a párhuzamos feladatokat is megmutassa. Egyetlen munkamenetben több, egymástól független feladat fenntartása ugyanis feleslegesen tarthat életben egy kontextusablakot.

A modell a fejlesztési szakaszokat és a feladatokat keresi

A Comet a koncepciót több ezer saját mérnöki munkameneten tesztelte a Qwen3-4B modellel. A rendszer három fogalmat használ. A forduló egy fejlesztői kérésből, az ügynök munkájából és a válaszból álló csere. A fejezet egymást követő fordulók olyan szakasza, amelyek ugyanazt a tevékenységet végzik, a feladat pedig egy cél eléréséhez kapcsolódó teljes munka.

A modell minden fordulót pontosan egy fejezethez, minden fejezetet pedig pontosan egy feladathoz rendel. A Comet szerint a valós adatokban jól kirajzolódtak például a feltárás, az implementálás, az ellenőrzés és a megbeszélés szakaszai. A mérnökökkel összevetett grafikonok határai egybeestek azzal, ahogyan a résztvevők saját munkájukat érzékelték.

A puszta metaadatok nem bizonyultak elegendőnek. Egy olvasási műveletet követő szerkesztés ugyanúgy kinézhet feltárásként, mint hibajavításként, ezért a rendszernek a teljes átirat tartalmát is olvasnia kell.

A feldolgozás helyben történik, a munkameneteket ablakokra bontják

Az adatbiztonság miatt a Comet helyben futtatja a modellt. A négymilliárd paraméteres nyílt modell vLLM-en, egyetlen 24 GB-os GPU-n működik, az adatokkal közös környezetben, nulla hőmérsékleten. A vállalat tesztelt külső, csúcskategóriás API-modellt is ugyanilyen feladaton, és az jobb eredményt adott, de a Comet nem akarta külső szolgáltatóhoz továbbítani az érzékeny adatokat.

A hosszú munkameneteket tokenkeretbe illeszkedő ablakokra bontják. A modell nem a teljes fordulatokat kapja meg, hanem azok tömörített változatát: a kérés elejét és végét, a válasz első sorait, valamint összesített eszközhasználati adatokat. Az ablakok között rövid megjegyzés jelzi a még nyitott feladatot és fejezetet.

A toldást szabályok végzik, nem a modell. A feladat csak akkor folytatódik, ha a következő ablak ugyanazzal a feladattal, a közvetlenül következő fordulónál nyílik. A fejezet folytatásához a fázisnak is egyeznie kell. Minden eredményt ellenőriznek, és rés vagy átfedés esetén újrafuttatják a javítást. A Comet szerint a gyártási folyamat a munkamenetek kevesebb mint 1 százalékánál hibázik, mindig azért, mert egy ablakot a modell ismételt kérés után sem tud tisztán felosztani.

A rendszer eredményeinek összehasonlíthatóságát verziózással védik. Rögzítik a modellt, az utasításokat és a kérdés pontos szövegét, így egy korábbi grafikon később is ugyanazt jelenti. A megközelítés a felhasználók számára azt ígéri, hogy a tokenköltség mellett azt is láthatják, hol és milyen munkafázisokban használják a kódolási ügynököt.