Az Arize Cost Agent megmutatja, mire megy el az LLM-ekre költött pénz
Az Arize AX új Cost Agentje az alkalmazások nyomkövetési adatait elemzi, hogy feltárja az ismétlődő, felesleges LLM-, kódolóügynök- és AI-kiadásokat. Az eszköz rangsorolt költségcsökkentési javaslatokat készít, becsült megtakarítással és lehetséges javítással.
- A Cost Agent az Arize AX-ben elemzi az alkalmazásnyomokat.
- Modell, feladat és időablak szerint bontja fel a kiadásokat.
- Duplikált hívásokat, túlméretezett modelleket, újrapróbálkozásokat és nagy promptokat keres.
- Heti automatizálásban vagy egyszeri munkamenetként futtatható.
- Az eszköz jelenleg az Arize AX Enterprise-fiókok számára érhető el.
A költségproblémákat okok szerint csoportosítja
Az Arize 2026. október 8-i közlése szerint a Cost Agent az Arize AX kezelt ügynöke (managed agent), amely az alkalmazásnyomokból (trace) keresi meg a visszatérő költségforrásokat. A kiadásokat modell, feladat és időablak szerint bontja fel, majd rangsorolt költségproblémákat rögzít.
Minden megállapítás tartalmazza a lehetséges megtakarítást és egy javasolt megoldást. Ilyen lehet például egy ügynökértékelésben használt bírói modell olcsóbb modellre cserélése. A megállapításokat gyökérok szerint csoportosítja, így egy ismétlődő minta egyetlen problémaként jelenik meg több száz különálló, költséges hívás helyett.
A Cost Agent többféle kiadási mintát keres. Jelzi, ha egy drága modell alacsony összetettségű feladatot végez, és összeveti a jelenlegi költséget azzal, amennyibe ugyanaz a hívásszám egy olcsóbb modellen kerülne. Megtalálja a redundáns vagy duplikált hívásokat, valamint a hibák után újra és újra futó próbálkozásokat is.
Az eszköz a túlméretezett promptokat is vizsgálja. Ezeket a növekvő kontextus vagy a túl nagy eszközválaszok okozhatják. A Cost Agent ilyenkor a prompttokenek percentiliseit és a többlettokenek határköltségét jelenti.
A költségszámítás a nyomkövetési adatokra épül
Ha egy span költségattribútumot tartalmaz, a Cost Agent ezt használja. Ha ilyen adat nincs, az Arize AX a spanben szereplő tokenszámokból számítja ki a költséget az adott modellhez és szolgáltatóhoz beállított árképzés alapján.
Azok a spannek, amelyekből nem áll rendelkezésre elegendő információ a költség kiszámításához, kimaradnak az elemzésből. A Cost Agent azt is jelzi, hány elem maradt ki. Az Arize arra figyelmeztet, hogy ha a spanattribútumok között nem jelenik meg a költség, az eszköz futtatása előtt be kell állítani a költségkövetést.
Egy futtatás egy AX-projektet elemez, és rangsorolt lehetőségeket ad vissza a kiadások csökkentésére. Az eredmény tartalmazza a megállapítás mögötti bizonyítékokat, a becsült megtakarítást és a javasolt javítást.
Heti automatizálás vagy egyszeri elemzés
Az Arize AX-ben a Cost Agent a Signal & Agents, majd a + New Agent és a Cost Agent menüponton keresztül indítható. A felhasználó kiválasztja az elemzendő projektet, mivel egy futtatás egyetlen projekt adatait olvassa.
Az Automation run ütemezetten fut, alapértelmezés szerint hetente. A rendszer rangsorolt költségproblémákat rögzít ugyanott, ahol a Signal a saját megállapításait, csak itt a helyesség helyett a kiadások állnak a középpontban. A későbbi futások megerősíthetik a már meglévő problémákat anélkül, hogy duplikált bejegyzéseket hoznának létre.
A Session run egyszer fut le, és az elemzést a munkamenet átiratában adja vissza. Ebben szerepel az időablak teljes költése, a modellek szerinti bontás, valamint a rangsorolt szűk keresztmetszetekhez tartozó költségcsökkentési javaslat. Indítás előtt a felhasználó módosíthatja a feladatleírást, és megadhatja költségkorlátait, illetve az engedélyezett modelleket.
Opcionális GitHub-képesség hozzáadásával az ügynök útválasztási vagy konfigurációs módosításhoz pull requestet is nyithat. Az Arize AX Enterprise-fiókok számára a Cost Agent már elérhető. A kezelt ügynökök, köztük a Cost Agent, jelenleg korlátlan használattal érhetők el, az Arize azonban használatalapú díjazást tervez, amelynek részleteit a bevezetés előtt közli.
