A Google viselkedésük alapján ellenőrzi az AI-ügynököket

A működés közbeni viselkedést vizsgálja

A Google szeptember 16-i bejelentése szerint az Agent Anomaly Detection egy érvelésalapú felügyeleti és auditálási réteg autonóm AI-ügynökökhöz. A szolgáltatás azt vizsgálja, hogy az ügynökök ténylegesen mit csinálnak egy munkamenet során. Ehhez az ügynökök érvelési nyomait, eszközhívásait és végrehajtási folyamatát elemzi.

A rendszer az ügynökök által már kibocsátott naplókat és OpenTelemetry-nyomokat olvassa be. Ezek alapján értékeli, hogy az ügynök a számára kijelölt határokon belül működik-e, majd jelzi a viselkedési rendellenességeket, a gyanús szándékot és a szabályzatok megsértését.

Az elemzés aszinkron módon, a valós idejű kérési útvonaltól elkülönítve fut, ezért a Google szerint nem lassítja az ügynökök válaszait. Minden észleléshez súlyossági szint, közérthető magyarázat és javasolt következő lépések tartoznak. A megállapítások a Security Command Centerben is megjelennek, ahol a csapatok más biztonsági jelzésekkel együtt vizsgálhatják őket.

Többlépcsős elemzés keresi a rejtett rendellenességeket

Az Agent Anomaly Detection a Google leírása szerint a felismerési sebesség, a költség és a lefedettség egyensúlyára épül. Elsőként egy könnyű elemzési réteg vizsgálja át az összes forgalmat, és statisztikai rendellenességek alapján kiválasztja a további elemzésre érdemes munkameneteket. Ezután egy nagy nyelvi modellre épülő réteg részletesen megvizsgálja a kijelölt eseteket.

A Google egy készletkezelő ügynök példáján mutatja be a működést. Ha a felhasználó egyszerre 100 tétel listázását kéri, az ügynök pedig nagy adagokban, az eltolási értékeket változtatva végiglapozza a teljes katalógust, a folyamat közben nem feltétlenül keletkezik hiba. A rendszer mégis felismerheti, hogy a sok ismételt hívás és az eltolások mintázata inkább módszeres adatlekérésre, mint szokásos böngészésre utal.

Ha egy eset további vizsgálatot igényel, egy harmadik réteg rekonstruálja az egyes eszközhívásokat és az azokhoz tartozó eltolásokat. A bemutatott példában az eredmény Resource exhaustion, vagyis erőforrás-kimerítés volt, Critical súlyossági szinten és 95 százalékos valószínűséggel. A javaslatok között szerepelt az eszköz hívásainak korlátozása vagy tiltása az adott felhasználónál, a tömeges készlethozzáférés engedélyezési ellenőrzése és a nagy eltolású lapozás figyelése.

Az OWASP kockázati kategóriáira épít

A szolgáltatás kezdeti észlelői az OWASP Top 10 for Agentic Applications, 2026 kockázati kategóriái közül többhöz kapcsolódnak. A Google szerint ide tartozik az eszközök nem megfelelő használata, az identitással és jogosultságokkal való visszaélés, a kaszkádszerű hibák, valamint a kontroll nélkül működő ügynökök felismerése. A rendszer emellett olyan működési kockázatokat is kezel, mint az erőforrások kimerítése és a tokenhasználat növekedése.

A Google dolgozik azon is, hogy a felhasználók saját üzleti logikát határozhassanak meg az anomáliákhoz. A tervezett funkcióval természetes nyelven megfogalmazott és determinisztikus szabályokra épülő észlelőket lehet majd létrehozni, amelyek a vállalati irányelveken túllépő működést jelzik. A vállalat szerint ezek pontossága korábbi forgalmon is ellenőrizhető lesz.

Private Preview a Gemini Enterprise Agent Platformon

Az észlelések nem csak utólagos felülvizsgálatra használhatók. Az Agent Anomaly Detection API-n keresztül egy adott munkamenet rendellenességei lekérhetők, így egy ADK-visszahívás vagy bővítmény a beállított küszöbérték alapján letilthatja a további eszközhívásokat, vagy leállíthatja a következő kört.

A szolgáltatás jelenleg Private Preview állapotban érhető el azoknak a csapatoknak, amelyek a Gemini Enterprise Agent Platformon telepítenek ügynököket, és az ADK 1.2-es vagy újabb verzióját használják. A Google szerint az előfeltételek teljesítése után egykattintásos aktiválással kapcsolható be. A felhasználók így a működést lassító közvetlen ellenőrzések nélkül vizsgálhatják az ügynökök viselkedését, és a súlyosnak ítélt esetekre programozottan is reagálhatnak.