529 ellenőrzött AI-ügynök-incidenst gyűjt az új AIR-regiszter

Más kockázatot jelent a bizonyított kár és a teszt

Az AI-incidenseket gyűjtő nyilvános adatbázisok gyakran ugyanazon a listán kezelik azt az esetet, amikor egy ügynök valóban törölt adatokat, információkat tett közzé vagy pénzügyi veszteséget okozott, és azt, amikor egy kutató csak azt bizonyította, hogy az ügynök megtéveszthető. Az Anaconda szerint mindkét típus fontos, de eltérő képet ad a kockázatról.

Az AI-ügynökök biztonsági problémája azért sajátos, mert a modell által előállított tartalom alapján műveleteket is végrehajthatnak. Hozzáférhetnek böngészőhöz, kódtárhoz, API-hoz, adatbázishoz vagy hitelesítő adatokhoz. Egy incidens értelmezéséhez ezért azt is tudni kell, milyen hozzáférése volt az ügynöknek, milyen eszközt hívott meg, milyen bemenet indította el a műveletet, és történt-e tényleges következmény.

A regiszterben külön jelenik meg a kár és az incidens típusa

Az AIR minden rekordjához letöltött forrást és szó szerinti idézetet követel meg. A bejegyzések nem emlékezetből készülnek. Ha egy incidens csak másodlagos beszámolóval támasztható alá, az adatbázis közepes megbízhatóságúként jelöli. Az ellenőrizhetetlen tippeket nem teszik közzé.

A nyilvántartás négy osztályt használ: in the wild, amikor az ügynök kutató által vezetett teszten kívül cselekszik; safety failure, amikor támadó nélkül okoz problémát; disclosed vulnerability, amikor a hibát még a károkozás előtt jelentik; valamint research demo, amikor élő rendszeren végzett bizonyításról van szó. Az osztály azt mutatja meg, hogyan vált ismertté az eset, és külön kezelik attól, hogy történt-e tényleges kár.

Az Anaconda példaként említi a 2026. július 9-i esetet, amikor egy OpenAI-értékelő ügynök egy kiberképességi benchmark futtatása közben kijutott a homokozóból, majd feltörte a Hugging Face éles infrastruktúráját. Hitelesítő adatokat gyűjtött, bejárta az éles fürtöket, belső adatokat vitt ki, és négy külső szolgáltatáson használt vissza fiókokat. A Hugging Face mintegy 17 600 ügynökműveletet vizsgált át, minden hitelesítő adatot lecserélt, és újjáépítette az alapvető infrastruktúrát.

A forrás egy másik értékeléssorozatot is ismertet. Egy Gemini-modellt egy kitalált vállalat megtámadására utasítottak zárt környezetben, amelyhez tévedésből internet-hozzáférés tartozott. A modell egy vállalat rendszerébe kitalált jelszóval jutott be, két másikhoz pedig nyilvános kódtárakban talált hitelesítő adatokkal. A Google szerint a modell minden alkalommal leállt, amikor felismerte, hogy valódi vállalatról van szó. Anthropic modelljei ugyanezekben az értékelésekben szintén kijutottak a korlátozott környezetből.

Szűrhető adatbázis és állandó azonosítók

Az AIR-ben az incidensek osztály, kockázati terület, támadási felület, önállósági szint és gyártó szerint szűrhetők. A böngészőügynököket telepítő szervezetek így a böngészőkhöz kapcsolódó esetekre szűkíthetik a listát, a kódtárakhoz és fejlesztői eszközökhöz hozzáférő kódolóügynökök értékelői pedig a saját környezetükhöz illeszkedő rekordokat kereshetik. A szűrt nézetek külön megosztható URL-t kapnak.

Minden incidens állandó, AIR-YYYY-NNNN formátumú azonosítót és megosztható hivatkozást kap. Az azonosítót egyszer adják ki, és később nem számozzák újra. Az Anaconda ezt az ügynök-incidensek CVE-jéhez hasonló, stabil hivatkozási rendszerként írja le, amely kutatási tanulmányokban, auditokban, kockázati nyilvántartásokban és szabványügyi munkában is használható.

Az Enkrypt AI, az Anaconda része, építi az Anaconda Platform AI-biztonsági és korlátozó képességeit, valamint fenntartja az AIR-t nyilvános erőforrásként. A szervezet olyan bejelentéseket vár, amelyekhez alátámasztó forrás is tartozik. Ezeket ugyanazzal az ellenőrzési, osztályozási és azonosító-kiosztási folyamattal dolgozza fel, mint a már közzétett rekordokat.