A PRE Security AgentGuardja még a károkozás előtt leállítja az AI-ügynököket

Az ügynökök folyamatos viselkedését vizsgálja

A kaliforniai San Joséban működő, AI-alapú kiberbiztonsági vállalatként bemutatkozó PRE Security október 6-án jelentette be a PRE Security Platform részeként működő AgentGuardot. A megoldás az úgynevezett Agentic Detection, Prediction, and Response, röviden ADPR képességre épül, és a vállalatok környezetében működő autonóm AI-ügynökök megfigyelését, valamint szabályozását támogatja.

A közlemény szerint ezek az ügynökök kódot írhatnak, parancsokat hajthatnak végre, hitelesítő adatokat használhatnak, adatbázisokat kérdezhetnek le és API-kat hívhatnak meg. Mindezt gépi sebességgel, korlátozott emberi felügyelet mellett tehetik. Az ügynököt megtéveszthetik, feltörhetik, hibázhat, vagy olyan műveletbe kezdhet, amely nem tartozik az eredeti feladatához.

Az AgentGuard minden ügynököt tartós identitásként kezel, amelyhez küldetés, korábbi viselkedés és elvárt tevékenységi minta tartozik. A rendszer folyamatosan azt értékeli, hogy az ügynök továbbra is a kijelölt feladatot követi-e, mi lehet a következő lépése, és engedélyezhető-e az adott művelet.

AIBA elemzi a küldetést és a műveletek sorozatát

A technológia központi eleme az AIBA, vagyis az AI Agent Behavioral Analytics. Ez a PRE Security szerint a biztonsági csapatok által használt UEBA, azaz felhasználói és entitásviselkedés-elemzési modell AI-ügynökökre kiterjesztett változata.

Az AIBA az ügynök identitását, küldetését, eszközeit, erőforrásait és műveleteinek sorrendjét vizsgálja. Az AgentGuard közvetlenül az ügynök és az általa használt eszközök közé illeszkedik. Minden műveletet összevet az ügynök céljával és előzményeivel, majd a PRE Threat Intelligence fenyegetési információival egészíti ki a döntést.

Ennek alapján más megítélés alá esik például egy ismert kártékony tartomány felkeresése és egy megbízható szolgáltatás használata. A végrehajtás pillanatában a rendszer engedélyezheti vagy megfigyelheti a műveletet, emberi jóváhagyást kérhet hozzá, illetve blokkolhatja azt.

A teljes folyamatból következtet a veszélyre

A PRE Security egy számlafizetési ügynök példájával szemléltette a működést. A szokásos folyamatban az ügynök elolvassa a számlát, ellenőrzi a beszállítót, összeveti a beszerzési megrendeléssel, majd előkészíti a kifizetést. Manipuláció után azonban hozzáférhet egy hitelesítőadat-tárolóhoz, érzékeny adatokat térképezhet fel, és külső átutalást kezdeményezhet.

A közlemény szerint az egyes lépések külön-külön legitimnek tűnhetnek, együtt viszont egy folyamatban lévő adat-kiszivárogtatás jeleit adhatják. A PRE Security bemutatóján az AgentGuard felismerte ezt a pályát, és blokkolta a külső átutalást, mielőtt adat hagyta volna el a környezetet.

Egy AI-kódolási asszisztenssel végzett másik demonstrációban ugyanazt a rendszerparancsot a megoldás normál működés közben engedélyezte, később viszont korlátozta, amikor az ügynök korábbi viselkedése gyanússá vált. John Peterson, a PRE Security társalapítója és vezérigazgatója szerint a promptszűrők azt kérdezik, veszélyes-e egy kérés, az AgentGuard viszont azt vizsgálja, hogy veszélyessé válik-e maga az ügynök.

Egy platformon kapcsolódik a vállalat többi eszközéhez

Az AgentGuard a PRE Security szerint kiterjeszti a vállalat kiberbiztonsági megközelítését az autonóm AI-rendszerekre. A cég a megoldást a Log2NLP™, a FAST autonóm vizsgálati technológia és az Agentic Surveillance technológiák mellett integrálja.

A vállalat célja, hogy a gyanús ügynöki viselkedést ugyanazon a platformon lehessen leállítani, kivizsgálni és folyamatosan figyelni. Az AgentGuardról és a bemutató igényléséről a PRE Security weboldalán közölnek további információkat.