A Datadog futás közbeni védelemmel biztosítaná az AI-ügynököket
A Datadog AI Guard nevű megoldása az AI-ügynökök működési hurkába építve értékeli a döntéseket, és szükség esetén blokkolja a veszélyes lépéseket. A vállalat szerint a hagyományos jogosultságkezelés önmagában nem képes megállapítani, hogy egy engedélyezett művelet valóban a kívánt célt szolgálja-e.
- Az AI Guard az AI-ügynökök működési hurkában értékeli a döntéseket.
- A rendszer promptokat, modellkimeneteket, eszközhívásokat és eredményeket is blokkolhat vagy tisztíthat.
- A Datadog szerint a teljes munkamenet rekonstruálható a blokkolt műveletek kivizsgálásához.
- A megoldás személyes adatokat és titkokat maszkolhat valós időben.
- A SecurityHQ és a Datadog felmérésében a válaszadók 40 százaléka aggódott a láthatatlan ügynöki döntések miatt.
Az engedélyezett művelet is lehet veszélyes
A Datadog 2026. november 2-án közzétett bejegyzése szerint az AI-ügynökök széles támadási felületet hoznak létre, mivel belső rendszerekhez, fejlesztői eszközökhöz és érzékeny üzleti adatokhoz férhetnek hozzá. Emellett eszközökön, API-kon és MCP-ken keresztül külső tartalmakat is feldolgoznak, amelyekben rosszindulatú utasítások lehetnek elrejtve.
A cég az EchoLeak incidenseit hozza fel példaként arra, hogy a közvetett promptinjektálás reputációs károkat és érzékeny adatok kiszivárgását okozhatja. Egy GitHub-problémák osztályozására használt ügynök például olyan eszközhívással találkozhat, amely rejtett utasításként telepítési hitelesítő adatok összegyűjtésére és külső végpontra küldésére próbálja rávenni.
A Datadog szerint ilyenkor minden egyes művelet megfelelhet az ügynök jogosultságainak, a teljes viselkedés mégis eltérhet a szervezet szándékától. Ezért a biztonsági vezérlőknek futás közben, az adott művelet teljes környezetét figyelembe véve kell értékelniük a szándékot.
Az AI Guard az ügynök döntési folyamatába épül
Az AI Guard közvetlenül az ügynökök működési hurkában fut. A Datadog szerint így minden döntési pontnál láthatja, melyik szolgáltatás hívta meg az ügynököt, milyen függőségei vannak, milyen tárolt adatokhoz fért hozzá, illetve mit olvasott és hajtott végre korábban.
A megoldás a működés megkezdése előtt feltérképezi a felhőkörnyezetben futó ügynököket, valamint az általuk elért modellvégpontokat, adattárakat és kapcsolódó szolgáltatásokat. Futás közben rögzítheti a teljes beszélgetési előzményt, a rendszerutasításokat, az ügynök feladatait, az eszközhívásokat és a következő végrehajtandó lépést. A Datadog szerint ez a több lépésből álló, közvetett támadások felismeréséhez is szükséges, amikor önmagában egyik üzenet sem tűnik rosszindulatúnak.
A csapatok saját szabályzatokat, eszközblokkolási szabályokat és üzleti környezetet is megadhatnak. A rendszer a szolgáltatás, a függőségek, az adattárak, a tulajdonos és az ügynök által ténylegesen érintett erőforrások adatait is felhasználja az értékeléshez.
Az AI Guard több ponton képes blokkolni vagy megtisztítani a promptokat, a modellkimeneteket, az eszközhívásokat és azok eredményeit, még a végrehajtás előtt. Érzékenyadat-keresés bekapcsolásakor a személyes adatok és a titkok valós időben maszkolhatók. Ha egy lépés eltér a szervezet által meghatározott szándéktól, a rendszer leállítja a viselkedési láncot.
A vizsgálat és a reagálás is a Datadogban marad
A Datadog szerint a fenyegetés blokkolása mellett azt is fel kell tárni, mi vezetett a veszélyes művelethez, és milyen rendszerekre hathatott ki. A SecurityHQ és a Datadog több mint 200 kiberbiztonsági vezető bevonásával készült felmérésében a válaszadók 39 százaléka mondta azt, hogy szervezetük csak részben tudta rekonstruálni, milyen műveleteket hajtott végre egy AI-ügynök az előző 30 napban.
Az AI Guard jelzései rekonstruálják a blokkolt művelethez vezető teljes munkamenetet, összefoglalják, mi történt és hogyan, valamint összekapcsolják az ügynök interakcióit a részletes vizsgálathoz. Mivel ezek a jelzések ugyanazokon a nyomkövetéseken jelennek meg, mint az alkalmazás- és ügynökteljesítmény adatai, a Datadog szerint a csapatok a teljes technológiai környezetet is megfigyelhetik.
A megoldásból letilthatók a problémát okozó felhasználók vagy IP-címek, biztonsági ügy indítható, illetve helyreállítási munkafolyamat aktiválható. Az ügy Jira-ba vagy SIEM-rendszerbe is továbbítható. A Datadog szerint az AI Guard az alkalmazáscsapatok által már használt nyomkövetési és megfigyelési környezetbe illeszkedik, így a fejlesztők külön proxy felállítása vagy hibajegy benyújtása nélkül kapcsolhatják be az inline értékelést, miközben a biztonsági csapatok szabályzatokat állíthatnak be az egyes ügynökök belső működésének ismerete nélkül.
Ugyanebben a felmérésben a válaszadók 40 százaléka azt nevezte meg legnagyobb aggodalomként, hogy egy AI-ügynök úgy hoz döntést, hogy arról senki sem tud. A Datadog szerint a futás közbeni láthatóság ezt a fejlesztési és biztonsági csapatok közötti rést szűkítheti.
