A Darktrace az AI-ügynökök viselkedését is biztonsági szempontból figyeli

Az AI-használat gyorsan terjed a vállalatoknál

A Darktrace szeptember 22-i blogbejegyzése szerint ügyfeleinek több mint 80 százaléka használ generatív AI-szolgáltatásokat. A vállalat összesített terméktelemetria alapján azt is közölte, hogy 2026 augusztusában egy átlagos szervezet öt különböző AI-szolgáltatással lépett kapcsolatba. Az adat körülbelül 8200 megfigyelt telepítésből származik, és azokat a megfigyelt fiókokat veszi számításba, amelyek az adott időszakban legalább egy generatív AI-szolgáltatást használtak.

A gyors terjedés új biztonsági kockázatokat is előtérbe helyez. Egy felhasználói kérés érzékeny adatokat tartalmazhat, egy túl széles jogosultságokkal rendelkező AI-ügynök pedig a szokásos feladatot is komolyabb kitettséggé alakíthatja. Kockázatot jelenthet az is, ha egy alkalmazott a szervezet által nem engedélyezett AI-eszközt használ.

A Darktrace a viselkedés megértésére épít

A vállalat szerint a hagyományos, ismert mintákra és statikus szabálysértésekre épülő biztonsági kontrollok nehezen kezelik az AI-rendszerek alkalmazkodó és kiszámíthatatlan működését. Egy kérés jelentése a környezettől függhet, ahogy egy AI-ügynök jogosultságainak kockázata is csak az ügynök tényleges tevékenységével együtt válhat láthatóvá.

A Darktrace / SECURE AI a Darktrace Behavioral Defense Platform részeként működik. A cég több mint egy évtizedes viselkedésalapú megközelítését terjeszti ki az AI-környezetre. A Darktrace Adaptive AI technológiája a vállalat állítása szerint az egyes szervezetek felhasználóinak, rendszereinek és eszközeinek sajátos viselkedését, kapcsolatait és működési mintáit tanulja meg.

Az új megoldás a felhasználók, az AI-ügynökök és az AI-rendszerek tevékenységébe ad betekintést. A kapcsolatok és az adatok összefüggéseinek vizsgálatával a Darktrace a rutinszerű használat és a tényleges kockázat elkülönítését, valamint a szervezeti szabályokhoz igazodó viselkedés ellenőrzését célozza.

Négy területen vizsgálja az AI-kockázatokat

A Darktrace / SECURE AI a nem engedélyezett, úgynevezett árnyék-AI-szolgáltatások felderítését és használatuk időbeli követését is támogatja. A megoldás a Model Context Protocol használatáról is láthatóságot adhat, így a biztonsági csapatok felmérhetik, mely AI-eszközök és ügynökök kapcsolódnak külső szolgáltatásokhoz. A platform integrációin keresztül az illetéktelen használat blokkolható, illetve az érintett eszköz karanténba helyezhető.

A rendszer támogatott platformokon, köztük a Microsoft Copilot, a Copilot Studio, a ChatGPT Enterprise, a Claude, a Salesforce és az AWS Bedrock környezetében biztosít betekintést a kérésekbe, munkamenetekbe és válaszokba. A viselkedéselemzés az olyan tevékenységeket keresheti, mint a jailbreak-kísérlet, érzékeny adatok feltárása vagy a lehetséges közvetett promptinjektálás. A kockázati pontszámok segíthetik az elemzőket a figyelmet igénylő munkamenetek rangsorolásában.

A megoldás az AI-ügynökök identitását, szerepköreit, jogosultságait és kapcsolatait is összekapcsolja az őket használó felhasználókkal. Valós idejű ellenőrzési naplóval követhető, hogy az ügynök tevékenysége összhangban marad-e a rendeltetésével. Az AI-ügynökök fejlesztésénél a Darktrace alacsony kódigényű és magas kódigényű környezeteket is lefed. Az AWS Bedrock esetében az AI-architektúra és a fejlesztésben, illetve üzembe helyezésben részt vevő ügynökidentitások vizsgálhatók, a Copilot Studio esetében pedig az ügynök létrehozása és működésének alakulása követhető.

A megoldás már általánosan elérhető

A Darktrace közlése szerint a Darktrace / SECURE AI már általánosan elérhető. A vállalat célja, hogy az AI bevezetése mellett a szervezetek rálátást és irányítást kapjanak a felhasználói kérések, az ügynökök jogosultságai, a fejlesztési folyamatok és a jóvá nem hagyott eszközök felett.

A felhasználók számára ez azt jelentheti, hogy a biztonsági csapatok egyetlen megközelítésben vizsgálhatják az AI-használat több rétegét, a kérésektől és válaszoktól az ügynökök kapcsolataiig. A Darktrace szerint így a szervezetek az AI-szolgáltatások használatát közvetlenebb bizonyítékok alapján szabályozhatják, és még az éles működés előtt azonosíthatják a hibás konfigurációkat vagy a túlzott jogosultságokat.