A Palo Alto Networks és az NVIDIA az autonóm AI-ügynökök védelmén dolgozik

Az autonóm ügynökök új biztonsági kihívást jelentenek

A Palo Alto Networks szeptember 28-i bejelentése szerint az AI-ügynökök az emberi kérdésekre válaszoló asszisztensektől az önállóan érvelő, tervező és cselekvő rendszerek felé tartanak. Ezek az ügynökök kódot írhatnak és futtathatnak, vállalati adatokhoz férhetnek hozzá, eszközöket és API-kat hívhatnak meg, valamint korlátozott emberi beavatkozás mellett dolgozhatnak egy cél elérésén.

A vállalat szerint ez megváltoztatja a biztonsági modellt. Egy autonóm ügynök új megoldást kereshet, ha az első útvonal akadályba ütközik, ezért önmagukban a modellekbe épített utasítási korlátok nem elegendők. A Palo Alto Networks megfogalmazása szerint a vezérlési réteg irányíthatja, hogy mit kell tennie az ügynöknek, a biztonságnak viszont azt kell ellenőriznie, hogy mit tehet meg.

Három rétegen épül az NVIDIA-val bővített együttműködés

Az NVIDIA gyorsított számítási platformot, biztonságos futtatási alapot és referenciarendszer-tervet biztosít az ügynökalapú AI-hoz. A Palo Alto Networks az AI-biztonsági képességeket adja a vállalati interakciók irányításához, a munkaterhelések védelméhez, valamint az identitás és a hozzáférés szabályozásához. A két vállalat együttműködését az NVIDIA Open Agent Safety Platform referenciaterve köré bővítik.

Az első elem a Prisma AIRS AI Gateway, amely a Palo Alto Networks előretekintő architektúrájában NVIDIA Vera CPU-rendszereken fut. A gateway valós időben ellenőrzi az ügynökök identitását, a legkisebb szükséges jogosultságot érvényesíti, kiszűri az érzékeny adatokat, és megvizsgálja az interakciókat. A vállalat szerint így az illetéktelen műveletek még azelőtt megállíthatók, hogy kritikus gazdarendszerekhez vagy felhővégpontokhoz jutnának.

A második elem a Prisma AIRS AI Runtime Security NVIDIA BlueField DPU-n. A Palo Alto Networks AI Runtime tűzfala a Zero Trust védelmet az AI-infrastruktúra és az AI Edge elülső hálózati forgalmára is kiterjeszti. A közlemény hardveresen elkülönített határokat, ügynök nélküli viselkedéselemzést és alapértelmezett, legkisebb jogosultságon alapuló hozzáférést emel ki. A NVIDIA DOCA Argus az ügynökök végrehajtási útvonalait, memóriastruktúráit és eszközhívásait figyelheti CPU-terhelés nélkül, a telemetria pedig a Cortex XSIAM rendszerébe kerülhet megfigyelésre, elemzésre és helyreállításra.

A harmadik terület az IDIRA Agent Identity Security. A Palo Alto Networks tervei szerint az NVIDIA OpenShell integrálódhat az IDIRA későbbi identitásbiztonsági képességeivel, beleértve az OpenShell sandbox identitás- és titokkezelését, valamint az NVIDIA BlueFieldön működő ügynökidentitás-közvetítő szolgáltatást.

A cél a tartós emberi hozzáférések csökkentése

A Palo Alto Networks szerint az ügynökök autonómiájának növekedésével az identitás válik annak alapjává, hogy mely rendszerekhez férhetnek hozzá, és milyen műveleteket hajthatnak végre. A vállalat a jövőben a Prisma AIRS AI Gatewayt az IDIRA által biztosított Agent Identity Security érvényesítési pontjaként is használná, miközben az Agent Identity Broker támogatását közvetlenül az NVIDIA BlueFieldre is kiterjesztené.

Az elképzelés szerint az identitás ellenőrzése és a hozzáférési szabályok a gazdakörnyezettől függetlenül is működhetnének. A cél az illetéktelen végrehajtás megakadályozása, a tartós hozzáférések csökkentése és a jogosultságok kiterjesztésének megállítása, miközben az ügynökök vállalati rendszerekkel lépnek kapcsolatba.

Az együttműködés a felhasználó vállalatok számára egyetlen ellenőrzési ponton keresztüli modell- és eszközkapcsolatot, az AI-interakciók nyomon követését, a költségek figyelését, valamint az engedélyezett eszközökre korlátozott hozzáférést kínálna. A Palo Alto Networks szerint a következő szakaszban az lesz meghatározó, hogy a vállalatok biztonságosan, nagy léptékben megbízhatnak-e az önállóan működő ügynökökben.