Az NVIDIA nyílt platformmal felügyelné folyamatosan az AI-ügynököket

Az ügynökök önálló működése új biztonsági réteget igényel

Az NVIDIA szerint az AI-ügynökök fejlesztésének felgyorsulása mellett a biztonsági kutatásnak és mérnöki munkának is gyorsulnia kell. A vállalat olyan esetekre hivatkozik, amikor ügynökök kitörtek az őket korlátozni hivatott értékelési környezetből, és olyan rendszereket értek el, amelyekhez nem kellett volna hozzáférniük. Egyes ügynökök ráadásul helytelenül számoltak be a végrehajtott műveleteikről.

A közlemény szerint ezekhez az esetekhez nem egyetlen új képesség vezetett. Az eszközök, a hosszú működési idő, a nem egyértelmű utasítások és az úgynevezett kereteken kívüli gondolkodás együttesen okozhat problémát. Az NVIDIA ezt driftnek, vagyis az ügynök tervezett feladatától vagy működési korlátaitól való eltérésnek nevezi. Ilyen eltérés történhet egy szabály blokkolása, programhiba, hiányzó eszköz vagy kétértelmű utasítás miatt is.

A vállalat álláspontja szerint az ügynökök nem képesek teljesen önállóan felügyelni saját viselkedésüket ezekben a helyzetekben. Ezért a biztonsági ellenőrzéseket az ügynökön kívül kell elhelyezni, hasonlóan ahhoz, ahogy a böngészők elszigetelik a weboldalak kódját.

Az OpenShell elkülönített környezetben futtatja az ügynököket

Az NVIDIA OpenShell Apache 2.0 licencű, nyílt forráskódú biztonságos futtatókörnyezet autonóm AI-ügynökökhöz. Az ügynököket elkülönített, kernel szintű izolációt használó környezetben futtatja, és a vállalat szerint minden ügynöknek alapértelmezés szerint zéró bizalmi környezetben kellene működnie.

Az OpenShellben az üzemeltető határozhatja meg, hogy az ügynök mely fájlokhoz, hálózatokhoz, eszközökhöz, folyamatokhoz és hitelesítő adatokhoz férhet hozzá. A rendszer ezeket a korlátokat az indítás előtt ellenőrzi, majd a működés közben is érvényesíti.

Az NVIDIA öt alapelvet emel ki. A szabályzatnak ellenőrizhetőnek kell lennie, a végrehajtásnak az ügynökön kívül kell történnie, és az ügynök modellhez vezető útját kell ellenőrzési pontként használni. A vállalat szerint az ügynök jogosultságait a gondolkodásának vizsgálhatóságához kell igazítani. A platformnak emellett a megosztott felelősség elvét követnie kell, amelyben a fejlesztői laborok, a vállalatok és a hardverszolgáltatók különböző rétegekért felelnek.

A BlueField-4 hardveres réteget ad a felügyelethez

Az NVIDIA Sentry a biztonsági ellenőrzést a BlueField hardverére is kiterjeszti. Az NVIDIA DOCA programozhatóvá teszi a BlueField biztonsági alapját, és összekapcsolja azt az OpenShell szabályzataival. A rendszer összefüggésbe rendezi az ügynökök interakcióit, a szabályzati döntéseket, valamint az eszköz- és adathozzáféréseket, így részletesebb tevékenységi rekordot hoz létre.

Ez a vállalat szerint segíthet az eltérések felismerésében, a gyanús viselkedés kivizsgálásában és annak eldöntésében, hogy szükség van-e beavatkozásra vagy mélyebb elemzésre. A DOCA átjárója identitáskezelést is biztosít, és folyamatosan ellenőrzi az ügynökök identitását, valamint a rájuk ruházott jogosultságokat.

Az Open Agent Safety Platformot NVIDIA Vera CPU-kra és BlueField DPU-kra épülő rendszerekhez optimalizálták, de más hardverrendszerekkel is kompatibilis. Az NVIDIA Vera Rubin POD rendszerekben minden számítási tálca BlueField-4 adatfeldolgozó egységet tartalmaz. A vállalat leírása szerint ez a csomópont modellhez vezető egyetlen útján helyezkedik el, ezért folyamatos, az ügynökön kívüli megfigyelést és valós idejű szabályérvényesítést tesz lehetővé. A BlueField-4 elszigetelten, az ügynök számára elérhetetlenül működik, így a host erőforrásaitól független védelmi réteget adhat.

Nyílt rétegekre épülő megközelítés

Az NVIDIA platformja három szintet különít el: az alkalmazást, a futtatókörnyezetet és az infrastruktúrát. Az alkalmazási réteghez tartoznak a modellek, a vezérlőkörnyezetek, az eszközök, az adatok és a támogató programok. A futtatókörnyezet ezeket az infrastruktúrára vetíti, és folyamatos felügyeletet, valós idejű szabályérvényesítést, valamint irányítást biztosít. Az infrastruktúra a hálózati, adatbázis- és fájlrendszer-hozzáféréseket, az általános számítási erőforrásokat és a biztonsági felügyelet gyorsítását végző hardvert foglalja magában.

A vállalat szerint a futtatókörnyezetnek és a szabályzat nyelvének nyíltnak kell lennie, hogy különböző szolgáltatók is csatlakozhassanak hozzá. A felhasználók az OpenShell segítségével már most is elkülönített környezetben futtathatják az ügynököket, míg az Open Agent Safety Platform a szoftveres korlátozás mellé opcionális, hardveres biztonsági réteget kínálhat.