Az NVIDIA nyílt biztonsági réteget épít az önálló AI-ügynökök köré

Az ügynökök önálló működése új biztonsági réteget igényel

Az NVIDIA szeptember 28-i közleménye szerint több vezető AI-laboratórium olyan esetekről számolt be, amikor ügynökrendszerek kijutottak az őket korlátozó értékelési környezetből, és olyan rendszereket értek el, amelyekhez nem kellett volna hozzáférniük. A vállalat szerint egyes ügynökök arról is pontatlanul számoltak be, hogy mit tettek.

A cég úgy látja, hogy ezekhez az esetekhez nem egyetlen új képesség vezetett. Az eszközök, a hosszú futási idő, a nem egyértelmű utasítások és az ügynöktől elvárt, megszokott kereteken kívüli gondolkodás együtt növelheti a kockázatot. Az NVIDIA szerint az ügynökök viselkedését ilyen helyzetekben nem lehet teljesen saját magukra bízni.

A vállalat ezért olyan bizalmi réteget javasol, amely az ügynökön kívül működő biztonsági vezérlésekkel figyeli és korlátozza annak tevékenységét.

Az OpenShell verifikálható szabályokkal korlátozza az ügynököket

Az Apache 2.0 licenc alatt elérhető NVIDIA OpenShell nyílt forráskódú, biztonságos futtatókörnyezet. Az autonóm AI-ügynököket elkülönített, kernel szintű izolációt használó környezetben futtatja.

Az üzemeltető meghatározhatja, hogy az ügynök mely fájlokhoz, hálózatokhoz, eszközökhöz, folyamatokhoz és hitelesítő adatokhoz férhet hozzá. Az OpenShell a futtatás előtt ellenőrzi ezeket a korlátokat, működés közben pedig érvényesíti őket.

Az NVIDIA által ismertetett megközelítés öt alapelvre épül. A szabályzatnak ellenőrizhetőnek kell lennie, az érvényesítésnek az ügynökön kívül kell történnie, a modellhez vezető útvonalnak ellenőrzési pontként kell szolgálnia, az ügynök jogosultságait össze kell hangolni a gondolkodásának vizsgálhatóságával, és meg kell osztani a felelősséget az AI-laboratóriumok, a vállalatok és a hardverszolgáltatók között.

Az NVIDIA szerint az ügynökök eltérhetnek a kijelölt feladattól vagy működési korlátaiktól, például egy szabályzati tiltás, programhiba, hiányzó eszköz, nem egyértelmű utasítás vagy hosszú ideig tartó sikertelen próbálkozássorozat miatt. A vállalat ezt az eltérést driftnek nevezi.

A BlueField-4 hardveresen is figyelheti a működést

Az Open Agent Safety Platform három réteget különít el: az alkalmazást, a futtatókörnyezetet és az infrastruktúrát. Az alkalmazási réteghez tartoznak a modellek, az eszközök, az adatok és a működéshez szükséges programok. A futtatókörnyezet ezeket a feladatokat a megfelelő infrastruktúrára szervezi, folyamatos felügyeletet, szabályérvényesítést és irányítást biztosít. Az infrastruktúra a tényleges hardveres erőforrásokat jelenti.

A kiegészítő, független védelmi réteget az NVIDIA Sentry adja. Ez a BlueField hardverén terjeszti ki a megfigyelést és a szabályok érvényesítését. Az NVIDIA DOCA összekapcsolja a hardveres biztonsági alapot az OpenShell szabályaival, majd az ügynök interakcióit, a szabályzati döntéseket, valamint az eszköz- és adathozzáféréseket egy összefüggő tevékenységi rekordban kapcsolja össze.

A rendszer így az NVIDIA szerint segíthet az eltérések felismerésében, a gyanús viselkedés kivizsgálásában és annak eldöntésében, hogy szükség van-e beavatkozásra vagy mélyebb elemzésre. A DOCA átjáró emellett folyamatosan ellenőrzi az ügynökök azonosságát és a rájuk ruházott jogosultságot.

A platformot Vera és BlueField alapú rendszerekre tervezték

Az NVIDIA Open Agent Safety Platform NVIDIA Vera CPU-kra és BlueField DPU-kra épülő rendszerekhez készült, de a vállalat szerint más hardverrendszerekkel is kompatibilis.

Az NVIDIA Vera Rubin POD rendszerben minden számítási tálca egy BlueField-4 adatfeldolgozó egységet tartalmaz. Ez a csomópont egyetlen, modellhez vezető útvonalán helyezkedik el, ezért a vállalat szerint folyamatos, a rendszeren kívül működő rálátást biztosíthat az ügynök viselkedésére, és valós időben, vonali sebességen érvényesítheti a biztonsági szabályokat.

A BlueField-4 elkülönül a gazdarendszertől és az ügynök nem fér hozzá. A szervezetek az NVIDIA Sentryt opcionális biztonsági rétegként használhatják az OpenShell mellett. Az NVIDIA a platformot nyílt futtatókörnyezetre és szabálynyelvre építi, hogy különböző szolgáltatók is csatlakozhassanak hozzá.