A Vultr az NVIDIA ügynökbiztonsági platformját vizsgálja

A biztonságot a futtatási környezetbe helyeznék

A Vultr szeptember 28-i közleménye szerint a vállalatok egyre nagyobb önállóságot adnak az AI-ügynököknek. Ezek az ügynökök belső rendszerekhez és hitelesítő adatokhoz férhetnek hozzá, valamint több lépésből álló műveleteket hajthatnak végre anélkül, hogy minden egyes lépéshez emberi jóváhagyásra lenne szükség.

Ez az önállóság teszi őket hasznossá, ugyanakkor nehezebbé is teszi a viselkedésük ellenőrzését. A Vultr szerint egy ügynök olyan megoldást is választhat, amelyet korábban senki nem írt elő számára. A vállalat egyetért az NVIDIA megközelítésével, amely szerint az ügynökök védelme alapvetően infrastruktúra-kérdés, és nem kizárólag a modell feladata.

A modell összehangolása és a promptszintű korlátozás meghatározhatja, hogy egy ügynök mit próbál megtenni, de önmagában nem szabályozza, hogy futás közben ténylegesen mihez férhet hozzá. Az autonóm ügynökrendszer három rétegből áll: a modellből, az ügynököt irányító keretrendszerből és a műveleteket végrehajtó futtatási környezetből. A vállalati szintű védelmet a Vultr szerint az utóbbi rétegben kell kikényszeríteni.

Három elemre épül az NVIDIA megoldása

Az NVIDIA Agent Safety Platform három összetevőt foglal magában. Az NVIDIA OpenShell nyílt forráskódú, Apache 2.0 licencű biztonságos futtatási környezet, amely minden ügynököt külön homokozóban futtat. A rendszer szabályokat alkalmaz az ügynök által elérhető fájlokra, hálózatokra, hitelesítő adatokra, eszközökre és modellvégpontokra.

Az OpenShell beépített ellenőrzője vizsgálja a szabálysértéseket és a homokozó megkerülésére irányuló kísérleteket. A rendszer naplózza az összes engedélyezési és tiltási döntést, így azok auditálhatók.

Az NVIDIA BlueField-4 hardveresen elkülönített alapot biztosít. A Vultr ismertetése szerint a komponens a lapkán belül végez fenyegetésészlelést és szabályérvényesítést, az ügynök saját végrehajtási környezetén kívül. Így a korlátozások akkor is érvényben maradhatnak, ha maga a gazdagép veszélybe kerül.

Az NVIDIA Vera CPU-rendszerek az ügynökök összehangolásához, a homokozók működtetéséhez és az adatfeldolgozáshoz szükséges, processzorigényes számítási kapacitást biztosítják. A három elem együtt lehetővé teszi, hogy az üzemeltető pontosan meghatározza az ügynök hozzáférését. Egy ügynök például hozzáférhet egy engedélyezett belső dokumentumrendszerhez, miközben a nyilvános internet elérése tiltva marad.

A Vultr az ügyfelek biztonsági igényeire keres választ

A GPU-felhőinfrastruktúrát működtető Vultr jelenleg azt értékeli, hogyan illeszthetők az NVIDIA Agent Safety Platform összetevői a saját infrastruktúrájába. A vállalat célja, hogy ügyfelei számára a legkisebb szükséges jogosultságot, az elkülönítést, a kifejezett engedélyezést és az auditálhatóságot a futtatási rétegben lehessen kikényszeríteni.

A Vultr szerint a naplózott engedélyek és tiltások felgyorsíthatják a biztonsági felülvizsgálatot, a beszerzési folyamatokat és a megfelelőségi ellenőrzéseket. Ha egy veszélybe került vagy hibásan működő ügynököt a futtatási környezet külön karanténba tud zárni, az üzemeltető nagyobb önállóságot adhat neki anélkül, hogy az egész rendszert le kellene állítania.

„Az ügynökök önállósága csak akkor skálázható, ha az alattuk lévő infrastruktúra tervezésénél fogva megbízható, nem pedig feltételezés alapján”, mondta Kevin Cochrane, a Vultr marketingigazgatója. Hozzátette, hogy a vállalat értéket lát az NVIDIA futtatási rétegben érvényesített megközelítésében, és vizsgálja, hogyan illeszthető az az ügynökalapú munkaterheléseket támogató Vultr-rendszerekhez.

A Vultr az Open Secure AI Alliance célkitűzéseivel is egyetért. A vállalat szerint az ügynökbiztonságot nem zárt környezetben kell fejleszteni, a bizalmi határoknak ellenőrizhetőnek, vitathatónak és javíthatónak kell lenniük. A közlemény szerint a Vultr az AI-infrastruktúra szolgáltatóit és ügyfeleit is arra ösztönzi, hogy közvetlenül kapcsolódjanak be ebbe a munkába.