A Vultr az NVIDIA ügynökbiztonsági platformját vizsgálja

A modell viselkedése önmagában nem elég

A Vultr szeptember 28-i bejegyzése szerint az ügynökalapú mesterséges intelligencia a kísérleti szakaszból egyre inkább éles vállalati környezetekbe kerül. A vállalatok már olyan ügynököket alkalmaznak, amelyek belső rendszerekhez és hitelesítő adatokhoz férhetnek hozzá, valamint több lépésből álló műveleteket hajthatnak végre közvetlen emberi jóváhagyás nélkül.

A nagyobb önállóság teszi hasznossá ezeket a rendszereket, ugyanakkor nehezebbé is teszi a megbízhatóságuk ellenőrzését. A Vultr szerint a modellhangolás és a promptok szintjén beállított korlátozások azt befolyásolják, mire törekszik az ügynök, de nem szabják meg teljes körűen, mire képes futás közben.

A vállalat egy ügynöki rendszer három rétegét különíti el: a modellt, az irányításért felelős keretrendszert és a műveleteket végrehajtó runtime környezetet. Álláspontja szerint a vállalati szintű biztonságot a runtime rétegben kell kikényszeríteni, függetlenül attól, hogy az ügynök vagy az őt irányító keretrendszer milyen döntést hoz.

Három komponensre épül az NVIDIA megközelítése

Az NVIDIA Agent Safety Platform három fő elemet foglal magában. Az NVIDIA OpenShell nyílt forráskódú, Apache 2.0 licencű biztonságos runtime, amely minden ügynököt külön homokozóban futtat. A rendszer szabályokat alkalmaz az ügynök által elérhető fájlokra, hálózatokra, hitelesítő adatokra, eszközökre és modellvégpontokra.

A beépített ellenőrző a szabálysértéseket és a homokozóból való kijutási kísérleteket vizsgálja, miközben minden engedélyezési és tiltási döntést naplóz. Ez auditálhatóvá teszi, hogy egy ügynök milyen műveleteket hajthatott végre.

Az NVIDIA BlueField-4 hardveresen elkülönített alapot biztosít. A platform a fenyegetések felismerését és a szabályok betartatását az ügynök saját végrehajtási környezetén kívül, szilíciumszinten végzi. A Vultr leírása szerint így a kikényszerítés akkor is érvényben maradhat, ha maga a gazdarendszer kompromittálódik.

Az NVIDIA Vera CPU rendszerek az ügynökök összehangolásához, a homokozók működtetéséhez és a nagy léptékű adatfeldolgozáshoz szükséges, CPU-intenzív számítási kapacitást biztosítják.

A Vultr ügyfél-infrastruktúrába illesztené a megoldást

A Vultr GPU-felhő-infrastruktúrát épít és üzemeltet, amelyen a vállalat szerint az ügynökalapú AI-munkaterhelések egyre nagyobb része fut. A cég jelenleg azt vizsgálja, hogyan illeszthetők az NVIDIA Agent Safety Platform komponensei a saját infrastruktúrájába.

A megközelítés lényege a legkisebb szükséges jogosultság, az elkülönítés, a kifejezett engedélyezés és az auditálhatóság. Egy ügynök például hozzáférést kaphat egy jóváhagyott belső dokumentumrendszerhez, miközben a nyilvános internet elérése tiltva marad. A határt a runtime kényszeríti ki, függetlenül az ügynök saját következtetéseitől.

A Vultr szerint a részletes naplók felgyorsíthatják a biztonsági felülvizsgálatot, a beszerzést és a megfelelőségi folyamatokat. Ha a runtime képes karanténba helyezni egy kompromittált vagy hibásan működő ügynököt anélkül, hogy az egész rendszert le kellene állítani, a vállalatok nagyobb önállóságot adhatnak ezeknek a rendszereknek.

„Az ügynöki önállóság csak akkor skálázható, ha az alatta lévő infrastruktúra tervezetten megbízható, nem pedig feltételezés alapján”, mondta Kevin Cochrane, a Vultr marketingigazgatója. A cég emellett támogatja az Open Secure AI Alliance megközelítését, amely szerint az ügynökbiztonság fejlesztésének nyitottnak, a bizalmi határoknak pedig ellenőrizhetőnek és javíthatónak kell lenniük.