A Check Point és az NVIDIA új védelmet épít az AI-ügynökök köré

Az ügynök akkor is hibázhat, ha minden szabályt betart

A Check Point szerint az AI-ügynökök egyre gyakrabban terveznek, eszközöket használnak, érzékeny adatokkal dolgoznak, és más ügynökökre bíznak feladatokat. Értékük éppen abból fakad, hogy olyan munkát is elvégeznek, amelyet nem írtak le számukra lépésről lépésre.

Ez új kockázatot teremt. Egy ügynök támadó jelenléte nélkül is hozzáférhet érzékeny adatokhoz, hitelesítő adatokhoz vagy belső rendszerekhez. Megbízható utasításként kezelhet félrevezető tartalmat, majd eszközökön, külső kommunikációs csatornákon vagy más ügynökökön keresztül végre is hajthatja az abból következő műveletet.

A meglévő védelmi rétegek továbbra is fontosak. Az elkülönítés korlátozza, mihez férhet hozzá az ügynök, a hálózati védelem szabályozza a kapcsolatait, a megfigyelés pedig rögzíti a történteket. A Check Point szerint azonban egy művelet akkor is lehet hibás, ha technikailag engedélyezett. A döntő kérdés az, hogy az adott lépés szolgálja-e az ügynök eredeti feladatát.

Az NVIDIA OpenShell és a Check Point ellenőrzi az akciókat

Az NVIDIA a GTC Berlin rendezvényen mutatta be az NVIDIA OpenShell Reference Architecture nevű megoldást biztonságos AI-ügynökök nagy léptékű futtatására. A Check Point közlése szerint része a kezdeményezésnek, és az NVIDIA OpenShell nyílt forráskódú, biztonságos futtatási környezetére épít, illetve ahhoz hozzájárul.

Az OpenShell szabályozza, hogy az egyes ügynökök mely fájlokat, eszközöket és hálózatokat használhatják. A Check Point ehhez további ellenőrzést ad: az ügynök által javasolt műveletet az eredeti feladat, a látott információk, a korábbi lépések és az alkalmazandó szabályok összefüggésében vizsgálja.

A vállalat példája szerint egy beszerzési ügynök egy beszállítói ajánlatokat összehasonlító feladat közben egy bizalmas árlistát készül elküldeni külső címre. Bár az e-mail-küldés engedélyezett, ez nem felel meg a feladatnak. A Check Point ilyenkor blokkolhatja az üzenetet, és arra utasíthatja az ügynököt, hogy a vállalaton kívül ne ossza meg a munkafüzetet, hanem jóváhagyott adatok alapján folytassa az összehasonlítást.

A megoldás súlyosabb helyzetekben azonnali leállítást vagy elkülönítést is kezdeményezhet. Ilyen eset lehet az ellopott hitelesítő adat használata, a védett környezetből való kitörési kísérlet, az adatok tényleges távozása a vállalatból vagy a szabályok ismételt, szándékos megszegése.

A hardveres védelem a futtatási környezetet figyeli

Az NVIDIA Sentry az NVIDIA BlueField-4 eszközön fut, és a Check Point ismertetése szerint az ügynököt futtató gépen kívüli, hardveresen elkülönített tartományból érvényesíti a védelmi intézkedéseket. Ez a réteg az ügynök számára nem hozzáférhető, és milliszekundumok alatt karanténba helyezhet egy ügynököt.

A Check Point AI Factory Firewall az AI-infrastruktúrát védi fenyegetésmegelőzéssel és szegmentálással. Az NVIDIA Sentryre, valamint az NVIDIA DOCA Argus technológiára építve kívülről figyeli a munkaterheléseket, és olyan veszélyeket keres, mint a modellek manipulálása, a hitelesítő adatok ellopása, a konténerekből való kitörés és az engedély nélküli GPU-használat. A Check Point szerint ez a védelem akkor is működik, ha maga a munkaterhelés már kompromittálódott.

A vállalat a felépítést két külön feladatot kezelő rétegként írja le. Az egyik az ügynököt tartja a rábízott feladaton, a másik azt vizsgálja, hogy megbízható-e az infrastruktúra, amelyen az ügynök fut. A Check Point szerint ez a megközelítés az alkalmazotti AI-használatot, az éles AI-alkalmazásokat és az ezek mögötti infrastruktúrát is lefedi.

Mit látnak ebből a vállalati felhasználók?

A bemutatott folyamatban az ügynök feladatát, azonosítóját és az érvényes szabályokat megosztják a Check Pointtal. Az ügynök javasol egy műveletet, amelyet az OpenShell fontos eszközhívás előtt felülvizsgálatra küld. A normál akció folytatódik, a feladattól eltérő lépést a rendszer blokkolhatja és biztonságosabb alternatívát adhat, a világos fenyegetés pedig erősebb elszigetelést válthat ki.

A Check Point szerint így az ügynökök folytathatják a munkát, amikor a hiba biztonságosan javítható, miközben a súlyos fenyegetések gyorsan megállíthatók. A biztonsági csapat az ügynöki döntéseket és az infrastruktúrából származó jeleket együtt láthatja a vizsgálatokhoz és a szabályok javításához.