A Red Hat biztonságos környezetet épít a vállalati AI-ügynököknek

A vállalati ügynökök új biztonsági kockázatot jelentenek

A Red Hat szeptember 28-i bejegyzése szerint a vállalati AI-rendszerekkel kapcsolatos beszélgetések gyakran ugyanahhoz a kérdéshez jutnak el: mi történik akkor, ha egy működőképes ügynökből 1000 fut egyszerre a vállalaton belül? Az ilyen rendszerek kódot írhatnak, belső API-kat hívhatnak meg, és saját hibáikat is javíthatják.

A vállalat szerint a csapatokat sok esetben nem a modellek minősége vagy a következtetés sebessége akadályozza, hanem annak pontos követése, hogy egy ügynök milyen rendszerekhez fért hozzá, és ki hagyta jóvá a műveleteit. Ha egy modell csak szöveget állít elő, a legrosszabb következmény egy hibás válasz lehet. Ha azonban valódi rendszereken hajt végre műveleteket, akár egy éles adatbázis törlése is bekövetkezhet.

A Red Hat úgy látja, hogy az ügynökök védelmét a futtatási platform alapértelmezett képességévé kell tenni. Ennek részeként dolgozik az OpenShell projekten az NVIDIA-val és a nyílt forráskódú közösséggel.

Az OpenShell a futtatást és a hozzáféréseket szabályozza

Az OpenShell a Red Hat ismertetése szerint közvetlenül a futtatási környezetben érvényesíti a szabályokat, így a védelem nem kizárólag a modellnek adott utasításokra támaszkodik. A rendszer meghatározza, hogy az ügynök mit futtathat, mit láthat és hová továbbíthatja a következtetést.

Minden ügynök, munkamenet, vagy ezek kombinációja saját végrehajtási környezetben futhat. A több rétegű elszigetelés része a Landlock, a seccomp, a felhasználói és hálózati névtér-izoláció, valamint az L7-es ellenőrzés. A szabálymotor a fájlrendszerhez, a hálózathoz és a folyamatokhoz való hozzáférést vizsgálja.

Az OpenShell azonosítja, hogy egy kimenő kapcsolatot melyik konkrét bináris kezdeményez, majd a szabály kiértékelése előtt ellenőrzi annak SHA-256 hashét. Így például engedélyezhető, hogy az ügynök futtatókörnyezete egyetlen végponthoz kapcsolódjon, miközben a homokozóban futó többi folyamat erre nem képes.

A hitelesítő adatok az ügynök munkaterületén kívül maradnak, és csak a hálózati határnál kerülnek beinjektálásra. A blokkolt kapcsolatokról strukturált, Open Cybersecurity Schema Framework, vagyis OCSF, formátumú tiltási esemény készül. Ha az ügynök akadályba ütközik, javasolhat szabálymódosítást, a jóváhagyás azonban az embernél marad.

A Red Hat különválasztaná a gondolkodást és a végrehajtást

A Red Hat egy olyan működési mintát támogat, amelyben a gondolkodás és a végrehajtás külön környezetben zajlik. A modell szolgáltatójánál marad a következtetés és a folyamatok irányítása, miközben a kódfuttatás és a fájlok kezelése az ügyfél által ellenőrzött infrastruktúrán működő homokozóban történik. A vállalat szerint ez jelenleg az adatok tartózkodási helyére vonatkozó követelményeket is segíthet kezelni.

A Red Hat korábbi vizsgálata során háromféle elszigetelési mintát azonosított: a teljes ügynök, a végrehajtási környezet vagy csak a generált kód homokozóját. Az OpenShell kényszerítési rétegét mindhárom esetben tesztelték, különböző keretrendszerekre épülő ügynökökkel, Podman és Red Hat OpenShift használatával.

Az eredmények alapján referencia-architektúrákat készítettek biztonságos, ügynökökre épülő munkaterületekhez. Az NVIDIA Secure Agent Workspace referencia-megoldásában minden felhasználó saját virtuális gépet kap, az OpenShell pedig az ügynök végrehajtási határát védi. A kialakítás vállalati egyszeri bejelentkezést, GitOps által kezelt szabályokat és megosztott ügynökfolyamat-tér nélküli működést tartalmaz.

A Red Hat az NVIDIA-val és a közösséggel együtt dolgozik azon, hogy az OpenShell natív képességként kerüljön a Red Hat AI platformba. A vállalat azt javasolja, hogy a szervezetek elsőként vizsgálják át, milyen hitelesítő adatokhoz, adatbázisokhoz és belső szolgáltatásokhoz férhetnek hozzá jelenleg az ügynökeik.