A Red Hat biztonságos beléptetést épít az AI-ügynököknek

A vállalati ügynökök új biztonsági kockázata

A Red Hat szeptember 28-i bejegyzése szerint a vállalati AI-rendszerekkel foglalkozó csapatok gyakran már nem a modellek minőségével vagy a következtetés sebességével küzdenek. A nehezebb kérdés az, hogyan lehet egy ügynököt valódi rendszereken futtatni úgy, hogy pontosan követhető legyen, mit ért el, és ki hagyta jóvá a műveleteit.

Amíg egy ügynök csak szöveget állít elő, a legrosszabb következmény egy hibás válasz lehet. Ha azonban kódot futtathat és belső API-kat hívhat, egy hibás vagy kompromittált működés akár éles adatbázis törléséhez is vezethet. A Red Hat szerint az ügyfelek ezt eddig különálló, töredezett megoldásokkal próbálták kezelni.

A vállalat álláspontja szerint az ügynökök biztonságának alapértelmezett platformképességnek kell lennie, nem pedig minden csapat által külön felépített rendszernek.

Az OpenShell a futtatási környezetben érvényesíti a szabályokat

A Red Hat az NVIDIA-val és az OpenShell nyílt forráskódú közösségével együtt dolgozik a projekten. Az OpenShell a Red Hat AI része, és bekerült a NVIDIA Open Agent Safety Platformba is, amelyet a vállalatok önálló ügynökeinek biztonságára hoztak létre.

A rendszer nem kizárólag az utasítások szintjén próbálja kordában tartani a modellt. Saját futtatási környezetében szabályozza, hogy az ügynök mit hajthat végre, milyen adatokat láthat, mit érhet el, és hová kerülhet a következtetés. Az ügynökök hosszú ideig futó munkafolyamatokra kialakított elszigetelt környezetben működnek.

A szabálymotor a fájlrendszerhez, a hálózathoz és a folyamatokhoz való hozzáférést értékeli, egy átjáró pedig minden műveletet ellenőriz, mielőtt az elérné a gazdagépet. A Red Hat szerint ha az ügynök akadályba ütközik, megindokolhatja a problémát és javasolhat szabálymódosítást, de a jóváhagyás továbbra is emberi kézben marad.

Az OpenShell többek között Landlock, seccomp, felhasználói és hálózati névtér-elkülönítés, valamint L7-es vizsgálat alkalmazásával hoz létre több rétegű védelmet. A szabályok folyamatfüggők: a rendszer azonosítja, melyik bináris indítja a kimenő kapcsolatot, ellenőrzi annak SHA-256 hashét, majd ez alapján értékeli a hozzáférési szabályt.

Különválasztanák a gondolkodást és a végrehajtást

A hitelesítő adatok az ügynök munkaterületén kívül maradnak, és csak a hálózati határnál kerülnek be a folyamatba. A blokkolt kapcsolatokról a rendszer strukturált, Open Cybersecurity Schema Framework, vagyis OCSF, elutasításokat készít, így a biztonsági csapatok nem néma hibákból próbálják kideríteni, mi történt.

A Red Hat egy olyan működési mintát támogat, amelyben a gondolkodás és a végrehajtás különválik. A következtetés és a munkafolyamatok szervezése egy modell szolgáltatójánál történik, míg a kódfuttatás és a fájlhozzáférés az ügyfél által ellenőrzött infrastruktúrán, elszigetelt környezetben marad.

A vállalat korábbi tesztjeiben háromféle ügynöki elkülönítést vizsgált: a teljes ügynök, a végrehajtási környezet, illetve csak a létrehozott kód sandboxolását. Az OpenShell védelmi rétegét mindhárom esetben ellenőrizték, különböző keretrendszerekkel, Podmanen és Red Hat OpenShiften futó ügynökökkel is.

Az egyik eredmény az NVIDIA Secure Agent Workspace referenciaarchitektúrája. Ebben minden felhasználó saját virtuális gépet kap, az OpenShell az ügynök végrehajtási határát védi, a szabályokat GitOps kezeli, a hozzáféréshez pedig vállalati egyszeri bejelentkezés használható. A Red Hat szerint nincs megosztott ügynökfolyamat-tér.

A Red Hat platformképessé tenné a védelmet

A Red Hat hosszú távon is részt vesz az OpenShell fejlesztésében, karbantartóként az NVIDIA-val és a közösséggel együttműködve. A vállalat dolgozik azon, hogy a technológiát natív képességként integrálja a Red Hat AI-ba, így az ügynökbiztonság alapértelmezetté válhat.

A cég azt javasolja a szervezeteknek, hogy először vizsgálják meg, jelenleg mihez férhetnek hozzá az ügynökeik, beleértve a hitelesítő adatokat, az adatbázisokat és a belső szolgáltatásokat. Az OpenShell dokumentációja és kódtára szolgál kiindulópontként a további munkához.