A Red Hat és az NVIDIA hardveres védelmet adna az AI-ügynököknek

Az ügynökök új infrastruktúra-kockázatot jelentenek

A Red Hat október 21-én közzétett bejegyzése szerint az autonóm AI-ügynökök azért különlegesek, mert önállóan hajtanak végre műveleteket. Ha az utasítások nem egyértelműek, az eszközök nem a várt módon működnek, vagy egy összetett feladat váratlan irányt vesz, az ügynöknek döntést kell hoznia. A Red Hat szerint ezért nem lehet elvárni, hogy teljes mértékben saját maga ellenőrizze a viselkedését.

A vállalat két kritikus hibamódot emel ki az ügynökalapú AI-rendszerek nagy léptékű használatánál. Az egyik, amikor az ügynök túllépi a működési határait, a másik pedig az, amikor egy külső támadó fegyverzi fel. Az NVIDIA OpenShell Reference Architecture ezekre a kockázatokra az ügynökök futtatási határainak kijelölésével, valamint a BlueFielden működő, hardveresen elkülönített megfigyeléssel és szabályérvényesítéssel ad választ.

Külön bizalmi tartományban működik a védelem

Az architektúra két alapelvre épül: az irányításra, amely biztosítja, hogy az ügynökök csak engedélyezett műveleteket hajtsanak végre, és a biztonságra, amelynek feladata a kompromittált ügynökök gyors felismerése és korlátozása. Az NVIDIA Sentry a DOCA-ra épülő egységes biztonsági szoftveres keretrendszer, amely a BlueFielden, a szerver infrastruktúrarétegében fut.

A Sentry a DOCA Argust használja biztonsági megfigyelésre és futásidejű fenyegetésészlelésre konténerizált környezetekben, köztük a Red Hat OpenShiftben. A BlueField különálló bizalmi tartományából a DOCA Argus kiválasztott gazdamemória-struktúrákat vizsgál, így képes futásidejű telemetriát és riasztásokat biztosítani anélkül, hogy a gazdagépen megfigyelőügynök futna.

A megoldás alapját a Red Hat és az NVIDIA együttműködése, valamint a NVIDIA BlueField-3 DPU-k Red Hat OpenShift 4.22-ben elérhető általános támogatása adja. Az OpenShift a DOCA Platform Framework segítségével kettős fürttopológiát kezel. A bérlői fürt a szerver fő CPU-magjain futtatja az AI-ügynököket, az infrastruktúrafürt pedig a BlueField DPU-k Arm-processzorain hálózati és biztonsági szolgáltatásokat futtat.

Riasztás után hardveresen is elszigetelhető az ügynök

A BlueField infrastruktúraszinten érvényesíti a támogatott hozzáférési szabályokat, kiegészítve az OpenShell futásidejű vezérlőit. A DOCA Argus a folyamatok, a fájlok és a hálózati aktivitás megfigyelésével azonosíthatja a gyanús működést vagy a szabályok megsértését. Ilyenkor riasztást küldhet egy integrált biztonsági rendszernek, amely elindíthatja a szabályérvényesítést.

A Red Hat szerint egy sikeres promptinjekciós vagy ellátásilánc-támadás után a gyors elszigetelés kulcsfontosságú. Az Argus a folyamatinformációk, a hálózati kapcsolatok és a futó végrehajtható fájlok hashértékei alapján keres rendellenes futásidejű aktivitást. A DPF operátora natívan kezeli a DPU-szabályokat, az integrált biztonsági rendszer pedig hardveres szinten elszigetelheti az érintett munkaterhelés virtuális funkcióját.

A vállalat közlése szerint a Sentry ezredmásodpercek alatt karanténba helyezheti a szabályszegő ügynököt, CPU-ciklusok felhasználása és a támadó értesítése nélkül. A BlueFieldre áthelyezett biztonsági és hálózati feladatok csökkenthetik a CPU-terhelést, miközben az elkülönített bizalmi tartomány megőrzi az infrastruktúra vezérlőit akkor is, ha a gazdagép kompromittálódik. A Red Hat AI Factory with NVIDIA így az OpenShellt, a DOCA Argus monitorozását és a DPF által kezelt munkaterhelés-elszigetelést egyetlen OpenShift-alapú megközelítésben kapcsolja össze.