Az Arm és az NVIDIA biztonságos alapokra helyezné az önálló AI-ügynököket

Kétféle számítási feladatot kell kiszolgálni

Az Arm szeptember 28-i blogbejegyzése szerint az AI-infrastruktúra egyre nagyobb arányban épül Arm-technológiára. A vállalat az IDC-re hivatkozva azt írja, hogy az Arm-alapú, rackméretű szerverek már megelőzték az x86-os rendszereket a gyorsított számítástechnika vezető platformjaként. Az Arm technológiája a cég szerint minden jelentős hiperskálázónál jelen van.

Az AI-ügynökök folyamatosan futhatnak, eszközöket használhatnak, adatokhoz férhetnek hozzá, és feladatok elvégzéséhez műveleteket hajthatnak végre. Emiatt két alapvető számítási igény jelenik meg: szükség van a feladatot végrehajtó ügynök futtatására, valamint az ügynök védelmére is.

Az Arm szerint ezt a két oldalt ugyanazon ökoszisztéma különböző elemei szolgálják ki. A nagy teljesítményű CPU-k az ügynökök munkáját futtatják, az Arm-alapú infrastruktúraprocesszorok, például a DPU-k, pedig önálló megfigyelést, elkülönítést, szabályérvényesítést és biztonsági funkciókat biztosítanak.

A CPU futtatja, a DPU felügyeli az ügynököt

Az ügynökök futtatási környezetét, vezérlését, összehangolását, eszközhasználatát és az alkalmazásokat a CPU szolgálja ki. Az Arm ezt a szerepet több, egymással kompatibilis megoldással kapcsolja össze, köztük az Arm AGI CPU-val, az AWS Gravitonnal, a Google Axionnal, a Microsoft Coballttal és az NVIDIA egyedi Vera CPU-jával.

Az NVIDIA OpenShell biztonságos futtatási határt alakít ki az ügynök körül. Meghatározza, hogy az ügynök mihez férhet hozzá, és milyen műveleteket hajthat végre. Az Arm szerint ez az elv kiterjeszthető az Arm-alapú felhő- és AI-infrastruktúra sokféle környezetére.

A védelem másik rétegét a DPU-k és az infrastruktúraprocesszorok adják. Ezek a hálózatkezelést, a megfigyelést, az elkülönítést és a biztonsági feladatokat a gazdagép CPU-jától külön futtathatják. Így olyan önálló vezérlési pont jön létre, amely független marad azoktól az ügynököktől és alkalmazásoktól, amelyeket védeni hivatott.

A BlueField és a Sentry külön bizalmi tartományt ad

Az NVIDIA Open Agent Safety Platform az Arm által leírt architektúra gyakorlati példája. A BlueField-4 az NVIDIA Grace rendszerére épül, és 64 Arm Neoverse V2 magot tartalmaz. Ez a gazdagépen kívül működő, független infrastruktúrakörnyezetet biztosít.

Az OpenShell a BlueFielden futó NVIDIA Sentryvel együttműködve terjeszti ki a szabályok érvényesítését az ügynök futtatási környezetén túlra, egy különálló bizalmi tartományba. Így az infrastruktúra- és hálózati vezérlők az ügynöktől függetlenül működhetnek.

Az NVIDIA Sentry valós idejű felügyeleti rétegként figyeli az ügynök viselkedését. Az Arm leírása szerint lehetővé teszi egy nem biztonságosan működő ügynök elkülönítését. A vállalat szerint a modellben az Arm CPU-k futtatják az ügynököket, az Arm-alapú DPU-k pedig önállóan megfigyelhetik, szabályozhatják, elkülöníthetik és védhetik őket.

A biztonsági határoknak az ügynököket is követniük kell

Az Arm szerint az ügynökök képességeinek, állandóságának és önállóságának növekedésével a számítási igény is emelkedik. A biztonságnak ezzel párhuzamosan kell bővülnie, úgy, hogy ne kelljen választani a teljesítmény és a védelem között.

A vállalat úgy látja, hogy az ügynökök a felhő-infrastruktúrától a peremhálózati eszközökön át a fizikai rendszerekig terjedhetnek. Ezért a biztonsági határoknak minden olyan környezetben követniük kell őket, ahol futnak és műveleteket hajtanak végre. Az Arm és az NVIDIA által bemutatott megközelítés ezt a védelmet a futtató CPU és az attól független, Arm-alapú infrastruktúraprocesszor együttműködésére építi.