A CrowdStrike és az NVIDIA az AI-ügynökök biztonságát erősíti
A CrowdStrike és az NVIDIA együttműködik az NVIDIA Open Agent Safety Platform fejlesztésében. A nyílt referenciaarchitektúra több biztonsági réteget épít az AI-ügynökök működési környezetébe, a szoftvertől a futtatási környezeten át az infrastruktúráig.
- A CrowdStrike és az NVIDIA együttműködik az NVIDIA Open Agent Safety Platformon.
- A platform nyílt forráskódú megoldásként és referenciaarchitektúraként szolgál.
- A védelem a szoftveres, futtatási és infrastruktúrarétegre is kiterjed.
- Az NVIDIA OpenShell az ügynökök futtatását és hozzáféréseit szabályozza.
- Az NVIDIA Sentry független megfigyelést biztosít BlueField-4 DPU-kon.
Az autonóm AI-ügynökök új biztonsági határt jelentenek
A CrowdStrike szeptember 28-i közlése szerint az AI-ügynökök már vállalati környezetben is működnek. Ahogy egyre önállóbban férnek hozzá adatokhoz, használnak hitelesítő adatokat, futtatnak kódot és lépnek kapcsolatba kritikus rendszerekkel, a biztonsági határ is velük együtt változik.
A vállalat szerint a kérdés már nem az, hogy a vállalatok bevezetik-e ezeket az ügynököket, hanem az, hogyan adhatnak nekik nagyobb önállóságot úgy, hogy közben megőrzik az irányítást. Az NVIDIA szeptember 28-án mutatta be az NVIDIA Open Agent Safety Platformot, amely nyílt forráskódú platformként és referenciaarchitektúraként több biztonsági réteget fog össze az ügynöki technológiai veremben.
Az ügynök nem szabályozhatja saját biztonsági határait
A CrowdStrike álláspontja szerint a biztonsági határok betartatását nem szabad magára az ügynökre bízni. A vállalat ezt a kiberbiztonság más területeihez hasonlítja, ahol a rendszerek körül független ellenőrzéseket alkalmaznak a hozzáférés szabályozására, a viselkedés megfigyelésére és a biztonsági szabályok kikényszerítésére.
A modellek és az ügynöki keretrendszerek irányíthatják az ügynök viselkedését, de amikor az ügynök valós rendszerekkel lép kapcsolatba, a hozzáférést és a végrehajtást az ügynökön kívüli kontrolloknak kell kezelniük. A CrowdStrike szerint ezek közé tartozik a legkisebb jogosultság elve, az elkülönítés, a kifejezett engedélyezés, a megfigyelhetőség és a szabályok kikényszerítése.
A vállalat az AI-ügynököt privilegizált identitásként kezeli, amelynek jogosultságait szabályok határolják. Ezek a jogosultságok nem bővülhetnek pusztán azért, mert maga az ügynök úgy ítéli meg, hogy nagyobb hozzáférésre van szüksége.
Több rétegben védenék az ügynöki működést
Az NVIDIA Open Agent Safety Platform az ügynöki technológiai verem több szintjén egyesít biztonsági megoldásokat. A szoftveres rétegben az NVIDIA OpenShell nyílt forráskódú, biztonságos futtatási környezetet biztosít. Ez szabályozza, hogyan futtatják az ügynököket, mihez férhetnek hozzá, valamint azt is, hol történik a következtetés.
A platform része az NVIDIA Sentry is. Ez az NVIDIA BlueField-4 DPU-kon futó, független felügyeleti komponens, amely az NVIDIA DOCA használatával, a rendszeren kívüli és szilíciumszintű megfigyelést alkalmaz az ügynöki tevékenység és a biztonság ellenőrzésére.
A CrowdStrike szerint a modellvédelmi megoldások fontosak, de önmagukban nem alkotják a teljes biztonsági határt. Az együttműködés célja, hogy a védelem mélyebben, azokon a rétegeken is megjelenjen, ahol az ügynökök futnak és cselekszenek.
