A TrendAI fenyegetési intelligenciával egészíti ki az NVIDIA ügynökvédelmét

Többrétegű védelem az autonóm ügynököknek

A TrendAI, a Trend Micro AI-biztonsági üzletága szeptember 28-án jelentette be, hogy támogatja az NVIDIA Agent Safety Platformot. Az NVIDIA szerint ez teljes veremű infrastruktúra autonóm AI-ügynökök biztonságos, vállalati méretű futtatásához.

A közlemény szerint az AI-ügynökök három alapvető részből állnak: a következtetéseket végző modellből, az ügynököt és alügynökeit irányító keretrendszerből, valamint az elérhető eszközökből és adatokból. Ezek együtt lehetővé tehetik, hogy egy ügynök hitelesítő adatokat kezeljen, több munkameneten keresztül megőrizze a kontextust, és emberi jóváhagyás nélkül hajtson végre műveleteket éles rendszereken.

A TrendAI és az NVIDIA álláspontja szerint egyetlen biztonsági kontroll nem elegendő. A védelmet minden olyan rétegbe be kell építeni, amelytől az ügynök működése függ.

Az infrastruktúra határozza meg a kereteket

Az NVIDIA Agent Safety Platform a TrendAI közleménye szerint az ügynök alatti infrastruktúrába helyezi a jogosultságok kezelését. Az NVIDIA állítása alapján az OpenShell az ügynök futtatási környezetén kívül érvényesíti a szabályokat, így azokat az ügynök utasításokkal nem írhatja felül és nem kerülheti meg.

Az NVIDIA BlueField-4 DPU-k és az NVIDIA DOCA emellett hardveres, a gazdagéptől független biztonsági réteget biztosítanak. A TrendAI ehhez fenyegetési intelligenciát, megfigyelhetőséget, valamint fenyegetésészlelést és reagálást ad. A vállalat szerint ezek segítenek meghatározni, milyen szabályokra van szükség, és láthatóvá teszik, mi történik az ügynöki környezetben.

„A biztonság nem ülhet egyetlen helyen. Le kell fednie a modellt, a keretrendszert, valamint minden eszközt és adatforrást, amelyhez az ügynök hozzáfér”, mondta Rachel Jin, a TrendAI platform- és üzleti vezetője, a közlemény szerint.

Mit kínál a TrendAI Vision One?

A TrendAI Vision One az NVIDIA ügynökvédelmi képességeit a teljes AI-gyárra kiterjeszti. A platform egyaránt foglalkozik az ügynökökkel, a modellekkel, a konténerekkel, a tárhellyel és a hálózatokkal.

• Modellvédelem: a rendszer a bemenetek és válaszok közvetlen vizsgálatával blokkolja a promptinjekciót és a jailbreakkísérleteket, valamint kiszűri az érzékeny adatokat, mielőtt azok kiszivárognának.
• Eszköz- és keretrendszer-irányítás: a biztonsági csapatok szabályozhatják, hogy az ügynökök mely eszközöket és MCP-szervereket érhetik el, megvizsgálhatják az eszközhívásokat, továbbá futás közben elemezhetik a képességek és AI-összetevők viselkedését.
• Adat- és identitásvezérlés: a Vision One megtalálja és osztályozza az AI-t tápláló érzékeny adatokat, megakadályozza a jogosulatlan hozzáférést, és a fájlok olvasására, illetve írására is kiterjeszti a fájlvédelmet és az adatvesztés-megelőzést.
• Hardveralapú észlelés és reagálás: az NVIDIA BlueField DPU és a DOCA telemetriájával a TrendAI szerint a védelem akkor is megbízható marad, ha a gazdagép operációs rendszere kompromittálódik. A rendszer az AI-jeleket végponti, hálózati és identitástelemetriával kapcsolja össze.

A vállalati felhasználás lehet a következő lépés

A bejelentés azokat a szervezeteket célozza, amelyek néhány kísérleti AI-ügynökről több csapatot és üzleti egységet kiszolgáló flottákra állnának át. A TrendAI szerint a biztonság az ilyen projektek élesítésének egyik kritikus feltétele, ezért a Vision One az ügynökök működését, hozzáféréseit és környezetét egyetlen platformon igyekszik felügyelni.

A vállalat szerint a BlueField DPU-kból és a DOCA-ból származó jelek segíthetnek észlelni, ha egy eltérített ügynök oldalirányban próbál terjedni a környezetben. A TrendAI és az NVIDIA együttműködése így az ügynökök szabályozását, a fenyegetések felismerését és a teljes AI-infrastruktúra felügyeletét kapcsolja össze, miközben a közlemény nem közöl termékárat vagy általános elérhetőségi dátumot.