A Tenable és az OpenAI AI-ügynökök biztonsági ellenőrzését indítja el
A Tenable bemutatta a CyberAgents Exchange AI Inspectort, amely az OpenAI GPT Cyber modelljeivel, a Tenable biztonsági eszközeivel és emberi felülvizsgálattal ellenőrzi a közösségi beküldéseket. A rendszer az AI-ügynökök, készségek, MCP-szerverek és többügynökös munkafolyamatok kockázatait vizsgálja.
- A CyberAgents Exchange AI Inspector a Tenable és az OpenAI közös biztonsági ellenőrzési rendszere.
- A vizsgálat AI-ügynökökre, készségekre, MCP-szerverekre és többügynökös lejátszókönyvekre terjed ki.
- A folyamat a Tenable One AI Exposure eszközeit, GPT Cyber modelleket és emberi felülvizsgálatot használ.
- A magas kockázatú beküldéseket meghatározott Git-commit alapján, elkülönített környezetben tesztelik.
- A rendszer a közlemény szerint szeptemberben válhat elérhetővé.
Közösségi AI-megoldások biztonsági átvilágítása
A Tenable szeptember 9-i bejelentése szerint az Exchange Inspector a CyberAgents Exchange nyilvántartásába épül be. A CyberAgents Exchange egy kifejezetten kiberbiztonsági célú, nyílt forráskódú és gyártófüggetlen nyilvántartás AI-ügynökök, készségek, MCP-szerverek és többügynökös lejátszókönyvek számára. A szolgáltatás augusztusban indult, és a közlemény szerint már több mint 100 AI-bejegyzést tartalmazott.
A Tenable és az OpenAI a megoldás alapját az OpenAI Intelligence at Work: Cyber Summit rendezvényén ismertette. A kezdeményezés a két vállalat júniusi partnerségére épül. A Tenable szerint az AI Inspector célja, hogy a biztonsági csapatok gyorsabban és nagyobb bizalommal alkalmazhassák az ügynöki AI-megoldásokat.
A CyberAgents Exchange minden beküldésen alapellenőrzést végez a listázás előtt. A magasabb kockázatú pályázatok ennél alaposabb vizsgálatot kapnak. Az Exchange Inspector a Tenable One AI Exposure vizsgálatait, az OpenAI GPT Cyber modelljeit és emberi ellenőrzést kapcsolja össze. A rendszer a közlemény szerint szeptemberben válhat elérhetővé.
Az AI-ügynökök támadási felülete összetettebb
A Tenable szerint az AI-ügynökök ellenőrzése eltér a hagyományos szoftverbiztonsági vizsgálatoktól. A kockázatot nem csak a programkód jelentheti. Vizsgálni kell a nyelvi modellnek adott utasításokat, az engedélyezett eszközöket, a hozzáférhető vagy továbbítható adatokat, valamint a promptinjektálási lehetőségeket is.
Az eszközláncolás tovább növelheti a kockázatot, mert több komponens bizalmi határain átívelő hatást hozhat létre. A beküldések között lehet egyetlen, nyelvi modellnek szóló utasításokat tartalmazó SKILL.md fájl, de akár teljes ügynök, MCP-szerver, külső könyvtár és távoli szolgáltatásokkal vagy API-kkal kapcsolatot tartó rendszer is.
A vizsgálat egy meghatározott Git-commitra épül, így a megállapítások egy ismert állapothoz köthetők. Az ellenőrzés nem öröklődik automatikusan tovább, ezért minden lényeges módosítás új felülvizsgálatot igényel. A forráskód áttekintése után a CyberAgents Exchange tiszta, elkülönített környezetben telepíti és futtatja a beküldést, kizárólag a dokumentált telepítési lépések alapján. Ezután összeveti a tapasztalt működést a dokumentáció állításaival.
Modellek és emberi ellenőrzés együtt
A folyamat elején a Tenable One AI Exposure automatikus szűrése vizsgálja többek között a személyes adatok kitettségét, az érzékeny adatokhoz való hozzáférést, valamint a promptinjektálási és jailbreakkockázatokat. A jelzett problémákat a folyamat következő szakasza előtt rendezni kell.
A modellkiválasztás a beküldés engedélyezési szintjéhez, kockázatához és technikai összetettségéhez igazodik. A Tenable közleménye szerint az OpenAI Daybreak Blue és Daybreak Red különböző munkafolyamatokra készült. A vizsgálat a feladathoz illeszkedő modellel és hozzáférési szinttel indul, majd szükség esetén specializáltabb képességre vált.
A leírás szerint egy standard modell, például a Luna, elvégezheti a beküldés metaadatainak, licencének, README-fájljának, telepítési útmutatójának és a tárhely megbízhatóságának ellenőrzését. A kizárólag szöveges, végrehajtható kódot nem tartalmazó beküldéseknél külön figyelmet kapnak a rejtett utasítások, a nullaszélességű karakterek, az Unicode-alakzatok, a HTML-kommentek és a beágyazott Base64-tartalmak.
A Tenable példaként egy láthatatlan Unicode-karakterekkel elrejtett utasítást említ, amelyet az Inspector észlelt egy SKILL.md fájlban. A rendszer a szöveget adatként, elhatárolva adja át az ellenőrző modellnek, hogy a beágyazott utasításokat ne hajtsa végre saját utasításaiként.
Mit jelent ez a beküldők és a felhasználók számára?
A kemény biztonsági hibákat a listázás előmozdítása előtt meg kell oldani. Más megállapítások dokumentált indoklással és későbbi javítási vállalással elfogadhatók. A Tenable szerint a felülvizsgálat során közvetlenül együttműködnek a beküldőkkel, és a cél az erős pályázatok támogatása, nem egy átláthatatlan elutasítási kapu működtetése.
Az Exchange Inspector így a közösségi AI-nyilvántartásban szereplő megoldások eredetét, dokumentációját, működését és kiberbiztonsági kockázatait is egy folyamatban vizsgálja. A modellválasztás kockázatalapú megközelítése a Tenable szerint lehetővé teszi az alapos ellenőrzést túlzott számítási többlet nélkül.
