A Tenable GPT Cyber modellekkel vizsgálja az AI-ügynököket

Három szűrőn kell átjutniuk az eszközöknek

A CyberAgents Exchange nyílt forráskódú, gyártófüggetlen katalógus, ahol biztonsági szakemberek AI-ügynököket, készségeket, Model Context Protocol, vagyis MCP-szervereket és teljes munkafolyamatokat fedezhetnek fel, oszthatnak meg és telepíthetnek. A közreműködők a kódot saját nyilvános GitHub-tárhelyükön tartják, így az érdeklődők futtatás előtt elolvashatják.

A Tenable által létrehozott Exchange Inspector a kiválasztott beküldéseket három szakaszban vizsgálja. Először a Tenable One AI Exposure automatizált ellenőrzése elemzi az ügynök utasításait, az általa meghívható eszközöket és az elérhető adatokat. A rendszer többek között promptinjekciót, jailbreak-kísérleteket, rejtett utasításokat, beágyazott titkokat, személyazonosításra alkalmas adatok kitettségét és érzékeny adatokhoz való hozzáférést keres.

A második szakaszban OpenAI GPT Cyber modellek vizsgálják a teljes támadási felületet. A Tenable szerint ezekkel azt elemzik, hogyan juthat nem megbízható tartalom a modellhez, mire használhatók egy eltérített vagy rosszindulatú ügynök jogosultságai, illetve mikor áll össze több, külön-külön ártalmatlannak tűnő művelet káros lánccá. A Daybreak Blue forráskód-ellenőrzésre és kettős felhasználású komponensekre szolgál, míg a Daybreak Red a nagyobb kockázatú, kihasználás-ellenőrzést és támadó jellegű biztonsági tesztelést igénylő beküldésekhez van fenntartva.

Végül a Tenable biztonsági kutatói ellenőrzik az automatizált és modellalapú megállapításokat, tiszta környezetben lefuttatják a komponenst, és megnézik, hogy a működése megfelel-e a leírásának. Minden felülvizsgálathoz tartós, auditálható rekord készül, amely tartalmazza az eredetet, a fenyegetési modellt, a forráskód-ellenőrzést és a futásidejű ellenőrzést.

A hagyományos hibák mellett az ügynökök saját kockázatai is számítanak

Az Exchange Inspector minden felülvizsgálatban 15 biztonsági problémakört vizsgál a modell-, alkalmazás- és infrastruktúrarétegen. A Tenable szerint az AI-ügynökök a hagyományos szoftverhibákat is hordozhatják, miközben a modell következtetése, memóriája és eszközhozzáférése szintén a támadási felület részévé válik.

A vizsgált kockázatok között olyan ismert problémák szerepelnek, mint az SSRF és az útvonal-bejárás, valamint ügynökspecifikus hibák, például a túlzott jogosultságok és a memóriamérgezés. A Tenable a GPT Cyber modellek segítségével nem előre rögzített hibajegyzék alapján keres, hanem azt is próbálja feltárni, hogyan használhatná ki egy támadó az adott ügynököt, MCP-szervert vagy készséget.

Három ellenőrzött bejegyzés érhető el

A Tenable közlése szerint a CyberAgents Exchange-en jelenleg három Exchange Inspector által ellenőrzött bejegyzés található. Kettőt a Tenable készített, a harmadikat a Splunk. A sikeresen vizsgált eszközök Exchange Inspector vetted címkét kapnak, a katalógusban pedig szűrhetővé válnak az ilyen bejegyzések.

Az ügynökök a biztonsági műveleti központok munkáját támogathatják riasztások osztályozásával, fenyegetési információk összekapcsolásával, gyanús tevékenységek vizsgálatával és sérülékenységek rangsorolásával. A katalógus jelenlegi bejegyzései többek között szkenner- és platformállapotot figyelnek, felhőkörnyezetek biztonsági helyzetét mérik, külső támadási útvonalakat térképeznek fel, CVE-ket és kompromittálódási jeleket osztályoznak, valamint javító kódot és vezetői jelentéseket készítenek.

A Tenable egyik példája szerint a SOC Hunter 75 százalékkal csökkentette a fenyegetésvadászat időigényét a vállalat biztonsági csapatánál. A közlemény szerint az ellenőrzött eszközök közreműködői gyorsabb fenyegetésvadászatról, javítási feladatok osztályozásáról és felhőbiztonsági vizsgálatról számoltak be.

A címke a telepítés előtti döntést támogatja

A CyberAgents Exchange nyitottsága lehetővé teszi, hogy a biztonsági csapatok közösségi fejlesztésű eszközöket találjanak és a forráskódjukat is megvizsgálják. Az Exchange Inspector ehhez ad további ellenőrzési réteget, különösen azért, mert egy AI-ügynök hitelesítő adatokat kezelhet, eszközöket hívhat meg, és a beolvasott információk alapján műveleteket hajthat végre.

A három szakasz teljesítése után kiadott vetted címke a Tenable szerint egy CISO számára a közösségi eszköz éles környezetben történő engedélyezésekor a bizalom egyik jele lehet. A folyamatot a Tenable az OpenAI Daybreak Defense Networkben való részvétele során fejlesztette, és a vállalat közlése szerint ez az együttműködés első jelentős kiadása.