Az Enkrypt AI a ChatGPT Enterprise kockázatainak vizsgálatát segíti
Az Anaconda által bemutatott Enkrypt AI az OpenAI Compliance API-hoz kapcsolódva vizsgálja a ChatGPT Enterprise munkaterületeinek aktivitását. A szolgáltatás utólag, ismétlődő ellenőrzésekkel keres promptinjekciót, szabálysértéseket, érzékeny adatok kiszivárgását és más kockázatokat.
- Az Enkrypt AI az OpenAI Compliance API-n keresztül vizsgálja a ChatGPT Enterprise aktivitását.
- Az ellenőrzés utólagos, ezért nem blokkolja a felhasználók munkáját.
- A rendszer promptinjekciót, szabálysértést, érzékenyadat-kitettséget, toxicitást és NSFW-tartalmat keres.
- A vizsgálat beszélgetésekre, Codex-munkamenetekre, ügynökökre, kapcsolatokra és feltöltött fájlokra is kiterjedhet.
- A találatokhoz a teljes üzenet, a környező kontextus és a beszélgetés azonosítója is társul.
A használati adatok önmagukban nem mutatják a kockázatokat
Az Anaconda 2026. október 1-jei közleménye szerint a ChatGPT Enterprise adminisztrátorai használati és auditálható adatokat kapnak a munkaterületről. Látható például a kiosztott licencek száma, az üzenetek mennyisége, valamint az, hogy milyen egyéni GPT-ket hoztak létre és használnak a csapatok.
Az ilyen mutatók elsősorban azt válaszolják meg, hogy használják-e a rendszert. A biztonsági csapatoknak azonban azt is tudniuk kell, hogy a használat megfelel-e a szervezet szabályainak. Egy ügyféllista átrendezésre történő feltöltése, egy szerződés összefoglalása, egy privát kódtár ellenőrzése vagy egy Drive- és SharePoint-kapcsolaton keresztüli művelet eltérő kockázatokat hordozhat, miközben az alapvető használati statisztikákban mindegyik csak növekvő üzenetszámként jelenik meg.
Az OpenAI Compliance API széles körű nyers adatot biztosít, többek között beszélgetési üzeneteket, Codex-aktivitást, ügynökfuttatásokat és kapcsolódó műveleteket. Az Anaconda szerint ezek több ezer változtathatatlan, tömörített JSONL-eseményfájlban érkezhetnek. Az Enkrypt AI ezeket a szervezet saját szabályai alapján automatikusan átvizsgálja, és a lehetséges problémákat kivizsgálásra kiemeli.
Utólagos, rendszeres ellenőrzés a munkafolyamat megváltoztatása nélkül
Az Enkrypt AI a ChatGPT Enterprise aktivitását a Compliance API-n keresztül olvassa be, majd a szolgáltatás ügyfelei által éles környezetben használt védelmi szabályokhoz hasonló ellenőrzéseken futtatja át. A vizsgálat utólagos, ezért nem akadályozza meg a műveleteket, és nem tiltja le a felhasználókat. A javításról és a további intézkedésekről az adminisztrátorok döntenek.
A támogatott forrásokból a rendszer a kéréseket, válaszokat, eszközhívásokat és a kinyerhető szöveget tartalmazó feltöltött fájlokat is vizsgálhatja. Az ellenőrzés kiterjedhet a ChatGPT Enterprise-beszélgetésekre, a Codex-munkamenetekre, a munkaterületi ügynökökre, a kapcsolatokra és a táblázatkezelő-bővítményre. A szervezet minden forrást bekapcsolhat, vagy csak a számára releváns részeket választhatja ki.
Az induláshoz engedélyezett Enkrypt AI-fiók, megfelelő hatókörökkel rendelkező Compliance API-kulcs és a munkaterület azonosítója szükséges. Ezután megadható az időszak, a vizsgálandó források és az alkalmazandó szabályrendszer. A közlemény szerint a munkatársaknak nincs szükségük bővítményre vagy böngészőkiegészítőre, a folyamat a megfelelőségi oldalon fut.
Promptinjekciótól az érzékeny adatokig
Az Enkrypt AI a promptinjekciós kísérleteket is keresi, beleértve az utasítások felülírását, a modell jailbreakelését és a feltöltött dokumentumokba rejtett manipulációkat. Emellett a szervezet saját AI-használati szabályainak lehetséges megsértését is jelzi. A szabályok között szerepelhet az adatok kiszivárogtatása, korlátozott témák kezelése vagy bármely más, a vállalat által meghatározott előírás.
A vizsgálat érzékeny és személyes adatok mozgását, zaklató, sértő vagy bántalmazó nyelvezetet, továbbá explicit vagy más módon nem megfelelő tartalmakat is keres. A szolgáltatás a bejövő és kimenő adatokat külön kezeli, így látható, mit küldtek be a munkatársak, és mit adott vissza a modell.
Az Anaconda egy olyan esetet is bemutat, amelyben egy felhasználó PDF-fájlt töltött fel, majd arra kérte a modellt, hogy kövesse a dokumentumban található utasításokat. A szöveg kinyerése után az Enkrypt AI promptinjekciót jelzett a fájlban. Ez azt mutatja, hogy az ellenőrzés nem áll meg az üzenetek szövegénél.
Egy felületen jelennek meg a vizsgálat eredményei
Minden vizsgálat egyetlen áttekintést készít a munkaterület megfelelőségi állapotáról. Ebben szerepelhet a promptinjekciós kísérletek, a szabálysértések és az összes jelzés száma, valamint az általános jelzési arány. A rendszer a használati környezetet is megmutatja, például a beszélgetések mennyiségét, az aktív felhasználókat, az érintett modelleket és szolgáltatásokat, valamint az átvizsgált fájlok számát.
A részletes nézet detektoronként bontja le a találatokat, szabályonként mutatja a lehetséges jogsértéseket, és szolgáltatásonként jelzi, hogy a kockázat a chatben, a Codexben vagy máshol jelent meg. Az eredmények az Európai Unió mesterséges intelligenciáról szóló jogszabályához, az ISO/IEC 42001 és ISO/IEC 24028 szabványokhoz, a MITRE ATLAS-hoz, a NIST AI RMF-hez, valamint az OWASP nagy nyelvi és ügynökalapú alkalmazásokra vonatkozó Top 10 listájához is hozzárendelhetők.
Minden találathoz társul a teljes érintett üzenet, a fontos környező részletek és a beszélgetés azonosítója. Így a biztonsági csapatok a jelzés mögötti bizonyítékot is megkapják, és a közlemény szerint dokumentációt készíthetnek az auditokhoz, illetve kivizsgálhatják a szabályszegéseket és manipulációs kísérleteket.
