Az Enkrypt AI Specialist lett a Gartner új AI-biztonsági jelentésében

Önálló piaccá válik az AI-alkalmazások biztonsága

Az Anaconda szerint a Gartner új jelentése azt mutatja, hogy az AI-alkalmazásbiztonság önálló piaccá formálódik, amelyben a vásárlóknak segítségre van szükségük a különböző megoldások értékeléséhez. A Gartner meghatározása szerint ez a piac olyan technológiákat foglal magában, amelyek a vállalatok által fejlesztett AI-alkalmazásokat és ügynököket védik. Ehhez biztonsági tesztelést, kitettségkezelést és futásidejű védelmet kombinálnak a fenyegetések észlelésére, jelzésére vagy blokkolására.

Az Anaconda közlése szerint az Enkrypt AI 2022 júliusában indult, néhány hónappal a ChatGPT megjelenése előtt. A vállalat tapasztalata alapján a biztonsági csapatok korábban még azt kérdezték, szükség van-e külön AI-kontrollokra. Ma már inkább azt mérlegelik, milyen kontrollokat kell bevezetniük egy AI-ügynök élesítése előtt.

A kockázat egyre inkább az ügynökök műveleteiben jelenik meg

Az Enkrypt AI több mint 25 000 Model Context Protocol, vagyis MCP-szervert vizsgált két hónap alatt. A cég állítása szerint ezek 73 százalékánál legalább egy sérülékenységet találtak. Az Anaconda szerint a csapatok gyorsabban kapcsolják az ügynököket ezekhez a szerverekhez, mint ahogy a biztonsági részlegek ellenőrizni tudják őket.

A vállalat értelmezése szerint a kockázat súlypontja az AI-modell válaszairól az ügynökök által végrehajtott műveletekre helyeződött át. Egy manipulált chatbot hibás választ adhat, egy manipulált ügynök viszont módosíthat egy rekordot, megoszthat egy fájlt vagy üzenetet küldhet. Egy weboldalon vagy dokumentumban elrejtett utasítások ezeket a műveleteket a felhasználó tudta nélkül is kiválthatják.

Az Anaconda azt is közölte, hogy a különböző szolgáltatók modelljei eltérően reagálnak ugyanazokra a támadásokra. Ennek mérésére tartja fenn az LLM Safety Leaderboard rangsort, amely a vállalat szerint több mint 200, vezető fejlesztőktől származó nagy nyelvi modellt hasonlít össze.

Az Enkrypt termékei a teszteléstől a megfelelőségig terjednek

Az Enkrypt AI szerint a tesztelésnek, a futásidejű védelemnek és a megfelelőségi bizonyítékoknak együtt kell működniük. Az Agent Red Teaming több mint 300 kategóriában végez támadási teszteket, hogy az ügynökök élesítése előtt feltárja a hibáikat. Az Agent Guardrails ezek eredményeire támaszkodva futásidőben hoz döntéseket, a cég közlése szerint 15 ezredmásodpercnél rövidebb idő alatt.

Az Agent Policy Engine az írásos szabályzatokat kikényszerített kontrollokká alakítja, és naplózza az egyes döntéseket az auditorok számára. Az MCP Scanner és az MCP Gateway az ügynökök által használt eszközöket fedi le, az AI Data Risk Audit pedig a tanítási adatokat, a finomhangolásokat és a beágyazásokat vizsgálja kitettségek szempontjából. Az Anaconda közlése szerint ezek a kontrollok az Anaconda Platform részeként, az AI-rendszerek fejlesztéséhez és szállításához közel érhetők el.

A Gartner-jelentés és a megoldatlan problémák

A Gartner Emerging Market Quadrantját a szervezet olyan vizuális pillanatképként és elemzésként írja le, amely egy feltörekvő technológiai piac trendjeit, fontos szolgáltatóit és képességeit mutatja be egy kéttengelyes mátrixban. A szolgáltatókat a végrehajtási potenciál és a piaci felforgatás potenciálja alapján négy kategóriába sorolják: Market Shapers, Pace Setters, Pioneers és Specialists.

Az Anaconda szerint a jelenlegi tesztek és védelmi megoldások gyakran egyetlen lépést vizsgálnak, például egy promptot, választ vagy eszközhívást. A vállalat úgy látja, hogy a legnehezebb hibák több lépésből állnak: egy lekért dokumentum módosítja az ügynök tervét, a terv kiválaszt egy eszközt, az eszköz pedig nem kívánt műveletet hajt végre. A cég közlése szerint ezt a teljes döntési láncot jelenleg még egyetlen szereplő sem oldotta meg teljesen.

A teljes jelentés a Gartner ügyfelei számára érhető el a Gartner oldalán. A dokumentum címe Emerging Market Quadrant for AI Application Security, Startup Vendors, szerzői Meghan Hollis, Dionisio Zumerle, Dennis Xu és Marissa Schmidt, dátuma 2026. szeptember 16., azonosítója G00856640. A Gartner külön jelzi, hogy a publikációban szereplő besorolás nem jelent ajánlást egyetlen vállalat, szállító, termék vagy szolgáltatás kiválasztására sem.