Az Anaconda felvásárolja az Enkrypt AI-t az ügynöki rendszerek védelméért

A vállalati AI gyorsan terjed, a kockázatok nehezebben láthatók

Az Anaconda augusztus 4-i bejelentése szerint a vállalati AI-használat havonta közel ezermilliárd tokenre nőhet. Miközben a technológiai vezetők gyorsabb és versenyképesebb működést várnak az AI-ügynököktől, a biztonsági vezetőknek azt kell felmérniük, hogy az egyre önállóbban működő rendszerek mit hajtanak végre.

A cég egy ügyfélrendezvényen elhangzott példával érzékeltette a problémát. Egy mérnöki csapat egy évnyi munkát kevesebb mint két hónap alatt végzett el, miután munkafolyamatait egyetlen vezető AI-laboratórium technológiai készletére szabványosította. A gyorsaságért cserébe azonban a vállalat kevésbé látta át a kapcsolódó kockázatokat, mivel a modelleken futó folyamatok egy API mögött működő fekete dobozzá váltak.

Több mint 143 ezer sebezhetőséget találtak

Az Enkrypt AI az akvizíció bejelentését megelőző két hónapban több mint 268 ezer eszközt vizsgált meg 25 ezer MCP-szerveren. Az eszközök azok az egyedi funkciók, amelyeket az AI-ügynökök meghívnak. A vállalat több mint 143 ezer sebezhetőséget azonosított, amelyek a szerverek 73 százalékát érintették.

Az Anaconda szerint minden modell, amelyen egy ügynök fut, minden meghívott eszköz és minden elért MCP-szerver új támadási lehetőséget jelenthet. A közlemény példái között szerepel, hogy egy manipulált kép vagy dokumentum átirányíthatja az ügynök eszközhasználatát, egy hamisított hangutasítás pedig jóváhagyást válthat ki. Egyetlen ellenőrizetlen utasítás banki átutaláshoz, másik vállalat elleni támadáshoz vagy később nehezen magyarázható döntéshez is vezethet.

Tesztelés, futásidejű védelem és megfelelés egy platformon

Az Enkrypt AI képességei a teljes, AI-központú biztonsági életciklust fedik le. A rendszer több mint 300 támadási kategóriában támogatja a bevezetés előtti úgynevezett red teaminget, vagyis a modellek és ügynökök célzott biztonsági tesztelését. Futás közben védelmi szabályok blokkolhatják a jailbreakkísérleteket és az érzékeny adatok kiszivárgását.

A megoldás az ügyfél saját környezetében is telepíthető, és a teljes ügynöki technológiai láncra kiterjed. A megfelelési automatizálás olyan keretrendszereket alakít végrehajtható védelmi szabályokká, mint a NIST AI Risk Management Framework és az EU AI Act. Az Anaconda szerint az Enkrypt AI termékei az uniós jogszabály kulcsfontosságú részeinek való megfelelést is támogatják, amely a közlemény szerint augusztus 2-tól volt hatályos.

Az Enkrypt AI kutatói az Anthropic, a Mistral, az OpenAI, a Gemini és a DeepSeek vezető modelljeit is tesztelték, és mindegyiknél találtak kihasználható támadási kategóriákat. Az Anaconda az akvizícióval ezt a biztonsági és irányítási réteget a saját platformjába építi be, amely a vállalat szerint a felfedezéstől és fejlesztéstől a szállításon, megfigyelésen és biztosításon át a teljes AI-fejlesztési életciklust lefedi.

A vállalati felhasználók számára ez ellenőrzött utat jelenthet a kísérletezéstől az éles működésig. Az Anaconda állítása szerint minden, a platformon felépített ügynök beépített biztonsági réteget kap, a biztonsági és megfelelési csapatok pedig auditálható nyomokat nyerhetnek a működésről. A cég különösen az olyan vállalatokra is gondol, amelyek nyílt súlyú modelleket használnak, vagy szabályozott iparágban működnek, és saját felhasználási esetükhöz akarják meghatározni a védelmi szabályokat.