Az Ebix AI-ügynökök biztonságát erősítő platformot kínál szabályozott iparágaknak

Az engedély önmagában nem mutatja meg az ügynök viselkedését

Az ajánlat az intentyx SMARE, vagyis Synthetic Mind Aware Risk Engine platformjára épül. A rendszer célja a vállalati AI-ügynökök felderítése, a felelősségi körök meghatározása, valamint annak észlelése, ha egy ügynök eltér a jóváhagyott üzleti céltól vagy a biztonsági határoktól.

Az AI-ügynökök egyre több adatot érnek el, eszközöket használnak, döntéseket hoznak és műveleteket hajtanak végre üzleti rendszerekben. Az Ebix szerint a hagyományos biztonsági kontrollok ennek csak egy részét fedik le. Egy ügynök rendelkezhet érvényes hitelesítő adatokkal és megfelelő rendszerengedéllyel, miközben olyan műveletsort hajt végre, amelyet a vállalat nem szándékozott engedélyezni.

Ez a szabályozott szervezeteknél új ellenőrzési igényt teremt. A vállalatoknak azt is látniuk kell, hogy az AI-ügynök ténylegesen mit csinál, nem csak azt, hogy mire van jogosultsága.

A SMARE több rendszerből gyűjt bizonyítékokat

A platform az AI-platformokból, üzleti alkalmazásokból, felhőkörnyezetekből, identitáskezelő rendszerekből és meglévő biztonsági eszközökből származó adatokat kapcsolja össze. Így állítja elő az ügynökök tevékenységének összefüggő képét.

A SMARE az aktivitást a vállalati biztonsági szabályzatokhoz és az egyes ügynökökhöz tartozó Design Intent meghatározáshoz viszonyítja. Ez rögzíti az ügynök célját, elvárt műveleteit, engedélyezett eszközeit és az elérhető adatok határait.

A rendszer képes azonosítani a szabályzatok megsértését, a szokatlan viselkedést és a viselkedési eltéréseket. Közben megőrzi azokat a bizonyítékokat, amelyekre a biztonsági, megfelelőségi és üzemeltetési csapatoknak szükségük lehet. A megoldás a meglévő identitáskezelési, biztonsági és megfigyelési infrastruktúra mellett működik, és kifejezetten az AI köré épít be új ellenőrzési réteget.

Az Ebix szerint 2027-től önálló biztonsági kategória lehet

Gagan Sethi, az Ebix Technologies vezérigazgatója szerint az ügynökök irányítása és viselkedésalapú biztonsága 2027-től és az azt követő időszakban jelentős vállalati biztonsági kategóriává válhat. Sethi közlése szerint az Ebix a technológiát már saját környezetében is használja, és szabályozott iparágakban szerzett AI-tapasztalatára, valamint globális ügyfélkörére épít.

Nitin Supekar, az intentyx alapítója úgy fogalmazott, hogy ahogy a vállalatok egyre több alkalmazáshoz, adathoz és eszközhöz adnak hozzáférést az AI-ügynököknek, a biztonsági csapatoknak az aktivitást és a hozzáférést egyaránt meg kell érteniük. Szerinte a SMARE ezt a láthatóságot és a jóváhagyott céltól eltérő viselkedés kivizsgálásához szükséges bizonyítékokat biztosítja.

A közlemény szerint az AI-ügynökök biztonságának kérdését friss események is sürgetik. Az Ebix olyan, jelentésekben szereplő esetekre hivatkozik, amelyekben nagy amerikai bankok ügyfélszámlákon működő, jogosulatlan külső AI-ügynököket észleltek. A közlemény szerint egyes ügynökök a felhasználók kifejezett utasításain túlmutató műveleteket próbáltak végrehajtani, ami miatt a bankok szigorították az ügynökök hozzáférésének ellenőrzését. A szabályozók szintén nagyobb figyelmet fordítanak az ügynökalapú AI-ra, beleértve az emberi felügyelet és az ellenőrzések szükségességét.

A szolgáltatás már elérhető

A SMARE az Ebixen és az intentyxen keresztül már kereskedelmi forgalomban van. A szervezetek szolgáltatásként, SaaS-modellben vagy saját felhőkörnyezetükben is telepíthetik. Az Ebix az AI-környezet kezdeti felmérésétől és az irányítási modell kialakításától kezdve az integráción, a telepítésen és a megfigyelésen át a vizsgálatok támogatásáig kínál segítséget.

Az ajánlatot az Ebix a biztosítási, pénzügyi szolgáltatási, egészségügyi és más szabályozott iparágak ügyfeleinek szánja. A vállalat szerint a választott telepítési modell igazítható az ügyfelek biztonsági és adatkezelési követelményeihez.