Az AI-incidensek 80 százaléka már a vezető testületekig jut

Sok incidens, kevés irányítási változás

Az IBM 2026. október 14-én közzétett kutatása több mint 3200 vezető válaszaira épül. A felmérésben olyan, legalább 1000 alkalmazottat foglalkoztató szervezetek vezetői vettek részt, amelyek nyolc európai és közel-keleti országban működnek.

A válaszadók 80 százaléka számolt be arról, hogy az elmúlt évben AI-incidens került az igazgatóság vagy a felső vezetés elé. Az IBM példái között szerepel az AI-ügynök hibája, az adatok kitettsége, az AI által támogatott hibás döntés és az AI-biztonsági incidens. Ennek ellenére az érintett szervezeteknek csak 40 százaléka változtatott az AI-irányítási szabályzatán vagy keretrendszerén.

Ha az AI bevezetésének üteme meghaladja az irányítási és megfelelési keretrendszerek felkészültségét, a vezetők 56 százaléka szerint a szervezet a meghatározott kockázati határokon belül folytatja a bevezetést, miközben az irányítási rendszer alkalmazkodik. Egyharmaduk, 33 százalékuk inkább elhalasztja a bevezetést addig, amíg a szükséges irányítási feltételek rendelkezésre nem állnak.

Az AI-ügynökök nagyobb önállóságot kaphatnak

A kutatás szerint a válaszadók 35 százaléka már éles környezetben használ ügynöki AI-rendszereket. Háromnegyedük arra számít, hogy 2027-re az AI-ügynökök bizonyos fokú önállósággal vesznek részt döntésekben. A jelenlegi irányítási rendszert ugyanakkor csak 37 százalékuk tartja alkalmasnak arra, hogy lépést tartson az ügynöki AI bevezetésének bővülésével.

Az AI-kockázatokért a megkérdezettek 98 százaléka formálisan igazgatósági szinten jelölt ki felelőst, 26 százalékuk pedig külön igazgatósági AI-bizottságot is létrehozott. Az AI-ügynökök kedvezőtlen kimeneteleiért felelős konkrét szerepkörben azonban nincs egyértelmű egyetértés. A CIO vagy CTO szerepét említették a legtöbben, de ezt is csak a válaszadók 17 százaléka választotta.

Az AI-rendszer által okozott jelentős kár jogi felelősségét illetően szintén megoszlanak a vélemények. A válaszadók 20 százaléka a fejlesztő és a használó közötti arányos megosztást támogatja, 19 százalékuk szerint ehhez olyan szabályozási keretrendszerre lenne szükség, amely jelenleg nem létezik megfelelően, 14 százalékuk pedig az AI-szolgáltatót vagy technológiai beszállítót tenné felelőssé.

Valós idejű kontrollt várnak a vezetők

A 2027-re várt, emberi jóváhagyás nélkül működő AI-ügynökök kezeléséhez a vezetők több új kontrollt tartanak szükségesnek. 33 százalékuk formális jogi vagy szerződéses keretrendszert vár az AI-szolgáltatók felelősségének meghatározására ügynöki hibák esetén. 32 százalékuk előre rögzített emberi beavatkozási küszöböket, 30 százalékuk pedig az ügynökök döntéseinek és műveleteinek valós idejű figyelését és naplózását tartja fontosnak. Azonnali, teljes vállalati leállítási lehetőséget 29 százalékuk emelt ki.

A szervezetek 54 százaléka külön kockázati kategóriaként kezeli a generatív AI-eszközöket és az ügynöki AI-rendszereket, külön irányítási keretrendszerekkel. További 38 százalékuk közös alapkeretrendszert alkalmaz, amelyet az ügynöki AI-ra vonatkozó kiegészítő kontrollokkal egészít ki. Az irányítás hiányosságaiból eredő pénzügyi kitettséget csak 37 százalék méri formálisan, igazgatósági szinten felülvizsgált módon.

A beszállítói lánc is kockázatot jelent

A válaszadók 54 százaléka szerint hiányosságok vagy korlátok vannak abban, ahogyan az irányítási keretrendszer a kulcsfontosságú beszállítók, technológiai partnerek és ellátási láncbeli résztvevők AI-rendszereit és modelljeit lefedi. A harmadik felek AI-kockázatát folyamatosan csak 21 százalék figyeli, független biztosítást vagy tanúsítási követelményeket pedig 13 százalék alkalmaz.

A szabályozási környezet országonként eltérően befolyásolja a beruházási döntéseket. Az Európai Unióban a vezetők 41 százaléka az EU AI Act magas kockázatú rendszerekre vonatkozó, 2027 decemberében esedékes kötelezettségei előtt gyorsítja az irányítási beruházásokat, további 35 százalékuk pedig strukturált megfelelési tervvel halad. Az Egyesült Királyságban a szektorális szabályozók elvárásai a leggyakoribb ösztönzők, 27 százalékos aránnyal. Szaúd-Arábiában és az Egyesült Arab Emírségekben a nemzeti AI-stratégiai követelményeket jelölte meg fő tényezőként a válaszadók 61 százaléka.

Az IBM szerint az AI-irányítás az elfogadás mellett egyre inkább az elszámoltathatóság kérdésévé válik. A kutatás eredményei alapján a felhasználóknak és a szervezeteknek egyaránt fontos lesz, hogy az AI-ügynökök működéséhez előre meghatározott határok, kijelölt felelősségek és valós időben működő kontrollok kapcsolódjanak.