Az önálló AI-ügynökök új kormányzási szabályokat sürgetnek

Gyorsan nő a képesség és a piac

A Brookings 2026. október 12-én megjelent elemzése szerint az AI-ügynökök, vagyis az önállóan feladatokat tervező és végrehajtó rendszerek, az elmúlt két évben jelentős fejlődésen mentek keresztül. A számítógépes feladatokban mért pontosságuk 2025-ben 12 százalékról 66,3 százalékra javult. Ez már csak 6 ponttal maradt el az átlagos emberi teljesítménytől.

A Precedence Research becslése szerint az AI-ügynökök piaca a 2025-ös 8 milliárd dollárról 2034-re 199 milliárd dollárra nőhet. A gyors fejlődés miatt a hagyományos, elsősorban modellekre épülő ellenőrzési módszerek önmagukban várhatóan nem lesznek elegendők.

A felhasználási lehetőségek már most szélesek

Az elemzés szerint az AI-ügynökök támogathatják a termelékenységet, a közszolgáltatásokat, az oktatást, az egészségügyet, a fordítást és az akadálymentesítést. Segíthetik a kis- és középvállalkozások növekedését, valamint a fejlődési célok megvalósítását is.

A gyógyszeriparban lerövidíthetik a kutatási időket, az ipari termékek ellátási láncait hatékonyabbá tehetik, az ügyfélszolgálatok költségeit pedig csökkenthetik. A gyártásban az ügynökök már nem csak jelzik a hibát: elemezhetik a rendszert, megkereshetik a valószínű okot, majd eltávolíthatják a hibás egységet.

Az ilyen rendszerek használatához nincs feltétlenül szükség nagy modellekre vagy a legújabb chipekre, ezért a Brookings szerint az alacsonyabb jövedelmű országok számára is hozzáférhetőbbek lehetnek. A közszférában egy 70 alapvető kormányzati feladatot vizsgáló World Economic Forum-kutatás a közszolgáltatásokat az AI-ügynökök egyik leginkább felkészült célterületének találta. A tanulmány ugyanakkor azt javasolja, hogy először információalapú feladatokra használják őket, és csak később olyan, érzékeny döntésekre, mint a jogosultságok elbírálása.

Az önálló cselekvés új kockázatokat teremt

Az AI-ügynökök autonómiát, hozzáférési jogokat, eszközöket és külső rendszerekhez kapcsolódó jogosultságokat kombinálnak. Emiatt a hagyományos chatbotoktól eltérően egy ügynök gyakran még azelőtt elindít egy másik rendszert vagy műveletet, hogy ember ellenőrizhetné a lépést.

A Brookings szerint ez olyan kockázatokat hoz előtérbe, mint a célok félreértése, a viselkedés időbeli megváltozása, az eszközök helytelen használata és az ügynökök közötti koordinációs hiba. A rendszerek működését a bonyolult gépi tanulási algoritmusok miatt sokszor az emberek sem tudják teljesen értelmezni vagy ellenőrizni.

A szervezetek ezért nem csak azt kell, hogy rögzítsék, mire képes egy ügynök, hanem azt is, mire kapott engedélyt. A World Economic Forum Agent Capability and Authorization Profile nevű eszköze ezt a képességek, a jogosultságok, a működési környezet, az ellenőrzések, a megfigyelés és a felelősség kijelölésének dokumentálásával támogatná.

Folyamatos ellenőrzésre és világos felelősségre van szükség

Az elemzés szerint az AI-ügynökök kormányzása nem korlátozódhat a fejlesztés, a beszerzés, a bevezetés és a kimenetek utólagos ellenőrzésének különálló szakaszaira. A kockázat minden egyes művelettel növekedhet, ezért folyamatos és gyors felügyeletre van szükség.

Kiemelt probléma az adatvédelem és a kiberbiztonság. A rendszer alapjául szolgáló adatok manipulálása hibás vagy veszélyes döntésekhez vezethet, miközben a személyes, vállalati vagy rendszeradatok kiszivároghatnak. A Brookings a prompt injectiont, vagyis a bemenetbe illesztett utasítással végrehajtott támadást nevezi a leggyakoribb támadási technikának.

A vállalatoknál az ügynökök közötti és a modellkontextus-protokollok fokozhatják a rendszerek együttműködését, de ezzel a támadások lehetséges hatása is nő. A Brookings szerint ezért a modellfejlesztők, a bevezetők, a felhasználók és az érintett közösségek közötti felelősségi határokat is egyértelművé kell tenni.