Közös fogalomrendszert sürget az AI-ügynökök szabályozásához az FPF
Az AI-ügynökök eltérő technikai és jogi értelmezései megnehezítik a szabályozást, a kockázatok felmérését és a vállalati kommunikációt. A Future of Privacy Forum közös fogalomrendszert sürget, amely az ügynökök önállóságát, alkalmazkodóképességét és rendszerhozzáférését is figyelembe veszi.
- Az AI AGENT Act a felhasználóhoz fűződő viszony alapján határozná meg az ügynököket.
- A kaliforniai SB 1106 technikai felépítésük és képességeik szerint közelít a fogalomhoz.
- Az agentikus rendszereket az önállóság, az alkalmazkodóképesség és a cselekvési lehetőség különbözteti meg.
- A hozzáférések, köztük az írási jogosultságok, alapvetően befolyásolják a kockázatokat.
- Az FPF kockázatalapú, arányos szabályozást és közös fogalomrendszert sürget.
Két amerikai javaslat, két eltérő megközelítés
A Future of Privacy Forum szeptember 28-án közzétett elemzése szerint az Egyesült Államokban a nyáron két olyan jogalkotási javaslat jelent meg, amely az AI-ügynökök szabályozásával foglalkozik. A szövetségi AI AGENT Act a fogyasztókkal kapcsolatba lépő ügynökök számára hozna létre keretrendszert, ezért az ügynököt elsősorban a felhasználóhoz fűződő viszonya alapján határozza meg.
A kaliforniai SB 1106 ezzel szemben a kiberbiztonságot szolgáló nyilvános infrastruktúra kialakítását célozta, és az ügynököket technikai felépítésük, valamint képességeik alapján írta le. Az FPF szerint a két megközelítés jól mutatja, hogy az „agent” kifejezés különböző közönségek számára mást jelenthet.
A fogalom utalhat összetett, több ügynökből álló rendszerekre, egyszerű, nagy nyelvi modellel működő webkaparó eszközökre, a felhasználói közreműködés szintjére, vagy akár arra is, hogy egy rendszer viselkedése mennyiben köthető egy tulajdonoshoz vagy felhasználóhoz. Jogi környezetben az „authorized agent”, vagyis meghatalmazott ügynök kifejezés az AI-tól függetlenül is használatos a California Consumer Privacy Actben.
Az önállóság és a hozzáférés különbözteti meg az ügynököket
Az FPF által áttekintett technikai és irányítási szakirodalom többnyire két tényező köré szervezi az AI-ügynökök meghatározását: a képességek és a hozzáférés köré. Az OpenAI meghatározása szerint az agentikus AI-rendszerek képesek hosszabb időn keresztül olyan műveleteket végrehajtani, amelyek következetesen egy cél elérését szolgálják, miközben viselkedésüket nem határozták meg előre minden részletében. A World Economic Forum az önállóság mellett az ügynök rendelkezésére bocsátott jogosultságokat és hozzáférési jogokat is kiemeli.
Egy előre rögzített lépéseket végrehajtó bot az FPF szerint nem agentikus, még akkor sem, ha emberi ellenőrzés nélkül működik. Agentikusabbnak számít az a rendszer, amely nyitott célból kiindulva maga bontja fel a feladatot részfeladatokra, sorba rendezi és rangsorolja őket, majd a köztes eredmények alapján módosítja a tervét.
A gyakorlatban a rendszerek egy skálán helyezkednek el. Egyes eszközök több lépésből álló feladatokat terveznek, de a fontos műveletek előtt jóváhagyást kérnek. Mások önállóan dolgoznak, de szűk területre, például szoftverhibák felismerésére korlátozódnak. Az önállóság és az alkalmazkodóképesség azért fontos szabályozási szempont, mert az ilyen rendszerek viselkedése nehezebben jelezhető előre és auditálható.
A rendszerhozzáférés a kockázatokat is meghatározza
Az AI-ügynökök ma gombokat nyomhatnak meg, űrlapokat tölthetnek ki, adatbázisokban kereshetnek és módosíthatnak adatokat, üzeneteket küldhetnek, valamint kódot futtathatnak. Működésük során megfigyelik a környezetüket, kiválasztják a következő műveletet, eszközhívást indítanak, majd értékelik az eredményt és szükség esetén megismétlik a folyamatot.
Az FPF szerint a műveletek súlya jelentősen eltérhet. Egy szigorú feltételek alapján közösségi médiás bejegyzéseket készítő és közzétevő ügynök kisebb kockázatot jelenthet, mint egy üzleti rendszereket kezelő, pénzügyi döntéseket hozó vagy joghatással járó, például munkaerő-felvételi döntésekben részt vevő rendszer. Ezért az elemzés kockázatalapú és arányos szabályozást sürget.
A hozzáférés szintén kulcskérdés. A hagyományos, visszakereséssel kiegészített generálás, vagyis RAG rendszerint csak olvasási hozzáférést ad egy nyelvi modellnek. Egy ügynök ezzel szemben a felhasználó adatai vagy fájljai felett műveleteket is végezhet, például e-mailt készíthet és küldhet, illetve megosztott protokollokon keresztül vásárlást indíthat. Az FPF szerint a szabályozásnak ezért a jogosultságok szintjét, az olvasási és írási hozzáférést, valamint a különálló rendszerek adatainak összekapcsolásából fakadó többleterőt is figyelembe kell vennie.
A Future of Privacy Forum szerint a közös nyelv hiánya különösen akkor okoz kormányzási problémát, amikor a jogszabályok binárisan döntik el, hogy egy rendszer a hatályuk alá tartozik-e. A szervezet október 21-re Kaliforniába workshopot hirdetett az agentikus rendszerek bevezetésének fejlett kérdéseiről.
Future of Privacy Forum: Defining “Agentic”: Why We Need a Shared Taxonomy for AI Agents
