Az AI-ügynökök szabályozását a közös definíció hiánya nehezíti
Az AI-ügynökök fogalmát eltérően használják a kutatók, a jogalkotók és a vállalatok, ami az ügynöki rendszerek szabályozását és ellenőrzését is nehezíti. A Future of Privacy Forum szerint közös taxonómiára van szükség a képességek, a hozzáférés és az önállóság leírásához.
- Az AI AGENT Act és a kaliforniai SB 1106 eltérően határozza meg az AI-ügynököket.
- Az ügynöki működés két fontos eleme az önálló feladatvégzés és a rendszerekhez való hozzáférés.
- A programozott botok és a teljesen önálló ügynökök között többféle átmeneti működés létezik.
- A pénzügyi, vállalati vagy joghatással járó műveletek nagyobb kockázatot jelenthetnek.
- Az FPF közös nyelvet és taxonómiát sürget az ügynökök szabályozásához.
Két amerikai jogalkotási javaslat, két eltérő megközelítés
A Future of Privacy Forum szeptember 28-án közzétett elemzése szerint az Egyesült Államokban a nyáron két, az AI-ügynökök szabályozására irányuló jogalkotási javaslat jelent meg: a szövetségi AI AGENT Act és a kaliforniai SB 1106. A két kezdeményezés jelentősen eltérő módon határozza meg, mit jelent az ügynöki mesterséges intelligencia.
Az AI AGENT Act fogyasztókkal kapcsolatba lépő ügynökök szabályozási keretét hozná létre, ezért a definíció középpontjában az ügynök és a felhasználó kapcsolata áll. A kaliforniai SB 1106 ezzel szemben a kiberbiztonságot szolgáló közinfrastruktúra kiépítését célozta, és az ügynököket technikai felépítésük és képességeik alapján írta le.
Az FPF szerint a közös fogalmi keret hiánya különösen akkor jelent gondot, amikor egy jogszabály binárisan, hatálya alá tartozó vagy azon kívüli rendszerként kezeli az ügynököket. A szervezet úgy látja, hogy a hatékony irányításhoz közös nyelvre van szükség az ügynöki működés leírására.
Az önállóság és a hozzáférés különbözteti meg az ügynököket
Az elemzés szerint a technikai és kormányzási szakirodalomban nagyjából kialakult egy közös kép arról, mi tesz egy AI-rendszert ügynökivé. Ennek két fő eleme a fejlett következtetési képesség és a következményekkel járó rendszerekhez való hozzáférés.
Az OpenAI az ügynöki rendszereket úgy jellemzi, mint amelyek hosszabb időn keresztül, előre nem részletesen meghatározott módon képesek olyan műveleteket végrehajtani, amelyek következetesen egy cél elérését szolgálják. A World Economic Forum az önállóságot és a jogosultságot emeli ki. Utóbbi a meghatározott műveletek végrehajtásához biztosított engedélyeket és hozzáférési jogokat jelenti.
Egy előre rögzített lépéseket végrehajtó programozott bot az FPF példája szerint nem ügynöki rendszer, még akkor sem, ha nincs szükség emberi ellenőrzésre. Egy ügynök ezzel szemben nyitott végű célt kaphat, majd részfeladatokra bonthatja, sorrendbe állíthatja és rangsorolhatja ezeket, végül a köztes eredmények alapján módosíthatja a tervét.
A rendszerek a gyakorlatban egy skálán helyezkednek el. Egyes eszközök több lépésből álló feladatokat terveznek, de a fontos műveletek előtt jóváhagyást kérnek. Mások önállóan dolgoznak, viszont szűk területre, például szoftverhibák felismerésére korlátozódnak. Az önállóság és az alkalmazkodóképesség azért fontos a szabályozásban, mert nehezebbé teszi a viselkedés előrejelzését és ellenőrzését.
A hozzáférés szintje a kockázatot is meghatározza
Az AI-ügynökök ma gombokat nyomhatnak meg, űrlapokat tölthetnek ki, adatbázisokban kereshetnek és módosíthatnak adatokat, üzeneteket küldhetnek, valamint kódot futtathatnak. Működésük során megfigyelik a környezetüket, kiválasztják a következő lépést, eszközhívást indítanak, majd értékelik az eredményt és szükség esetén folytatják a folyamatot.
Az FPF szerint a műveletek súlya jelentősen eltérhet. Egy szigorú feltételek alapján közösségi médiás bejegyzéseket készítő és közzétevő ügynök kisebb kockázatot jelenthet, mint egy olyan rendszer, amely vállalati rendszereket kezel, pénzügyi döntéseket hoz, vagy joghatással járó döntésekben, például a felvételben vesz részt. Ezért az elemzés kockázatalapú és arányos szabályozási megközelítést tart indokoltnak.
A hozzáférés szintén lényeges különbség. A kereséssel kiegészített generálás, vagyis a RAG, további adatkészleteket kapcsolhat egy nyelvi modellhez, jellemzően olvasási célból. Az ügynöki rendszerek ezzel szemben általában írhatnak a felhasználó adataiba vagy fájljaiba, illetve műveleteket hajthatnak végre. Egy modell elolvashatja a beérkező leveleket egy válasz előkészítéséhez, egy ügynök viszont az e-mail megírását és elküldését is elvégezheti.
Az elemzés jelentős vállalati érdeklődést ír le: a bankoktól a kereskedőkig sok nagyvállalat vizsgálja az AI-ügynökök belső és ügyféloldali alkalmazását az ismétlődő, munkaigényes feladatok automatizálására. Az FPF október 21-re kaliforniai workshopot is meghirdetett az ügynöki rendszerek bevezetésének haladó kérdéseiről.
Future of Privacy Forum: Defining “Agentic”: Why We Need a Shared Taxonomy for AI Agents
