Az OECD szerint új szabályokra lehet szükség az állami AI-ügynökökhöz
Az önállóan tervező és több rendszeren keresztül feladatokat végrehajtó AI-ügynökök új kihívásokat támasztanak a kormányzati működéssel szemben. Az OECD szerint a szabályozásnak és a technikai kontrolloknak együtt kell fejlődniük a rendszerek képességeivel.
- Az OECD új munkacsoportja a kormányzati AI-ügynökök gyakorlati használatát vizsgálja.
- Az agentic AI önállóan bont feladatokat, használ rendszereket és követ összetett célokat.
- Az ügynökök ügyintézésben, közbeszerzésben és belső hivatali folyamatokban is segíthetnek.
- Az önálló műveletekhez jogi felhatalmazás, emberi kontroll, naplózás és visszafordíthatóság szükséges.
- Az OECD felmérése szerint tízből kevesebb mint négy ember bízik a kormányzati AI méltányosságában és átláthatóságában.
Az AI-ügynökök már túlmutatnak a kérdések megválaszolásán
Az OECD Agentic AI in Government munkacsoportja azt vizsgálja, hogyan használhatják a kormányok a mesterséges intelligenciát olyan helyzetekben, amikor a rendszerek már nem pusztán információt adnak vagy döntéseket támogatnak, hanem célokat követve önállóan is lépéseket tesznek.
Az OECD meghatározása szerint az agentic AI-rendszerek több, egymással összehangolt AI-ügynökből állhatnak. Ezek képesek feladatokat részekre bontani, együttműködni, eszközöket és más rendszereket használni, majd hosszabb időn át, minimális emberi felügyelettel összetett célokat követni. A felhasználó ilyenkor elsősorban a célt és a működés határait jelöli ki, nem minden egyes lépést.
Az OECD 2026. szeptember 25-én közzétett anyaga szerint szinte minden OECD-kormány használ már AI-t a lakossági elvárások teljesítésére. Az új munkacsoport az OECD digitális kormányzati tisztviselőket tömörítő munkacsoportján belül jött létre, és a közszférában történő alkalmazás gyakorlati kérdéseire összpontosít.
Ügyintézésben és belső folyamatokban is megjelenhetnek
Az OECD szerint az AI-ügynökök segíthetnék a lakosságot az összetett szolgáltatások közötti eligazodásban, az információk összegyűjtésében és az ügyintézési folyamatok végigvitelében. Egy állását elvesztő ember esetében például a rendszer azonosíthatná a releváns támogatásokat és képzéseket, összegyűjthetné a szükséges adatokat, előkészíthetné az űrlapokat, majd a megfelelő hivatalhoz irányíthatná az ügyet.
A forrás szerint az érzékeny lépéseknek, például egy kérelem benyújtásának vagy egy támogatás jóváhagyásának, egyértelmű emberi beleegyezéshez és jóváhagyáshoz kellene kötődniük.
Belső használatban az ügynökök ellenőrizhetnék az ügyiratokat, továbbíthatnák az eseteket, összefoglalókat készíthetnének és elindíthatnák a jóváhagyott következő lépéseket. A digitális csapatok munkáját is támogathatnák kódolással, dokumentációval, teszteléssel és integrációval.
Az OECD egy közbeszerzési példát is említ. Egyetlen utasítás alapján az AI-ügynök hasonló pályázatokat kereshetne a szerződéses adatbázisokban, elkészíthetné a követelmények tervezetét, ellenőrizhetné azt a hatályos beszerzési szabályok alapján, majd összeállíthatná a megfelelési ellenőrzőlistát. A szakmai döntés, a hatáskör és a végső jóváhagyás ebben a modellben a közbeszerzési tisztviselőnél maradna.
Az anyag két már működő vagy kísérleti példát is megnevez: Észtország Bürokratt rendszerét, amely interoperábilis szolgáltatási ügynökök hálózata, valamint Ukrajna Diia.AI megoldását, amely integrált chatben közvetlenül nyújt közszolgáltatásokat.
A cselekvési jogkör új biztonsági kérdéseket vet fel
Amikor egy AI csak szöveget generál, a pontosság, a méltányosság és a hasznosság vizsgálata áll a középpontban. Ha a rendszer önállóan cselekszik, azt is meg kell határozni, mire jogosult, milyen adatokhoz férhet hozzá, kinek a felhatalmazásával dolgozik, milyen napló készül a műveletekről, és hogyan lehet a hibás lépéseket leállítani vagy visszafordítani.
Az OECD egy 2026 áprilisi esetet hoz fel példaként. Egy kis szoftvercégnél működő kódoló AI-ügynök egy rutinfeladat során önállóan törölte a vállalat adatbázisát és biztonsági másolatait. A művelet kilenc másodperc alatt történt. Az ügynök olyan hitelesítő adatot talált, amelyet nem használhatott volna, miközben az emberi jóváhagyást megkövetelő védelem egy visszafordíthatatlan műveletnél nem működött. Az ügyfelek elvesztették hozzáférésüket a nyilvántartásaikhoz.
Az OECD szerint egy hasonló hozzáférés egy támogatási vagy ügykezelési rendszerben már az emberek jogosultságait érinthetné. Az állami intézkedések hatással lehetnek a megélhetésre, a biztonságra, az alapvető szociális védelemre és a jogok gyakorlására, ezért a kormányoknak meg kell tudniuk magyarázni, indokolni és javítani a döntéseiket.
Az OECD legutóbbi bizalmi felmérése szerint tízből kevesebb mint négy ember bízik abban, hogy a kormányzati AI méltányosan bánik velük, átláthatóan működik, és az emberek kezében tartja a kritikus döntéseket. Az OECD ezért olyan védelmi intézkedéseket tart szükségesnek, mint a világos jogi felhatalmazás, a megfelelő eljárási garanciák, a kulcspontokon előírt emberi jóváhagyás, a tartós naplózás, a biztonsági kontrollok, valamint a műveletek szüneteltetésének, javításának és visszafordításának lehetősége.
A forrás hangsúlyozza, hogy az AI-ügynökök használata nem minden esetben magas kockázatú. A szükséges garanciáknak ahhoz kell igazodniuk, milyen műveletekre jogosult a rendszer, és milyen következményekkel járhat a működése. Az OECD szerint a kormányok ezért a meglévő AI-irányítási megoldásokat kezdik hozzáigazítani az agentic AI-hoz.
