Az AI-ügynökök már szervezeti folyamatokban dolgoznak, de korlátozott önállósággal
Az AI-ügynökök egyre több szervezeti folyamatban jelennek meg, a szoftverfejlesztéstől és kiberbiztonságtól a közigazgatásig. Az OECD szerint a vizsgált szervezetek egyike sem alkalmazta ezeket korlátlan önállósággal, a fontos vagy visszafordíthatatlan lépéseknél továbbra is emberi jóváhagyást használnak.
- Az OECD 25 szervezet tapasztalatait vizsgálta 11 országból.
- Az AI-ügynököket többek között szoftverfejlesztésben, kiberbiztonságban és közigazgatásban használják.
- A vizsgált szervezetek egyike sem alkalmazott korlátlanul autonóm AI-ügynököt.
- A több ügynökből álló rendszerek nehezítik a hibák nyomon követését és a felelősség kijelölését.
- A szervezetek réteges védelemmel, emberi felügyelettel és folyamatos megfigyeléssel kezelik a kockázatokat.
Több országban vizsgálták a gyakorlati alkalmazást
Az OECD.AI 2026. szeptember 24-én közölt összefoglalója 25 szervezet tapasztalataira épül, 11 országból. A vizsgált körben a fejlett AI-rendszerek fejlesztői, vállalati alkalmazók, közszektorbeli szervezetek és akadémiai intézmények is szerepeltek. A kapcsolódó OECD-munkadokumentum azt vizsgálja, hogyan fejlesztik és vezetik be az AI-ügynököket valós szervezeti környezetben.
Az agentic AI olyan rendszereket jelöl, amelyek több, összehangolt AI-ügynökből állhatnak. Ezek a feladatokat részfeladatokra bonthatják, együttműködhetnek, és korlátozott emberi felügyelet mellett hosszabb időn át összetett célokat követhetnek.
A forrás szerint már léteznek olyan alkalmazások, amelyek biztonsági hibákat keresnek a kódbázisban, hibás kódot írnak át, vagy incidenskezelési feladatokat támogatnak. Egy kormányzati szervezetben AI-ügynök válogathatja a beérkező leveleket, és meghatározhatja, mely jogi rendelkezések vonatkoznak egy kérdésre.
A bevezetés bővül, a teljes autonómiát azonban kerülik
Az AI-ügynökök használata az OECD szerint túllép a kísérleti projektek szakaszán, és egyre inkább beépül a szervezeti munkafolyamatokba. Az alkalmazási területek között szerepel a vállalati termelékenység, a szoftverfejlesztés, a kiberbiztonság, az infrastruktúra és a hálózati kapacitás tervezése, a tudományos felfedezés, valamint a közigazgatás.
A szervezetek egyike sem számolt be korlátlan önállósággal működő AI-ügynökök bevezetéséről. Rövid távon azok a feladatok kerülnek előtérbe, amelyek kellően strukturáltak, eredményük ellenőrizhető, a hibák költsége pedig behatárolható vagy visszafordítható.
Sok szervezet ellenőrzési pontokat épít be. Az ügynökök egy előre meghatározott határig önállóan dolgozhatnak, ezt követően azonban emberi felülvizsgálat vagy jóváhagyás szükséges. Ez különösen a nagy hatású vagy visszafordíthatatlan műveleteknél fontos. Az alkalmazás érettsége szervezetenként jelentősen eltér, többek között a technikai felkészültség, a kockázatvállalási hajlandóság és a szervezeti prioritások miatt.
A cselekvő rendszerek új irányítási problémákat hoznak
Az AI-ügynökök a generatív AI-ból és a nagy nyelvi modellekből ismert problémákat is magukkal hozzák, ezek azonban felerősödhetnek, amikor a rendszer nem csak javaslatot tesz, hanem az eredmények alapján cselekszik. A működés kontextusonként és futásonként is eltérhet, miközben fennmarad a hallucinációk, a hibás eszközhasználat és más nem szándékos műveletek kockázata.
Több ügynök, vállalati rendszer és külső eszköz együttműködése tovább növelheti a komplexitást. Ilyenkor nehezebb előre jelezni a működést, felismerni a hibákat és megállapítani, honnan ered egy probléma. Az OECD által ismertetett kihívások közé tartozik a több lépésből álló működés értékelése, a felelősség és a nyomon követhetőség biztosítása, valamint az ügynökök azonosítása és hozzáféréseinek kezelése.
A résztvevők kiberbiztonsági kockázatokat is említettek, köztük a több ügynök közötti összejátszást, az ügynök eltérítését, a hitelesítő adatok ellopását és az adatszivárgást. A forrás az OpenAI ügynökeit és a Hugging Face platformot érintő közelmúltbeli incidensre is hivatkozik.
Réteges védelem és folyamatosabb felügyelet jöhet
A szervezetek jellemzően meglévő AI-irányítási keretekre támaszkodnak, köztük az OECD AI-alapelveire, a NIST AI kockázatkezelési keretrendszerére, az ISO/IEC 42001 szabványra és az alkalmazható esetekben az EU AI Actre. A tapasztalatok szerint egyetlen biztosíték önmagában nem elegendő.
Az alkalmazott megközelítések között szerepel a beállított emberi felügyelet, a szakterületi tudás beépítése a rendszer tervezésébe, a homokozós tesztelés, a legkisebb szükséges jogosultság elve, a folyamatos megfigyelés és a jóváhagyott ügynökök nyilvántartása. Több résztvevő szerint az irányításnak a statikus kontrollok felől dinamikusabb, elosztott felügyelet felé kell fejlődnie a teljes életciklus során.
Az OECD szerint a szervezeteknek az eredmények mellett az ügynökök köztes műveleteit is figyelniük és értékelniük kell. A résztvevők nagy része a tapasztalatok megosztását és a folyamatos szakmai párbeszédet is fontosnak tartotta. Ez a felhasználók számára azt jelenti, hogy az AI-ügynökök terjedésével együtt várhatóan az ellenőrzési pontok, a hozzáférési korlátozások és a működés folyamatos követése is a bevezetés része marad.
