A Data & Society szerint önmagában kevés az ember a hurokban

A felügyelet több, mint egy szüneteltető gomb

A Data & Society 2026. augusztus 12-én közzétett kutatási napirendje az AI-ügynökök felügyeletének társadalmi és technikai feltételeit vizsgálja. A szervezet szerint az emberi felügyelet megszokott képe abból indul ki, hogy egy felhasználó áttekinti, jóváhagyja, megállítja vagy kijavítja a rendszer működését, amikor szükséges.

Az AI-ügynökök azonban magas szintű célokat alakítanak tervekké, majd ezeket önállóan hajtják végre különböző eszközökben és digitális környezetekben. A felhasználó így nem egyetlen munkalépést ad át, hanem a feladat elvégzésének módjáról szóló döntéseket is. A cél, az ügynök terve és a végrehajtás közötti kisebb eltérések is megváltoztathatják a munka menetét.

A Data & Society által ismertetett The Oversight Fallacy: Why AI Agents Require More than Humans-in-the-Loop című kiadvány szerint a „human-in-the-loop”, vagyis az ember a folyamatban megközelítése önmagában elégtelen. A hatékony felügyelethez tudásra, megfigyelésre, irányításra és beavatkozásra van szükség. Egy szüneteltető gomb csak akkor hasznos, ha a felhasználó felismeri a beavatkozás szükségességét, látja a munka releváns részét, és képes módosítani a következő lépést.

A megfigyelhetőség feladathoz és szakértelemhez kötött

A szervezet szerint az átláthatóság önmagában szintén nem oldja meg a problémát. Egy hosszú műveleti napló minden eszközhívást megmutathat, miközben a felhasználó továbbra sem érti, miért váltott stratégiát az ügynök a végrehajtás közben.

A megfigyelhetőség ezért nem általános tulajdonság, hanem a feladattól, a szakterülettől, a felhasználó tapasztalatától, a siker mércéjétől és a beavatkozás még lehetséges időpontjától függ. Az ügynökök felületei meghatározzák, mi jelenik meg alapértelmezés szerint, mikor kér a rendszer megerősítést, és mikor folytathatja önállóan a munkát.

Ezek a tervezési döntések azt is megmutatják, hogy az ügynök készítői mit tekintenek felügyeletnek. A felületek megtanítják a felhasználóknak, mire figyeljenek, és hol kezdődik vagy ér véget a hatáskörük. A Data & Society szerint a kutatásnak ezért kiemelten kell vizsgálnia, hogyan tanulják meg az emberek azoknak az ügynököknek a felügyeletét, amelyeket éppen az emberi beavatkozás szükségességének csökkentésére építettek.

A felelősség nem hárítható egyetlen felhasználóra

Ha egy felhasználónak minden lépést figyelnie kell, a delegálás sokat veszít az értékéből. Ha viszont túl keveset lát, a felügyelet csak formálissá válik. A gyakorlati kérdés az, hogyan döntik el az emberek és a szervezetek, mely bizonytalanságok fogadhatók el, és mikor kell ellenőrzésre váltani.

A felügyelethez szükséges ítélőképesség ismételt munkán keresztül alakul ki. A rutinfeladatok átadásával a felhasználók elveszíthetik a lehetőséget arra, hogy a gyakorlás során megkülönböztessék a szokásos rendellenességeket a súlyos eltérésektől. A szervezeteknek közben új működési mintákat is meg kell tanulniuk, amelyekben az ellenőrzés akár csak a végrehajtás után kezdődik.

A felelősség a Data & Society szerint intézményi szinten oszlik meg. Az AI-ügynökök beszerzése, alapbeállításai, dokumentációja és a belső szabályzatok már azelőtt alakítják a felügyeletet, hogy egy felhasználó munkába állítaná a rendszert. Hiba esetén ezért nem elég azt kérdezni, miért nem vette észre a felhasználó az eltérést. Azt is meg kell vizsgálni, hogy a felület, a naplózás, a munkaterhelés és a felhasználó hatásköre biztosította-e a felismerés és a beavatkozás feltételeit.

A szervezet szerint a felügyelet gyakran szükséges súrlódást teremt. Az ellenőrzési pontok és a továbbítási útvonalak lassíthatják a folyamatot, amikor a következmények továbbgyűrűzhetnek. Az AI-ügynökök felügyelete így annak vizsgálatát is jelenti, hogyan lehet a terveket, eszközöket, naplókat és munkarutinokat újra összekapcsolni, hogy a cselekvés elszámoltatható maradjon.