A Data & Society szerint az AI-ügynökök felügyelete nem lehet csak technikai kérdés

Az AI-ügynökök körüli vita háttere

A kutatási szervezet közleménye szerint az OpenAI ügynökeinek 2026 nyarán nyilvánosságra került támadása a Hugging Face ellen ismét a címlapokra helyezte az AI-rendszerek, különösen az AI-ügynökök szabályozásának kérdését. A Data & Society szerint felmerültek kongresszusi meghallgatások, Bernie Sanders szenátor pedig a szuperintelligencia fejlesztésének betiltását javasolta.

A szervezet úgy látja, hogy a közbeszéd gyakran szándékkal és önálló célokkal rendelkező, emberhez hasonló ügynökökként ábrázolja ezeket a rendszereket. Ez a megközelítés a Data & Society szerint a kontroll nélkül működő autonóm rendszer okozta válságra összpontosít, miközben háttérbe szorulnak azok a felügyeleti hiányosságok, amelyek lehetővé teszik a vállalati felelőtlenséget.

A szervezet 2026. szeptember 10-én közzétett gyűjteménye arra épít, hogy a döntéshozóknak és kutatóknak nem kell a nulláról kezdeniük. A Data & Society közel egy évtizede publikál kutatásokat az automatizált és AI-rendszerek irányításáról, és azt hangsúlyozza, hogy a kormányzás társadalmi és technikai ökoszisztéma.

Az önkéntes vállalások nem helyettesítik a szabályokat

A gyűjtemény egyik fő állítása szerint a kormányzás végső soron társadalmi döntések sorozata, amelyet meghatároz, hogy ki rendelkezik hatalommal. A Data & Society szerint az AI jelenlegi szabályozási hiányosságai olyan erőviszonyokat tükröznek, amelyekben kevés technológiai szereplő tervei és érdekei kerülnek a közérdek elé.

A szervezet szerint az AI-cégek önkéntes biztonsági vállalásai nem elegendők a demokratikus és kikényszeríthető szabályozás helyett. A közlemény azt állítja, hogy ezek a vállalások gyakran az alaptevékenység védelmét szolgálták, és gazdasági, illetve versenyhelyzetből fakadó nyomás alatt történelmileg nem mindig teljesültek.

A Data & Society arra is felhívja a figyelmet, hogy az AI-rendszerek nem léteznek a hatályos jogon kívül. A polgári jogi védelemtől az ipari kémkedés tilalmáig meglévő jogi keretek vonatkoznak ezekre a technológiákra és az azokat fejlesztő vállalatokra is.

Mi kell az elszámoltathatósághoz?

A gyűjtemény 2021-es, Assembling Accountability című jelentése az algoritmikus hatásvizsgálatokat vizsgálja. A Data & Society szerint egy értékelés feltárhatja, mi romlott el, de önmagában nem határozza meg, ki felelős, és milyen jóvátétel következik. Elszámoltathatóság akkor valósul meg, ha a bizonyíték egy olyan testülethez kerül, amely jogosult felelősséget megállapítani és kikényszeríteni a választ.

A szervezet szerint az ismert AI-károk kezelése intézményi tapasztalatot épít a későbbi, súlyosabb kockázatok kezeléséhez is. Ugyanakkor az AI-t szociotechnikai rendszerként kell irányítani. Egy rendszer akkor is megfelelően működhet a tervezési előírások szerint, ha valós környezetben mégis kudarcot vall.

A 2024-es szakpolitikai anyagok ezért a technológiai szakértők mellett társadalomtudományi és bölcsészettudományi szakértelmet is szükségesnek tartanak a kormányzati döntéshozatalban. A red teaming, vagyis a célzott hibakereső tesztelés sem ad önmagában teljes védelmet. A Data & Society szerint hatásvizsgálatokkal, külső auditokkal és társadalmi részvétellel kell kiegészíteni.

Az ügynökök felügyelete több szintet igényel

A gyűjtemény két újabb anyaga közvetlenül az AI-ügynökök irányításával foglalkozik. A The Oversight Fallacy empirikus megfigyelések alapján arra jut, hogy egy ember felügyelete nem skálázódik automatikusan az ügynökök működésével. A kontrollhoz technikai korlátokra és olyan szociotechnikai gyakorlatokra van szükség, amelyek biztosítják a tudást, a láthatóságot és az ellenőrzést.

A A Sociotechnical Research Agenda for the Oversight of AI Agents szerint sürgősen kutatni kell, hogyan őrizhetik meg a szervezetek az ítélőképességüket akkor, amikor egyetlen ember sem tudja követni egy ügynök teljes működési folyamatát. A Data & Society álláspontja szerint a jövőbeli felügyeleti rendszernek technikai beavatkozásokra, kikényszeríthető jogra, intézményi gyakorlatokra és több, egymást erősítő elszámoltathatósági mechanizmusra kell épülnie.