Ötféle adatvédelmi kockázatot azonosított az MLCommons az AI-ügynököknél

Az ügynökök szélesebb adatvédelmi kockázatot jelentenek

Az MLCommons AI Risk & Reliability munkacsoportja szerint először azt kell meghatározni, milyen viselkedést várunk el egy mesterségesintelligencia-rendszertől, majd azt kell mérni, hogy a rendszer mennyire megbízhatóan teljesíti ezeket az elvárásokat. A szervezet áprilisban publikálta az AI Reliability Map nevű keretrendszert, amely többek között a működést, az adatvédelmet, a termékbiztonságot, a frontier biztonságot és a pszichoszociális korlátokat vizsgálja normál használat és támadás alatt.

A Privacy and Confidentiality Working Group most kifejezetten a személyes adatokkal dolgozó AI-ügynökök megbízhatóságára összpontosít. A csoport szerint egy önállóan működő chatbot adatvédelmi kockázatai jellemzően az adott felhasználóra korlátozódnak. Egy ügynök azonban folyamatosan figyelhet a háttérben, naplózhatja a lépéseit, több munkameneten át megőrizheti az emlékeket, és más eszközökkel vagy ügynökökkel is kapcsolatba léphet.

Az MLCommons 2026. október 1-jén tette közzé az Agent Privacy Risk Taxonomy v0.1 változatát. A dokumentum iparági, akadémiai és civil szervezeti szakértelemre, ismert adatvédelmi és biztonsági incidensekre, valamint meglévő kockázatkezelési keretrendszerekre támaszkodik.

Öt területet különített el a taxonómia

• Adatbevitel és -feldolgozás: milyen adatokat vesz fel és mit őriz meg az ügynök. A név vagy a számlaszám kitakarása önmagában kevés lehet, ha a szabad szöveg alapján azonosíthatóvá válik valaki.
• Összesítés, felhasználás és megosztás: az ügynök olyan adatokat is összekapcsolhat, amelyek külön-külön ártalmatlannak tűnnek. Jogosulatlanul oszthat meg vagy törölhet információkat, külső eszközökre támaszkodhat, illetve futás közben kódot írhat és hajthat végre.
• Eltérő adatvédelmi gyakorlatok az ügynökök között: az egyik ügynök más szabályok szerint dolgozhat, mint amellyel kapcsolatba lép. A törlési, javítási vagy hozzájárulás-visszavonási kérések emiatt nem feltétlenül jutnak el a következő rendszerhez.
• A statikus hozzájárulási modellek korlátai: a hozzájárulás egyszeri döntésként kezeli azt, amit az ügynöknek minden pillanatban, az aktuális helyzet alapján kell értelmeznie. Ha minden alkalommal kérdez, a felhasználó belefáradhat a figyelmeztetésekbe, ha pedig maga becsüli meg az elvárásokat, tévedhet.
• Elszámoltathatóság és irányítás: egy hiba után nehéz lehet megállapítani, hogy a felhasználó, a prompt, a modell, az eszköz vagy egy másik ügynök felelős-e. Az ügynökök közötti interakciók szervezetek közötti, adatvédelmet megőrző naplózására jelenleg nincs egységes módszer.

A következő lépés a kockázatok mérése

A v0.1-es dokumentum nem rangsorolja a kockázatokat. Az MLCommons szerint a fontossági sorrend az ügynök képességeitől és a használati környezettől függ. Egy banki ügyfélszolgálati ügynök és egy postafiókhoz hozzáférő személyi asszisztens eltérő kockázatokkal szembesülhet.

A szervezet a telepítőkkel együttműködve akarja meghatározni, mely kockázatok a legfontosabbak az egyes alkalmazási területeken. Ezután mutatókat azonosítana, mérési próbákat indítana, és az enyhítéshez szükséges bevált gyakorlatokat dolgozna ki. A taxonómiát közben tovább fejlesztik, a teljes munkát a tervek szerint 2027 első negyedévében fejezik be.

A cél olyan mérési eszközök kialakítása, amelyek megmutatják, hogyan teljesít egy ügynök általánosságban, illetve az adott környezet szempontjából legfontosabb területeken. Az MLCommons példaként azt említi, hogy vizsgálható, az ügynök több adatot kér-e be a feladat elvégzéséhez szükségesnél, illetve továbbítja-e a törlési kérést a következő rendszernek. Az elszámoltathatósághoz és irányításhoz kapcsolódó kockázatok egy része viszont a szervezet működéséről szól, ezért ezeket egy mérési próba önmagában nem feltétlenül ragadja meg.

A munkacsoport iparági szakemberek, kutatók, civil szervezetek és szabályozók visszajelzését várja. A Privacy Working Group kéthetente, csütörtökönként tart ülést.