Kanada és Mexikó közös fellépést sürget az AI-deepfake-ek ellen

A generatív AI könnyebbé tette az intim deepfake-ek készítését

Az IVADO és a mexikói Eon Institute Closing the Gaps: Addressing AI-Facilitated Non-Consensual Intimate Images in Canada and Mexico című jelentése Kanada és Mexikó megközelítését hasonlítja össze. A két ország eltérő politikai rendszerben működik, ugyanakkor mindkettőben gondot okoz a hatáskörök megosztása. A két állam ugyanahhoz az észak-amerikai gazdasági térhez tartozik, ahol jelentős befolyással bírnak az Egyesült Államokban működő digitális platformok.

A generatív AI terjedésével könnyebbé vált a beleegyezés nélkül készített és terjesztett intim képek előállítása, különösen a szexuálisan explicit deepfake-eké. A jelentés szerint ez a technológia által lehetővé tett erőszak sértheti az érintettek méltóságát, magánéletét és biztonságát, miközben társadalmi, gazdasági és szakmai következményekkel is járhat.

A jelenség különösen a nőket érinti. A forrás szerint 2023-ban az interneten azonosított deepfake-videók 99 százaléka nőket ábrázolt. A kiskorúak, a rasszizált nők és az őslakos emberek jelentős akadályokkal szembesülnek, amikor támogatást vagy igazságszolgáltatást próbálnak elérni.

Eltérő jogi keretek, hasonló végrehajtási gondok

Kanadában a 2026 júniusában elfogadott jogszabályi változtatások azt mutatják, hogy az ország igyekszik hatékonyabban kezelni ezeket a károkat. A digitális platformok szabályozása ugyanakkor még mérlegelés alatt áll. Mexikóban létezik a Ley Olimpia, a jogszabály végrehajtása azonban államonként eltér, és a szakosodott kapacitás is korlátozott.

A jelentés szerint mindkét országban nehézséget okoz az intézkedések gyakorlati megvalósítása és az igazságszolgáltatáshoz való hozzáférés biztosítása. Mexikóban a kapcsolódó panaszoknak mindössze 0,5 százaléka jut el a bíróságig. Ez a jelentés készítői szerint azt mutatja, hogy a törvények elfogadása önmagában nem garantálja az érintettek hatékony védelmét.

A vizsgálat Kanada és Mexikó jogi kereteinek, valamint közpolitikáinak összehasonlító elemzésére épül. A készítők kilenc kanadai és mexikói szakértővel is interjút készítettek.

Közös minimumszabályokat javasolnak a platformoknak

A jelentés több intézkedést sürget. Ezek között szerepel a rendőrségi és igazságszolgáltatási dolgozók szakosított képzésének megerősítése, a bejelentési mechanizmusok és az áldozatoknak nyújtott támogatás javítása, a képek eltávolításának felgyorsítása, valamint az érintett szervezetek válaszainak jobb összehangolása.

Az IVADO és az Eon Institute szerint Kanadának és Mexikónak együtt kellene dolgoznia a digitális platformok elszámoltathatóságának minimumszabályain. Ennek oka, hogy ezek a szolgáltatások gyakran több ország határain át működnek, miközben a nemzeti szabályozások és végrehajtási lehetőségek eltérnek.

„A mesterséges intelligenciának az emberiséget és a közjót kell szolgálnia. Amikor a használata aláássa az emberek méltóságát, jogait és biztonságát, elengedhetetlen, hogy az államok, különösen az olyan középhatalmak, mint Kanada és Mexikó, együtt dolgozzanak a károk megelőzésén és a felelős szereplők elszámoltatásán”, mondta Catherine Régis, az IVADO társadalmi innovációért és nemzetközi politikáért felelős igazgatója. Hozzátette, ehhez világos szabályokra, azok betartatására képes intézményekre és olyan AI-irányításra van szükség, amely az embereket helyezi a döntéshozatal középpontjába.

A jelentést az IVADO megbízásából Daniela Rojas és Claudia Del Pozo írta, Nicté Cabañas, az Eon Institute munkatársának közreműködésével. A munkát Amélie Côté, az IVADO munkatársa irányította. A dokumentum francia, angol és spanyol nyelven is elérhető.

A szervezetek szerint a határokon átnyúló válasz kulcsfontosságú

Claudia Del Pozo, az Eon Institute alapítója és igazgatója szerint az AI által lehetővé tett, beleegyezés nélküli intim képek nem ismernek országhatárokat, miközben a védelmi mechanizmusok nehezen követik a gyorsan fejlődő technológiát. Úgy látja, hogy a megelőzést és az áldozatok védelmét is erősíteni kell, és nagyobb hangsúlyt kell helyezni a digitális platformok felelősségre vonására.

Az IVADO és a CEIMIA október 28-án Montrealban, a Grande Bibliothèque épületében ingyenes délelőtti rendezvényt tart a mesterséges intelligencia által gyakorolt nyomás alatt álló demokráciákról. A program egyik panelje a politikában dolgozó nőket célzó AI-alapú és digitális erőszakkal foglalkozik, amelyen Del Pozo is részt vesz.