Berkeley-jelentés: az AI által készített intim képek szabályozása hiányos
A mesterséges intelligencia jelentősen megkönnyítette a beleegyezés nélkül készített intim képek és a gyermekek szexuális bántalmazását ábrázoló anyagok előállítását és terjesztését. A Berkeley Center for Long-Term Cybersecurity új jelentése szerint az amerikai szabályozás nem kezeli megfelelően az ehhez kapcsolódó technológiákat, platformokat és gazdasági ösztönzőket.
- A Berkeley CLTC szerint az AI megkönnyítette a káros intim képek előállítását és terjesztését.
- A jelentés 28 szövetségi és állami jogszabályt elemzett négy amerikai államban.
- A szerzők szerint a TAKE IT DOWN Act nem kezeli az ökoszisztéma minden szereplőjét.
- A javaslatok a platformok, infrastruktúra-szolgáltatók és hirdetési rendszerek felelősségét is érintenék.
- A jelentés a káros tartalmak létrehozásának megelőzését helyezné előtérbe.
A jelentés az egész értékláncot vizsgálja
A Closing Gaps Across the Ecosystem: Regulating the Technologies that Enable AI-Powered Nonconsensual Intimate Images and Child Sexual Abuse Materials című tanulmányt Charlotte Yuan, a Berkeley AI Security Initiative nem rezidens kutatója, valamint Nada Madkour, az AISI igazgatója készítette. A kutatás az UC Berkeley Goldman School of Public Policy szakmai oktatási programjának részeként zajlott.
A szerzők korábbi kutatásokat tekintettek át, szakértőkkel egyeztettek, és 28 szövetségi, illetve állami jogszabályt elemeztek Kaliforniában, New Yorkban, Texasban és Utahban. A jelentés azt vizsgálja, hogy a jelenlegi törvények az AI által létrehozott, beleegyezés nélküli intim képek és gyermekek szexuális bántalmazását ábrázoló anyagok értékláncának mely pontjait fedik le.
Az elemzés négy réteget különít el. Az emberi rétegbe az alkotók és terjesztők tartoznak. A modellréteg a képzési adathalmazokat, a nyílt modelleket és az ilyen adatokat tároló nyílt forráskódú platformokat foglalja magában. A termékbevezetési réteghez kapcsolódik a felhasználói felület, a generatív AI- és szövegből képet vagy videót készítő modellek, a fizetési szolgáltatók, az infrastruktúra-szolgáltatók, az alkalmazásboltok és a keresők. A terjesztési rétegbe a közösségi oldalak, valamint a nyilvános és zárt platformok tartoznak.
A jelenlegi törvények több ponton hiányosak
A szerzők szerint az amerikai jogalkotás elsősorban az egyes készítők és terjesztők megbüntetésére összpontosít. Így kevés felelősség hárul a közösségi médiára, a nyílt forráskódú platformokra és a modellfejlesztőkre, miközben ezek a szereplők hozzájárulhatnak a tartalmak tömeges előállításához és terjedéséhez.
Az Egyesült Államokban 2025 májusában hatályba lépett a TAKE IT DOWN Act, amely bűncselekménnyé tette a valódi vagy AI segítségével manipulált intim képek beleegyezés nélküli megosztását. A Berkeley CLTC szerint ez a jogszabály nem fedi le megfelelően a problémát. A jelentés készítői szerint például nem kezeli azokat, akik saját használatra állítanak elő ilyen tartalmat, és a felelősség megállapításához a terjesztési szándék bizonyítása is szükséges lehet.
„Robusztus szakpolitikai korlátokra van szükség az AI által működtetett, beleegyezés nélküli intim képek és gyermekek szexuális bántalmazását ábrázoló anyagok okozta károk mérsékléséhez” , írják a szerzők. A kockázatok között a magánszféra, a pénzügyi stabilitás, a jó hírnév és a lelki jólét sérelmét említik.
A megelőzésre helyeznék a hangsúlyt
A jelentés a beavatkozási lehetőségek közül elsőként a termékbevezetési réteget jelöli meg, ezt követi a terjesztési, majd a modellréteg. A cél az lenne, hogy a szabályozás már a káros anyagok létrehozását akadályozza, ne csak az interneten való eltávolításukra összpontosítson.
Szövetségi szinten a szerzők javasolják, hogy az AI által létrehozott gyermekbántalmazási anyagok jogellenességéhez ne legyen szükség annak bizonyítására, hogy a képen valós gyermek szerepel, illetve hogy az ábrázolás megkülönböztethetetlen a valóditól. Felelősséget szabnának azokra a platformokra is, amelyek káros modelleket vagy képzési adathalmazokat tárolnak. Ezeken bejelentési és gyors eltávolítási eljárást kellene kialakítani.
A javaslatok között szerepel a terjesztési szándékra vonatkozó feltétel eltörlése, valamint egy olyan polgári jogi lehetőség megteremtése, amely alapján az áldozatok közvetlenül pert indíthatnak és kártérítést kérhetnek. Állami szinten a jelentés az AI-alapú „nudify” alkalmazások közösségi médiás hirdetéseinek tiltását, az infrastruktúra-szolgáltatók felelősségének kiterjesztését és a káros anyagok meghatározott határidőn belüli eltávolítását sürgeti.
A Berkeley CLTC 2026. szeptember 15-én közzétett tanulmánya szerint a jogalkotóknak ezért a technológiák, platformok és szolgáltatók teljes rendszerét kell vizsgálniuk. A jelentés megközelítése a felhasználók számára azt jelentheti, hogy a jogi fellépés és a megelőzés az egyéni elkövetők mellett az ilyen tartalmak létrehozását és terjesztését lehetővé tevő technológiai pontokra is kiterjedhet.
