Berkeley-jelentés: több ponton kell fellépni az AI-pornó ellen

A jelenlegi szabályozás a jelentés szerint töredezett

A Berkeley CLTC szeptember 14-én közzétett tanulmánya azt vizsgálja, hogyan segítik az AI-technológiák a beleegyezés nélkül készített intim képek, angol rövidítéssel NCII, valamint a gyermekek szexuális bántalmazását ábrázoló anyagok, CSAM előállítását és terjesztését. A szerzők, Charlotte Yuan, az AI Security Initiative nem rezidens kutatója, és Nada Madkour, a kezdeményezés igazgatója szerint az AI jelentősen csökkentette az ilyen tartalmak létrehozásának és terjesztésének belépési küszöbét.

A Closing Gaps Across the Ecosystem című fehér könyv szerint emiatt bántalmazó eszközökből, rosszhiszemű szereplőkből és támogató infrastruktúrából álló hálózat alakult ki. Az Egyesült Államok szabályozása a szerzők szerint töredezett, és nem kezeli megfelelően a kockázatokat. Az elemzés 28 szövetségi és tagállami jogszabályt vizsgált Kaliforniában, New Yorkban, Texasban és Utahban.

A kutatók szerint a törvények többsége az egyéni készítők és terjesztők felelősségre vonására összpontosít, miközben a közösségi oldalak, a nyílt forrású platformok és a modellfejlesztők elszámoltathatósága korlátozott marad.

Négy rétegen térképezték fel az AI-ökoszisztémát

A jelentés az AI-szabályozás háromrétegű modelljét alkalmazza, és egy emberi réteggel egészíti ki. Az emberi rétegbe az NCII és CSAM készítői, illetve terjesztői tartoznak. A modellréteg magában foglalja a fejlesztést támogató technológiákat, például a káros tartalmakat tartalmazó tanítóadatokat, a nyílt modellkiadásokat és az ilyen adathalmazokat tároló nyílt forrású platformokat.

A termékbevezetési réteg azoknak a szoftveres környezeteknek és felhasználói felületeknek ad helyet, amelyeken keresztül a modellek elérhetők. Ide sorolják többek között a generatív AI- és kép-, illetve videógeneráló modelleket, a fizetési szolgáltatókat, az infrastruktúraszolgáltatókat, az alkalmazásboltokat és a keresőmotorokat. A terjesztési réteghez a közösségi oldalak, valamint a nyilvános és privát platformok tartoznak.

A javaslatok elsődlegesen a termékbevezetési rétegre irányulnak, mert a szerzők szerint itt van a legtöbb beavatkozási lehetőség. Ezt követi a terjesztési, majd a modellréteg.

Több ponton módosítanák az amerikai szabályokat

A szerzők szövetségi szinten megszüntetnék azt a követelményt, hogy az illegális AI-alapú CSAM-nak valódi gyermeket kelljen ábrázolnia. Szerintük az a feltétel is kiskaput teremt, amely a valósághűséget az illegális tartalom megállapításához köti.

A jelentés felelősséget róna azokra a platformokra, amelyek káros modelleket vagy tanítóadatokat tárolnak. Ezeknek bejelentési mechanizmust és gyors eltávolítási eljárást kellene működtetniük. A szerzők emellett eltörölnék a terjesztési szándék bizonyításának követelményét, és lehetővé tennék, hogy az áldozatok közvetlenül pert indítsanak és kártérítést követeljenek.

Tagállami szinten a tanulmány betiltaná a közösségi oldalakon a „nudify” alkalmazások hirdetéseit, kiterjesztené a felelősséget az alkalmazások és modellek indítását segítő infrastruktúraszolgáltatókra, valamint előírná a káros anyagok meghatározott határidőn belüli eltávolítását. A vizsgált négy államban elfogadott jogszabályok mindössze 4 százaléka kínál utat a káros tartalmat tároló infrastruktúraszolgáltatók felelősségre vonásához.

A szerzők szerint a TAKE IT DOWN Act, amelyet 2025 májusában írtak alá szövetségi törvényként, fontos lépés, de nem fedi le azokat, akik kizárólag személyes használatra készítenek ilyen tartalmat, és nem biztosít közvetlen perindítási jogot az áldozatoknak. A CLTC javaslatai ezért a tartalom eltávolítása mellett már a létrehozás feltételeinek megelőző szabályozását célozzák.