A Meta új AI-eszközökkel lép fel a gyermekek online kizsákmányolása ellen

A Meta hálózatokat is vizsgál, nem csak fiókokat

A Meta október 7-én közzétett tájékoztatója szerint minden olyan esetet kivizsgál, amikor gyermekek szexuális bántalmazására vagy kizsákmányolására utaló tartalmat észlel, vagy ilyen bejelentést kap. A szabályokat sértő tartalmakat eltávolítja, a rosszindulatú megosztásra utaló jelek esetén pedig letiltja az érintett fiókokat.

A vállalat ezután a tartalmat a National Center for Missing & Exploited Children, vagyis az NCMEC számára is jelenti, az alkalmazandó jogszabályoknak megfelelően. A Meta közlése szerint gyermekbiztonsági szakértőkből, köztük korábbi FBI-nyomozókból álló csapata manuális vizsgálatokkal is keresi, eltávolítja és jelenti a ragadozó fiókok hálózatait.

A vállalat azt írja, hogy a hálózatok működését azért elemzi, hogy a fellépés hálózati szinten történjen, ne csak egyes fiókok eltávolításával. A gyanús szereplők ugyanis több platformon is megjelenhetnek, és módszereiket is változtatják a felismerés elkerülésére.

Új ellenőrzések a megtévesztő hirdetések kiszűrésére

A Meta szerint az online ragadozók a hirdetési rendszereket is igyekeznek kihasználni. Egy hirdetés önmagában ártalmatlannak tűnhet, miközben rejtett módon olyan, a Meta platformjain kívül található oldalra irányítja a felhasználót, ahol illegális tartalom vagy más káros tevékenység érhető el.

A vállalat a kapcsolódó tevékenységek felkutatása után letiltotta a szabályokat sértő fiókokat és az érintett külső linkeket. Az új intézkedések között szerepel egy nagy nyelvi modellre épülő felismerés, amely az úgynevezett jelzésadást keresi. Ez olyan látszólag ártalmatlan hirdetési tartalom, amely a Meta szerint nagy valószínűséggel rejtetten vezet jogellenes tartalomhoz vagy káros tevékenységhez.

A rendszer azt is vizsgálja, hogy egy hirdetés hová vezet, nem csak azt, mit jelenít meg. Emellett további AI-alapú ellenőrzéseket futtatnak a korábbi rendszerek által fel nem fedezett tartalmak kiszűrésére. A Meta egy olyan, vörös csapatos tesztelésre használt AI-ügynököt is bevezetett, amely saját védelmi rendszereik gyenge pontjait keresi, hogy az új módszereket még elterjedésük előtt azonosíthassák.

A fejlesztések része a visszaesés felismerésének megerősítése is. Ez azokat próbálja azonosítani, akik egy eltávolítás után új fiókot hoznak létre.

Képfelismerés, linkblokkolás és bejelentések

A Meta többféle automatizált eszközt használ. A viselkedési jelek a metaadatok és a felhasználói viselkedés kombinációit elemzik, hogy gyanús mintázatokat fedezzenek fel. A PhotoDNA és más kép- és videó-illesztési technológiák 2011 óta működnek a Meta alkalmazásaiban az ismert gyermekek szexuális kizsákmányolásával kapcsolatos tartalmak azonosítására.

A vállalat szerint az iparág egyik legnagyobb kép- és videóhash-adatbázisát tartja fenn. Az újonnan azonosított hash-eket hozzáadja, majd a Tech Coalition Lantern programján keresztül megosztja az iparág résztvevőivel, hogy más vállalatok is eltávolíthassák az egyező tartalmakat.

A Meta blokkolja a jogsértő tartalmat tároló vagy létrehozó külső webhelyekre vezető linkeket. Ezután megkeresi és törli az ilyen linkeket tartalmazó hirdetéseket, bejegyzéseket és hozzászólásokat. A Facebookon, az Instagramon és a Threadsen megpróbálja megakadályozni az érintett linkek közzétételét, a blokkolt linket tartalmazó hirdetéseket pedig már feltöltéskor elutasítja.

33,2 millió tartalom hat hónap alatt

A Meta adatai szerint 2026 januárja és júniusa között világszerte 33,2 millió, gyermekek szexuális kizsákmányolásához kapcsolódó tartalommal szemben intézkedett a Facebookon és az Instagramon. Ezek több mint 97 százalékát még azelőtt megtalálta és kezelte, hogy bárki bejelentette volna.

Indiában ugyanebben az időszakban 5,3 millió ilyen tartalommal szemben lépett fel a Facebookon és az Instagramon. A Meta közlése szerint ezek több mint 98 százalékát szintén proaktívan, felhasználói bejelentés előtt azonosította.

A vállalat szeptemberben azt is bejelentette, hogy az indiai gyermekbiztonsági ügyeket közvetlenül az Indian Cybercrime Coordination Centre által működtetett National Cyber Crime Reporting Portalra jelenti. A Meta szerint ez kiegészíti azt a gyakorlatot, amelynek keretében az NCMEC segítségével jelenti a gyermekek szexuális bántalmazásával kapcsolatos anyagokat a hatóságoknak.