Deepfake-vádakkal támadtak politikusokat, bírósági bizonyítékot hamisítottak

Valódi személy nevével terjesztettek hamis vádat

A hét kiemelt esete egy texasi szenátorjelölt, James Talarico ellen irányuló támadás volt. Október 20-án két videó jelent meg az X-en, amelyeken egy volt diák Talaricót szexuális bántalmazással vádolta. A PolitiFact október 22-i tényellenőrzése szerint a felvételek mesterséges intelligenciával készített deepfake-ek voltak, és az orosz Storm-1516 befolyásolási hálózatához kapcsolódtak.

A videókban szereplő személyt Zyon Lewis valódi személyéről mintázták. Lewis a Lead Storiesnak azt mondta, hogy nem ő látható a felvételeken, és ilyen vádat soha nem tett. Darren Linvill, a Clemson Egyetem Media Forensics Hub kutatója megerősítette a hozzárendelést, a Graphika pedig nagyon valószínűnek tartotta, hogy a közzétevő fiók egy valódi Facebook-felhasználót utánzott.

A kutatók több árulkodó jelet azonosítottak: természetellenes szemmozgást és pislogást, merev arckifejezéseket, egy mesterségesintelligencia-detektor 98 százalékos valószínűségi értékét, valamint a Lewis valódi fényképeitől eltérő fogakat. A hang akcentusa és a képaláírás brit helyesírása szintén ellentmondott a történetnek. Az X október 22-ig felfüggesztette az eredeti fiókot, a megosztások azonban még elérhetők maradtak.

Hamis videó került bírósági bizonyítékként az ügyiratba

Az NBC News szerint Victoria Kolakowski, Alameda megye bírája szeptember 9-én megszüntette a Mendones kontra Cushman & Wakefield ügyet, miután kiderült, hogy a felperesek egy mesterségesen létrehozott tanúvideót valódi bizonyítékként nyújtottak be. A Resemble AI ezt olyan esetként írja le, amelyben egy polgári pert kifejezetten AI-val hamisított jogi bizonyíték miatt utasíthattak el.

A bíró különleges eszközök nélkül is észrevette a monoton hangot, az enyhén elmosódott arcot és az ismétlődő mozgásokat. A metaadatok azt jelezték, hogy a videót iPhone 6-tal készítették, miközben a felperesek állítása szerint iPhone 15 vagy újabb készüléknek kellett volna szerepelnie a történetben. Louisiana 250. számú törvénye előírja, hogy az ügyvédek kellő gondossággal vizsgálják meg, AI által létrehozott bizonyítékról van-e szó. Szövetségi szinten nincs ezzel egyenértékű szabály, az Egyesült Államok Igazságügyi Konferenciája pedig májusban nem fogadott el külön deepfake-hitelességi szabványt.

Politikai és pénzügyi csalások is épültek deepfake-ekre

A CBC Go Public beszámolója szerint a 88 éves, British Columbiában élő Ralph Moore tíz hónap alatt 450 ezer dollárt utalt át, miután látott egy Mark Carney kanadai miniszterelnököt szerepeltető, mesterségesen létrehozott befektetési videót. A TD Bank többször rákérdezett a tranzakciókra, figyelmeztette Moore-t és feleségét, belső jelzést adott a számlára, majd ideiglenesen korlátozta azt. Moore számláját februárban végül bezárták, a bank azonban nem térítette meg a veszteséget.

A jelentés egy magyarországi politikai kampányt is bemutat. Az European Digital Media Observatory szerint 34 névtelen TikTok-fiók deepfake-eket és kitalált hírtartalmakat használt Péter Magyar, Magyarország vezető ellenzéki politikai szereplője ellen. A kampány a jelentés szerint összehangolt volt, és a Matryoshka nevű hálózathoz kapcsolódó dezinformációs mintázattal mutatott összhangot. A TikTok egyes fiókokat eltávolított. Magyarországon nincs olyan AI-választási tartalmakra vonatkozó kötelező közzétételi szabály, amely ezt a tartalomtípust külön kezeli, az uniós digitális szolgáltatási jogszabály rendszerszintű kockázatokra vonatkozó jelentési előírásai azonban alkalmazhatók lehetnek az ilyen léptékű koordinált működésre.

A Resemble AI szerint ezek az esetek azt mutatják, hogy a kockázatot sokszor a hitelesnek tűnő környezet adja. Egy valódi személy neve, egy ismert politikus arca vagy a bírósági bizonyíték formátuma akkor is hatást kelthet, ha a hamisítás jelei alapos vizsgálattal felismerhetők. A felhasználók számára ez a forrás, a fiók és a metaadatok ellenőrzését teszi fontossá, miközben a platformok és az intézmények eltérő szabályok mellett próbálják kezelni a tartalmakat.