Deepfake-figyelő: kampányvideó, befektetési csalás és izraeli választás

AI-generált támogatók egy texasi kampányvideóban

A Newsweek beszámolója szerint Daniel Wong, Fort Bend megye ideiglenes bírájának kampánya október 23-án AI-generált videót tett közzé, amelyben fekete lakosok a jelöltet méltatták. A kampány később eltávolította a felvételt, miután a nézők jelezték a problémákat. A kampány kommunikációs igazgatója a FOX 26 Houston műsorának megerősítette, hogy a videó AI-generált volt.

A felvételen több olyan jel is látható vagy hallható volt, amely felkelthette a figyelmet. A Daniel Wong nevét viselő kalapon elírták a jelölt nevét, a háttérben lévő út menti hirdetőtáblán pedig olvashatatlan betűk jelentek meg. A különbözőként bemutatott szereplők hangja hasonlónak tűnt, és a képen látható torzulások is kérdéseket vetettek fel.

A Resemble AI szerint a videó azért is figyelemre méltó, mert nem egy ellenfél szájába adott hamis állítással próbált hatni, hanem a támogatottság látszatát gyártotta le. A felvételt a hivatalos kampányoldal, majd a megyei republikánus párt oldala is megosztotta a november 3-i választás előtt, a korai szavazás idején. A kampány szerint a videót egy fekete demokrata támogató készítette, és az alkotó állítása alapján a szereplők hozzájárultak a megjelenéshez. Ezt a Newsweek nem ellenőrizte függetlenül.

Idősebb brit befektetőket céloznak a hamis ajánlások

A City of London Police Report Fraud szolgálatának adatai szerint 2026 januárja és augusztusa között több mint 1300 olyan befektetési csalásról érkezett bejelentés, amelyben AI-t, köztük deepfake-eket használtak az ajánlat meggyőzőbbé tételére. A bejelentések csaknem 80 százaléka 60 éves vagy annál idősebb emberektől érkezett.

A csalók AI-generált videókkal és képekkel közszereplők vagy szakértők támogatását hamisítják meg, hogy hitelességet kölcsönözzenek a befektetési ajánlatnak. A bejelentésekben szereplő veszteség összesen 24,3 millió font volt. A rendőrség azt tanácsolja a leendő befektetőknek, hogy pénzátutalás előtt ellenőrizzék a szolgáltatót az FCA Firm Checker rendszerében.

A jelentés szerint a Resemble AI saját Meta Ad Library-vizsgálata olyan kripto- és brókercégeket talált, amelyek hirdetéseiben az AI-jelölt kreatívok aránya körülbelül háromszorosa volt a teljes vizsgálati átlagnak. A márkanevet használó, de a márka által nem működtetett oldalak aránya több mint tízszerese volt a valódi márkákénak.

Izraelben mindkét politikai oldal használt szintetikus tartalmat

Az Al Jazeera beszámolója szerint Benjamin Netanjahu miniszterelnök tábora és a Gadi Eisenkot vezette ellenzék is AI-generált, illetve deepfake-videókat tett közzé az október 27-i izraeli választás előtt. Október 25-én Netanjahu egy Tel-Aviv feletti nukleáris robbanást ábrázoló AI-generált képet osztott meg. Az ellenzéki vezetők azzal vádolták, hogy ezzel megpróbálta megfélemlíteni a választókat.

A szavazás napján Netanjahu olyan fotókat tett közzé, amelyek állítása szerint arab többségű településeken sorban álló választókat mutattak. A BBC elemzése szerint ezek közül legalább az egyiket AI-generáltként jelölték meg.

A Resemble AI szerint különösen problémás lehet, amikor szintetikus tartalom egy kormányfő vagy egy jelölt ellenőrzött, hivatalos fiókjából érkezik. Ilyenkor a fiók hitelessége maga is kölcsönözhet hitelt a mesterségesen létrehozott képnek. A texasi és izraeli esetek alapján a forrás szerint a deepfake-ek már a kampányok hivatalos kommunikációjának részeként is megjelennek, miközben a jogszabályok és a platformok szabályai nem minden új felhasználási módra adnak egyértelmű választ.