Diplomáciai fiókok és csalók is deepfake-eket vetettek be a héten

AI-kép terjedt a BRICS-csúcsról

A hét kiemelt esete egy, a BRICS-csúcs résztvevőiről készült, mesterségesen előállított szelfi volt. A France 24 szeptember 15-én arról számolt be, hogy a képen Vlagyimir Putyin, Narendra Modi és Hszi Csin-ping mellett olyan személyek is megjelentek, akik nem vehettek részt az eseményen. A képen látható Ebrahim Raisi, Irán korábbi elnöke 2024 májusában helikopter-balesetben meghalt. Luiz Inácio Lula da Silva brazil elnököt is ábrázolták, miközben Brazíliát Mauro Vieira külügyminiszter képviselte. Recep Tayyip Erdoğan török elnök szintén szerepelt a képen, noha Törökország nem tagja a BRICS-nek, és nem küldött delegációt az eseményre.

A képen látható, láthatatlan SynthID-vízjel az OpenAI eszközeire utalt. A képet valóságosként osztotta meg a dél-afrikai orosz nagykövetség a „BRICS is a superpower” felirattal, majd indiai és örményországi iráni nagykövetségi fiókok is továbbították. A bejegyzések több millió nézőhöz jutottak el, mielőtt a tényellenőrzők reagáltak volna. A Resemble AI szerint jelenleg egyik joghatóság sem írja elő az AI-val készített képek jelölését hivatalos diplomáciai közösségimédia-fiókokban.

Hangklónozással csaltak ki 66 ezer dollárt

A Michigan állambeli Brian és Wendy VanDoeselaar 66 ezer dollárt veszített egy ingatlanos átverésben. A CNN beszámolója szerint a csalók egy olyan jelzáloghitel-szakembernek adták ki magukat, akivel a pár hetek óta kapcsolatban állt. Ehhez AI-val klónozott hangot, hamis e-mailt és hamis hívóazonosítót használtak.

Brian VanDoeselaar egy, a hitelező telefonszámának tűnő számról kapott hívást, amelyben a megszólaló megerősítette az e-mailben érkezett utalási instrukciókat. A CertifID szerint a lakásvásárlók zárási pénze a leggyakoribb megtérítési kategória az elfogadott ügyek között, ezek 30 százalékát teszi ki, a medián veszteség pedig 239 850 dollár. Az FBI tavaly több mint 275 millió dollárnyi ingatlanos átutalási veszteséget rögzített, ami 58,5 százalékos emelkedés 2024-hez képest.

Orosz hálózat amerikai jelölteket támadott

Az AFP beszámolója szerint a Kremlhez köthető Matryoshka hálózat legalább 16 videót tett közzé az amerikai félidős választások előtt. A felvételekben valódi, többek között Sarah Jessica Parkerhez, Julia Robertshez, Alyson Hanniganhez, Christopher Lloydhoz és Emma Caulfieldhez kapcsolódó videórészletekre AI-val előállított hangot illesztettek. A videókban a színészek demokratapárti jelölteket támadtak, a tartalmakat pedig a CNN jogosulatlanul használt logójával látták el.

A kampány New Hampshire, Texas, Georgia, Alaska, North Carolina és Ohio egyes kongresszusi versenyeit célozta. A Bluesky hét fiókot felfüggesztett, az X azonban nem intézkedett. A Resemble AI szerint a valódi videó és a hamis hang kombinációja olyan támadási forma, amely elkerülheti az arc- és képcserékre betanított felismerő eszközöket.

Hírességek családtagjait is felhasználták

Az Edmonton Journal egy olyan Instagram-hirdetést vizsgált, amely AI-generált videón azt állította, hogy letartóztatták Alphonso Davies, a Bayern Munich labdarúgójának édesapját. A felvétel egy Comore-szigeteki, Albertában nem engedélyezett szerencsejáték-oldalt, az Oxibetet népszerűsítette. Davies ügynöke, Nedal Huoseh megerősítette, hogy a családnak nincs kapcsolata a szerencsejátékkal.

A hirdetésben egy AI-val létrehozott Drake-változat is megjelent, ami a Resemble AI szerint arra utal, hogy a módszert több híresség ellen is sablonszerűen alkalmazzák. A heti esetek azt mutatják, hogy a megtévesztés hatását a mesterséges tartalom mellett a hivatalos fiókok hitelessége, az ismert hangok és arcok, valamint a valós márkajelzések utánzása is növeli.