A deepfake-ek és az AI-alapú kampányok is befolyásolhatják az amerikai félidős választást

Állami szereplők ipari méretben gyárthatják a dezinformációt

A Bloomberg október 14-i beszámolója szerint Oroszország, Irán és Kína generatív AI-t használ a november 3-i amerikai választás előtti dezinformáció felerősítésére. A Resemble AI Deepfake Watchlist különkiadása szerint ezek a műveletek videókat, szövegeket és hanganyagokat készítenek, amelyek hazai politikai kommentárnak tűnhetnek.

Az OpenAI október 8-án orosz és iráni fiókokat tiltott le, miután összehangolt befolyásolási műveletekhez kapcsolta őket. A jelentés szerint a fiókok közösségi médiás szövegek megírására, fordításra és mesterséges személyiségekhez készített, hitelesnek hangzó életrajzok létrehozására is használták a ChatGPT-t.

Az orosz, Matryoshka néven is követett, Storm-1679 hálózat szeptember eleje óta AI-val módosított videókat terjesztett. Ezek között amerikai hírességeket szerepeltető, demokratapárti jelölteket bíráló deepfake-ek, valamint CNN-adásnak álcázott, AI-hanggal készített felvételek is voltak. Iránhoz köthető hálózatok amerikai aktivistának álcázott mesterséges személyiségeket alkalmaztak, akik republikánusellenes tartalmakat készítettek. Egyes bejegyzések a Daily Kosban is megjelentek, mielőtt a lap ellenőrizte volna a hitelességüket.

Spanyol nyelvű deepfake-videóval támadta ellenfelét Steve Hilton

Steve Hilton republikánus kaliforniai kormányzójelölt AI-generált, spanyol nyelvű kampányhirdetést tett közzé, amelyben ellenfele, a demokrata Xavier Becerra olyan kijelentést tesz, amelyet a forrás szerint valójában soha nem mondott. A videó azt sugallja, hogy Becerra támogatta, hogy fiúk lányok sportjaiban induljanak.

A Resemble AI által idézett LGBTQ Nation szerint Becerra valódi álláspontja az anti-transz diszkrimináció ellenzése, ami nem azonos a hirdetésben neki tulajdonított állítással. Kaliforniában fel kell tüntetni az AI-generált tartalmat a kampányhirdetésekben, a Hilton-kampány azonban körülbelül három másodpercig, kis betűkkel jelenítette meg a jelölést. A kaliforniai jog nem tiltja, hogy egy ellenfél szájába kitalált kijelentést adjanak.

A jelentés szerint a hirdetés célzottan a spanyolul beszélő latin-amerikai szavazókat érheti el, akik kevésbé valószínű, hogy találkoznak az angol nyelvű tényellenőrzésekkel. Ez volt a Hilton-kampány második AI-generált Becerra-ábrázolása ebben a választási ciklusban.

AI-ügynökök küldhetnek üzeneteket a jelöltek nevében

A Center for Democracy and Technology elemzése szerint politikai kampányok olyan AI-ügynököket is használnak, amelyek a jelölt hangján, kétirányú SMS-beszélgetéseket folytatnak a választókkal. A szövetségi jog jelenleg nem írja elő egyértelműen, hogy a kampánynak közölnie kell: a választó nem emberrel beszél.

Az aKillion IONCandidate nevű terméke a jelölt szavazási rekordja, programja és jóváhagyott üzenetei alapján működő, élő beszélgetéseket kínál. A szolgáltató szerint a rendszer egyszerre több ezer beszélgetést képes kezelni, és az üzenetváltásokat az egyes választók profiljához rögzíti. A Convos és a Vector Political hasonló, személyre szabott beszélgetéseket kínál.

Az 1991-es TCPA törvényt előre rögzített hívásokra és tömeges robotüzenetekre írták, ezért nem egyértelmű, hogyan vonatkozik az alkalmazkodó AI-beszélgetésekre. Az FCC 2024-ben kimondta, hogy az AI-generált hang mesterségesnek számít az előzetes hozzájárulást igénylő robothívásoknál, az AI-generált SMS-ekről azonban nem adott hasonló egyértelmű útmutatást. Észak-Dakota már előírja az AI-generált politikai szöveges üzenetek közzétételét, Kalifornia BOT Act szabályainak SMS-ekre való alkalmazhatósága viszont továbbra is jogi kérdés.

A Resemble AI szerint a választók számára ezek a rendszerek azért különösen nehezen felismerhetők, mert nem egyszerűen mesterséges tartalmat készítenek egy jelöltről, hanem magát a jelöltet utánzó, válaszadásra képes digitális személyiséget hoznak létre.