Deepfake-figyelő: katonai téves riasztás és politikai jogvita is történt

Chatbot téves jelentése miatt majdnem megállítottak egy hajót

A Gulf News CNN-re hivatkozó beszámolója szerint az amerikai különleges műveleti parancsnokság csendes-óceáni elemzője egy chatbotot bízott meg azzal, hogy egy kínai hajó rakományjegyzékét nyílt forrású információk és minősített hírszerzési adatok alapján elemezze. A rendszer tévesen nukleáris fegyveralkatrésznek minősített egy tételt.

Az AI által előállított következtetés katonai csatornákon is terjedt, és csak közvetlenül azelőtt derült ki a hiba, hogy fegyveres egységek megpróbálták volna megállítani a hajót. A Resemble AI szerint az eset azt mutatja, hogy a deepfake-jellegű károkhoz már nem kell hamis videó vagy hang. Egy meggyőzően megfogalmazott, de ellenőrizetlen szöveges jelentés is bekerülhet magas kockázatú döntési folyamatokba.

A forrás szerint az AI katonai célú használatára nincs egységes keret, amely előírná az AI-val támogatott hírszerzési termékek független ellenőrzését a műveleti döntés előtt. A tényleges emberi kontroll gyakorlata az egyes parancsnokságoktól függ.

Montanában a bíróság a politikai beszéd szabadságát vizsgálta

Susan Watters amerikai kerületi bíró szeptember 18-án ideiglenes intézkedést adott ki egy olyan politikai akcióbizottság ügyében, amely AI-val módosított jelöltképeket használt kampánylevelekben. A bíróság szerint Montana deepfake-ekre vonatkozó közzétételi törvénye valószínűleg sérti az alkotmány első kiegészítésében védett politikai beszédet.

Montana Senate Bill 25 az AI-val készített deepfake-ek kampányanyagban való használatát polgári bírsággal és legfeljebb két év szabadságvesztéssel sújtja. Az intézkedés azonban csak a megnevezett felperesekkel szemben tiltja a törvény alkalmazását, magát a jogszabályt nem helyezi hatályon kívül.

A Resemble AI értékelése szerint az ügyben azt vizsgálják, kötelezhet-e egy állam politikai tartalmak készítőit az AI használatának feltüntetésére anélkül, hogy ez összeütközésbe kerülne a politikai szatírát és karikatúrát védő szabályokkal.

A bankok a csalás korábbi szakaszában próbálnak közbelépni

Az ausztrál Commonwealth Bank kutatása szerint a megkérdezettek 89 százaléka úgy gondolta, hogy felismerné az AI által készített deepfake-csalást, a teszten azonban csak 42 százalékuk járt sikerrel. A bank Pollen Team nevű AI-ügynökrendszere tavalyi indulása óta több mint 350 ezer automatizált beszélgetést folytatott csalókkal.

A bűnözők hamis videóval és klónozott hanggal ismert márkákat vagy közszereplőket utánoznak, majd közösségi platformokon és üzenetküldő alkalmazásokban építenek bizalmat. A bank szerint a fizetési képernyőn megjelenő figyelmeztetés sokszor már túl későn érkezik, ezért a védekezést erre a korábbi szakaszra próbálják áthelyezni.

A Fraud Detection Agent naponta több millió tranzakciót vizsgál, és a Pollen Team beszélgetéseiből származó információk alapján körülbelül 3000 csalási szabály frissítéséhez járult hozzá.

A Meta felügyeleti testülete két videó törlését rendelte el

A Meta Oversight Board felülbírálta a vállalat korábbi döntéseit, és két AI-val készített videó eltávolítását rendelte el a Facebookról. Az egyik egy skót munkáspárti tanácsnokot ábrázolt, amint valótlanul menekültellenes kijelentéseket tesz. A másik hamisan azt mutatta, hogy egy muszlim egészségügyi kampányoló abszurd tanácsokat ad, miközben gyorsételt eszik.

Az egyik videó hangja nem volt összhangban az arcmovzgással, és a Meta automatikus rendszere két bejelentés után sem továbbította az ügyet emberi ellenőrzésre. A testület szerint a platform deepfake-ekre vonatkozó védelmi szabályai alapvetően elégtelenek, különösen akkor, amikor a célpont nem választáson induló politikus, hanem egy nyilvánosan szereplő magánszemély.

A két konkrét döntés kötelező a Metára nézve. A testület kilenc további szakpolitikai ajánlást is kiadott, ezek nem kötelezőek, a vállalatnak pedig 60 napon belül kell válaszolnia. A Resemble AI szerint a női közszereplők aránytalanul gyakran válnak olyan hamis tartalmak célpontjává, amelyek lejáratásukra vagy elhallgattatásukra szolgálnak.

Az amerikai belbiztonsági tárca bővíti az azonosítási teszteket

Az amerikai Belbiztonsági Minisztérium tudományos és technológiai igazgatósága külön deepfake-felismerési kihívással bővíti a 2026-os Remote Identity Validation Rally tesztprogramot. A lépés az okmányhamisítási vizsgálatokat is kiterjeszti az AI-val létrehozott személyazonosító dokumentumokra.

A Biometric Update beszámolója szerint egy 2025-ös értékelésen a kereskedelmi személyazonosság-ellenőrző rendszerek legrosszabb forgatókönyvben a hamis dokumentumok több mint háromnegyedét elfogadták. A Resemble AI heti listája alapján a vizsgált ügyek közös tanulsága, hogy a védekezésnek a katonai döntési láncoktól a banki csalásmegelőzésen át a közösségi platformok moderációjáig több ponton kell működnie.