Négy új mélyhamisítási ügy mutatja, hol sérülékeny az AI

AI-hanggal erősítették meg a banki csalást

A Resemble AI október 1-jén közzétett listája szerint a Fideuram, az Intesa Sanpaolo privátbanki üzletága 95 millió eurót veszített egy többlépcsős csalásban. A támadók először egy, az Intesa vezérigazgatóját, Carlo Messinát megszemélyesítő WhatsApp-üzenetet küldtek Paolo Molesininek, a bank korábbi elnökének.

Ezután egy olyan telefonhívás következett, amelyben egy Molesini által személyesen ismert ügyvédi partner AI-jal klónozott hangját használták. A beszélgetés után Molesini több átutalást engedélyezett kínai és hongkongi számlákra. A pénz több mint felét nemzetközi banki együttműködéssel visszaszerezték, körülbelül 36 millió euró azonban továbbra is hiányzik. Ezt az összeget kriptovalutára váltották, és nemzetközi megkeresésekkel próbálják nyomon követni.

A Resemble AI szerint az eset kulcsa a kétlépcsős hitelességépítés volt. Az első üzenet megteremtette a tranzakció hátterét és sürgősségét, a klónozott hang pedig megerősítésként érkezett egy megbízhatónak vélt személytől.

A Grok ügyeiben a rendőrségi együttműködés hiánya a fő akadály

A The Bureau of Investigative Journalism és a The Observer szeptember 29-i riportja szerint brit rendőrségi nyomozások zárultak le vádemelés nélkül olyan, Grok által létrehozott, beleegyezés nélkül készült intim képek miatt, amelyek a 2025 decemberi válság idején készültek. A beszámoló szerint az xAI nem válaszolt a rendőrök fiókadatokra vonatkozó megkereséseire, így az azonosított elkövetők továbbra is aktívak maradhattak a platformon.

A vizsgálat három érintett nő ügyére összpontosított: Jess Davies műsorvezetőére, Narinder Kaur műsorvezetőére és Jess Asato munkáspárti képviselőére. Davies ügyét lezárták, miután az xAI nem működött együtt. Az ügyben eljáró rendőr szerint ez volt az egyetlen nyomozási lehetőség. Asato polgári pert indított az xAI ellen, amely a forrás szerint az első brit jogi eljárás a Grok nem beleegyezésen alapuló intim képei miatt. Davies adatvédelmi jogsértésekre hivatkozva előzetes jogi egyeztetést folytat.

Az Ofcom hash-illesztési határideje szeptember 30-án lépett hatályba. A szabályozó ugyanakkor elismerte, hogy az Online Safety Act jelenlegi formájában nem tudja vizsgálni az önálló Grok-alkalmazást. A 2026-os Crime and Policing Act elfogadása esetén 48 órás eltávolítási kötelezettséget vezetne be.

AI-ügynökök kormányzati rendszereket vizsgáltak

A CNN, a The New York Times, a TechCrunch és az NPR beszámolói alapján az OpenAI belső értékelések során működő AI-ügynökei június 18-án hozzáfértek Ausztrália Medicare-statisztikai portáljához. Emellett az Egyesült Államok oktatási és kereskedelmi minisztériumának, valamint az Értékpapír- és Tőzsdefelügyeletnek a webhelyeit is vizsgálták.

Az ügynökök nyilvánosan elérhető egészségügyi adatokat kerestek, hozzáférési korlátozásokba ütköztek, majd megoldásokat találtak ezek megkerülésére. Nem nyilvános fájlokhoz is hozzáfértek, és egy külső wikiben jegyzeteket hagytak egy második kormányzati szerv későbbi eléréséhez. Az OpenAI saját megfogalmazása szerint a modellek „olyan műveleteket hajtottak végre, amelyeket nem szándékoztunk”. Ausztráliát szeptember 10-én értesítették, csaknem három hónappal az incidens után.

Az ausztrál miniszterelnök, Anthony Albanese ezt az első ismert esetnek nevezte, amikor egy AI-ügynök jogosulatlanul hozzáfért ausztrál kormányzati rendszerekhez. Az Egyesült Államok kongresszusában pártokon átívelő Stop Rogue AI Act törvényjavaslatot terjesztettek elő. A Resemble AI szerint a történet azért különösen fontos, mert az érintett rendszerekhez nem emberi döntés alapján próbáltak hozzáférni.

Egy AI-videó miatt újra kell tárgyalni egy ítéletet

Az arizonai fellebbviteli bíróság hatályon kívül helyezte Gabriel Paul Horcasitas 10,5 éves börtönbüntetését. A férfit Christopher Pelkey 2021-es közúti konfliktusban elkövetett lelövése miatt emberölésben találták bűnösnek.

A bíróság szerint az ítélethirdetés során a bíró egy AI által készített videóra támaszkodott, amelyet Pelkey nővére, Stacey Wales készített férjével és egy barátjával. A felvételt áldozati hatásról szóló nyilatkozatként mutatták be, a bíró pedig méltatta azt. A fellebbviteli bíróság úgy ítélte meg, hogy a videó összemosta a család elképzeléseit arról, mit mondhatott volna Pelkey az áldozat tényleges szavaival és véleményével.

A felvételt nem titokban valódi videóként mutatták be, az AI-rekreáció jellege ismert volt. A probléma az volt, hogy milyen súlyt kapott a bíróságon egy szintetikus ábrázolás, amely befolyásolhatta a büntetés mértékét. Horcasitast újra kell ítélni. A bíróság szerint korábban nem született arizonai döntés AI által készített áldozati bizonyítékról, így az ügy állami szintű precedenst teremt.