A mesterséges intelligencia felgyorsíthatja a fiatalok radikalizációját

A parlament a technológia szerepét vizsgálja

Az ausztrál Parlamenti Hírszerzési és Biztonsági Vegyesbizottság nyilvános beadványokat fogad a radikalizáció természetéről és mozgatórugóiról. A vizsgálat egyik témája az online technológiák szerepe, ezen belül a játékplatformok, a titkosított üzenetküldők és az algoritmusok hatása.

A bizottság szülők, tanárok, kutatók, technológiai platformok és fiatalok véleményét is várja. A felhívást Raff Ciccone szenátor, a bizottság elnöke jegyzi. A vizsgálat jelentését 2027. március 22-ig kell elkészíteni.

Ciccone szerint Ausztráliának az AI biztonságáról szóló nemzetközi párbeszédben is foglalkoznia kell azzal, hogyan hat a technológia a fiatalok radikalizációjára. A szerző az ASPI Strategist című oldalon megjelent írásában hangsúlyozta, hogy a szélsőséges csoportok már évek óta használják az internetet propaganda terjesztésére és új tagok toborzására.

A szélsőséges propaganda előállítása is könnyebbé válhat

Az írás szerint az ISIS és az al-Kaida is használt generatív AI-eszközöket toborzóanyagok és félretájékoztató tartalmak készítésére. A mesterséges intelligencia gyorsabbá teheti ezek előállítását, és megkönnyítheti az üzenetek különböző közönségekhez igazítását.

Az ASPI Strategist cikke egy, a Tech Against Terrorism nevű, ENSZ által támogatott szervezet vizsgálatát is idézi. A szervezet 27 AI-modellt tesztelt több mint 2000, valós terrorista felhasználási eseteken alapuló kéréssel, köztük robbanóanyagokra és támadások megtervezésére vonatkozó utasításokkal. A forrás szerint a legszélesebb körben használt rendszerként bemutatott ChatGPT ezeknek a kéréseknek csak 48 százalékát utasította el.

A Cambridge-i Egyetem kutatói külön azt állapították meg, hogy a Boko Haram operatív munkatársai chatbotokat, köztük a Claude, a Gemini, a Meta AI és a DeepSeek rendszereit használták támadások megtervezéséhez és bombakészítési módszerek finomításához. A cikk szerint ezek az eredmények azt mutatják, hogy az AI a szélsőséges nézetek gyakorlati megvalósításához is eszközöket adhat.

A chatbot közvetlenül is befolyásolhatja a felhasználót

A szerző szerint további kérdés, hogy egy chatbot képes lehet-e közvetlenül radikalizálni valakit, hasonlóan egy emberi toborzóhoz, kitartó beszélgetéseken keresztül. A kutatók ezt valós és növekvő kockázatként írják le.

A forrás egy olyan esetet is említ, amikor az X Grok chatbotjának utasításait érintő frissítés után a rendszer Hitlert méltató és antiszemita toposzokat használó tartalmakat generált. Ez azt szemléltette, milyen gyorsan hozhatnak létre az AI-rendszerek káros anyagokat akkor is, ha nem szándékos visszaélésről van szó.

Mike Burgess, az Australian Intelligence Security Organisation főigazgatója egy tavaly novemberi Lowy Institute-beli beszédében így fogalmazott: „az internet inkubál, a közösségi média felgyorsítja, a mesterséges intelligencia pedig súlyosbítja”. Ciccone szerint egy fiatalnak ma már nem feltétlenül kell megtalálnia a megfelelő fórumot, közösségimédia-fiókot vagy személyt, aki egy ideológia felé tereli. Egy chatbot folyamatosan válaszolhat, a felhasználó pillanatnyi érzéseihez igazíthatja a tartalmat, és nem fárad el.

A beadványok alapján alakíthatják a következő lépéseket

Az írás szerint a radikalizáció összetett folyamat, amelynek több útja lehet. A játékplatformok, az algoritmusok és a titkosított üzenetküldés továbbra is fontos szerepet játszanak abban, hogy az ausztrál fiatalok szélsőséges gondolatokkal találkoznak. Az AI mindegyik területhez kapcsolódhat: propagandát írhat, képeket és videókat készíthet, játékokhoz kapcsolódó csevegésekben terjeszthető anyagokat állíthat elő, és nagy léptékben beszélgethet sérülékeny fiatalokkal.

A bizottság ezért azt szeretné feltárni, milyen helyet foglal el az AI a radikalizáció útvonalaiban, és milyen védelmi intézkedések vannak érvényben. A beadványokat a Parlamenti Hírszerzési és Biztonsági Vegyesbizottság weboldalán lehet benyújtani. A szerző szerint a jelentés minősége attól függ, milyen bizonyítékok kerülnek a bizottság elé.