Az OpenAI orosz és iráni álfrontos műveleteket tiltott le
Az OpenAI egy Oroszországhoz, illetve Iránhoz köthető titkos befolyásolási műveletet tiltott le. A kampányok álújságírókat, egy latin-amerikai think tanket, hamis dokumentumokat és mesterséges intelligenciával készített tartalmakat is alkalmaztak.
- Az OpenAI egy orosz és egy iráni titkos befolyásolási műveletet tiltott le.
- Az iráni kampány hét álújságírói személyiséget használt.
- A Dark Clark nevű orosz művelet egy latin-amerikai think tanket irányíthatott.
- Az OpenAI az orosz műveletet az IO Breakout Scale 5. kategóriájába sorolta.
- A kampányok tartalmai valódi médiaszereplőkhöz is eljutottak.
Az AI a régi módszereket tette hatékonyabbá
Az OpenAI szerint a két művelet úgynevezett „false front”, vagyis álfrontos struktúrákat épített fel. Ezek célja az volt, hogy geopolitikai és konfliktusokhoz kapcsolódó üzeneteket juttassanak el a célközönséghez úgy, hogy az olvasók ne tudják, ki áll a tartalmak mögött.
Az iráni művelet hét „újságírói” személyiséget működtetett, akik hosszabb cikkeket ajánlottak fel kis és közepes online kiadványoknak világszerte. A kampány emellett közösségimédia-kommentek sorozatait készítette, többnyire az Egyesült Államok és Irán háborújához kapcsolódó témákban.
Az orosz művelet egy latin-amerikai „think tanket” próbált irányítani, továbbá hamis „kiszivárgott” dokumentumokat és hanganyagokhoz készült szövegeket hozott létre. Az OpenAI mindkét esetben azt látta, hogy a szereplők mesterséges intelligenciát használtak belső jelentések megfogalmazására is.
Orosz művelet Latin-Amerikában
Az OpenAI a Russia-origin műveletet „Dark Clark” néven azonosította, és a hozzá kapcsolódó ChatGPT-fiókok egy csoportját letiltotta. A szereplők Latin-Amerika országait célzó titkos befolyásolási kampányokhoz használták a szolgáltatást. A tevékenység jelentős része Ukrajna latin-amerikai megítélésének rontására irányulhatott, emellett helyi politikai folyamatokra is hatni próbált, különösen Argentínában és Bolíviában.
A működtetők főként oroszul írtak a modelleknek, egyikük spanyolul használta a szolgáltatást. Mivel az OpenAI nem engedélyezi az oroszországi hozzáférést a modelljeihez, a szereplők VPN-en keresztül csatlakoztak.
A művelet középpontjában egy latin-amerikai „kutatási platform”, a Social Research Center, röviden SRC állt. Az OpenAI szerint az entitást egy „Mia Clark” nevű hamis személyiségen keresztül irányíthatták. A jelentésekben az SRC fizetési sávjairól, felvételről és elbocsátásról is döntéseket írtak le. A rendelkezésre álló bizonyítékok alapján az ott dolgozó latin-amerikai alkalmazottak nem tudhatták, hogy egy orosz csoportnak dolgoznak.
A terjesztés módja növeli a kockázatot
Az OpenAI az orosz műveletet a saját IO Breakout Scale rendszerében az 5. kategóriába sorolta, ahol az 1-es a legalacsonyabb, a 6-os a legmagasabb szint. A vállalat közlése szerint ez az első 5. kategóriás művelet, amelyet a jelentéseinek megkezdése óta megzavart. Az iráni művelet a 4. kategóriába került.
A két kampány tartalmai közül több a közösségi platformokon való egyszerű közzétételnél tovább jutott, és hagyományos médiaszereplőkhöz is elkerült. Az OpenAI az elmúlt két és fél évben 30 titkos befolyásolási műveletet hozott nyilvánosságra. Megfigyelése szerint azoknak volt a legnagyobb lehetséges elérésük és hatásuk, amelyek valódi médiakiadványokban próbálták elhelyezni az anyagaikat.
A vállalat szerint a mesterséges intelligencia nagyobb léptéket, hatékonyságot, nyelvi gördülékenységet és szerkesztési képességet adhat az álfrontos műveleteknek. A nyilvánosságra hozatal ugyanakkor gyengítheti ezeket a kampányokat. Az OpenAI példaként említi, hogy a korábban feltárt „Alice Donovan” és „PeaceData” műveletek a leleplezésük után megszűntek.
OpenAI: Disrupting AI-enabled “false front” operations
