Washington és Peking állandó AI-kommunikációt építene a válságok elé

Az AI felkerült a kétoldalú napirendre

Donald Trump amerikai és Hszi Csin-ping kínai elnök kétnapos washingtoni csúcstalálkozója formális AI-eredmény nélkül zárult szeptember 25-én. A kínai összefoglaló szerint Hszi a két ország AI-párbeszédének folytatását és az AI helytelen, illetve visszaélésszerű használatának közös megelőzését szorgalmazta.

A hét legkézzelfoghatóbb AI-lépése még a vezetők találkozója előtt történt. Scott Bessent amerikai pénzügyminiszter, a New York-i tárgyalásokat követően, bejelentette, hogy az Egyesült Államok incidensvonalat javasol az állandó kommunikáció érdekében. A két kormány hivatalos AI-párbeszédet is létrehozott, amely a tervek szerint körülbelül két hónap múlva Sencsenben ülésezik.

A párbeszéd első feladata lehet az AI legfontosabb veszélyeinek meghatározása. Bessent az irányítás alól kikerülő rendszereket és az AI-t kiber- vagy biológiai fegyveres képességek megszerzésére használó nem állami szereplőket említette.

A forródrót önmagában kevés lehet

Az Institute for Security and Technology, IST három szerzője, Steven M. Kelly, Sylvia Mishra és Catherine Murphy szerint a kommunikációs csatornát az amerikai és orosz nukleáris kockázatcsökkentő központok mintájára kellene kialakítani. Ehhez először közös fogalmakra és küszöbértékekre van szükség, továbbá arra, hogy mikor és milyen adatokat kell a fejlesztőknek saját kormányuk felé jelenteniük.

A szerzők szerint Washington és Peking már több katonai közvetlen vonallal rendelkezik, többek között az űr- és a kibertér területén. A gondot az jelenti, hogy nincs megfelelő gyakorlatuk a csatornák használatára, amikor az valóban számít. A cikk példaként említi, hogy a 2001-es amerikai-kínai repülőgép-ütközés után az amerikai tisztviselők napokig próbálták elérni a kínai vezetőket, Kína pedig a 2023-as ballonlelövést követően sem fogadta a Pentagon hívásait.

Ezért az incidensvonalat békeidőben is rutinszerűen kellene használni. A szerzők szerint a párbeszédnek a szélesebb amerikai-kínai alkudozástól függetlenül, a feszültebb időszakokban is ütemezetten kellene üléseznie.

Két kockázat, eltérő jelentési szabályok

Az irányítás elvesztése és a visszaélés különböző problémákat jelent. Az első esetben egy rendszer a kezelői szándékától eltérően viselkedik, és az első jeleket általában a modellt fejlesztő vagy működtető laboratórium észlelheti. A jelentésnél ezért az a kérdés, milyen gyorsan kell jelezni a rendellenes viselkedést, és mennyi technikai részletet lehet megosztani.

A második esetben a rendszer rendeltetésszerűen működik, de olyan hacker vagy bioterrorista kezébe kerül, aki így korábban elérhetetlen képességekhez jut. Itt azt kellene tisztázni, mi számít jelentős képességnövekedésnek, és hogyan osztható meg a harmadik felekről szóló fenyegetési információ a források felfedése nélkül.

Az IST ezért párhuzamos munkafolyamatokat javasol. A szerzők szerint mérnököknek, kutatóknak, laboratóriumi szakembereknek és korábbi nemzetbiztonsági tisztviselőknek kellene kidolgozniuk a fogalmakat, a jelentési küszöböket és a válságforgatókönyveket. Külön nehézséget jelent, hogy az amerikai laboratóriumok magáncégek, miközben a kínai laborok szorosabban kapcsolódnak az államhoz, és Kína vezető modelljei közül sok nyílt súlyú.

A rendszeres párbeszéd lehet a valódi cél

Az IST szerzői szerint kínai partnereikkel folytatott nem hivatalos, Track II egyeztetéseik során következetes hajlandóságot tapasztaltak az AI-válságkezelés, az incidensjelentés, a kommunikációs csatornák és a közös definíciók megvitatására. Külön érdeklődést váltott ki az IST olyan keretrendszere, amely a hírszerzési figyelmeztetési módszertant használja az AI irányítás alóli kikerülésének jeleire, például a megtévesztésre és az önfenntartásra.

A szerzők szerint ugyanakkor bizonytalan, hogy ez a nyitottság a hivatalos csatornákon is megjelenik-e. A tét az, hogy a tervezett incidensvonal valódi, rendszeresen használt kockázatcsökkentő eszközzé válik-e, vagy csak újabb csúcstalálkozói kezdeményezés marad. A javaslatok egyik fél AI-fejlesztését sem korlátoznák, viszont közös értelmezést adhatnának arról, mi számít veszélyes eseménynek, és mikor kell róla értesíteni a másik oldalt.