Írásos csatornát javasolnak az amerikai és kínai AI-incidensekhez
Írásos, kezdetben önkéntes értesítési csatorna létrehozását javasolja az Egyesült Államok és Kína között az Institute for AI Policy and Strategy. A rendszer célja, hogy a nemzetbiztonságot érintő mesterségesintelligencia-incidensekről gyorsan és ellenőrizhető módon értesítsék egymást a felek.
- Írásos, aszinkron értesítési csatornát javasolnak az USA és Kína között.
- A rendszer kezdetben Scott Bessent és He Lifeng közvetlen kapcsolatára épülne.
- Az incidens típusától függően külön amerikai és kínai ügynökségi párosok kommunikálnának.
- A sablon a gyorsan megosztható tényekre és bizonyossági szintekre összpontosítana.
- A későbbi működést egyetértési megállapodás és ellenőrzött információmegosztás erősíthetné.
A vezetői kapcsolattól indulna a rendszer
Az Institute for AI Policy and Strategy október 23-án közzétett jelentése szerint a két országnak szöveges, szabványosított sablont kellene kialakítania az incidensek adatainak megosztására. A jelentés szerzője Sarah Godek, társszerzői Clarissa Koh, Karson Elmgren, Cara Labrador és Craig Jolley.
Scott Bessent amerikai pénzügyminiszter szeptember 20-án találkozott kínai partnerével, He Lifeng miniszterelnök-helyettessel. Bessent ezt követően arról beszélt, hogy az Egyesült Államok AI-incidensekre vonatkozó értesítési mechanizmust javasolt. A forrás szerint ezt a Trump és Hszi Csin-ping közötti csúcstalálkozón mindkét ország elfogadta. Egyes amerikai tisztviselők úgy vélik, a csatorna 2026 végéig létrejöhet.
Az IAPS első lépésként Bessent és He közvetlen, önkéntes kapcsolatát javasolja. A két tisztviselő vezetőik kijelölt megbízottjaként továbbíthatná az értesítéseket a legmagasabb szintre, ha erre szükség van.
Az e-mailes kommunikációt részesítenék előnyben
A jelentés szerint a csatornának aszinkron, szöveges értesítésekre kellene épülnie, például e-mailes kapcsolatra. A telefonos forródrótok kevésbé illeszkednek a kínai politikai környezethez, ahol az alacsonyabb szintű tisztviselők általában nem jogosultak előzetes egyeztetés nélküli beszélgetésekre külföldi partnereikkel.
Az IAPS amerikai és kínai példákat is említ az írásos kommunikációra. Ilyen a 2015-ben létrehozott amerikai-kínai, űrbiztonsági e-mailes kapcsolat, valamint a Washington és Moszkva közötti, köznyelvben vörös telefonnak nevezett, valójában e-mailt használó forródrót. Az amerikai és orosz nukleáris kockázatcsökkentő központok 1987 óta évente több ezer írásos értesítést cseréltek.
A vezetői szint azonban önmagában túl lassú lehet, mivel az incidenseket valószínűleg fejlett modelleket fejlesztő vállalatok, katonai kiberentitások vagy felhőszolgáltatók kiberbiztonsági csapatai észlelik először. Ezért a jelentés idővel az illetékes ügynökségekre ruházná át az értesítést.
Külön csatornák kellenének az incidensek típusaihoz
Általános, határterületi AI-incidenseknél az amerikai Center for Advancing Innovation and Standards for Super Intelligence, röviden CAISSI, kommunikálhatna olyan kínai technikai partnerekkel, mint a TC260 Working Group 9, a China Academy of Information and Communications Technology vagy a Shanghai AI Laboratory. Ide sorolhatók például a modellek önálló kiexportálásával és autonóm replikációjával, illetve a modellek közötti szteganografikus együttműködéssel kapcsolatos esetek.
Nem katonai, AI által támogatott kibertámadásoknál az amerikai Department of Homeland Security és a Cybersecurity and Infrastructure Security Agency működhetne együtt a kínai Cyberspace Administration of China szervezettel, valamint a CNCERT/CC-vel. Nem állami csoportokhoz kötődő esetekben az FBI és a kínai Ministry of Public Security is szerepet kaphatna. Ilyen lehet például pénzügyi infrastruktúra feltörésére vagy biológiai fegyverek fejlesztésére irányuló modellekkel végzett kísérlet.
Katonai incidenseknél az IAPS az amerikai Cyber Command és a PLA Cyberspace Force közötti csatornát javasolja az AI által támogatott kibereseményekre. Fizikai, AI által támogatott katonai incidenseknél a meglévő Defense Telephone Link és a hadszíntéri parancsnokságok kommunikációját lehetne átalakítani. Példaként a jelentés irányítás nélkül működő autonóm hajókat említ.
Sablon, ellenőrzés és fokozatos formalizálás
A javasolt értesítési sablont úgy alakítanák ki, hogy a kormányok az incidens észlelését követő első órákban megoszthassák a beavatkozáshoz szükséges legfontosabb adatokat. A sablon három alapelvre épül: néhány órán belül elküldhető legyen, a tulajdonítás helyett tényekre és a bizonyosság szintjére összpontosítson, és csak a minimálisan szükséges technikai részleteket tartalmazza.
Az értesítések alapértelmezés szerint bizalmas, kormányok közötti kommunikációnak minősülnének, és kizárólag az incidens kezelésére lehetne felhasználni őket. A jelentés szerint a feleknek előre meg kellene állapodniuk arról is, milyen bizonyítékokat adnak át, és milyen körülmények között.
Az IAPS kezdetben önkéntes rendszert javasol, később pedig egyetértési megállapodással, vagyis MOU-val tenné kiszámíthatóbbá a működést. Hosszabb távon ellenőrzött architektúra is kialakítható lenne, amely biztonságosan és bizalmasan validálja a megosztott információkat. Ehhez többek között naplózásra, módosíthatatlan naplókra és egyes esetekben újraszámításra, illetve zéró ismeretű bizonyításokra lehet szükség. Az információk ellenőrzésében az Office of the Director of National Intelligence és kapcsolódó ügynökségek is részt vehetnének.
Institute for AI Policy and Strategy: Operationalizing U.S.-China AI Incident Notification
