Az AI lassítását sürgetik a vezetők, de a megállapodás távolinak tűnik

Verseny a technológiai előnyért, növekvő bizalmi válság

Az Atlantic Council szeptember 14-én közölt elemzése szerint az AI fejlesztése olyan globális, rendszerszintű verseny része, amelyben az Egyesült Államok, európai laboratóriumok és a kritikus ellátási láncok szereplői egyaránt érintettek. Az AI egyre nagyobb hatással lehet a nemzeti erőre, a katonai előnyre és a gazdasági növekedésre. A verseny kimenetele azt is befolyásolhatja, hogy a nyitott társadalmak és piacok versenyképesek maradnak-e egy megfigyelésen alapuló autoriter alternatívával szemben.

Graham Brookie, az Atlantic Council technológiai programokért és stratégiáért felelős alelnöke szerint az AI-fölény megszerzése önmagában nem jelent sikert, ha a fejlesztés üteme megelőzi az amerikai és szövetséges intézmények képességét az összetett és autonóm kockázatok kezelésére. Szerinte a társadalom közben szkeptikus, ideges és pesszimista az AI-val kapcsolatban. Az Atlantic Council AI-bizottsága úgy találta, hogy a bizalom az AI-vezető szerep egyik alapfeltétele.

Brookie szerint ezt a bizalmi hiányt tovább mélyíti, amikor vezető kutatók jól fizető állásokat hagynak ott, majd arról beszélnek, hogy az AI-nak 10 százalékos vagy annál magasabb esélye lehet egy kihalási esemény előidézésére.

Független értékelők és erősebb állami szerep

Amodei javaslatának három fő eleme az értékelők beépítése a fejlesztési folyamatba, az együttműködés a demokratikus országokkal, valamint a globális ütemezés. Brookie szerint a modellek külső értékelése akkor lehet a leghatékonyabb, ha azt iparági követelménnyé teszik, és egy, a nyilvánosság felé elszámoltatható szervezet támogatja.

Safa Shahwan Edwards, az Atlantic Council Cyber Statecraft Initiative igazgatója szerint az egyre erősebb AI-eszközök fejlesztési üteme nincs összhangban a kormányzási mechanizmusokkal. Az iparági ösztönzők sem megfelelőek, miközben a kormányok kapacitása és hajlandósága korlátozott a fejlesztések lassítására vagy biztonsági szabványok kialakítására.

Edwards arra is felhívta a figyelmet, hogy az iparág által beágyazott, külső értékelők csak akkor lehetnek valóban függetlenek, ha hozzáférésük, önállóságuk és hatáskörük garantált. Az állami kapacitás, szakértelem és jogkörök kiegészítő fejlesztése nélkül a kormányok nem tudnak érdemben bekapcsolódni az AI fejlődésének alakításába.

Az Atlantic Council egy ősszel publikálandó kutatása 114 AI-biztonsági vagy AI-védelmi intézetet azonosított, köztük kormányzati hátterű szervezeteket. Ezek közül mindössze kilenc működik formális koordinációban, és jelentős technikai különbségek vannak közöttük.

Az Egyesült Államok és Kína között szűk lehet az együttműködés tere

Kenton Thibaut, az Atlantic Council Digital Forensic Research Labjának Kínával foglalkozó vezető munkatársa szerint Washington és Peking egyaránt felismeri a legfejlettebb AI-rendszerek kockázatait. Hszi Csin-ping júliusban a kontroll elvesztésének veszélyére hivatkozott, és a veszélyes viselkedés megfigyelését, a felmerülő kockázatok korai felismerését, az emberi kontroll fenntartását, valamint nemzetközi szabályok kialakítását sürgette.

Thibaut szerint Kínának technikai okai is vannak az együttműködésre. A kínai fejlesztők kevesebb rálátással rendelkeznek a jellemzően nyílt súlyú modelljeik működésére, amikor a felhasználók Kínán kívüli infrastruktúrán alkalmazzák azokat. A visszaélésekre vonatkozó bizonyítékok ugyanakkor feltárhatják a gyengeségeket, és javíthatják a védelmi megoldásokat.

A politikai akadályok miatt az elemző jelentős áttörést valószínűtlennek tart. Kína attól tart, hogy a biztonsági egyeztetések az Egyesült Államok technológiai hegemóniájának erősítését szolgálhatják, és azt várja, hogy a szabályok az amerikai vállalatokra is vonatkozzanak, valamint kikényszeríthetők legyenek. Az Atlantic Council szerint a vezetők összehangolódása után most a közszférának kell felgyorsítania a munkát, miközben az iparágnak valódi hozzáférést kell biztosítania a legfejlettebb modellek harmadik fél általi értékeléséhez.