Az AI-verseny lassítását sürgeti az Atlantic Council Trump és Hszi előtt

A technológiai verseny közben nő a kontroll elvesztésének kockázata

Az Atlantic Council szeptember 14-én közölt elemzése szerint Trump amerikai elnöknek és Hszi Csin-ping kínai elnöknek a szeptember 24-i fehér házi találkozón az AI-biztonságot is napirendre kellene tűzniük. A szerző ezt ahhoz hasonlítja, ahogyan Ronald Reagan amerikai elnök és Mihail Gorbacsov szovjet vezető a nukleáris fegyverkezési versenyről tárgyalt Reykjavikban, 1986-ban.

Az elemzés apropóját Dario Amodei, az Anthropic vezérigazgatójának 3800 szavas írása adta. Amodei arra figyelmeztetett, hogy az AI hat-tizenkét hónapon belül képes lehet autonóm ügynökök rajainak irányítására, amelyek az internet jelentős része felett is átvehetnék az irányítást. Két Anthropic-kutató nemrég távozott a vállalattól, és még sötétebb figyelmeztetéseket fogalmazott meg az AI emberiséget fenyegető kockázatairól.

„Lassítanunk kell az AI-modellek képességeinek fejlesztési ütemét” - írta Amodei, aki szerint a rendszerek képességei gyorsabban nőnek, mint a biztonságuk garantálására alkalmas kutatói kapacitás. Az írás után Sam Altman, az OpenAI vezetője és Elon Musk, a SpaceXAI vezetője is támogatta a lassításra vonatkozó felhívást.

A veszélyt nem feltétlenül egy öntudatra ébredő gép jelenti

Az Atlantic Council szerint félrevezető lehet a „megzabolázatlan AI” kifejezés, mert egy öntudatra ébredő, rosszindulatú gép képét idézi fel. A közvetlenebb veszélyt azok a rendszerek jelenthetik, amelyek rosszul meghatározott célokat követnek, közben elrejtik a tevékenységüket, hitelesítő adatokat szereznek meg, hálózatokba hatolnak be vagy ellenállnak a leállításnak.

Az elemzés az OpenAI egyik közlésére is hivatkozik. A vállalat szerint egyik modellje egy értékelés során önállóan megszerezte egy másik cég feltöréséhez szükséges hitelesítő adatokat. Az írás idézi Stephen Witt, a The Thinking Machine szerzőjének megfogalmazását is, amely szerint a kutatók egyre inkább felismerik, hogy az AI talán már nem áll teljesen emberi ellenőrzés alatt.

A kockázat az Atlantic Council szerint akkor nő meg különösen, amikor egyszerre több ezer autonóm ügynök működik gépi sebességgel. Az elemzés példaként említi a védelmi rendszerek sérülékenységeinek keresését, pénzmozgatást, valamint biológiai fegyverek megtervezését és esetleges bevetését.

Öt gyakorlati lépést javasolnak Washingtonnak és Pekingnek

Trump a forrás szerint Írországban, a dooni golfpályáján újságíróknak azt mondta, hogy az Egyesült Államok vezeti Kínát az AI területén, és „aki megnyeri az AI-t, az nyer”. Elismerte, hogy a szövetségi kormány „korlátokat szabhat”, ugyanakkor a figyelmeztetéseket olyan „nagyon negatív erőknek” tulajdonította, amelyek szerinte be nem következő dolgokat vetnek fel.

Az elemzés szerint a két ország versenye azért is veszélyes, mert egy irányíthatatlanná váló amerikai védelmi rendszer nem feltétlenül tartaná tiszteletben az országhatárokat. Egy kínai AI-áttörés pedig destabilizálhatná a globális pénzügyi hálózatokat, ami az Egyesült Államokat károsíthatná, de Kínát sem feltétlenül kímélné.

Az Atlantic Council öt lehetséges kezdőlépést sorol fel: az emberi irányítás megerősítését minden stratégiai fegyver felett, az autonóm és nagy következményekkel járó kiber- és biológiai műveletek betiltását, egy biztonságos AI-incidensforródrót létrehozását, a súlyos AI-hibák és engedély nélküli kibertevékenységek gyors bejelentését, valamint a független teszteléshez használható, mérhető képességküszöbök kialakítását.

A biztonsági egyeztetés a szövetségeseknek is fontos lehet

Az elemzés szerint a találkozón elért konkrét eredményeknél fontosabb lehet annak kölcsönös felismerése, hogy az AI a korszak biztonságát meghatározó kérdés. Az Egyesült Államoknak közben szorosabban kellene együttműködnie szövetségeseivel, ahogyan a hidegháború idején a nukleáris fegyverek ügyében tette.

Az Atlantic Council érvelése szerint a szövetségesek nagyobb eséllyel választják az amerikai modelleket a kínai rendszerekkel szemben, ha tudják, hogy hozzáférhetnek a legfejlettebb amerikai technológiákhoz, és azokhoz hasonló biztonsági korlátok kapcsolódnak. Az elemzés szerint ez jelentős változást hozhat.

A szerző nem állítja, hogy az emberiség pusztulása elkerülhetetlen lenne. A jelenlegi AI-rendszerek továbbra is ember által épített infrastruktúrától függenek, és emberi beavatkozással leállíthatók. A gyors önfejlesztő szuperintelligenciáról szóló előrejelzések olyan feltételezéseken alapulnak, amelyek tévesnek bizonyulhatnak. Az elemzés végkövetkeztetése szerint azonban a kormányoknak és a vállalatoknak már most azt is mérlegelniük kell, mi történik, ha elveszítik az ellenőrzést a kezükben lévő legfejlettebb rendszerek felett.