A MIRI támogatja a szuperintelligencia betiltásáról szóló törvényjavaslatot

A MIRI szerint fordulópont közeleg

A MIRI, a Machine Intelligence Research Institute, hírlevelében azt írta, hogy az AI-ról szóló globális párbeszéd új szakaszba lépett. A szervezet ezt több eseményhez köti, köztük Jacob Coxon Anthropicnál történt lemondásához, AI-vezérigazgatók és több mint ezer alkalmazott esetleges iparági lassítást sürgető felhívásaihoz, valamint olyan úgynevezett elszabadult AI-incidensekhez, amelyek világszerte riadalmat keltettek.

A szervezet szerint az Egyesült Államokban is erősödik az aggodalom. A MIRI által idézett Politico-felmérésben, a „nem tudom” válaszokat figyelmen kívül hagyva, a megkérdezettek 74 százaléka mérsékelt, jelentős vagy „szinte biztos” esélyt lát arra, hogy az AI elpusztíthatja az emberiséget. A válaszadók 61 százaléka támogatja az AI-fejlesztés szüneteltetését. A Trump-szavazók körében ezek az arányok 68, illetve 52 százalék voltak.

Amerikai törvényjavaslat és nemzetközi tilalom

A „Bill to Ban Superintelligence” nevű javaslatot Rep. Casar és Bernie Sanders szenátor terjesztette elő. A MIRI szerint ez az első olyan jogalkotási kezdeményezés, amelynek reális esélye lehet arra, hogy jelentősen csökkentse az AI okozta kihalás veszélyét. A szervezet különösen jónak nevezte a javaslatot, és támogatásáról biztosította. A hírlevél szerint a tervezet egy nemzetközi tilalom felé is tartalmaz lépéseket.

A MIRI több amerikai politikus megszólalását is felsorolta. Josh Hawley szenátor vizsgálatot indított az „új AI-termékek egzisztenciális kockázata” miatt. John Kennedy szenátor arra figyelmeztetett, hogy az AI „független fajjá” válhat, amelyet „nem tudunk irányítani”. Sanders és Elizabeth Warren pedig a határterületi AI-fejlesztések leállítását sürgette.

A szervezet szerint egyházi és politikai szereplők, valamint szerkesztőségek is felszólaltak a lassítás mellett. XIV. Leó pápa arról beszélt, hogy az AI gyors fejlődése felveti a kérdést, irányíthatók lesznek-e a gépek a jövőben, illetve fennáll-e a veszélye annak, hogy az emberiség saját találmányainak áldozatává válik.

A MIRI sürgeti a kormányzati beavatkozást

A hírlevélben a MIRI arra kéri olvasóit, hogy keressék meg politikai képviselőiket, és kérjék őket egy nemzetközi AI-fejlesztési moratórium támogatására. A szervezet emellett olyan anyagok megosztását javasolja, mint az AGI.FYI összesítő, az If Anyone Builds It, Everyone Dies című könyv és annak kiegészítői.

A MIRI elnöke, Nate Soares Tucker Carlsonnak adott interjújában úgy fogalmazott: „A rossz hír az, hogy a busz száguld a sziklafal felé. A jó hír az, hogy a sofőr alszik.” A szervezet szerint az úgynevezett eltérési incidensek súlyosak és széles körűek, a rekurzív önfejlesztés pedig közel lehet. A MIRI által idézett Ajeya Cotra, a METR kutatója úgy vélte, hogy a Hugging Face-incidens a korábbi esetekhez képest „több mint 50 százalékban eljutott a teljes AI-átvételig”, és nem biztos benne, hogy a következő figyelmeztető jel még azelőtt megérkezik, hogy túl késő lenne.

A szervezet a szabályozási munkára csoportosít át erőforrásokat

A MIRI technikai kormányzással foglalkozó csapata a közlemény szerint a rogue AI-események után kongresszusi képviselőket tájékoztatott, jogszabályokkal kapcsolatos munkát végzett, szakpolitikai tanácsadókat toborzott, és kutatói ösztöndíjprogramot működtetett. A csapat olvasólistát és jutalmazási trükközésről szóló tanulmányt is közzétett.

A kommunikációs csapat az előző negyedévben több mint 1 000 000 megtekintést ért el közösségimédia-tartalmaival. A Facebook-követők száma 20 000-re nőtt, a TikTokon pedig meghaladta az 5 000-et. A MIRI ugyanakkor az AI StopWatch napi hírösszefoglaló szolgáltatásának szűkítését tervezi, hogy több erőforrást fordíthasson a szakpolitikai munkára. A szervezet célja, hogy a növekvő társadalmi nyomás időben és hatékonyan kormányzati intézkedésekké alakuljon.