A MIRI támogatja a szuperintelligencia betiltásáról szóló törvényjavaslatot

A MIRI szerint fordulópont közeleg

A Machine Intelligence Research Institute, vagyis MIRI szerint az AI-ról szóló globális közbeszéd jelentős változáson ment keresztül. A szervezet ezt Jacob Coxon Anthropicnál betöltött pozíciójáról való lemondásával, AI-cégvezetők és több mint ezer alkalmazott esetleges iparági lassítást sürgető felhívásaival, valamint több, úgynevezett elszabadult AI-incidenssel hozza összefüggésbe.

A hírlevélben a MIRI azt írja, hogy az Egyesült Államokban a „nem tudom” válaszokat kizárva a megkérdezettek 74 százaléka mérsékelt, jelentős vagy „szinte biztos” esélyt lát arra, hogy az AI elpusztíthatja az emberiséget. A Politico által idézett felmérés szerint 61 százalék támogatja az AI-fejlesztés szüneteltetését. A Trump-szavazóknál ezek az arányok 68, illetve 52 százalék voltak.

Amerikai törvényjavaslat és nemzetközi fellépés

A „Bill to Ban Superintelligence” elnevezésű javaslatot Rep. Casar és Bernie Sanders szenátor terjesztette elő. A MIRI szerint ez az első olyan jogalkotási kezdeményezés, amelynek valódi esélye lehet arra, hogy jelentősen csökkentse az AI okozta kihalás veszélyét. A szervezet állítása szerint a tervezet nemzetközi tilalom felé is tartalmaz lépéseket, ezért a MIRI hivatalosan támogatja.

A hírlevél több politikai és közéleti megszólalást is felsorol. Hawley szenátor vizsgálatot indított az új AI-termékek egzisztenciális kockázatáról, Kennedy szenátor pedig arra figyelmeztetett, hogy az AI önálló fajjá válhat, amelyet nem tudunk irányítani. Sanders és Warren szenátorok a frontier AI fejlesztésének leállítását sürgették. A Financial Times és az Irish Times szerkesztősége szüneteltetést támogatott, a New York Times szerkesztősége pedig összehangolt lassítás mellett állt ki.

A MIRI szerint szűkül a beavatkozás ideje

A szervezet szerint a közelmúltbeli összehangolatlansági incidensek súlyosak és széles körűek, a rekurzív önfejlesztés pedig a közeljövőben megjelenhet. A MIRI idézi Ajeya Cotrát, a METR kutatóját, aki a Hugging Face-nél történt incidenst a hat hónappal korábbi esetekhez képest úgy jellemezte, hogy az „több mint 50 százalékban eljutott a teljes AI-átvételig”. Cotra azt is mondta, nem biztos benne, hogy a következő figyelmeztetés még azelőtt érkezik, hogy túl késő lenne.

Nate Soares, a MIRI elnöke Tucker Carlsonnak úgy fogalmazott: „A rossz hír az, hogy a busz a sziklafal felé száguld. A jó hír az, hogy a buszvezető alszik.” A MIRI szerint ugyanakkor ma nagyobb esély van a „vezető felébresztésére”, mint három hónappal korábban.

A szervezet a kormányzati fellépést sürgeti

A MIRI technikai kormányzással foglalkozó csapata a rogue AI-események után kongresszusi képviselőket tájékoztatott, jogszabályokon dolgozott, szakpolitikai tanácsadókat toborzott, és kutatói ösztöndíjprogramot működtetett. A csapat olvasólistát is közzétett a technikai kormányzás iránt érdeklődőknek, valamint tanulmányt publikált a jutalomfeltörésről.

A szervezet kommunikációs csapata az elmúlt negyedévben több mint 1 000 000 megtekintést ért el közösségimédia-tartalmaival. Facebook-közönségük 20 000 követőre nőtt, TikTokon pedig átlépték az 5 000 követőt. A MIRI közben szűkíti az AI StopWatch napi hírösszefoglaló tevékenységét, hogy több erőforrást fordíthasson a szakpolitikai munkára. A szervezet arra kéri támogatóit, hogy keressék meg politikai képviselőiket, és szorgalmazzák az AI-fejlesztés nemzetközi leállítását.