A MIRI támogatja a szuperintelligencia fejlesztését tiltó törvényjavaslatot

A MIRI szerint közvetlen tiltásra van szükség

A MIRI szeptember 23-án közzétett állásfoglalásában támogatta a Ban Artificial Superintelligence Act of 2026 nevű törvényjavaslatot. A dokumentumot Aaron Scher írta, és Bourgon, Soares, valamint Eliezer Yudkowsky is jóváhagyta a MIRI nevében.

A szervezet közlése szerint több mint két évtizede figyelmeztet a szuperintelligens mesterséges intelligencia kihalási veszélyére. A MIRI álláspontja szerint ez a veszély csak nemrég vált ismertté a szakpolitikai világban, az eddig felvetett intézkedések pedig részlegesek és elégtelenek voltak.

A MIRI szerint a mesterséges szuperintelligencia, vagyis ASI fejlesztésének tiltása, illetve egy ilyen terv valamely változata az egyetlen hatékony rövid távú megoldás a fenyegetés elkerülésére. A szervezet úgy látja, hogy a tiltásnak még az ASI létrehozása előtt kell beavatkoznia.

A javaslat előzetes jeleknél is leállítaná a képzést

A törvényjavaslat előírná a mesterségesintelligencia-képzés felfüggesztését, ha egy modell olyan előzetes képességeket mutat, mint az AI-kutatás és -fejlesztés automatizálása, vagy az emberi leállítási kísérletek elkerülése. A MIRI ezt azért tartja megfelelő megközelítésnek, mert így nem kell megvárni, amíg a rendszer túl közel kerül a veszélyes képességekhez.

A javaslat egy olyan számítási kapacitási küszöböt is bevezetne, amely felett az AI-fejlesztéshez külön engedély, vagyis charter szükséges. A MIRI szerint a képzéshez felhasznált számítási kapacitás mérhető előre, szemben egy már betanított modell képességeinek értékelésével.

A szervezet ugyanakkor arra figyelmeztet, hogy az algoritmusok és az adatok fejlődése miatt idővel ugyanaz a képesség egyre kisebb számítási kapacitással is elérhető lehet. Pozitívumként értékeli, hogy a javaslat lehetővé tenné a küszöb módosítását a hatékonyabb módszerek figyelembevételével. A MIRI szerint ezt évente egynél gyakrabban is lehetővé kellene tenni, mert az algoritmikus fejlődés gyors lehet.

A javaslat az Egyesült Államokban működő illetékes kormányzati szerv létrehozásáig és feltöltéséig az előrehaladott AI-fejlesztések szüneteltetését is előírná. A MIRI ezt átmeneti, óvatos intézkedésnek tartja, mivel jelenleg senki sem tudja biztosan, hogy a fejlesztések jelenlegi élvonalának folytatása nem vezet-e hamarosan visszafordíthatatlan ponthoz.

A MIRI hiányosságokat is lát

A szervezet szerint a törvényjavaslat legfontosabb hiányossága az AI-chipek nyomon követésének és ellenőrzésének hiánya. A MIRI Technical Governance Team nemzetközi megállapodásra vonatkozó javaslatában ezek az intézkedések központi szerepet kapnak, mert a szuperintelligencia fejlesztését a világ bármely pontján meg kellene akadályozni.

A MIRI szerint a javaslat összhangban van az ilyen irányú intézkedések későbbi bevezetésével, de konkrétan nem írja elő őket. A szervezet arra számít, hogy a törvény elfogadásához szükséges politikai akarat esetén a Kongresszus további jogszabályokkal vagy a törvény módosításával gondoskodna a számítási kapacitás megfelelő követéséről és ellenőrzéséről.

A MIRI hosszabb távon bizonyos kutatások korlátozását is szükségesnek tarthatja, nem csak a fejlett AI-rendszerek fejlesztésének szabályozását. A törvényjavaslatban ilyen korlátozások nem szerepelnek, amit a szervezet jelenleg ésszerű döntésnek tart.

Az állásfoglalás szerint a javaslat egyes veszélyesnek tekintett előzetes képességei közvetlenül kapcsolódnak az ASI-hoz, például az AI-kutatás automatizálása. Más képességek, például a biológiai fegyverek tervezésének javítása, a MIRI szerint nem feltétlenül tekinthetők az ASI szó szerinti előzményeinek, ezért ezekhez eltérő szabályozás lehet optimális.

A szervezet későbbre hagyná a kivételeket

A MIRI szerint elképzelhető lenne, hogy megfelelő biztonsági, védelmi és hozzáférési korlátozások, valamint engedélyezett fejlesztők mellett egy nem szuperintelligens, speciális orvosi AI fejlesztése elfogadható kompromisszumot jelentsen. A szervezet azonban úgy látja, hogy az ilyen kivételek kialakítása nehéz feladat.

Ezért a MIRI elfogadhatónak tartja, ha a törvényjavaslat nem próbálja meg azonnal rendezni ezeket a kérdéseket. Hosszabb távon megfontolhatónak tartaná a kivételeket, miután már hatályban van az ASI teljes tiltása. A szervezet szerint ha ezeket nem lehet gondosan kialakítani, nem érdemes egy erős tiltást gyengíteni és ezzel az emberiséget kockáztatni.

A MIRI összefoglaló értékelése szerint a törvény elfogadása rendkívüli javulást hozna a jelenlegi helyzethez képest, és jelentős előrelépést jelentene a korábbi, az ASI kockázatának kezelésére irányuló jogalkotási javaslatokhoz képest. A szervezet célja szerint az emberiségnek addig kellene visszalépnie a szuperintelligencia fejlesztésétől, amíg jobban nem érti az összehangolási problémát.