Kötelező amerikai AI-biztonsági szabályozást sürget az OpenAI

Kongresszusi szabályokat kér a frontier modellekre

Az OpenAI szerint az AI képességeinek fejlődése új szakpolitikai választ igényel, és ezt egyetlen vállalat, iparág vagy kormány sem tudja egyedül kezelni. A cég azt írja, hogy együtt akar dolgozni a Kongresszussal kötelező, képességalapú nemzeti AI-biztonsági szabályozáson.

A vállalat a Blueprint for Democratic Governance of Frontier AI című anyagára hivatkozva olyan szövetségi keretet sürget, amely közös tesztelési és független értékelési követelményeket, erősebb kiberbiztonsági védelmet, egyértelmű incidensjelentési szabályokat, nagyobb nemzeti felkészültséget, valamint a rekurzív önfejlesztés felé tett előrelépés közös mérését tartalmazná.

Az OpenAI szerint a szabályoknak a legerősebb rendszereket fejlesztő, jól finanszírozott frontier laborokra kellene vonatkozniuk, nem startupokra, kisebb fejlesztőkre vagy olyan kutatókra, akik nem a technológiai élvonal közelében dolgoznak. A cég azt is hangsúlyozza, hogy a kötelezettségeknek arányban kell állniuk a képességekkel és a kockázatokkal.

A közlemény külön kitér az open models kérdésére. Az OpenAI álláspontja szerint az amerikai AI-ökoszisztémának nyílt és zárt modellekre is szüksége van, és a frontier biztonsági politika nem válhat burkolt open-weights szabályozássá. A cég szerint egy szövetségi keretnek úgy kell kezelnie a frontier képességeket és kockázatokat, hogy közben ne gyengítse a versenyt, ne erősítse meg a már piacon lévő szereplők pozícióját, és ne terelje külföldre az innovációt.

Kaliforniában négy törvényjavaslat mellé állt a cég

Amíg a Kongresszus nem lép, az OpenAI szerint az amerikai államoknak tovább kell emelniük a biztonsági szintet. A cég azt írja, hogy korábban támogatta Kaliforniában az SB 53-at, New Yorkban a RAISE Actet, Illinoisban az SB 315-öt, valamint a Massachusettsben tárgyalt frontier biztonsági törvényekben szereplő független auditokat.

A mostani közleményben az OpenAI négy további kaliforniai törvényjavaslat támogatását jelentette be. Ezek a vállalat szerint már átmentek a törvényhozáson, és Gavin Newsom kormányzó elé kerülnek.

• SB 813: az OpenAI leírása szerint az AI-kockázatok értékelésére alkalmas, független szervezetek kijelölésének folyamatát hozná létre.
• AB 1405: az AI-auditorokra vonatkozó sztenderdekkel foglalkozik.
• SB 1119: a fiatalok védelmét célozza.
• AB 1864: az AI által támogatott biológiai fenyegetések elleni biztosítékokról szól.

Az OpenAI a tagállami kezdeményezéseket egyfajta átmeneti megoldásként írja le. A cég szerint az államok közös védelmi elvek felé közeledve olyan tényleges nemzeti alapvonalat teremthetnek, amelyet a Kongresszus később törvénybe foglalhat. Ezt az OpenAI reverse federalism megközelítésnek nevezi.

A gyorsuló AI-kutatás miatt nő a szabványok szerepe

A közleményben az OpenAI Jakub Pachocki vezető kutatójára hivatkozik, aki a gépi intelligencia gyors emelkedésével, köztük a rekurzív önfejlesztés lehetőségével kapcsolatban „szélsőséges óvatosságot” sürgetett. A vállalat szerint folytatja az illesztéssel és monitorozással kapcsolatos technikai munkát, védelmi rendszereket épít, és szükség esetén lassítja a fejlesztést.

Az OpenAI ugyanakkor azt írja, hogy az egyes laborokon belüli technikai munka önmagában nem elég. Közös szabványokra van szükség, köztük arra vonatkozóan is, hogy mikor kell a fejlesztést lassítani vagy leállítani.

A vállalat szerint a teljesen autonóm rekurzív önfejlesztés, amikor AI-rendszerek önállóan hajtják egymás után az egyre képzettebb AI-generációk létrehozását, ma még nem történik. A cég álláspontja szerint ilyet addig nem is szabad célul kitűzni, amíg biztonságosan nem végezhető.

Az OpenAI szerint az AI már most gyorsítja a következő modellgenerációk fejlesztéséhez és illesztéséhez használt kutatás egyes részeit. A vállalat a legújabb kutatására hivatkozva azt állítja, hogy AI-ügynökök képesek olyan feladatokat elvégezni, amelyek képzett kutatóknak több napot vennének igénybe. A cég szerint ez még nem rekurzív önfejlesztés, de jelzi a fejlődés irányát.

Iparági és nemzetközi kereteket is építene az OpenAI

Az OpenAI azt is közölte, hogy más frontier laborokkal együtt iparági AI-szabványokon dolgozna. A vállalat szerint ezt önkéntes kezdeményezésként most kell építeni, kormányzati támogatással vagy anélkül.

A nemzetközi színtéren a cég kompatibilis megközelítéseket sürget a képességek mérésére, a kockázatok kezelésére, az emberi kontroll megőrzésére, valamint annak eldöntésére, hogy mikor és hogyan kell lassítani vagy leállítani a fejlesztést. Az OpenAI hozzáteszi, hogy ez akár a modellképességek fejlődésének lassítását is jelentheti.

A vállalat a saját biztonsági intézkedései között említi a monitorozás, az illesztés és a biztonsági védelmek erősítését a modellfejlesztési életciklusban. Ide sorolja a frontier kutatási munkaterhelések erősebb izolációját, a modellviselkedés kiterjesztett monitorozását eszközhasználattal járó tréning és értékelés közben, valamint az aggodalmak eszkalálására vonatkozó világosabb szabályokat.

Az Astra esetében az OpenAI szerint bevezették a teljes folyamatok, köztük a gondolatmenetek univerzális monitorozását, valamint egy kötelező illesztési értékelési kaput a szélesebb belső bevezetés előtt. A cég azt írja, hogy ha egy rendszer fejlesztése vagy bevezetése elfogadhatatlan biztonsági kockázatot jelentene, és nem tudják kellően biztonságossá tenni, akkor lassítani vagy leállítani fogják azt, ahogy korábban is tették, és ahogy a felkészültségi keretük előírja.

Mit jelenthet ez a felhasználóknak és a piacnak

Az OpenAI érvelése szerint az AI fejlődése jelentős előnyöket hozhat, például gyorsíthatja új gyógyszerek fejlesztését, erősítheti a kritikus infrastruktúrát, bővítheti a gazdasági lehetőségeket, és segíthet régóta fennálló tudományos problémák megoldásában. A cég ugyanakkor azt írja, hogy a hasznosabbá váló modellek képességei kockázatokkal is járnak, és ezek nem maradnak néhány frontier labor falain belül.

A vállalat szerint a világ különböző részein fejlesztett modellek, köztük nyílt modellek, egyre inkább megközelítik a mai frontier szintet, és széles körben elérhetővé válnak. Ebből az OpenAI azt a következtetést vonja le, hogy a biztonságba vetett bizalomnak egyre inkább meg kell határoznia az AI előrehaladásának ütemét.

A piac szempontjából a cég azt állítja, hogy a tartós amerikai vezető szerephez nem elég a technikai előny. Az OpenAI szerint ha az emberek, intézmények és kormányok nem bíznak eléggé a technológiában ahhoz, hogy használják, a képességbeli előny keveset ér. A vállalat álláspontja szerint az erős biztosítékok a széles körű elfogadás infrastruktúrájának részei.