Az OpenAI globális biztonsági szabványokat sürget a fejlett AI-hoz

Az automatizált AI-kutatás felgyorsíthatja a fejlődést

Az OpenAI 2026. szeptember 21-én közzétett állásfoglalása szerint küldetésének része annak biztosítása, hogy az általános mesterséges intelligencia az emberiség egészének javát szolgálja. A vállalat három fő célra helyezi a hangsúlyt: egy automatizált AI-kutató felépítésére, a tudományos fejlődés és a gazdasági növekedés előnyeinek elérhetővé tételére, valamint arra, hogy minden ember személyes AGI-hoz juthasson.

A cég szerint az AI-rendszerek egyre több munkát végezhetnek el a következő generációk fejlesztésében. Ezt a folyamatot rekurzív önfejlesztésnek, angolul recursive self-improvementnek, RSI-nek nevezi. Az automatizált kutatás csökkentheti a fejlett intelligencia költségét, és az OpenAI szerint az összehangolási kutatást, valamint a védekezési képességeket is javíthatja.

A teljesen autonóm RSI azonban jelenleg nem zajlik, és az OpenAI szerint nem szabad törekedni rá addig, amíg nem hajtható végre biztonságosan. A továbblépésnek attól kell függnie, hogy megőrizhető-e az emberi kontroll, illetve hogy a társadalom tájékozott, demokratikus döntést tud-e hozni az előnyökről és a kockázatokról.

A vállalatok és országok közös szabványaira lenne szükség

Az OpenAI figyelmeztetése szerint megfelelő biztosítékok nélkül az RSI oda vezethet, hogy az emberek elveszítik a gyakorlati ellenőrzést az AI fejlesztése felett. Ha a kutatási folyamatokat már nem értik és nem tudják felügyelni, a rendszerek veszélyesebbé és kevésbé összehangolttá válhatnak.

A vállalat ezért a technikai szabványokat a fejlett AI kockázatainak kezeléséhez szükséges közös alapként írja le. Ezek egységes meghatározásokat adhatnak a bizonyítékok minőségére, valamint közösen elfogadott minimumokat a technikai védelmi intézkedések szigorúságára.

Az OpenAI három problémát emel ki. Az országok eltérő értékelési, jelentési és incidens-meghatározási rendszerei nehezíthetik az eredmények összehasonlítását. Az egymástól független nemzeti döntések olyan eredményekhez vezethetnek, amelyeket egyik ország sem szeretne. Emellett a fejlett AI fejlesztéséhez szükséges tevékenység és szakértelem egyenlőtlenül oszlik meg a világban.

A cég szerint ezek a kihívások nyílt és zárt modellekre egyaránt vonatkoznak. Az automatizált AI-kutatást vagy más fejlett képességeket fejlesztő laboroknak saját felelősséget kell vállalniuk a biztonságos működésért, az alapvető önszabályozási elvek és a hatályos jogszabályok szerint.

Az Egyesült Államok vezetésével építenének rendszert

Az OpenAI azt javasolja, hogy az Egyesült Államok vezessen nemzetközi kezdeményezést a fejlett AI globális technikai szabványainak kidolgozására. A vállalat az ausztrál, kanadai, német, francia, kenyai, japán, koreai, szingapúri, indiai és brit AI-biztonsági intézetekből kialakuló hálózatra támaszkodna.

A szabványok a képességmérést, az értékelést, a kockázatelemzést és a védelmi intézkedések megfelelőségét alapozhatnák meg. Az OpenAI hangsúlyozza, hogy ezek nem jelentenének engedélyeket, kötelező megjelenés előtti felülvizsgálatot vagy modelljóváhagyási követelményeket. Arról, hogy az egyes országok miként építik be őket a jogrendszerükbe, a nemzeti kormányok döntenének.

A vállalat szerint a folyamatba nyílt és zárt modellek fejlesztőit, független technikai szakértőket és az akadémiát is be kellene vonni. A közös szabványokat átláthatóan kell kialakítani, és úgy, hogy ne részesítsenek előnyben konkrét cégeket, országokat vagy üzleti modelleket, illetve ne nehezítsék az új belépők és a nyílt súlyú modellek fejlesztőinek versenyét.

Mérések és incidensjelentések adhatnak közös alapot

Az OpenAI szerint a nemzetközi szabványoknak közös méréseket és incidensjelentési protokollokat is tartalmazniuk kellene. Ezek segíthetnék az RSI-hez kapcsolódó AI-fejlődés, valamint az egyes vállalatokon belül zajló autonóm kutatás mérését.

A javasolt területek között szerepel az automatizált AI-kutatás emberi felügyelete, ezen belül annak meghatározása, milyen folyamatoknál szükséges azonnali emberi felülvizsgálat. Szabványosíthatnák az összehangolási és automatizált kutatási problémák besorolását, nyomon követését, jelentését és kezelését is, például közös súlyossági szintekkel és jelentési küszöbökkel.

Az OpenAI közlése szerint a CAISI, a Nemzetközi Hálózat a Fejlett AI Méréséért, Értékeléséért és Tudományáért, 2024-es létrehozása már egy ilyen együttműködés alapját adhatja. A vállalat a szabványalkotásban az ISO, a Frontier Model Forum, az Agentic AI Foundation, az Open Secure AI Alliance és az Appia Foundation munkájára is támaszkodna.