Új blogot indított az OpenAI az AI és a hatalom koncentrációjának kockázatairól

Az AI hatalmi kérdésként jelenik meg az OpenAI új blogján

Az OpenAI új Strategic Futures csapata az Intelligence Age című bloggal indította el nyilvános munkáját. A csapat saját meghatározása szerint egy átfogó kérdésre keres választ: hogyan kellene átalakítani a szabad társadalmat úgy, hogy megőrizze az egyéni jogokat és a cselekvőképességet, miközben megjelenik a transzformatív AI.

A közlemény szerint ezeket a kérdéseket az AI-biztonsági és szakpolitikai közösségben gyakran a hatalom koncentrációjának kockázatai közé sorolják. Az OpenAI csapata azt állítja, hogy hosszú távon ez a kockázati kategória a legnagyobb, a legsúlyosabb és fogalmilag a legnehezebben kezelhető.

A blogindító írás a modern államot a különböző hatalmi központok, például a tőke és az áruk tulajdonosai, a politikai hatalom gyakorlói és az emberek közötti hosszú alkufolyamat eredményeként írja le. A szerzők érvelése szerint a politikai és katonai hatalom történetileg az emberi munkára támaszkodott: katonákra, rendőrökre, bürokráciára, valamint azokra az adóbevételekre, amelyek emberi munkából vagy termelésből származtak.

Az OpenAI szerint ezt az alaphelyzetet változtathatja meg az autonóm rendszerek és a gépi intelligencia fejlődése. A szöveg azt a lehetőséget veti fel, hogy az államok erőt vetíthetnek ki belföldön és nemzetközi szinten anélkül, hogy ugyanúgy támaszkodnának együttműködő katonákra vagy rendőrökre, miközben bevételeik egy része emberi munka helyett adatközpontok kimeneteiből származhat. A bürokrácia működése is nagyrészt automatizálhatóvá válhat a bejegyzés szerint.

Nem a teljes decentralizációt, hanem az egyensúlyt keresi a csapat

Az OpenAI írása James Madison gondolatát idézi fel a „pergamenkorlátokról”, vagyis arról, hogy az írott szabályok önmagukban nem elegendők a zsarnokság megakadályozására. A bejegyzés szerint az Egyesült Államok alapítóinak egyik fő gondja a hatalom túlzott koncentrációjának elkerülése volt, de ez nem jelentette a hatalom radikális szétszórását.

A szöveg az amerikai alapító dokumentumok mögött álló gondolkodást a kor tudományos képeivel, különösen a newtoni mechanikával kapcsolja össze. Az OpenAI értelmezése szerint az alapítók nem minden hatalomkoncentrációt akartak elkerülni, hanem a túlzott koncentrációt, mégpedig úgy, hogy hatalmat állítottak szembe hatalommal, ambíciót ambícióval.

A blog ezt a gondolatot alkalmazza az előrehaladott gépi intelligenciára is. Az OpenAI szerint a szabad társadalom előtt álló strukturális kihívásra valószínűleg nem a lehető legradikálisabb decentralizáció a válasz, hanem olyan hatalmi egyensúly kialakítása és megőrzése, amelyben egyetlen szereplő vagy szereplők kis csoportja sem uralhatja a többieket.

A bejegyzés két irányból is kijelöli a problémát. Egy olyan világ, ahol bármely rosszindulatú személy könnyedén súlyos kárt okozhat több ezer vagy több millió embernek, az OpenAI szerint nem megfelelő hatalmi egyensúlyt jelez. Ugyanakkor az sem tekinthető megfelelő egyensúlynak, ha az emberek nem férnek hozzá széles körben azokhoz az eszközökhöz, amelyekkel szabadságukat kifejezhetik és gyakorolhatják. A cég azt is kimondja, hogy egyetlen vállalat vagy oligopólium sem határozhatja meg vagy ellenőrizheti a gazdaságot, illetve az emberi társadalom alapvető architektúráját.

Felelősség, anonimitás és „korlátozott átláthatóság”

Az OpenAI a blogindító bejegyzésben több alapelvet is felsorol, amelyek a Strategic Futures munkáját irányítják. Ezek között szerepel, hogy az embereknek meg kell őrizniük egyéni autonómiájukat és lehetőségeiket az AI és a kapcsolódó technológiák használatában, még akkor is, ha ez időnként biztonsági vagy gazdasági növekedési szempontokkal kerül feszültségbe.

A csapat szerint az egyéni autonómia együtt jár az egyéni felelősséggel a technológia visszaélésszerű vagy káros használatáért. A szöveg azt is állítja, hogy létezik a kockázatoknak egy kicsi, de komoly kategóriája, amely valamilyen szintű kollektív cselekvést igényel. Ezt a kollektív fellépést az OpenAI szerint a lehető legszűkebbre és legszerényebbre kell szabni.

Az alapelvek között szerepel az is, hogy a jogalkotásnak, amikor csak lehet, a versenyfeltételek kiegyenlítésére, valamint az egyének és kis szervezetek megerősítésére kell törekednie, a hatalom központosítása helyett. A bejegyzés szerint az emberi politikai, társadalmi és gazdasági intézményeknek továbbra is elsődleges szerepet kell játszaniuk a világ ügyeinek alakításában, még akkor is, ha ehhez ma idegennek tűnő módokon kell átalakulniuk.

Külön hangsúlyt kap a hosszú távú AI-kormányzás egyik fogalma, amelyet a bejegyzés „bounded legibility” néven ír le. Ez olyan korlátozott átláthatóságot jelent, amelynél a fizikai biztonságot vagy a kívülállók tulajdonát érintő, nagy tétű AI-műveleteket vissza kell tudni vezetni egy felelős emberhez vagy ember által irányított szervezethez. Az OpenAI ugyanakkor azt is hangsúlyozza, hogy az ilyen mechanizmusokat a magánszféra védelmével a középpontban kell megtervezni, mert a szabad véleménynyilvánításhoz anonimitásra van szükség, és az embereknek sok helyzetben szabadon, névtelenül kell tudniuk AI-t használni.

Mit jelenthet ez a felhasználóknak és a piacnak

Az Intelligence Age indulása azt jelzi, hogy az OpenAI intézményi és politikai gazdaságtani kérdésként is kezeli az AI fejlődését. A bejegyzés alapján a Strategic Futures nem csak technikai teljesítményről vagy termékekről akar írni, hanem arról is, milyen társadalmi szerkezetek szükségesek ahhoz, hogy az emberek ne veszítsék el beleszólásukat a technológia használatába és következményeibe.

A felhasználók szempontjából a legfontosabb üzenet az autonómia és a felelősség összekapcsolása. Az OpenAI szerint széles hozzáférésre és kontrollra van szükség az AI-eszközök felett, miközben a visszaélésekért felelős embereknek vagy ember által irányított szervezeteknek azonosíthatónak kell lenniük bizonyos nagy kockázatú helyzetekben. Ez egyszerre veti fel a biztonság, a magánszféra és az anonimitás kérdését.

A piac számára a bejegyzés abból a szempontból fontos, hogy az OpenAI nyíltan beszél a vállalatok szerkezeti átalakulásáról. A cég szerint az AI strukturális szinten változtatja meg a vállalatokat, hasonlóan ahhoz, ahogyan az ipari forradalom technológiái, különösen a vasút, hozzájárultak a modern menedzseri vállalat kialakulásához. A Strategic Futures csapat ezért a közpolitika, a közgazdaságtan, a jog, a történelem és a gépi tanulás metszéspontján ígér kutatást, amelyet a blog mellett más formátumokban, köztük tanulmányokban, videókban és podcastokban is megoszt majd.