Az OpenAI főtudósa óvatosságot sürget, a bírálók több átláthatóságot akarnak

Az OpenAI saját kutató-AI-t építene

Jakub Pachocki, az OpenAI főtudósa szeptember 6-án blogbejegyzést tett közzé, amelyben „szélsőséges óvatosságot” sürgetett annak érdekében, hogy az emberek az AI fejlődése közben is irányítás alatt maradjanak. A bejegyzés a mesterséges intelligencia gyors előrehaladásával kapcsolatos aggodalmakra adott választ.

A vállalat által felvázolt megoldás része egy automatizált AI-kutató létrehozása lenne. Pachocki szerint ezzel a rendszerrel az összehangolás problémáján, vagyis az AI-rendszerek emberi célokkal való összehangolásán dolgoznának. A cél az lenne, hogy az emberek a rendszerek önfejlesztési folyamatának részei maradjanak.

Az OpenAI közben azt is szeretné elérni, hogy az intelligens gépek által lehetővé tett tudományos fejlődés és gazdasági növekedés előnyei elérhetők legyenek. A bejegyzésben szerepel az a célkitűzés is, hogy minden ember saját, személyes AGI-val rendelkezzen.

Gina Neff szerint ez nem elégséges válasz

Az OpenAI vezető kutatójának felhívásáról a BBC News is beszámolt. A cikkben Gina Neff professzor, a Minderoo Centre for Technology & Democracy ügyvezető igazgatója bírálta a javasolt irányt.

„A jobb AI-védőkorlátok, szabályozások vagy a biztonságot garantáló ellenőrzés helyett belső AI-ügynökök fejlesztését javasolják ezeknek a problémáknak a kutatására” , idézte Neffet a BBC News. A professzor hozzátette: „Az OpenAI modelljei által okozott kiberbiztonsági problémákkal, munkahelyvesztéssel, tévedésekkel, hibákkal és csalással kapcsolatos növekvő aggodalmakra adott ilyen válaszok egyszerűen nem elég jók.”

Neff nyilatkozata azokra a problémákra hivatkozik, amelyeket az OpenAI modelljeivel kapcsolatban a kiberbiztonság, a foglalkoztatás, a hibás működés és a csalás területén vetnek fel. A Minderoo Centre for Technology & Democracy szeptember 7-i bejegyzése szerint a professzor azok között van, akik érdemi átláthatóságot és demokratikus ellenőrzést sürgetnek az AI fejlődése során.

A vita az emberi ellenőrzésről szól

A forrásban ismertetett vita két eltérő megközelítést mutat. Pachocki bejegyzése az AI-rendszerek további fejlesztését és egy automatizált AI-kutató bevonását kapcsolja össze azzal a céllal, hogy az emberek az önfejlesztési folyamatban maradjanak. Neff ezzel szemben azt kifogásolja, hogy a felvetés nem helyez kellő hangsúlyt a védőkorlátokra, a szabályozásra és a biztonságot szolgáló ellenőrzésre.

A Minderoo Centre for Technology & Democracy által közölt összefoglaló alapján a kérdés a felhasználók és a társadalom számára is közvetlen jelentőségű. A felsorolt aggodalmak között szerepel a kiberbiztonság, a munkahelyek elvesztése, a tévedések, a hibák és a csalás. A forrás nem ismertet új OpenAI-terméket, árat vagy megjelenési időpontot, a hangsúly a fejlesztések ellenőrzésén és az elszámoltathatóságon van.

A BBC News teljes cikkében Neff és más megszólalók az AI fejlődésének átláthatóbb és demokratikusabb ellenőrzését sürgetik. Ez a vita az OpenAI által hangsúlyozott tudományos és gazdasági előnyöket, valamint az ezekhez kapcsolódó biztonsági aggályokat állítja egymás mellé.