Az AI-cégek önfejlesztésének korlátozását sürgeti az FLI

Az államok szerepét sürgeti a Future of Life Institute

Mark Brakel, a Future of Life Institute globális szakpolitikai igazgatója szeptember 28-án reagált az állam- és kormányfők közös felhívására, amely a határterületi AI-modellek kockázatainak kezelését célozza. A közlemény szerint a politikai vezetők most először ismerték el, hogy az AI kockázatait a vállalatok önmagukban nem tudják kezelni.

Brakel szerint az egyre súlyosabb incidensek miatt sürgős és létfontosságú a független, kötelező erejű ellenőrzés. Az FLI álláspontja szerint a magánkézben lévő AI-vállalatokra nem lehet rábízni saját rendszereik ellenőrzését, ezért kormányzati beavatkozásra van szükség.

A rekurzív önfejlesztés ideiglenes korlátozását kérik

A Future of Life Institute közleménye szerint az ENSZ emberi jogi főbiztosa, Türk arra szólította fel az országokat, hogy gyakoroljanak nyomást a vállalatokra a rekurzív önfejlesztés azonnali korlátozása érdekében. Ez addig lenne szükséges, amíg el nem készülnek az eljárás biztonságossá tételéhez szükséges kutatások.

A rekurzív önfejlesztés kifejezést a forrás olyan fejlesztési irányra használja, amelyben az AI-rendszerek a saját továbbfejlesztésükben is szerepet kaphatnak. A közlemény nem határoz meg konkrét technikai korlátokat vagy határidőt, azt viszont hangsúlyozza, hogy a biztonságos működéshez szükséges kutatásnak meg kell előznie a szélesebb alkalmazást.

Nemzetközi ellenőrzést és hardveres ellenőrzést sürgetnek

Az FLI szerint az Anthropic vezérigazgatója, Amodei és az OpenAI vezérigazgatója a megelőző héten helyszíni ellenőrök alkalmazását javasolta rendszereik biztonságának vizsgálatára. Brakel ezt, valamint a világ vezetőinek nemzetközi irányítási intézmény létrehozására vonatkozó felhívását fontos első lépésnek nevezte.

A szervezet ugyanakkor azt is közölte, hogy az intézkedések nem járhatnak azzal, hogy a kormányok felelősségi védelmet építenek ki az AI-vállalatok számára. Az országoknak ezzel párhuzamosan növelniük kellene a hardverek ellenőrzését lehetővé tevő technológiák finanszírozását. Az FLI szerint ez alapot adhat egy későbbi, Kínát és az Egyesült Államokat is bevonó nemzetközi AI-megállapodáshoz.

Mit jelenthet ez az AI-fejlesztők és a felhasználók számára?

Az FLI álláspontja a fejlesztők számára a rekurzív önfejlesztés erősebb állami korlátozását és a vállalati önellenőrzésen túlmutató vizsgálatokat jelentene. A helyszíni ellenőrzés, a kötelező felügyelet és a nemzetközi irányítási intézmény létrehozása mind olyan mechanizmus, amelyben a rendszerek biztonságát külső szereplők is értékelnék.

A felhasználók szempontjából a közlemény fő üzenete, hogy az AI-rendszerek fejlődését a biztonságos működéshez szükséges kutatásoknak és nemzetközi koordinációnak kell kísérnie. A Future of Life Institute szerint így kerülhető el a vállalatok közötti, önfejlesztést gyorsító verseny, és így teremthető meg a szervezet által emberközpontúnak nevezett AI-fejlesztés.

A Future of Life Institute saját bemutatkozása szerint 2014-es alapítása óta azon dolgozik, hogy az átalakító technológiák az élet javát szolgálják, és ne szélsőséges, nagy léptékű kockázatokhoz vezessenek. A szervezet több mint 35 teljes munkaidős munkatárssal működik az Egyesült Államokban és Európában.