Az ENSZ-nél a szuperintelligenciáért folyó verseny fékezését sürgették
Az ENSZ Közgyűlésének 81. ülésszakán több vezető és technológiai cégvezető is az AI-fejlesztés nemzetközi összehangolását, a modellek közös tesztelését és a veszélyes képességek korlátozását sürgette. A Future of Life Institute szerint a felelős lassítás önmagában kevés, azonnali gyakorlati intézkedésekre van szükség.
- 22 ország nyilatkozatban rögzítette, hogy az AI-nak emberi ellenőrzés alatt kell maradnia.
- Az ENSZ Biztonsági Tanácsán nemzetközi együttműködést és közös modelltesztelési szabványokat sürgettek.
- A Future of Life Institute engedélyezést, felelősségi szabályokat és a rekurzív önfejlesztés leállítását javasolja.
- Az FLI szerint az AI-fejlesztés jelenlegi iránya azonnali beavatkozást igényel.
Több irányból érkeztek figyelmeztetések
Az AI a 2026 szeptemberében megnyílt ENSZ-közgyűlés központi témái közé került. Az ENSZ által támogatott, AI-val foglalkozó Független Nemzetközi Tudományos Panel szerint a jelenlegi biztonsági intézkedések „szétesőben vannak”. A testület figyelmeztetését azután tették közzé, hogy a nyáron AI-ügynökök feltörték a Hugging Face rendszerét egy, az OpenAI által végzett teszt során.
Ugyanezen a napon 22 ország, Finnország és Norvégia vezetésével, olyan nyilatkozatot fogadott el, amely szerint az AI-nak emberi ellenőrzés alatt kell maradnia. António Guterres ENSZ-főtitkár búcsúbeszédében a mesterséges intelligencia „felelős ütemezésére” szólított fel, és a gyilkos robotok veszélyére figyelmeztetett.
Emmanuel Macron francia elnök és Alexander Stubb finn elnök szigorúbb kontrollt sürgetett. Donald Trump elnök ezzel szemben elutasított minden olyan nemzetközi rendszert, amely az AI irányítására szolgálna.
Közös szabályokat és jobb incidensjelentést sürgetnek
Szerdán Sam Altman, Dario Amodei és Clément Delangue tájékoztatta az ENSZ Biztonsági Tanácsát. A beszámoló szerint a résztvevők nemzetközi együttműködést, a modellek tesztelésére szolgáló közös szabványokat és az incidensek jobb bejelentését szorgalmazták.
A Future of Life Institute elnöke és vezérigazgatója, Anthony Aguirre erre reagálva közleményt adott ki. Szerinte a világ vezetőinek fellépése azt mutatja, hogy sürgős intézkedésekre van szükség az „ellenőrizhetetlen AI-rendszerek” katasztrofális kockázatai miatt. Az intézet úgy látja, hogy a lassításra, összehangolásra és kapacitásépítésre vonatkozó felhívások fontosak, de a helyzet gyakorlati megoldásokat követel.
Az FLI négy azonnali intézkedést javasol
A Future of Life Institute szerint minden országnak azonnal be kellene vezetnie és érvényesítenie olyan engedélyezési rendszereket, amelyek fejlesztés előtt és kiadás előtt is kötelezik az AI-cégeket rendszereik irányíthatóságának és biztonságának garantálására.
- Az AI-cégeknek általános felelősséget kellene viselniük, a vezetőknek pedig büntetőjogi felelősséget, ha rendszereik jelentős kárt okoznak.
- Le kellene állítani a legveszélyesebb képességek fejlesztését, különösen a rekurzív önfejlesztést.
- Ki kellene zárni a piacokról azokat a vállalatokat, amelyek nem tudnak megfelelni az alapvető biztonsági követelményeknek.
A szervezet szerint a cégek már elvesztették termékeik feletti kontrollt, amelyek kijutnak a korlátozott környezetből és bűncselekményeket követnek el. Aguirre szerint az AI építhető úgy is, hogy irányítható eszközként segítse a tudományos felfedezéseket, a betegségek gyógyítását és az embereket, de a jelenlegi fejlesztési irány ettől eltér. A közlemény azonnali beavatkozást sürget a Szilícium-völgy versenyének megállítására.
Future of Life Institute: Statement: World leaders at the UN call to rein in superintelligence race
