Sam Altman az ENSZ-ben: az AI felett emberi kontrollra van szükség
Sam Altman, az OpenAI vezérigazgatója az ENSZ Biztonsági Tanácsában az AI gyors fejlődéséről, az emberi kontroll megőrzéséről és a nemzetközi biztonsági szabványok szükségességéről beszélt. Szerinte a technológiának az emberek önállóságát és problémamegoldó képességét kell erősítenie.
- Sam Altman 2026. szeptember 23-án az ENSZ Biztonsági Tanácsában beszélt az AI-ról.
- Az OpenAI vezetője szerint az AI fejlődésének emberi kontroll alatt kell maradnia.
- Kockázatként emelte ki az irányítás elvesztését és a hatalom túlzott koncentrációját.
- Nemzetközi szabványokat, incidensjelentést és kormányok közötti együttműködést sürgetett.
Két irányban is súlyos kockázatokat lát
Altman 2026. szeptember 23-i felszólalásában azt mondta, hogy a mesterséges intelligencia gyors fejlődése miatt az előnyök kézzelfoghatóbbá, a kockázatok pedig közvetlenebbé váltak. Szerinte az AI egy új reneszánsz eszköze lehet, amely bővíti az emberek tanulási, alkotási, felfedezési és részvételi lehetőségeit.
Ugyanakkor két olyan irányt emelt ki, amelyet el kell kerülni. Az egyik esetben az AI fejlődése olyan gyorssá válhat, hogy az emberek már nem tudják követni a rendszerek működését, és szükség esetén beavatkozni sem tudnak. Ez különösen akkor válhat fontossá, ha a rendszerek saját magukat és későbbi változataikat is képesek fejleszteni, amit gyakran rekurzív önfejlesztésnek neveznek.
A másik veszély Altman szerint az, hogy túl nagy hatalom összpontosul néhány ember, vállalat vagy ország kezében. Szerinte egyetlen szereplő sem használhatja a legfejlettebb AI-modelleket arra, hogy saját világnézetét másokra kényszerítse.
Az OpenAI három alapelvet követne
Altman szerint az AI fejlesztésének középpontjában az embernek kell maradnia. Az igazítás, vagyis az alignment, szerinte annak biztosítását jelenti, hogy a rendszerek megbízhatóan emberi kontroll alatt maradjanak, tükrözzék az emberi értékeket, és segítsék az embereket a fejlődés irányításában.
Az OpenAI vezetője azt mondta, nem szabad automatizálni az emberi ítélőképességet és az emberi értékeket. A tudományos fejlődés és a gazdasági növekedés eredményeinek az embereket kell szolgálniuk. Példaként kutatókat, orvosokat, tanárokat, vállalkozókat és közösségeket említett, akiknek az AI új eszközöket adhat.
A harmadik alapelv az egyéni felhatalmazás. Altman szerint az AI-nak több szabadságot és nagyobb problémamegoldó képességet kell biztosítania az emberek számára. Úgy fogalmazott, hogy az OpenAI lehet a technológia egyik építője, de nem a történet hőse, a szerepe az emberek képességeinek támogatása.
Nemzetközi szabványokat sürgetett
Altman a beszédében az AI tudományos lehetőségeit is hangsúlyozta. Állítása szerint az OpenAI modelljei az elmúlt három nyár alatt az általános iskolai matematika szintjéről eljutottak a középiskolai versenyek, majd a legrangosabb nemzetközi matematikai verseny aranyérmes szintjéig. Néhány héttel a felszólalás előtt az egyik modell egy Millennium-díjas problémát, a Navier és Stokes egyenleteket is megoldotta. Ezeket az egyenleteket repülőgépek tervezésében, időjárás-előrejelzésben és a véráramlás vizsgálatában használják.
Az OpenAI vezérigazgatója szerint a legfontosabb döntéseket nem hozhatják meg kizárólag a San Franciscóban működő fejlesztőlaborok. Az AI demokratikus működéséhez kormányzati és demokratikus folyamatokra, valamint nemzetközi együttműködésre van szükség.
Ehhez olyan nemzeti és nemzetközi szabványokat sürgetett, amelyek mérik a modellek képességeit, felmérik a kockázatokat, ellenőrzik a védelmi intézkedéseket, és megőrzik az érdemi emberi felügyeletet. Közös szabványokra van szükség ahhoz is, hogy az országok összehasonlíthassák a bizonyítékokat, ellenőrizhessék a megfelelést, és közös nyelvet használjanak az AI fejlődésének leírására. Altman gyors és pontos incidensjelentést, valamint biztonságos kommunikációs csatornákat is szorgalmazott a kormányok, a kritikus infrastruktúrák üzemeltetői és a műszaki szakértők között.
