Hat amerikai AI-cég önkéntes biztonsági vállalásokat írt alá
Az OpenAI, az Anthropic, a Google, a Meta, az xAI és az Nvidia aláírta a Fehér Ház szuperintelligenciáról szóló egyezményét. A dokumentum belső ellenőrzéseket, külső értékeléseket és rendszeres vállalati egyeztetéseket ír elő, egyelőre önkéntes alapon.
- Hat amerikai AI-vállalat írta alá a Fehér Ház önkéntes egyezményét.
- A vállalások belső kontrollokat és független külső értékeléseket írnak elő.
- A cégek rendszeres találkozókon dolgoznának ki biztonsági szabványokat.
- A Team Human nemzetközi megállapodással lassítaná az AI fejlesztését.
- A CAIS ingyenes, kezdőknek szóló AI-biztonsági kurzust indított a Courserán.
Négy önkéntes vállalást tartalmaz az egyezmény
Donald Trump szeptember 29-én a Fehér Házban fogadta az amerikai AI-cégek képviselőit. Ugyanezen a napon jelent meg a The White House Accord on Super Intelligence című dokumentum, amelyet hat vállalat írt alá: az OpenAI, az Anthropic, a Google, a Meta, az xAI és az Nvidia.
A Center for AI Safety beszámolója szerint a dokumentumban szereplő „szuperintelligencia” kifejezés tág értelemben az AI-ra utal, összhangban Trump szóhasználatával. Az egyezmény négy önkéntes vállalást sorol fel. A cégeknek belső kontrollokat kell bevezetniük a modellek betanítása és működtetése közben, belső csapatot kell kijelölniük ezek felügyeletére és a problémák kezelésére, külső féllel kell független értékelést végeztetniük, továbbá a vállalat igazgatótanácsának független bizottságát kell kijelölniük a belső és külső értékelők jelentéseinek fogadására.
A rendszeres egyeztetés lehet a dokumentum legfontosabb része
Az egyezmény továbbra is iparági önszabályozásra épül, és a Center for AI Safety értékelése szerint a vállalások sok tekintetben nem mennek jelentősen túl a vezető AI-cégek korábbi kötelezettségvállalásain. Az Anthropic és az OpenAI például korábban már jelezte, hogy külső értékelőknek munkatársi szintű hozzáférést biztosítana.
A dokumentum ugyanakkor kimondja, hogy a vállalatok rendszeresen találkoznak majd, hogy szabványokat és bevált gyakorlatokat alakítsanak ki rendszereik biztonságának javítására. Ez azért lehet jelentős, mert az Anthropic vezérigazgatója, Dario Amodei korábban a fejlesztési verseny ütemének összehangolását sürgette, és úgy vélte, ehhez az amerikai kormány szűk körű trösztellenes jogi felmentésére lehet szükség. A forrás szerint már kereset is indult az Anthropic, az OpenAI, az xAI és a Google ellen, azzal az állítással, hogy a cégek trösztellenes szabályokat sértettek.
Az egyezmény azt is rögzíti, hogy idővel indokolt lehet a lépések törvényekbe vagy szabályozásokba foglalása. Ez a dokumentum szerint megnyithatja az utat a későbbi állami előírások előtt.
Nemzetközi lassítást sürget a Team Human
Az AI-biztonsági hírlevél két további kezdeményezésről is beszámol. Október 3-án elindult a Team Human kampány, amely nemzetközi megállapodást sürget az AI fejlesztésének lassítására és annak biztosítására, hogy az emberek irányítás alatt tartsák a technológiát. A mozgalmat több mint 60 ismert alkotó támogatja, köztük Mark Rober, a Kurzgesagt és Rebecca Zamolo.
A kampány szerint a túl gyors fejlesztés súlyosbíthatja többek között a gyermekeket érintő kockázatokat, a mélyhamisítások terjedését, a tömeges megfigyelést és az AI-rendszerek feletti kontroll elvesztésének veszélyét. A Team Human aláírásokat gyűjt egy globális lassításért, amelyeket ősszel amerikai és európai uniós döntéshozóknak adna át.
A Center for AI Safety október 2-án a Coursera platformon elindította az Introduction to AI Safety című, ingyenes és technikai előképzettséget nem igénylő kurzust. A körülbelül négyórás képzés három modulban mutatja be az AI fejlődését, főbb kockázatait és irányítási lehetőségeit. A felhasználók így a vállalati egyezmény mellett egy nyilvános, kezdőknek szánt oktatási anyagon keresztül ismerhetik meg az AI-biztonság alapjait.
Center for AI Safety: AISN #83: Six AI Companies Sign White House Accord
