Globális felkészültséget sürgetnek a vezető AI-biztonsági kutatók

Velencében egyeztettek az AI-biztonságról

2024. szeptember 6. és 8. között rendezték meg Velencében a Nemzetközi Párbeszéd a Mesterséges Intelligencia Biztonságáról, vagyis az IDAIS harmadik találkozóját. Az eseményt a FAR.AI projektjeként működő Safe AI Forum szervezte a Berggruen Institute együttműködésével.

A Casa dei Tre Oci épületében tartott háromnapos tanácskozáson számítástechnikai kutatók és kormányzási szakértők dolgoztak közös szakpolitikai javaslatokon. A résztvevők között voltak a Turing-díj korábbi nyertesei, Yoshua Bengio, Andrew Yao és Geoffrey Hinton, valamint Xue Lan, a Tsinghua Egyetem professzora, és Gillian Hadfield, a Johns Hopkins Egyetem professzora.

A megbeszélések középpontjában azok a fejlett AI-rendszerekre vonatkozó fejlesztési korlátok álltak, amelyeket a korábbi, pekingi IDAIS-találkozón jelöltek ki. A résztvevők olyan végrehajtási mechanizmusokat kerestek, amelyekkel megelőzhető e korlátok átlépése.

Három pillérre épülő javaslatcsomag

A tanácskozás konszenzusos nyilatkozata három fő javaslatot tartalmaz. Az első a vészhelyzeti felkészültség. A szakértők szerint a nagy képességű AI-rendszerek a következő évtizedekben várhatóan megjelennek, és az is lehetséges, hogy fejlesztésük már a közeljövőben megtörténik.

A javasolt nemzetközi megállapodások keretében a nemzeti AI-biztonsági hatóságok együttműködnének többek között a modellregisztráció, a kötelező adatszolgáltatás, az incidensek jelentése, a kockázati küszöbök és a vészhelyzeti tervek terén. A kezdeményezés abból indul ki, hogy a fejlett AI kockázatai gyorsan és előre nem látható módon is megjelenhetnek.

A második elem a biztonsági garanciarendszer. Ennek részeként a fejlesztőknek a meghatározott képességi küszöböket meghaladó modellek bevezetése előtt magas megbízhatóságú biztonsági értékelést kellene bemutatniuk. A rendszerek elindítása után folyamatos megfigyelésre is szükség lenne, az értékeléseket pedig független auditoknak kellene ellenőrizniük.

A harmadik pillér a biztonsági és ellenőrzési kutatás. A résztvevők szerint olyan módszereket kell kidolgozni, amelyekkel az államok szigorúan ellenőrizhetik a fejlesztők és más országok AI-biztonsági állításait. A kutatást nemzetközi szinten, több kormány és filantróp támogatásával végeznék, hogy az értékelések függetlenek és hitelesek legyenek.

A nyilatkozat a kormányoknak is iránymutatás lehet

A találkozó első felében a résztvevők kidolgozták a nyilatkozatot, amelyet a program későbbi részében szakpolitikai szakértők, köztük korábbi államfők is megvitattak. Ya-Qin Zhang, a Baidu korábbi elnöke és a Tsinghua Egyetem jelenlegi professzora szerint az IDAIS fontos szerepet játszott a határterületi AI-rendszerek szélsőséges kockázatainak megértésében.

Zhang a FAR.AI beszámolója szerint úgy fogalmazott, hogy az IDAIS eredményeit és nyilatkozatait több kormány is hiteles referenciaként használta vonatkozó politikák és szabályozások kialakításakor, köztük Kína kormánya.

Az eseménysorozat célja, hogy a világ különböző részeiről érkező kutatók együtt dolgozzanak a mesterséges intelligencia kockázatainak mérséklésén. A velencei javaslatok a fejlesztők, a nemzeti hatóságok és a kutatói közösség feladatait is kijelölnék, a modellregisztrációtól és incidensjelentéstől a bevezetés előtti biztonsági igazoláson át a független ellenőrzésig.