Nemzetközi vörös vonalakat sürgetnek az AI fejlesztésében
Nemzetközi együttműködést és szigorú vörös vonalakat sürgetnek vezető mesterségesintelligencia-kutatók az AI fejlesztésében. A javaslat szerint meg kellene tiltani többek között az önálló önreplikációra, hatalomkeresésre vagy megtévesztésre képes rendszerek fejlesztését.
- Vezető AI-kutatók 2024. március 10-én és 11-én Pekingben tanácskoztak.
- A konszenzusos nyilatkozat vörös vonalakat jelölne ki az AI fejlesztésében.
- Tiltanák az önreplikáló, hatalomkereső vagy megtévesztő rendszerek fejlesztését.
- A javaslat a tömegpusztító fegyverekhez és kibertámadásokhoz használható rendszereket is érintené.
- A résztvevők nemzetközi együttműködést sürgettek az AI-kockázatok mérséklésére.
Pekingi találkozón vitatták meg az AI biztonságát
A vezető AI-kutatók 2024. március 10-én és 11-én gyűltek össze Pekingben, a mesterségesintelligencia-biztonságról szóló második nemzetközi párbeszéd, az IDAIS-Beijing keretében. A kétnapos eseményt a FAR.AI projektjeként működő Safe AI Forum szervezte a Beijing Academy of AI közreműködésével.
A találkozó középpontjában az általános mesterséges intelligencia, vagyis az AGI-rendszerek biztonságos fejlesztése állt. A résztvevők között volt Yoshua Bengio, Andrew Yao és Geoffrey Hinton Turing-díjas informatikus, továbbá a Beijing Academy of AI korábbi és jelenlegi vezetője, HongJiang Zhang és Huang Tiejun. A technológiai kérdéseket olyan kormányzási szakértőkkel vitatták meg, mint Xue Lan, a Tsinghua Egyetem professzora, valamint Gillian Hadfield, a Torontói Egyetem professzora.
Ezeket a fejlesztéseket tiltanák meg
Az első nap technikai és szabályozási megbeszélésein a résztvevők az AI-kockázatokról, a biztonsági kutatás irányairól és a lehetséges szabályozási rendszerekről egyeztettek. A tárgyalások végén konszenzusos nyilatkozatot fogadtak el, amely vörös vonalakat határozna meg az AI fejlesztésében.
A kutatók szerint meg kellene tiltani olyan AI-rendszerek fejlesztését, amelyek önállóan képesek önmagukat lemásolni, továbbfejleszteni, hatalmat keresni vagy megtéveszteni létrehozóikat. Ugyancsak a tiltott fejlesztések közé sorolnák azokat a rendszereket, amelyek tömegpusztító fegyverek készítését vagy kibertámadások végrehajtását teszik lehetővé.
A nyilatkozat olyan további intézkedéseket is felvázolt, amelyek biztosíthatják, hogy ezeket a határokat soha ne lépjék át. A forrás szerint a javaslat célja a mesterséges intelligenciából eredő potenciális katasztrofális és egzisztenciális kockázatok megelőzése.
A kutatók szerint együttműködésre van szükség
A második napon a tudósok magas rangú kínai tisztviselőkkel és vállalatvezetőkkel találkoztak, köztük Kaifu Lee-vel, a 01.ai alapítójával. Bemutatták a vörös vonalakról szóló javaslatot, és az AI egzisztenciális kockázatairól tárgyaltak. A résztvevő tisztviselők a FAR.AI beszámolója szerint lelkesedéssel fogadták a konszenzusos nyilatkozatot.
Yoshua Bengio szerint a pekingi találkozó rendkívüli lehetőséget adott arra, hogy kínai és nyugati szakértők együtt vizsgálják az AGI-szintű AI biztonságának kérdését. Bengio úgy fogalmazott, hogy az AI előnyeinek kiaknázásához és az AGI jövőbeli katasztrofális következményeinek elkerüléséhez a vezető AI-országoknak együtt kell működniük a kockázatok jobb megértésén és csökkentésén.
Az International Dialogues on AI Safety kezdeményezés célja, hogy a világ különböző részeiről érkező tudósokat hozza össze a mesterséges intelligencia kockázatainak mérséklésére. A FAR.AI szerint a pekingi esemény egyik központi tanulsága az volt, hogy az AI biztonságáról szóló vörös vonalak kialakítása nemzetközi együttműködést igényel.
