Az AI-kutatók 18 százalékos esélyt látnak az emberiség végzetére
Az AI-kutatók átlagosan 18 százalékos esélyt adtak annak, hogy a jövőbeli AI-fejlődés az emberiség kihalásához vagy hasonlóan súlyos, végleges kiszolgáltatottságához vezet. Az AI Impacts 2024 végén készített felmérésében 1580 érvényes válasz érkezett.
- A kutatók átlagosan 18 százalékos esélyt adtak az emberiség kihalására vagy súlyos végleges kiszolgáltatottságára.
- A 2024-es felmérésben 1580 érvényes válasz érkezett, a válaszadási arány 10 százalék volt.
- Az Ázsiában tanult kutatók magasabb kockázati értékeket adtak meg.
- Az emberi szintű AI-ra vonatkozó átlagos becslés 16 és 72 év között szóródott a kérdés típusától függően.
- A szűkebb AI-feladatok többségét a kutatók tíz éven belül megvalósíthatónak tartották.
Jelentős kockázatot látnak az AI fejlődésében
Az AI Impacts szeptember 25-én közzétett összefoglalója a 2024-es felmérés legfontosabb eredményeit ismerteti. A kutatás a szervezet negyedik hasonló felmérése volt 2016 óta. A készítők azoknak írtak, akik hat vezető AI-konferencián publikáltak, és 10 százalékos válaszadási arány mellett 1580 érvényes választ kaptak.
A kutatók 18 százalékos átlagos valószínűséget adtak annak, hogy a jövőbeli AI-fejlődés az emberiség kihalását, vagy az emberi faj hasonlóan végleges és súlyos hatalomvesztését okozza. A válaszadók több mint fele legalább 10 százalékos, egyharmaduk pedig legalább 20 százalékos esélyt jelölt meg. Az AI Impacts szerint a kommentek alapján a résztvevők többféle szélsőséges kiszolgáltatottsági forgatókönyvre gondolhattak.
Az Ázsiában tanult kutatók magasabb értékeket adtak meg, mint az Egyesült Államokban vagy Európában tanultak. A Kínából válaszolók esetében az eredmény még erősebbnek tűnt, de ezt a szerzők előzetes, folyamatban lévő eredményként kezelik. Szerintük a minta túl kicsi lehet, és további vizsgálat kell annak megértéséhez, hogy ebben mekkora szerepe van például a VPN-ek használatának vagy az alacsonyabb válaszadási aránynak.
A kutatók kevéssé bíznak az AI-döntések megértésében
A felmérésben több, a jövőbeli AI-rendszerek veszélyes viselkedési képességeihez kapcsolódó tulajdonságról is kérdezték a résztvevőket. Az előző felméréshez képest egy év alatt szinte mindegyikre többen számítottak a következő húsz évben.
A kutatók 2029-re nézve különösen pesszimisták voltak az AI-döntések megérthetőségével kapcsolatban. A kérdés arra vonatkozott, hogy a felhasználók képesek lesznek-e megismerni egy korszerű AI-rendszer egy adott döntése mögött álló valódi okokat. Az AI Impacts szerint ez azért is fontos, mert egyre több döntést bízhatnak AI-rendszerekre, miközben a rendszerek készítői sem programozzák közvetlenül az összes viselkedésüket, és kevéssé látják át, mi történik a belsejükben.
A kutatók összképe egy rendkívül bizonytalan jövő, amelyben sok kedvezőtlen kimenet is lehetséges. A felmérés szerint a résztvevők véleménye erősen megoszlott arról is, hogy a hardverfejlődés, az adatkészletek vagy más kutatási inputok visszafogása mennyivel csökkentette volna az elmúlt évtized AI-fejlődését. Az átlagos becslések mindegyik esetben közel álltak az 50 százalékhoz.
Rövidebb időtávokat jósolnak több AI-képességre
A szűkebb, jól meghatározható feladatok esetében a kutatók rövid időtávokat adtak meg. Ilyen feladat volt például egy nyílt forráskódú nagy nyelvi modell önálló finomhangolása, vagy egy Taylor Swift-dalhoz hasonlóan hangzó új dal megírása egy rajongó számára. Az átlagos előrejelzés szerint ezek közül öt kivételével mindegyik tíz éven belül megvalósulhat, és egy kivételével mindegyikre legalább 10 százalékos esélyt adtak 2027-ig.
Az emberi szintű teljesítmény elérésére vonatkozó becslések jóval távolabb estek egymástól. A feladatokra épülő kérdés átlagos eloszlása 16 évet, a foglalkozásokra épülő kérdés 72 évet jelölt meg. Az előző felmérés óta ezek az időpontok gyorsan közeledtek: a feladatalapú becslés öt évvel, a foglalkozásalapú tizenhét évvel rövidült.
A kutatók decemberben töltötték ki a kérdőívet, ezért az AI Impacts szerint az eredmények egy része már változhatott. A szervezet a 2026-os felmérés eredményeit is szeretné közzétenni 2026-ban.
AI Impacts: What did AI researchers think at the end of 2024?
