A Nobel-békedíjas Kailash Satyarthi együttérzést sürget az AI-ban

Az együttérzésnek az AI fejlesztésének részévé kell válnia

Kailash Satyarthi szeptember 30-án beszélt a Berkeley Egyetem kampuszán, a University of California, Berkeley College of Computing, Data Science, and Society, vagyis a CDSS rendezvényén. Az eseményt a Satyarthi Movement for Global Compassion és az Arete Youth Academy közreműködésével szervezték.

Satyarthi a hallgatókhoz és az AI-technológiákat fejlesztő oktatókhoz fordulva azt mondta, hogy újra kell gondolni a sikerről és a teljesítményről alkotott elképzeléseket. „Sok mindent elérünk, de újra kell gondolnunk, mit jelent a siker. Újra kell gondolnunk, mit jelent a teljesítmény”, mondta a rendezvényen.

A Nobel-békedíjat 2014-ben Malala Yousafzaival közösen kapta meg. Az eredetileg villamosmérnök Satyarthi az 1980-as években kezdett aktivistaként dolgozni a gyermekrabszolgaság és a gyermekek kizsákmányolása ellen. Évtizedeken át a világ legkiszolgáltatottabb embereinek szabadságáért, méltóságáért és álmaiért kampányolt.

Satyarthi szerint az együttérzés „bomlasztó, dinamikus és átalakító erő”. Célja, hogy ennek az erőnek a szerepét beemelje az AI-ról szóló párbeszédbe, és a technológia az emberiséget szolgálja.

Mit jelenthet az együttérző mesterséges intelligencia?

Satyarthi az „együttérző AI” alatt nem pusztán kedvességet vagy empátiát ért. Megfogalmazása szerint a mérnökök képzésében és a velük végzett munkában is növelni kell az együttérzés szintjét, amelyhez a tudatos, gyakorlatias problémamegoldás is hozzátartozik.

„Globalizáltuk a piacokat, az adatokat, az információt, a termelést és a fogyasztást. Globalizáltuk a felmelegedést és a klímaválságot, a szélsőségességet és a terrorizmust is. Mi maradt még? Itt az idő, hogy másként gondolkodjunk és cselekedjünk. Itt az idő, hogy globalizáljuk az együttérzést”, mondta.

A beszédet panelbeszélgetés követte, amelyen Jennifer Chayes, a CDSS dékánja, Stuart Russell informatikaprofesszor és Rose Niousha informatikai doktorandusz vett részt. A résztvevők azt vizsgálták, hogyan lehet az együttérzést az AI fejlesztésének központi elemévé tenni.

Chayes szerint az AI egyik legnagyobb lehetősége, hogy összekapcsolja az emberi tudást, amely kiegyenlítő erővé válhat. Ehhez azonban olyan rendszereket kell építeni, amelyek az emberiséget szolgálják, és nem azok hatalmát növelik tovább, akik már most is rendkívül befolyásosak.

A dékán az úgynevezett nyílt súlyú és nyílt forráskódú AI-modelleket is olyan megoldásként említette, amelyek segítségével a közösségek nagyobb ellenőrzést tarthatnak meg adataik felett, és szélesebb hozzáférést kaphatnak a technológiához.

A célok és a mérés kérdése kerülhet a középpontba

Stuart Russell arra hívta fel a figyelmet, hogy adott mennyiségű erőforrás mellett a rendszerek azoknak segíthetnek a legtöbbet, akik a leginkább rászorulnak. Szerinte az összes ember közös érdekeinek maximalizálása természetes módon vezethetne a legnagyobb szükségben lévők támogatásához.

Russell ugyanakkor úgy látja, hogy a jelenlegi rendszerben a megerősítéses tanulás jelzése elsősorban a profit. A vállalatokon belül eltűnnek azok a rendszerek, amelyek nem termelnek nyereséget, miközben a nyereségesek terjednek. A kutató szerint a fejlesztőknek meg kell kérdezniük, valóban olyan célokat akarnak-e követni, amelyeket a csúcstechnológiás AI-t fejlesztő cégek meghatároznak.

Niousha szerint a jelenlegi modelleket erősen ellenőrizhető jutalmakra, például matematikai és programozási feladatokra tanítják. Az együttérzés mérhetővé tétele nehezebb lehet, ezért szerinte első lépésként azt kell meghatározni, mit jelent az, hogy egy ember jobbá válik, és hogyan lehet ezt megmérni.

Az ilyen hatások modellekbe kódolása olyan rendszerekhez vezethet, amelyek nemcsak rövid távon adnak helyesnek tűnő választ, hanem hosszabb távon az emberek képességeit is fejlesztik. Chayes a hallgatóknak azt tanácsolta, hogy technikai munkájuk közben tegyék fel a kérdést: „Milyen célból?” Az AI-rendszerek céljainak meghatározásakor pedig azt is vizsgálják meg, mit akarnak elérni, és kinek az érdekében.