AI a gyorsaság helyett az irányról szól, mondták a szakértők
A mesterséges intelligencia fejlesztésénél nem önmagában a gyorsaság jelenti a legnagyobb problémát, hanem az, hogy milyen célok és ösztönzők mentén épülnek a rendszerek. Erről Yoshua Bengio, Joëlle Barral, Vukosi Marivate és Yutaka Matsuo beszélt az AI for Good Global Summit 2026 egyik panelbeszélgetésén.
- A panel szerint az AI kockázatait a fejlesztés iránya és célja is meghatározza.
- A fizikai rendszerek hibái közvetlen következményekkel járhatnak.
- A chatbotbeszélgetések nagyjából negyede egészséggel vagy mentális jólléttel kapcsolatos.
- A globális rendszerek gyakran kevéssé képviselik Afrika nyelveit és helyi körülményeit.
- A résztvevők nemzetközi irányítást és szélesebb társadalmi részvételt sürgettek.
A gyors fejlesztés önmagában nem a fő veszély
Az AI is moving fast: here’s what actually matters című beszélgetést Avye Couloute, a Girls Into Coding alapítója moderálta. A résztvevők között volt Yoshua Bengio, a Montréali Egyetem professzora, a LawZero társelnöke és tudományos igazgatója, valamint a Mila alapítója és tudományos tanácsadója; Joëlle Barral, a Google DeepMind kutatási és mérnöki részlegének vezető igazgatója; Vukosi Marivate, az African Institute of Data Science and Artificial Intelligence igazgatója és a Pretor única Egyetem számítástechnikai professzora; továbbá Yutaka Matsuo, a Tokiói Egyetem professzora és a Matsuo Lab vezetője.
Bengio egy autóhoz hasonlította a helyzetet. Az ITU beszámolója szerint úgy fogalmazott: „Ha egy nagyon biztonságos autót vezetsz egy biztonságos úton, nagyon gyorsan, az rendben van.” A probléma szerinte az, hogy „nincsenek fényszóróink, nem tudjuk pontosan, merre tartunk, és abban sem vagyunk biztosak, hogy az autó rendben van”. A professzor szerint az AI fejlesztését irányító, profitközpontú ösztönzők sincsenek összhangban az emberi jólléttel.
Barral a felhasználási céltól tette függővé a kockázatokat. Az egészségügyben a rendszereket konkrét alkalmazásokra értékelik, és külön szabályozás vonatkozik arra, ha egy eszközt az eredeti céljától eltérően használnak. Más területeken hasonló keretek nem léteznek. Matsuo szerint Japán fizikai AI felé tartó átmenete tovább növeli a tétet, mert a fizikai rendszerek hibái közvetlen következményekkel járhatnak.
A környezet és az adatkapcsolat is számít
Marivate arra hívta fel a figyelmet, hogy ugyanaz a rendszer különböző helyeken eltérően működhet. Egy adott környezetben beállított érzékelő máshol másképp viselkedhet, például a Szaharában. Afrika nagy részén, Latin-Amerikában és Délkelet-Ázsiában az alacsony sávszélesség akadályozhatja vagy torzíthatja az AI-rendszerekhez eljutó adatokat.
Marivate saját, nyelvtechnológiával kapcsolatos munkájára utalva azt mondta, hogy ez már káros válaszokhoz is vezetett. Az afrikai kontinens lakosságának fele 19 éves vagy fiatalabb, miközben a térségben 2000 és 3000 közötti számú nyelvet beszélnek, és ezek közül sok nincs írott formában, illetve kevéssé jelenik meg a jelenlegi rendszerekben. A fiatalok többsége mobiltelefonos csevegőfelületeken keresztül használ AI-t, nem közvetlenül nyelvi modelleken át.
Marivate szerint ezért fontos, hogy az emberek képesek legyenek felmérni, alkalmas-e egy AI-rendszer az adott célra, és hogy meglegyen a tudásuk a rendszerek építéséhez vagy módosításához.
Mentális egészség, részvétel és nemzetközi irányítás
A panel a fiatalok AI-függőségét és a mentális egészséget is érintette. Barral egy friss ENSZ-jelentésre hivatkozott, amelyhez hozzájárult: világszerte nagyjából minden negyedik chatbotbeszélgetés egészséggel, mentális egészséggel vagy jólléttel kapcsolatos. Az ilyen beszélgetéseket kezelő rendszereket a felhasználói aktivitás fenntartására tanítják. „Az, hogy van valamink, amit kedvelünk, nem feltétlenül jelenti azt, hogy ez a legjobb interakció számunkra, emberek számára”, idézte Barralt az ITU.
Bengio szerint a problémát az is súlyosbíthatja, hogy az emberi értékelőknek tetszeni próbáló modellek azt mondhatják a felhasználóknak, amit hallani szeretnének, nem pedig azt, amire szükségük van. Ez depresszióval élő felhasználóknál különösen komoly következményekkel járhat. A résztvevők gyakorlati enyhítésként a modellek kritikus válaszra utasítását, illetve egy ötlet harmadik személyhez kötését említették, de ezeket nem tekintették a betanítás megváltoztatásának megfelelő helyettesítőjeként.
Bengio a döntéshozatal koncentrációját kormányzási problémának nevezte. Szerinte arról, milyen AI-t, hogyan és milyen célokra képeznek, nagyon kevés helyen és nagyon kevés ember dönt. Nemzetközi irányításra lenne szükség, amelybe a technológia által érintett emberek hangja is bekerül.
A panel végén Matsuo szerint az AI arra késztethet bennünket, hogy felülvizsgáljuk a viselkedésünket. Marivate az emberi közösségek jó és rossz ösztöneit egyaránt felerősítő eszközként írta le a technológiát. Barral a kritikus gondolkodás és a matematika tanulásának fontosságát hangsúlyozta, Bengio pedig úgy vélte, hogy a fiataloknak lehetőségük van olyan jövő alakítására, amelyben az AI az emberiséget szolgálja.
ITU AI for Good: Not the pace, the direction: a panel at the AI for Good Global Summit on what actually matters
