A 200. AI-etikai jelentés azt kérdezi: kinek készül az AI?

A kérdés, amelyre az intézet épült

A 2026. szeptember 29-én megjelent kiadás egy nappal Abhishek Gupta halálának második évfordulója előtt érkezett. Gupta 2018-ban Renjie Butaliddal közösen alapította a Montreal AI Ethics Institute-ot. Az intézet munkáját az a kérdés határozta meg, hogy mi az emberiség szerepe egy olyan világban, amelyet egyre inkább algoritmusok irányítanak.

Gupta ezt a kérdést többek között a fenntartható AI, a civil kompetencia, a nyílt modellek, valamint a felelős AI-politikák és a gyakorlat közötti különbség vizsgálatán keresztül követte. A jubileumi kiadvány szerint munkája ma is befolyásolja, milyen kérdéseket tesz fel az intézet, és kiket szólaltat meg.

A szerzők a torontói Nrth Festival AI Stage eseményéhez kapcsolódva azt írják, hogy miközben korábban sokan arra keresték a választ, mire képes az AI, ma már azt is meg kell kérdezni, mire kellene használnia. A rendszerek kódot írnak, diákokat korrepetálnak, orvosokat segítenek és álláspályázatokat szűrnek, miközben a felhasználók gyakran nem veszik észre, hol lép be az AI a folyamatba.

Ki irányítja a rendszereket, amikor azok hibáznak?

A Brief központi kérdései szerint meg kell vizsgálni, ki profitál egy rendszerből, ki viseli a kockázatokat, és kinek van hatalma változtatni rajta, ha működése problémássá válik. Az intézet szerint a szélesebb hozzáférés nagyobb mozgásteret adhat embereknek és szervezeteknek, ugyanakkor függőséget is teremthet olyan infrastruktúrától, amelyet nem ők birtokolnak.

A kiadvány négy etikai nézőpontot emel ki. A következményetika azt vizsgálja, kik járnak jól és kik szenvedhetnek kárt. A kötelességetika a tiszteletben tartandó jogokra és kötelezettségekre kérdez rá. A kapcsolati etika azt nézi, hogyan változtatja meg a rendszer a függőségeket, a hatalmi viszonyokat és az emberi kapcsolatokat. Az erényetika pedig azt vizsgálja, milyen szokásokat alakít ki a technológia, és ezek segítik-e az emberek közös boldogulását.

A Montreal AI Ethics Institute egy szociális lakhatási várólista rangsorolására használt AI-rendszer példáján mutatja be a megközelítést. Fontos kérdés lehet, hogy a rendszer gyorsabban juttatja-e lakáshoz az embereket, kit sorol hátrébb a hibái miatt, milyen magyarázat és fellebbezési lehetőség jár a kérelmezőknek, valamint megmarad-e a dolgozók saját mérlegelése.

A szerzők szerint a rendszerhez legközelebb álló emberek gyakran elsőként érzékelik a hibákat. Ilyen lehet egy lakhatási ügyintéző, aki látja, hogy egy család azért kerül hátra, mert a modell stabil lakhatásként értelmezi az ideiglenes kanapén alvást, vagy egy szakszervezeti képviselő, aki észreveszi, hogy a dolgozóknak nincs idejük megkérdőjelezni a rangsort. Az intézet szerint az ilyen tapasztalatoknak a bevezetés előtti tesztelésben és az utólagos felülvizsgálatokban is szerepet kell kapniuk.

Az AI sikere is törékennyé teheti az intézményeket

A kiadvány a New York-i Risk Live North America eseményén elhangzott gondolatokat is bemutatja. Mihaela Nistor, a Federal Reserve Bank of New York kockázati igazgatója azt kérdezte, mi történik egy intézménnyel akkor, amikor a technológia sikeresen működik. Nistor jelezte, hogy személyes minőségében beszélt, és véleménye nem feltétlenül tükrözi a New York-i Fed vagy a Federal Reserve System álláspontját.

A Brief szerint egy szervezet akkor is törékennyé válhat, ha az AI-rendszere nem hibásodik meg. A vállalatok automatizálhatják a pályakezdők elemzői munkáját azelőtt, hogy átalakítanák azokat a munkaköröket, amelyekben az alkalmazottak megtanulják a szakmai mérlegelést. Egy AI-ügynök egyre több döntést hozhat, miközben az irányításért felelős csapatok még nem értik pontosan, hogyan változott a hatáskörök elosztása. Egy folyamat pedig függővé válhat az AI-tól anélkül, hogy hiteles tartalékmegoldás épülne ki.

Az intézet szerint az AI irányításához az embereknek tudniuk kell felismerni a problémákat, rendelkezniük kell a jelzésükhöz szükséges felhatalmazással, és elérhetőnek kell lennie egy olyan útnak, amelyen keresztül a kifogások tényleges változássá válhatnak. A texasi H.B. 3512 éves AI-tudatossági képzést ír elő bizonyos állami és helyi kormányzati alkalmazottaknak, illetve tisztségviselőknek. A szerzők ezt az AI-műveltség építésének egyik elemeként mutatják be, amely önmagában nem helyettesíti a mérlegelés, a kritika és az elszámoltathatóság intézményi biztosítékait.

A Montreal AI Ethics Institute közlése szerint a State of AI Ethics Report nyolcadik kötete, a Power, Fracture, Resistance, 2026. november 10-én jelenik meg. A jelentés azt vizsgálja majd, hol koncentrálódik a hatalom, hol kerül nyomás alá az irányítás, és hogyan reagálnak erre az emberek.