A tartalommoderálás mintát adhat a mesterséges intelligencia felügyeletéhez

Az emberi jogokat már a vállalati működésben figyelembe kell venni

A beszélgetésen Paolo Carozza, az Oversight Board tagja és társelnöke, Elonnai Hickok, a Global Network Initiative ügyvezető igazgatója, Tomas Lamanauskas, a Nemzetközi Távközlési Unió (ITU) főtitkárhelyettese, valamint Alex Walden, a Google globális emberi jogi vezetője vett részt.

Carozza elmondta, hogy a Meta a tartalommoderálási döntések független felügyeletére hozta létre az Oversight Boardot. A testület a számonkérhetőségre és a nemzetközi emberi jogi normák alkalmazására összpontosít, különösen ott, ahol a véleménynyilvánítás szabadsága más jogokkal kerül konfliktusba.

Walden szerint a vállalatoknak formálisan el kell köteleződniük az ENSZ üzleti és emberi jogi irányelvei mellett. Ehhez a vezetőknek ismerniük kell a vállalat emberi jogi felelősségét, a szabályzatoknak pedig azt is rögzíteniük kell, hogyan érvényesítik ezeket az elveket. A cégeknél olyan csapatokra vagy felelősökre is szükség van, akik ezt a szempontot a működés egészében képviselik.

Hickok szerint a vállalati folyamatok mellett az érintett emberekkel és közösségekkel folytatott egyeztetés is alapvető. A civil szervezetek, kutatók és műszaki szakértők visszajelzései segíthetnek felmérni, hogy a szabályok a gyakorlatban valóban csökkentik-e a károkat.

Globális szabályok helyett közös normák és technikai szabványok

Lamanauskas úgy látja, hogy a jelenlegi politikai környezetben gyakorlatilag lehetetlen kötelező erejű, globális keretrendszert létrehozni. A nemzeti és regionális szabályok, valamint a vállalati irányelvek ugyanakkor a határokon átívelő technológiai platformokon keresztül széles körben érvényesülhetnek.

Ez felveti a kérdést, hogy ezek az előírások valóban egyetemesen elismert emberi jogokat tükröznek-e, vagy inkább azoknak az országoknak és régióknak az értékeit, ahol a technológiai vállalatok működnek vagy szabályozás alá esnek. Lamanauskas az ENSZ mesterséges intelligenciával foglalkozó ügynökségközi munkacsoportját említette, amely körülbelül 60 ENSZ-ügynökség munkáját hangolja össze.

Carozza szerint az Oversight Board ezért nem általános etikai elvekre, hanem nemzetközi emberi jogi normákra építi munkáját. Ezeket különböző országokban nemzetközi jog és szerződések ismerik el, így következetesebb alapot adhatnak a felügyelethez.

Az AI egyszerre jelent kockázatot és segítséget a moderálásban

A szakértők szerint a mesterséges intelligencia új veszélyeket hoz a közösségi platformokra. Ilyen lehet a szintetikus intim képek készítése, valamint az információk manipulálása választások és válságok idején. Közben az AI a tartalommoderálást is segítheti, például korábban kevésbé lefedett nyelveken, helyi kontextus figyelembevételével.

Walden szerint a szintetikus média terjedése megnehezíti annak megállapítását, hogy egy kép vagy videó hiteles-e. A Google SynthID nevű megoldása láthatatlan jelölést helyez a Google-termékekkel létrehozott tartalmakba, ami segíthet az eredet azonosításában. Walden egy olyan iparági kezdeményezést is említett, amely a tartalmak eredetének követésére és technikai szabványokra összpontosít.

Lamanauskas a gyermekek szexuális bántalmazását ábrázoló anyagok példáján mutatott rá a kettősségre. Az AI elősegítheti az ilyen tartalmak létrehozását és terjesztését, ugyanakkor a felismerésükben is használható. Az ITU vállalatokkal és szabványügyi szervezetekkel dolgozik a vízjelezésen és a deepfake-ek felismerésén, miközben a technológia folyamatosan változik.

Az automatizált döntésekhez erős jogorvoslat kell

Hickok arra figyelmeztetett, hogy az AI használata a tartalommoderálásban önmagában is kockázatokat teremt. A gyűlöletbeszéd például emojikkal vagy olyan nyelvi fordulatokkal is megjelenhet, amelyek jelentése erősen függ a környezettől. A rendszerek teljesítménye nyelvek között is eltérhet.

A vállalatoknak világosan meg kell határozniuk, hol és hogyan használnak AI-t. Azt is el kell dönteniük, hogy a rendszer csak emberi ellenőrzésre jelölje-e meg a tartalmat, vagy közvetlenül eltávolíthatja. Hickok szerint különösen fontosak az erős fellebbezési és jogorvoslati eljárások, mert ezek nélkül jogszerű tartalmak is eltávolíthatók úgy, hogy a felhasználók érdemben nem vitathatják a döntést.

A vita résztvevői az automatizált moderálás nyilvános átláthatóságát és független felügyeletét is szükségesnek tartják. A felhasználók számára ez azt jelenti, hogy az AI-alapú moderálási döntések mellett az emberi ellenőrzés, az indoklás és a fellebbezés lehetősége továbbra is központi kérdés marad.