Kutatás: az AI-s gyűlöletbeszéd-felismerés maga is keretek közé szorít
A gyűlöletbeszéd mesterséges intelligenciával végzett felismerését alapvetően meghatározza, hogyan írják le magát a nyelvet. A Minderoo Centre for Technology & Democracy új tanulmánya 322 számítástechnikai, valamint társadalom- és bölcsészettudományi publikáció elemzése alapján két eltérő megközelítést azonosított.
- Az MCTD 322 tanulmányt vizsgált a gyűlöletbeszéd AI-alapú felismeréséről.
- A számítástechnikai kutatások gyakran egyedi nyelvi részletekhez rendelt címkékként kezelik a gyűlöletbeszédet.
- A társadalom- és bölcsészettudományok társadalmi gyakorlatként, történeti összefüggésekben vizsgálják.
- A nyelv, az elfogultság és a rasszizmus technikai értelmezése meghatározza, milyen károk válnak felismerhetővé.
Két eltérő értelmezés ugyanarról a problémáról
A Cambridge-i Minderoo Centre for Technology & Democracy, röviden MCTD, 2026. szeptember 30-án ismertette Dr Stefanie Ullmann új, szabadon hozzáférhető tanulmányát. A kutatás azt vizsgálja, hogyan jelenik meg a nyelv fogalma a gyűlöletbeszéd felismerésével foglalkozó tudományos munkákban.
Ullmann 322, a számítástechnika, illetve a társadalom- és bölcsészettudományok területén megjelent tanulmányt elemzett korpuszsegített diskurzuselemzéssel, vagyis corpus-assisted discourse studies, CADS módszerrel. Az elemzés két, egymással összefonódó, mégis össze nem egyeztethető diskurzust tárt fel.
A számítástechnikában gyakori megközelítés a gyűlöletbeszédet egyes nyelvi részletekhez rendelt, elkülönülő címkékként kezeli. Ez lehetővé teszi, hogy a felismerést összehasonlítható tesztelési feladatként, vagyis benchmarkként vizsgálják. A társadalom- és bölcsészettudományokban ezzel szemben a gyűlöletbeszédet inkább olyan társadalmi gyakorlatként írják le, amely rasszizmus, szexizmus és a platformok irányításának történeteibe ágyazódik.
A technikai meghatározás következményei
A tanulmány központi állítása szerint a nyelv technikai értelmezése közvetlenül befolyásolja, hogy a gyűlöletbeszédet hogyan ismerik fel, és mennyire hatékonyan lehet ellene fellépni. Ezek a választások nem pusztán az egyes tudományterületek fókuszából következő, semleges mellékhatások.
Ullmann szerint meghatározzák, mely károkat lehet optimalizálható feladatként kezelni, és melyek maradnak a vizsgálat keretein kívül az online gyűlöletbeszéd felismerésekor. Így a kérdés nem csak az, hogy egy rendszer helyesen címkéz-e egy adott nyelvi részletet. Az is számít, milyen társadalmi jelentéseket és történeti összefüggéseket vesznek figyelembe már a feladat meghatározásakor.
Az MCTD összefoglalója szerint a kutató nem azt állítja, hogy a számítástechnikának a szociológiához vagy a diskurzuselemzéshez kellene hasonlóvá válnia. Ullmann megfogalmazásában „a technikai problémák meghatározása közvetlen következményekkel jár arra nézve, mi válik láthatóvá és kezelhetővé gyűlöletbeszédként”.
Mit jelent ez az AI-alapú felismerés számára?
A tanulmány az AI-alapú gyűlöletbeszéd-felismerés kiindulópontjára irányítja a figyelmet. Ha a gyűlöletbeszédet elsősorban egyedi szövegrészletekhez rendelt címkék soraként kezelik, akkor a rendszer teljesítménye jól mérhető összehasonlító feladatokon. Ez a keret ugyanakkor nem feltétlenül tartalmazza azokat a társadalmi gyakorlatokat és történeti összefüggéseket, amelyekben a gyűlöletbeszéd megjelenik.
Ullmann szerint a „nyelv”, az „elfogultság” és a „rasszizmus” fogalmának megválasztása sem semleges következménye a tudományterületi fókusznak. Ezek a döntések szintén kijelölik, mely károk kerülhetnek be az optimalizálható feladatok közé, és melyek maradnak a kereten kívül.
A kutatás így arra hívja fel a figyelmet, hogy az online gyűlöletbeszéd felismerését nem lehet kizárólag technikai mérőszámok kérdéseként kezelni. A használt fogalmak és kategóriák azt is befolyásolják, milyen problémát próbál megoldani az adott rendszer, és milyen károkat képes egyáltalán észlelni.
Minderoo Centre for Technology & Democracy: Language as Data, Hate as Task: The epistemic normalisation of hate speech in AI
