A gyűlöletbeszéd technikai definíciója meghatározza, mit lát az AI
A gyűlöletbeszéd automatikus felismerését kutató tudományterületek eltérően értelmezik a nyelvet és a károkat. Stefanie Ullmann tanulmánya szerint ezek a kiindulópontok meghatározzák, mi válik mérhető és optimalizálható feladattá az AI-ban.
- Stefanie Ullmann 322 tanulmányt elemzett.
- Az informatikai kutatások gyakran címkézett nyelvi részletekként kezelik a gyűlöletbeszédet.
- A társadalom- és bölcsészettudományok társadalmi gyakorlatként értelmezik a jelenséget.
- A technikai definíciók meghatározzák, mely károk válnak mérhető feladattá.
- A tanulmány szabadon hozzáférhető.
322 tanulmány alapján vizsgálták a megközelítéseket
A Minderoo Centre for Technology & Democracy (MCTD) 2026. szeptember 30-án ismertette Dr Stefanie Ullmann új, szabadon hozzáférhető tanulmányát. A kutatás azt vizsgálja, hogyan jelenik meg a nyelv fogalma a gyűlöletbeszéd felismerésével foglalkozó szakirodalomban.
Ullmann a korpusz által támogatott diskurzuselemzés (corpus-assisted discourse studies, CADS) módszerét használta. Elemzése 322, informatikai, valamint társadalom- és bölcsészettudományi területen megjelent tanulmányra terjedt ki. A cél annak feltárása volt, hogy a különböző tudományterületek milyen módon határozzák meg a gyűlöletbeszédet, amikor annak automatizált felismerését kutatják.
Két eltérő felfogás ütközik
A tanulmány két, egymással összekapcsolódó, mégis össze nem egyeztethető diskurzust azonosít. Az informatikai kutatásokban a gyűlöletbeszédet gyakran egyes nyelvi részletekhez rendelt, elkülönülő címkék formájában operacionalizálják. Ez a megközelítés alkalmassá teszi a jelenséget összehasonlítható tesztekre és teljesítménymérésre.
A társadalom- és bölcsészettudományi megközelítés ezzel szemben társadalmi gyakorlatként tekint a gyűlöletbeszédre. Ebben az értelmezésben a jelenség a rasszizmus, a szexizmus és a platformirányítás történeteibe ágyazódik.
Ullmann szerint az eltérésnek közvetlen következményei vannak arra, hogyan látják és hogyan kezelik a gyűlöletbeszédet. A nyelv technikai leírása ezért nem pusztán az egyes tudományterületek fókuszából következő semleges döntés.
A definíció eldönti, mely károk válnak mérhetővé
Az MCTD által ismertetett eredmények szerint a fogalmi választások meghatározzák, mely károk jelennek meg optimalizálható feladatként, és melyek maradnak az online gyűlöletbeszéd felismerésének keretén kívül.
Ullmann nem azt állítja, hogy az informatikai kutatásnak a szociológiához vagy a diskurzuselemzéshez kellene hasonlítania. A tanulmány fő állítása szerint „a technikai problémák meghatározásának közvetlen következményei vannak arra, hogy mi válik láthatóvá és kezelhetővé gyűlöletbeszédként”.
A kutató az MCTD szerint arra is felhívja a figyelmet, hogy a „nyelv”, az „elfogultság” és a „rasszizmus” értelmezésére vonatkozó döntések nem semleges mellékhatásai a tudományterületi fókusznak. Ezek a döntések határozzák meg, milyen károkat lehet mérési és optimalizálási feladatként kezelni.
A tanulmány így a gyűlöletbeszéd-felismerő rendszerek fejlesztésének egyik alapvető kérdését helyezi előtérbe: már az adatok és címkék kialakítása előtt eldőlhet, milyen társadalmi jelenséget próbál a rendszer felismerni. A teljes tanulmány címe Language as data, hate as task: The epistemic normalisation of hate speech in AI.
Minderoo Centre for Technology & Democracy: Language as Data, Hate as Task: The epistemic normalisation of hate speech in AI
