A nyelvi modellek segítsék, ne váltsák ki az emberi moderációt
A nagy nyelvi modellek segíthetik a platformok tartalommoderációját, de nem válthatják ki teljesen a biztonsági és felügyeleti folyamatokat a Center for Democracy and Technology szerint. A szervezet a Meta Oversight Board számára benyújtott észrevételeiben emberi ellenőrzést, hatásvizsgálatokat és részletesebb átláthatóságot sürget.
- A CDT észrevételeket küldött a Meta Oversight Boardnak az LLM-ek moderációs használatáról.
- A szervezet szerint az LLM-ek egészítsék ki, ne váltsák ki az emberi biztonsági folyamatokat.
- A szolgáltatóknak emberi jogi hatásvizsgálatot és rendszeres teljesítménymérést kellene végezniük.
- A felhasználóknak indoklást és fellebbezési lehetőséget kellene kapniuk a hátrányos döntések után.
- Az átláthatósági jelentésekben szerepelhetne az LLM-ek döntéseinek és sikeres fellebbezéseinek száma.
A CDT szerint jókor érkezik az útmutatás
A Center for Democracy and Technology, röviden CDT, 2026. október 22-én küldte el észrevételeit a Meta Oversight Boardnak. A testület olyan útmutatáson dolgozik, amely a nagy nyelvi modellek, vagyis az LLM-ek és az ezekre épülő eszközök tartalommoderációs használatát segítheti.
A CDT szerint a vállalatok már elkezdték alkalmazni ezeket a rendszereket. Az LLM-ek megfelelő használat mellett támogathatják a pontosabb moderációs döntéseket nagy léptékben, érthetőbbé tehetik a döntések indoklását, és a felhasználói bejelentések elsődleges rendezésében, úgynevezett triázsában is segíthetnek.
A szervezet ugyanakkor arra figyelmeztet, hogy még a legjobb automatizált eszközök és folyamatok is hibázhatnak. Emiatt a rendszerek működéséhez emberi felügyeletre van szükség.
A gépi hibák több platformon is gondot okoztak
A CDT egy friss Meta-esetet is felidéz. A vállalat a hónap elején „automatizált védelmi intézkedésekre” hivatkozott, amikor ideiglenesen eltávolította a No Kings Instagram-fiókot. A fiókot az Egyesült Államok egészére kiterjedő, demokráciapárti tiltakozások mögött álló koalíció működteti. A CDT szerint nem ismert, hogy ebben az esetben LLM-et használtak-e, az ügy azonban megmutatja, miért kellenek védőmechanizmusok a gépi hibákkal szemben.
A szervezet más szolgáltatások példáit is említi. Amikor a YouTube a koronavírus-járvány miatti karantén időszakában a tartalommoderáció nagy részét automatizált folyamatokra állította át, megugrott a fellebbezések száma. Az átállást követően a tartalommoderációs fellebbezések 50 százalékában visszaállították az érintett tartalmat. A TikTok egyik korábbi moderátora pedig arra figyelmeztetett, hogy megfelelő emberi ellenőrzés és felügyelet nélkül a mesterséges intelligenciára épülő folyamatok jelentős károkat okozhatnak a felhasználóknak.
Teljesítménymutatókat és emberi felülvizsgálatot kérnek
A CDT különösen kockázatosnak tartja az LLM-alapú moderációt a felhasználói beszéd esetében, főleg az Egyesült Államokon kívüli felhasználóknál, politikai és vallási kisebbségek, valamint más marginalizált csoportok megszólalásainál. A szervezet az algoritmikus monokultúra veszélyére is felhívja a figyelmet. Ha több felhasználói tartalomszolgáltatás ugyanazt vagy hasonló modelleket használja, ugyanazok az emberek és csoportok több platformon is hasonló hátrányos döntésekkel találkozhatnak.
A CDT ajánlásai szerint az LLM-eknek ki kell egészíteniük, nem pedig felváltaniuk a meglévő biztonsági és felügyeleti folyamatokat. A bevezetés előtt a szolgáltatóknak emberi jogi hatásvizsgálatot kellene végezniük, hogy feltárják az új kockázatokat, illetve azt, hogy a rendszer felerősíti-e a már meglévőket.
A külső eszközszolgáltatóktól a CDT olyan mutatók közzétételét várja, mint a pontosság, a teljesség és a téves pozitív döntések aránya minden támogatott nyelven. A vállalatoknak a bevezetés előtt, majd később is mérniük kellene a rendszerek teljesítményét, többek között tartalomtípus, kockázati kategória és nyelv szerint, hogy az idővel bekövetkező teljesítményváltozást is észleljék.
A felhasználóknak indoklás és fellebbezés járna
Ha egy hátrányos moderációs döntést LLM-alapú eszköz hozott, a felhasználónak magyarázatot kellene kapnia róla. A CDT magyarázhatósági eszközök használatát és fellebbezési lehetőséget sürget, miközben arra is figyelmeztet, hogy az ilyen magyarázatoknak megvannak a korlátaik.
A szervezet szerint a szolgáltatóknak azt is közölniük kellene, milyen nyelveken és milyen tesztelési eljárásokkal hangolták és ellenőrizték az adott eszközt. Az átláthatósági jelentésekben pedig szerepelhetne, hány moderációs döntést hozott LLM, ezek közül hányat fellebbeztek meg, és hány fellebbezés járt sikerrel.
Ez a megközelítés a CDT szerint az emberi moderátorokat, köztük a szerződéses tartalommoderátorokat is bevonná az LLM-ek használatába. A modellek segíthetnék a tartalmak előzetes rendezését, miközben a magas kockázatú ügyekben, például választott tisztségviselők elleni erőszakra felszólító vagy valós konfliktusokat ábrázoló tartalmaknál, megmaradna az emberi felülvizsgálat.
Center for Democracy & Technology: CDT Submits Comments to the Oversight Board Calling for LLMs to Add To, Not Replace, Key Trust and Safety Processes
