A generatív AI információs minőségét és jogi kockázatait vizsgálja a CDT

Az AI egyre nagyobb szerepet kap az információ közvetítésében

A Center for Democracy & Technology (CDT) 2026. augusztus 5-én jelentette be új, a generatív AI-rendszerek információminőségével foglalkozó munkáját. A szervezet szerint a keresőmotorok, az okostelefonok és a közösségi platformok után a széles körben használt generatív AI-termékek újabb változást hoznak abban, ahogyan az emberek információt keresnek és feladatokat végeznek el.

A CDT AI Governance Lab által közzétett írás szerzői Jordan Gasior-Kavishe, Miranda Bogen és Matt O’Shaughnessy. Álláspontjuk szerint a nagy nyelvi modellek által működtetett rendszerek hatással lehetnek arra, hogy az emberek mit tudnak és mit hisznek, milyen döntéseket hoznak, hogyan vesznek részt a demokráciában, valamint hogy hozzáférnek-e megbízható információhoz.

A szervezet ezért azt vizsgálja, hogyan javítható ezeknek a rendszereknek a kimenete, miközben megmaradnak az olyan alapvető jogok, mint a magánszféra védelme és a véleménynyilvánítás szabadsága.

Egészségügyi és választási hibákra is figyelmeztetnek

A CDT szerint a generatív AI-termékek téves információhoz vezethetik a felhasználókat, lényegtelen vagy sértő tartalmakat jeleníthetnek meg, és állami propagandát is terjeszthetnek. Egészségügyi kérdésekben előfordult, hogy a válaszok pontatlan orvosi információt adtak, vagy fontos jogi összefüggéseket hagytak ki. A szervezet szerint ez különösen érzékeny területeken, például a reproduktív egészséggel kapcsolatban veszélyeztetheti az emberek testi jólétét.

A választásokkal kapcsolatban a chatbotok pontatlan adatokat közölhetnek a szavazóhelyiségekről vagy a választói regisztráció szabályairól. A CDT kiemeli, hogy ez különösen a marginalizált közösségekhez tartozó választókat akadályozhatja szavazati joguk gyakorlásában. Az AI által készített hírösszefoglalók közben félreértelmezhetik a híradásokat, ami a szervezet szerint kevésbé tájékozott demokráciához vezethet, ha az emberek világképére aránytalanul kevés AI-modell gyakorol befolyást.

Lehetséges beavatkozások, nehezen meghatározható minőség

A CDT több lehetséges eszközt is felsorol az AI-válaszok minőségének javítására. A vállalatok együttműködhetnének szakterületi szakértőkkel, például választási tisztviselőkkel, és megbízható forrásokhoz irányíthatnák a felhasználókat. A független auditok feltárhatnák az információminőséggel kapcsolatos problémákat, a Model Context Protocol szerverei pedig megfelelő kiválasztás és biztonságos tervezés mellett strukturált, megbízható tartalmakhoz kapcsolhatnák a modelleket.

A civil szervezetek a CDT szerint hozzáférhető API-k vagy adattárak kialakításával is hozzájárulhatnának ahhoz, hogy a modellek különböző területekről származó, ellenőrzött információkra támaszkodjanak. A modellfejlesztés átláthatósága segíthetne megérteni, miért keletkeznek pontatlan vagy félrevezető válaszok, és milyen javításokra lenne szükség.

A minőségi információ fogalma azonban vitatott lehet. Egy olyan kérdésnél, mint a legközelebbi szavazóhelyiség helye, általában rendelkezésre állhatnak ellenőrizhető adatok. Az olyan kérdések, mint hogy melyik a legjobb egyetem, vagy biztonságos-e kiskorúak számára a hormonblokkolók alkalmazása, értékekhez, preferenciákhoz vagy vitatott előfeltevésekhez kapcsolódhatnak. A CDT nem ezeknek a kérdéseknek a lezárását tűzi ki célul, hanem olyan nyílt viták alapjait kívánja megteremteni, amelyekben az érintettek megvitathatják a megfelelő beavatkozásokat.

A pontosság javítása új manipulációs és adatvédelmi kockázatokat hozhat

A szervezet arra is figyelmeztet, hogy külső szereplők szándékosan befolyásolhatják a rendszerek által előállított információt. A modellek sérülékenyek lehetnek algoritmikus adatmérgezési technikákkal szemben, miközben marketingesek és politikai stratégák a generatív keresőoptimalizálás segítségével próbálhatják növelni egy márka láthatóságát az AI-válaszokban.

A CDT szerint a minőség javítása közben nehéz egyensúlyt kell kialakítani a pontosság és a magánszféra között. A felhasználó lakóhelyére, pártállására, származására, nemére vagy kórtörténetére vonatkozó adatok bizonyos esetekben javíthatják a választ, ugyanakkor kiszivároghatnak más környezetekbe, felhasználhatók lehetnek modellképzésre vagy célzott hirdetésekre. A beszélgetési előzmények hatósági megkereséseknek is ki lehetnek téve, ami jogi következményekkel járhat politikailag érzékeny témák, például a bevándorlás vagy a reproduktív egészség megvitatásakor.

A CDT a kormányzati beavatkozások veszélyére is felhívja a figyelmet. Az írás szerint Kínában a chatbotoknak ideológiai teszten kell megfelelniük a nyilvános megjelenés előtt, Törökország pedig betiltotta a magas rangú tisztviselőket sértő AI-generált tartalmakat. A szervezet szerint az AI-információ minőségének vizsgálata ezért a felhasználók jogait, a magánszférát és a véleménynyilvánítás szabadságát érintő kérdésektől nem választható el.