Bíróságok előtt az AI-hallucinációk, egyre több ügy vizsgálja a felelősséget

A magánbeszélgetésekből nyilvános ügyek lettek

A Future of Privacy Forum blogján Wenlong Li, a Zhejiang University Guanghua Law School kutatóprofesszora és a 2026 PPPM Award díjazottja tekinti át, hogyan jelenik meg az AI-hallucináció a jogrendszerekben. A szerző hangsúlyozza, hogy a vendégbejegyzés az ő véleményét tükrözi, és nem feltétlenül a Future of Privacy Forum vagy a vele kapcsolatban álló közösségek álláspontját.

Li az AI-hallucináció kifejezést szűken használja: olyan gép által előállított szövegre érti, amely ellenőrizhető tényállítást megalapozottnak mutat be, miközben az állítás hamis, nem kellően alátámasztott vagy nem vezethető vissza megbízhatóan releváns bizonyítékokra. A fogalom nem azt jelenti, hogy a modell emberi érzékeléssel, hittel vagy megtévesztési szándékkal rendelkezik.

A szerző szerint a jelenséget korábban főként a generatív rendszerek technikai korlátjaként kezelték. A helyzet azonban változik, ahogy a hibás állítások keresőfelületeken, ügyfélszolgálati chatbotokban, nyilvános AI-fiókokban, önállóan közzétett médiatartalmakban, szakmai kommentárokban és adatvédelmi panaszokban jelennek meg.

A felelősség több szereplő között oszlik meg

A bejegyzés 11 bírósági és szabályozási ügyet tekint át. A gyűjtés folyamatos jogi és szakpolitikai megfigyelésen, célzott kereséseken, valamint szakmai és közösségimédia-folyamok követésén alapult. A szerző szerint ez nem szigorú értelemben vett szisztematikus áttekintés, és nem állítja, hogy minden releváns jogvitát tartalmaz.

Öt vizsgált ügy Kínához kapcsolódik. Ezek között szerepel AI által támogatott kereskedelmi megtévesztés, jó hírnév megsértése, magánbeszélgetésben adott pontatlan válasz, valamint nyilvános AI-keresőben megjelent hibás információ. Két kínai döntésben a bíróságok a felhasználó felelősségét emelték ki.

A (2024)浙0108民初10311号 ügyben egy önmédia-üzemeltető olyan cikket készíttetett AI-rendszerrel, amely egy Alibaba vállalataként mutatott be egy attól független céget. A kezelő Alibaba-arculati elemeket is hozzáadott, majd a cikket jól látható AI-jelölés nélkül tette közzé. A Hangzhou Binjiang Kerületi Népi Bíróság szerint továbbra is neki kellett volna ellenőriznie a szöveget, és a magatartást tisztességtelen versenynek minősítette.

A (2025)粤0192民初23599号 ügyben egy pénzügyi kommentátor egy ellenőrizetlen, 1700 kínai karakteres dokumentumot adott át egy AI-alkalmazásnak, majd tízezer karakternél hosszabb cikket készíttetett belőle. A vállalati visszaélésekről szóló állításokat eredeti tartalomként publikálta. A Guangzhou Internet Bíróság jó hírnév megsértését állapította meg, és a szakmai szerep, a promptok feletti kontroll, valamint a közzététel miatt fokozott, a teljes folyamatra kiterjedő gondossági kötelezettséget emelt ki.

Eltérő döntések az AI-szolgáltatók ügyeiben

A szolgáltatók felelősségét érintő kínai ügyek eltérő eredményre vezettek. A (2025)浙0192民初18143号 ügyben egy AI-alkalmazás pontatlan információt adott egy egyetemi kampuszról, majd kompenzációt ígérő állításokat generált arra az esetre, ha a válasz hibás lenne. A Hangzhou Internet Bíróság elutasította a keresetet. Indoklása szerint a kompenzációs ígéret az adott körülmények között nem volt a szolgáltatónak betudható, kötelező erejű nyilatkozat, a szolgáltató figyelmeztetéseket adott és ésszerű kárenyhítő intézkedéseket vezetett be. A felhasználó sem a ráhagyatkozást, sem a kárát nem bizonyította.

A (2025)苏01民终14271号 ügyben viszont a Baidu AI-válasza hamisan kapcsolt egy azonosítható ügyvédet szabadságvesztéshez és egy robbantással összefüggő bűncselekményhez. A nankingi bíróságok megkülönböztették az összesített AI-választ a keresési javaslatoktól és a kapcsolódó keresési kifejezésektől. A választ közvetlenül a platform által előállított tartalomként kezelték, és bocsánatkérésre kötelezték a Baidut.

Németországban a Google AI Overview ügyében a müncheni elsőfokú regionális bíróság ideiglenes intézkedést hozott, miután egy AI által készített keresési összefoglaló két kiadót csalással, előfizetési csapdákkal és más kétes gyakorlatokkal kapcsolt össze. A bíróság az összefoglalót a Google saját tartalmának tekintette, mivel a rendszer átrendezte a forrásanyagot, újrafogalmazta azt, és olyan kapcsolatokat állított, amelyeket az idézett források nem állítottak.

A szerző szerint ezek az ügyek ugyanazokra a kérdésekre irányítják a figyelmet: ki hozta forgalomba az állítást, milyen módon mutatták be, milyen megbízhatósági elvárást teremtett a felület, ki tudta volna ellenőrizni a tartalmat, és kinek kell viselnie a következményeket, ha a védelmi intézkedések nem működtek.