A szerzői jogi szűrés nem oldja meg a chatbotok biztonsági gondjait

Egyre több fiatal használ chatbotokat társaságként

A Center for Democracy & Technology, CDT, 2026. szeptember 14-én közzétett elemzése szerint a chatbotok használata a fiatalok körében az iskolai feladatok megoldásán túl személyes és társas helyzetekre is kiterjed. A szervezet 2024 és 2025 tanévében végzett, országosan reprezentatív felmérésében 1030 középiskolás diák vett részt.

A válaszadók 86 százaléka használta a mesterséges intelligencia eszközeit az előző tanévben, felük pedig iskolai munkához is igénybe vette azokat. A diákok 42 százaléka mondta azt, hogy ő vagy egy barátja AI-t barátként vagy társaságként használt. Romantikus kapcsolat esetében ugyanez az arány 19 százalék volt.

A CDT szerint ezzel párhuzamosan nőtt az aggodalom az ilyen interakciók következményei miatt. Több per is indult olyan ügyekben, amelyekben kiskorúak vagy kiszolgáltatott helyzetben lévő felnőttek chatbotot használtak, a beszélgetések pedig önsértéssel, erőszakkal vagy más veszélyes magatartással kapcsolatos témákat érintettek.

A felperesek a szerzői jogi korlátozásokra hivatkoznak

A Garcia v. Character Technologies ügyben egy 14 éves fiú édesanyja azt állítja, hogy a Character.AI társalgó chatbotja hozzájárult fia öngyilkosságához. A Raine v. OpenAI perben egy 16 éves fiú szülei szerint a ChatGPT hónapokon keresztül „öngyilkossági edzőként” működött. A CDT hangsúlyozza, hogy az ügyek alperesei, termékei, tényei és jogi érvei eltérnek egymástól.

A felperesek egyik érve szerint a fejlesztők már képesek bizonyos beszélgetések automatikus korlátozására, mivel a modelleket arra is felkészítik, hogy ne reprodukáljanak szerzői jog által védett szövegeket. Az OpenAI GPT-4o rendszerkártyája például azt írja, hogy a vállalat szöveges és kimeneti szűrőkkel tanította a modellt a szerzői jog által védett tartalmakra vonatkozó kérések elutasítására.

A Raine keresete szerint a vállalat képes volt a káros beszélgetések automatikus megszakítására, és ezt szerzői jogi kéréseknél meg is tette. A felperesek állítása szerint az öngyilkosságról szóló beszélgetésekre nem ugyanilyen kategorikus elutasítás vonatkozott, hanem enyhébb, fokozott óvatosságot előíró utasítások.

A hasonlóság valódi, de a problémák nem azonosak

A CDT szerint a kétféle védelem között vannak fontos párhuzamok. Mindkettőnek kezelnie kell a kétértelmű nyelvhasználatot, az érzékeny kifejezések ártalmatlan használatát és a korlátozások kijátszására irányuló próbálkozásokat. A szerzői jogi és biztonsági védelem esetében is kevés lehet az egyszerű kulcsszavas tiltás.

Egy felhasználó például egy könyv teljes szövegét több, önmagában ártalmatlannak tűnő folytatási kéréssel próbálhatja megszerezni. A biztonsági korlátozásokat pedig fikciós vagy kutatási célra hivatkozva kerülheti meg. Ugyanakkor egy könyvcím említése önmagában nem bizonyít jogsértést, ahogy az „öngyilkosság” szó használata sem jelenti automatikusan azt, hogy a felhasználó ártani akar. Valaki segítséget kérhet egy öngyilkossági gondolatokkal küzdő barát támogatásához.

A CDT elemzése szerint a szerzői jogi cél viszonylag pontosan meghatározható: egy konkrét mű jelentős részének szó szerinti reprodukcióját kell csökkenteni, a megoldás pedig lehet a mű reprodukciójának elutasítása. Az önsértéssel, téveszmékkel vagy erőszakkal kapcsolatos beszélgetésekben viszont a rendszernek változó és esetleg fokozódó kockázati jeleket kell értékelnie, akár több beszélgetésen keresztül. Ezután különböző következményekkel járó válaszok közül kell választania, bizonytalan helyzetben.

A bíróságok döntései a CDT szerint hatással lehetnek a későbbi perekre és arra a szélesebb szakpolitikai vitára is, amely azt vizsgálja, milyen kockázatokat jelentenek a chatbotok a kiskorúakra és más kiszolgáltatott felhasználókra, illetve mikor tehetők felelőssé a fejlesztők az okozott károkért.