New York és Kalifornia eltérően szabályozza az AI-chatbotokat
New York és Kalifornia egyaránt újabb, kiskorúakat célzó AI-chatbot szabályozást fogadott el, de eltérő eszközökkel próbálják kezelni a kockázatokat. New York széles körben tilt bizonyos funkciókat, Kalifornia pedig irányítási és ellenőrzési követelményeket vezet be.
- New York új törvénye tizenkét kategóriában tilt AI-társfunkciókat a kiskorúaknál.
- Kalifornia kockázatértékelést, független auditot és alapértelmezett szülői kontrollokat ír elő.
- New York szabályozása általános célú, folyamatosan alkalmazkodó chatbotokra is kiterjedhet.
- A New York-i törvény korlátozza a korábbi beszélgetésekből származó személyes adatok használatát.
- New York törvényével 19-re nőtt az Egyesült Államokban elfogadott, chatbotokra vonatkozó állami jogszabályok száma.
Két állam egy év alatt másodszor szigorít
Kathy Hochul, New York kormányzója ezen a héten írta alá az S 9051B jelű törvényt, amely új korlátozásokat vezet be a kiskorúak számára elérhető AI-társszolgáltatásokra. A jogszabály elfogadása valamivel több mint egy hónappal követte Gavin Newsom kaliforniai kormányzó SB 1119 jelű törvényének aláírását.
A Future of Privacy Forum szerint Kalifornia és New York volt az első két amerikai állam, amely 2025-ben külön AI-társszabályozást fogadott el. Most ugyanők lettek az első államok, amelyek egy évvel később második generációs szabályozással egészítették ki a korábbi előírásokat. New York új törvényével 19-re emelkedett az országban elfogadott, kifejezetten chatbotokra vonatkozó állami jogszabályok száma.
A korábbi, szűkebb közzétételi és válságkezelési követelményekhez képest mindkét állam szélesebb körű károkat kezel, és többféle szabályozási eszközt alkalmaz. A két megközelítés közös eleme az életkor ellenőrzése és a kiskorúak védelme, a végrehajtás módja azonban jelentősen eltér.
New York a chatbotok viselkedését korlátozza
Az S 9051B tizenkét kategóriába sorolja a kiskorúak számára nem engedélyezett, „nem biztonságos AI-társfunkciókat”. Ezek között szerepelnek az öngyilkosságot, önsértést, rendezetlen étkezést, tiltott drog- vagy alkoholfogyasztást, illetve szexuálisan explicit magatartást támogató vagy elősegítő válaszok. A törvény tiltja azokat az interakciókat is, amelyek titkolózásra, elszigetelődésre vagy a megfelelő felnőttektől és engedéllyel rendelkező szakemberektől való segítségkérés elkerülésére ösztönöznek.
A szabályozás a kapcsolatot utánzó működésre is kiterjed. Ilyen lehet, ha a chatbot embernek vagy emberi érzelmekkel rendelkező rendszernek mutatja magát, személyes vagy szakmai kapcsolatot, illetve tekintélyt sugall a felhasználóval szemben, továbbá ha személyes véleményeket és érzelmi felhívásokat fogalmaz meg, hízeleg vagy túlzottan egyetértő módon reagál. A törvény az olyan, kéretlen, érzelmekre vonatkozó kérdéseket vagy tartalmakat is érinti, amelyek túlmutatnak a felhasználó közvetlen kérésén.
New York a személyre szabást és a beszélgetési memóriát is korlátozza. A chatbot nem használhatja a kiskorú egészségére, jóllétére vagy személyes ügyeire vonatkozó, korábbi munkamenetből származó, illetve tizenkét óránál régebben megszerzett információkat. A jogszabály tiltja továbbá az olyan elköteleződést növelő működést, amely a biztonsági korlátokat háttérbe szorítja.
A Future of Privacy Forum szerint a törvény értelmezése több ponton bizonytalan lehet. Egyes fogalmak, például a „személyes vélemény”, az „érzelmi felhívás”, a „hízelgés” és a „túlzott egyetértés” kevés útmutatást kapnak. Emiatt az üzemeltetők akár olyan hétköznapi vagy támogató válaszokat is korlátozhatnak, amelyek egyébként nem manipulatívak.
Kalifornia ellenőrzési rendszert épít
A kaliforniai SB 1119 más irányt követ. A törvény kockázatértékeléseket, független auditokat és alapértelmezett szülői felügyeleti beállításokat ír elő. Emellett korlátozza a beszélgetési memóriát és a célzott hirdetéseket is.
New York törvénye az úgynevezett „covered AI companion” kategórián keresztül a korábbinál szélesebb körre terjed ki. Ide olyan generatív AI-rendszerek tartozhatnak, amelyek természetes nyelvi felületen keresztül folyamatos, alkalmazkodó válaszokat adnak. A rendszernek nem feltétlenül kell kifejezetten társaságot vagy érzelmi kapcsolatot kínálnia, ezért a meghatározás általános célú chatbotokra is kiterjedhet. Egyes ügyfélszolgálati, technikai segítségnyújtási és belső üzleti rendszerek kivételt képeznek.
Mindkét szabályozási modell új feladatokat ad a chatbotok üzemeltetőinek. New Yorkban azt kell meghatározniuk, hogy egy felhasználó kiskorú-e, és meg kell akadályozniuk a tiltott funkciók biztosítását. Kaliforniában a kockázatok felmérése, a független ellenőrzés és az alapértelmezett védelmi beállítások kerülnek előtérbe.
A két törvény így két eltérő mintát kínál a 2027-es jogalkotáshoz. Az egyik a chatbotok viselkedésének széles körű határok közé szorítására épít, a másik a vállalati irányítás, a felügyelet és az ellenőrzés megerősítésére. A Future of Privacy Forum szerint az lesz a következő időszak egyik kérdése, hogy más államok és az amerikai Kongresszus melyik megközelítést követi, vagy saját szabályokat dolgoz ki.
Future of Privacy Forum: Back in the Chat: California and New York Take Diverging Paths in Second Wave of Chatbot Regulations
