Kalifornia új AI-szabályai a munkahelyeket és a betegeket is védik
Kalifornia újabb, az Egyesült Államokban elsőként bevezetett AI-védelmi szabályokat fogadott el. Gavin Newsom kormányzó a munkahelyi döntésektől az egészségügyi rendszereken át a digitális megszemélyesítésig több területen erősítette az emberi kontrollt és az átláthatóságot.
- Kalifornia megtiltja, hogy a munkáltatók kizárólag AI alapján hozzanak fegyelmi vagy elbocsátási döntést.
- Az orvosoknak meg kell őrizniük szakmai döntési jogkörüket AI-eszközök használata mellett is.
- Az új szabályok erősítik az AI-tartalmak azonosítását és a digitális megszemélyesítés elleni védelmet.
- A génszintézissel foglalkozó vállalatoknak ellenőrizniük kell ügyfeleiket és a kiadott genetikai anyagokat.
- A csomag a kaliforniai független AI-auditok és biztonsági ellenőrzések kialakuló rendszerére épül.
Emberi felülvizsgálat a munkahelyi döntéseknél
Gavin Newsom szeptember 30-án több olyan jogszabályt írt alá, amelyek a munkavállalókat védik a mesterséges intelligencia, az automatizált technológiák és az AI-alapú munkahelyi megfigyelés hatásaitól. Az új szabályok szerint a munkáltatók nem támaszkodhatnak kizárólag AI-ra fegyelmi döntés vagy elbocsátás meghozatalakor.
A rendelkezések nagyobb átláthatóságot is előírnak. A munkáltatóknak jelezniük kell, ha egy tömeges elbocsátást, költözést vagy megszüntetést AI-rendszer okozott. A jogszabályok emellett megtiltják a munkahelyi megfigyelési eszközök használatát a munkahelyen található mosdókban.
A kaliforniai állami felsőoktatási intézményeknek AI-képzést kell létrehozniuk a hallgatók, az oktatók és a munkatársak számára. Egy másik rendelkezés szerint az ügyvédek nem adhatják át teljes egészében az AI-nak az alapvető jogi munkát, például a beadványok megírását vagy a jogi mérlegelést.
Az egészségügyben az orvosé marad a végső döntés
Az új egészségügyi szabályok szerint az orvosok és más engedéllyel rendelkező szolgáltatók akkor is használhatják saját szakmai ítélőképességüket, ha a betegellátás során AI-t vagy más klinikai döntéstámogató eszközt alkalmaznak. A kormányzói hivatal ezt azzal indokolja, hogy az egészségügyi döntések középpontjában az embereknek kell maradniuk, nem az algoritmusoknak.
A klinikai döntéstámogató eszközök fejlesztőinek ésszerű lépéseket kell tenniük az ismert vagy előre látható torzítások csökkentésére. A szabályozás így egyszerre foglalkozik az orvosi felelősséggel és az AI-rendszerek lehetséges elfogultságával.
Átláthatóbb AI-t és erősebb digitális személyiségi jogokat ígérnek
Kalifornia szigorította az AI által létrehozott tartalmak azonosítását is. Az új szabályok tiltják a digitális vízjel törlését, és hozzáférést biztosítanak a metaadatokhoz, hogy könnyebb legyen megállapítani, egy anyagot AI vagy felhasználó hozott-e létre. A California AI Transparency Act módosításai az állam szerint a változó technológiához igazítják az átláthatósági követelményeket.
A helyi önkormányzati üléseken tett nyilvános hozzászólásoknak valódi emberektől kell származniuk, nem AI-botoktól. A törvények emellett frissítik a képmáshoz és a digitális megszemélyesítéshez kapcsolódó polgári és büntetőjogi védelmet. Az intézkedések az AI-alapú deepfake-ekkel elkövetett csalásokra is kiterjednek, beleértve a beleegyezés nélkül létrehozott explicit tartalmakat.
A kormányzó aláírta azt a jogszabályt is, amely a génszintézissel foglalkozó vállalatoktól biztonsági irányelvek követését, ügyfeleik ellenőrzését és a kutatáshoz küldött genetikai anyagok vizsgálatát várja el. A Newsom-hivatal közlése szerint ez olyan betegségek kutatásához használt anyagokra is vonatkozik, mint a gyermekbénulás és az Ebola.
A döntések egy szélesebb kaliforniai keret részei
Newsom közleménye szerint a most aláírt csomag a kaliforniai AI-szabályozás korábbi lépéseire épül. A kormányzó 2025-ben írta alá az SB 53-at, amely a frontier AI fejlesztőit biztonsági keretrendszerük nyilvánosságra hozatalára, bizonyos kritikus biztonsági incidensek bejelentésére és a súlyos kockázatokat jelző bejelentők védelmére kötelezi.
2026-ban az SB 813 független ellenőrző szervezetek tanúsításának keretét hozta létre. Az AB 1405 állami nyilvántartást vezetett be az AI-auditorok számára, és szabályokat állapított meg függetlenségükre, átláthatóságukra és integritásukra. A kormányzó ezt követően olyan végrehajtási rendeletet adott ki, amely felgyorsítja a harmadik fél által végzett biztonsági felügyelet és független auditok bevezetését.
A mostani intézkedések a felhasználók számára azt jelentik, hogy Kaliforniában több AI-rendszer használatánál kell emberi döntéshozatallal, azonosíthatósággal és felelősséggel számolni. A szabályok a munkahelyeken, az egészségügyben, a közéletben és az online személyiségi jogok területén egyaránt korlátokat állítanak az AI alkalmazása elé.
California Governor (AI): California’s nation-leading AI framework just got stronger, Governor Newsom signs more first-in-the-nation worker protections and more
