Kalifornia új AI-szabályai a dolgozókat és a betegeket is védik
Kalifornia új, elsőként bevezetett AI-védelmi szabályokat fogadott el a munkahelyi automatizálás, az egészségügyi döntéstámogató rendszerek és a digitális megtévesztés kezelésére. Gavin Newsom kormányzó több törvényt írt alá, és egy végrehajtási rendeletben azt is rögzítette, hogy az államban a mesterséges intelligencia hivatalos megnevezése továbbra is „Artificial Intelligence”.
- Az AI önmagában nem hozhat fegyelmi vagy felmondási döntést Kaliforniában.
- Az orvosok és egészségügyi szolgáltatók megtarthatják szakmai döntési jogukat.
- Az állam erősíti az AI-tartalmak és a deepfake-ek átláthatósági szabályait.
- A génszintézisben ügyfél- és anyagellenőrzést írnak elő.
- Kalifornia független AI-ellenőrző szervezetek és auditorok rendszerét építi ki.
Emberi felülvizsgálat a munkahelyi döntéseknél
A szeptember 30-án aláírt jogszabályok a dolgozókat az automatizált foglalkoztatási döntésekkel, a munkahelyi megfigyeléssel és az AI által okozott technológiai változásokkal szemben védik. A munkáltatók nem támaszkodhatnak kizárólag mesterséges intelligenciára fegyelmi döntés vagy felmondás esetén, ilyen ügyekben valódi emberi felülvizsgálatot kell biztosítani.
Ha egy tömeges elbocsátást, áthelyezést vagy megszüntetést AI-rendszer okoz, a munkáltatónak erről tájékoztatást kell adnia. A szabályok megtiltják azt is, hogy a munkaadók a munkahelyen található mosdókban munkahelyi megfigyelési eszközöket használjanak.
A kaliforniai állami felsőoktatási intézményeknek AI-képzést kell létrehozniuk a hallgatók, az oktatók és a munkatársak számára. Az ügyvédek pedig nem adhatják át teljes egészében a mesterséges intelligenciának az alapvető jogi munkát, például a beadványok elkészítését vagy a jogi megítélést.
„Kalifornia dolgozói azt követelték, hogy államunk élen járjon az AI munkahelyi szabályozásában. Ma ennek kezdetét látjuk”, mondta Lorena Gonzalez, a California Federation of Labor Unions, AFL-CIO elnöke. Szerinte a négy új törvény emberi felügyeletet ír elő, korlátozza a megfigyelést, és a dolgozókat helyezi előtérbe.
Az orvosoké marad a végső döntés
Az egészségügyi szabályok szerint az orvosok és az engedéllyel rendelkező szolgáltatók akkor is használhatják saját szakmai tudásukat, tapasztalatukat és ítélőképességüket, amikor a betegellátásban AI vagy más klinikai döntéstámogató eszköz működik közre.
A klinikai döntéstámogató rendszerek fejlesztőinek ésszerű lépéseket kell tenniük az ismert vagy előre látható torzítások csökkentésére. A szabályozás célja a közlemény szerint az, hogy az egészségügyi döntések középpontjában az emberek maradjanak, ne az algoritmusok.
Az új intézkedések az AI által létrehozott tartalmak azonosítását is erősítik. Tilos lesz digitális vízjelek törlése, a metaadatokhoz való hozzáférés pedig segítheti annak megállapítását, hogy egy tartalom AI-val készült vagy felhasználó hozta létre. A helyi önkormányzati üléseken tett nyilvános hozzászólásoknak valódi emberektől kell származniuk, nem AI-botoktól.
Deepfake-ek, génszintézis és független ellenőrzés
Kalifornia a digitális személymásolatok és a deepfake-ek miatt a képmáshoz fűződő jogokat is frissíti. A polgári és büntetőjogi szabályok célja, hogy fellépjenek azok ellen, akik kaliforniaiak képmását ellopják, megkárosítják vagy meghamisítják, beleértve a beleegyezés nélkül létrehozott explicit tartalmakat is.
A génszintézissel foglalkozó vállalatoknak biztonsági irányelveket kell követniük, ellenőrizniük kell ügyfeleik személyazonosságát, és meg kell vizsgálniuk, milyen genetikai anyagot küldenek ki például a polio vagy az Ebola kutatásához.
Newsom közleménye szerint a mostani csomag egy szélesebb kaliforniai AI-keret része. Az állam 2025-ben elfogadta az első AI-biztonsági törvényként bemutatott SB 53-at, 2026-ban pedig az SB 813-mal létrehozta a független ellenőrző szervezetek keretét. Az AB 1405 állami nyilvántartást hozott létre az AI-auditorok számára. A kormányzó egy korábbi végrehajtási rendelete felgyorsítja a biztonsági és védelmi kockázatok külső felügyeletét, miközben szakértői csoport dolgozik az állami AI-biztonsági szabályok megerősítésén.
A felhasználók számára ez szigorúbb emberi kontrollt jelenthet az állami munkahelyeken és az egészségügyben, valamint több eszközt az AI-tartalmak felismeréséhez. A vállalatoknak és intézményeknek közben új átláthatósági, képzési, adatkezelési és ellenőrzési követelményekhez kell igazodniuk.
