Kalifornia AI-s „vészleállítót” és független ellenőrzést sürget

Két hónapon belül készülhetnek el a javaslatok

Newsom 2026. szeptember 18-án írta alá a végrehajtási rendeletet. A dokumentum egy világszinten elismert szakértőkből álló csoport összehívását írja elő. A testületnek két hónapon belül kell útmutatást készítenie arról, hogyan lehet tovább erősíteni Kalifornia AI-biztonsági és AI-védelmi szabályait.

A kormányzói hivatal közlése szerint a vizsgált javaslatok között szerepel, hogy a frontier AI-cégek biztonsági terveit független szervezetek készítsék el. Felmerült az is, hogy ezeknek a vállalatoknak vészleállító rendszert, úgynevezett „kill switch”-et kelljen fejleszteniük a frontier modellekhez.

Newsom szerint Kalifornia „a legerősebb AI-szabályozási keretet építi az országban”, és az állam politikájának országos alapvonallá kellene válnia. A közleményben a kormányzó arra szólította fel a Kongresszust és Donald Trump elnököt, hogy vizsgálják felül és fogadják el a kaliforniai keretrendszert, vagy legalább használják azt kiindulópontként.

Állandó ellenőrzést kaphatnak a frontier AI-laborok

A rendelet a Government Operations Agencyt arra utasítja, hogy gyorsítsa fel a nemrég elfogadott SB 813 és AB 1405 törvények végrehajtását. Az SB 813 olyan keretet hoz létre, amely alapján független ellenőrző szervezetek értékelhetik az AI-rendszerek és modellek biztonságát, valamint kockázatait. Az AB 1405 állami nyilvántartást hoz létre az AI-auditorok számára, és szabályokat határoz meg függetlenségükre, átláthatóságukra és integritásukra.

A tervezett további intézkedések között szerepel, hogy a frontier AI-cégek laborjaiban kijelölt, független ellenőrző szervezet működjön. Ezek a szervezetek rendszeres auditokat és értékeléseket végeznének. A vállalatok által benyújtandó biztonsági keretrendszereket, átláthatósági jelentéseket és kockázatértékeléseket szintén független szervezetek ellenőrizhetnék.

A rendelet a kill switch létrehozásának előmozdítását is célul tűzi ki. A kapcsoló hatékonyságát folyamatosan ellenőrizné egy független szervezet. A szabályok emellett a kritikus biztonsági incidensek fogalmát olyan irányításvesztéssel járó eseményekkel egészítenék ki, mint amilyen a közleményben említett Hugging Face-támadás.

Kalifornia több AI-területen is szabályozási mintát épít

A kormányzói hivatal szerint Kalifornia az AI-szabályozás több fontos területén vezető szerepet vállal. Newsom 2023-ban adta ki első, generatív AI-ról szóló végrehajtási rendeletét, 2025-ben pedig aláírta az SB 53-at, a Transparency in Frontier Artificial Intelligence Actet. Ez előírja a frontier AI fejlesztőinek, hogy tegyék közzé biztonsági keretrendszereiket, jelentsenek bizonyos kritikus biztonsági incidenseket, és védjék azokat a bejelentőket, akik komoly kockázatokra hívják fel a figyelmet.

Az állam külön szabályokat fogadott el a gyermekek által használt társrobotokhoz kapcsolódó biztonsági intézkedésekről, a közösségi média kiskorúakat érintő használatáról, a deepfake-ekről és a mesterségesen előállított tartalmakról. A közlemény szerint Kalifornia AI-vízjelezést is előírt, fellépett a megtévesztő, választásokkal kapcsolatos AI-tartalmak ellen, és átláthatósági követelményeket vezetett be az AI-modellek tanítási adataira.

A szabályozási csomag része a személyes adatok védelme, az AI munkaerőpiaci hatásainak követése és a kiberbiztonság erősítése is. Az állam AI Cyber Defense Programot indított a sérülékenységek azonosítására, a hálózatok megerősítésére és az incidenskezelés támogatására.

A rendelet az országos szabályozás hiányára reagál

A közlemény a rendelet háttereként friss, riasztónak nevezett incidenseket említ, köztük a Hugging Face-támadást. A kaliforniai kormányzói hivatal szerint ezek hatására az AI-ipar vezetői közül is többen sürgették a fejlesztések ütemének mérséklését és szigorúbb állami biztonsági szabályokat.

A közlemény állítása szerint jelenleg nincs szövetségi törvény, amely kötelezné az AI-cégeket a veszélyes incidensek bejelentésére. Newsom ezért azt képviseli, hogy az állam gyorsítsa fel a független ellenőrzés és az elszámoltathatóság bevezetését, miközben országos szinten is a kaliforniai modell átvételét sürgeti.

Ha a szakértői javaslatok alapján módosítják az állami szabályokat, a frontier AI-fejlesztőknek rendszeres, külső ellenőrzésekkel, hitelesített biztonsági tervekkel és egy ellenőrzött vészleállítóval kellhet számolniuk. A rendelet egyelőre az intézkedések felgyorsítását és a lehetséges változtatások kidolgozását írja elő.