Kalifornia szakértőkkel készítene vészleállítót a fejlett AI-modellekhez
Kalifornia négy technológiai és kormányzási szakértőt von be a fejlett mesterségesintelligencia-modellek ellenőrzésére, valamint egy lehetséges vészleállító, úgynevezett kill switch kidolgozására. Gavin Newsom kormányzó szerint a kezdeményezés az állam korábbi AI-biztonsági intézkedéseire épül.
- Kalifornia négy szakértőt kért fel az AI-biztonsági szabályozás támogatására.
- A tervek között szerepel egy vészleállító a fejlett AI-modellekhez.
- Független szervezetek ellenőrizhetnék a vállalatok biztonsági állításait.
- A kezdeményezés a Senate Bill 813 és az AB 1405 végrehajtására épül.
Független ellenőrzést írna elő Kalifornia
Gavin Newsom szeptember 23-i bejelentése szerint a szakértői csoport az AI-biztonság és az AI-rendszerek irányításának kérdéseivel foglalkozik, különös tekintettel a gyorsan fejlődő képességekre. A csoport technológiai, szakpolitikai és kormányzási tapasztalatot hoz a munkába, és együttműködik az AI-biztonság kutatóival.
A vizsgált javaslatok között szerepel, hogy független szervezetek dolgozzanak be a fejlett AI-modelleket fejlesztő vállalatokhoz. Ezek a szervezetek ellenőrizhetnék a biztonsági keretrendszereket, illetve önállóan értékelhetnék a biztonsági vizsgálatokat. A tervek szerint a vállalatoknak vészleállítót is ki kellene alakítaniuk a frontier modellekhez, amelynek működőképességét egy független szervezet rendszeresen ellenőrizné.
Négy szakértő segíti a kormányzó munkáját
A Newsom által felkért csoport tagja Jason Goldman, a Center for Shared AI Prosperity igazgatótanácsának tagja, a Google és a Twitter korábbi termékvezetője, valamint a Fehér Ház első digitális főigazgatója. A tagok között van Gillian Hadfield, a Johns Hopkins University professzora, aki az AI-illesztéssel, továbbá az AI jogi, szabályozási és technikai rendszereivel foglalkozik.
Alondra Nelson, az Institute for Advanced Study professzora és a Science, Technology, and Social Values Lab igazgatója szintén részt vesz a munkában. A negyedik szakértő Rob Reich, a Stanford University professzora, aki a fejlett tudomány és technológia kormányzását kutatja, és korábban az Egyesült Államok AI Safety Institute vezető tanácsadója volt.
Goldman szerint Newsom rendelete az AI-biztonsági kormányzás legnehezebb kérdéseit érinti, köztük azt, hogy ki ellenőrzi egy fejlett AI-laboratórium biztonsági állításait, és hogy egy modell megbízhatóan leállítható-e. Hadfield az egyre erősebb és önállóbb AI független felügyeletének sürgősségét emelte ki.
Korábbi törvényekre épül az új végrehajtási rendelet
Kalifornia az elmúlt időszakban több, AI-ellenőrzést célzó intézkedést fogadott el. A közlemény szerint a Senate Bill 813 olyan keretrendszert hozott létre, amelyben független ellenőrző szervezetek értékelhetik az AI-rendszerek és modellek biztonságát, valamint kockázatait. Az AB 1405 állami nyilvántartást hozott létre az AI-auditorok számára, és az auditorok függetlenségére, átláthatóságára és integritására is követelményeket állapított meg.
Newsom végrehajtási rendelete felgyorsítaná e két törvény végrehajtását. A kormányzati szerveknek olyan további javaslatokat kell kidolgozniuk, amelyek előírhatják a fejlett AI-vállalatok rendszeres, helyszíni auditját, a biztonsági dokumentumok független ellenőrzését, valamint a kritikus biztonsági incidensek fogalmának kiterjesztését az irányítás elvesztésével járó esetekre.
A felhasználók számára ez egyelőre szakpolitikai és szabályozási folyamatot jelent, kész vészleállító vagy újonnan bevezetett kötelezettség bejelentése nélkül. A kezdeményezés ugyanakkor Kalifornia azon törekvését mutatja, hogy az AI-rendszerek biztonsági értékelését és felügyeletét állami keretek között, független szereplők bevonásával erősítse meg.
