Négy feltétel kellhet az AI-cégek önszabályozásának működéséhez

Önkéntes vállalás a Fehér Ház támogatásával

A Fehér Ház a héten megállapodást jelentett be a „Super Intelligence” témájában, amelyet a Trump-adminisztráció az artificial intelligence, vagyis a mesterséges intelligencia új megnevezéseként használ. A vállalást a Google, az Anthropic, az OpenAI, a Meta, az xAI és az Nvidia vezetői írták alá.

Az Atlantic Council október 2-án megjelent elemzése szerint a megállapodás önkéntes belső kontrollokra épül, és jogilag nem kötelező erejű. A dokumentum ugyanakkor nem jelenti azt, hogy a vállalatok ne lennének felelősek az elszabadult ügynökeik által okozott károkért. Az elemzés értelmezése szerint a már hatályos jog jelentheti a végső védőhálót, míg a megállapodás előzetes rétegként próbálná megelőzni a károkat.

A kezdeményezés hátterében az elmúlt három hónap több, az elemzésben „végzetes forgatókönyvekhez” kapcsolt eseménye áll. Ezek között szerepeltek olyan esetek, amikor határvonalat jelentő modellek kijutottak a tesztkörnyezetből, illetve ügynökök kormányzati weboldalakat vizsgáltak.

A nukleáris ipar és a bangladesi ruhagyártás tanulságai

Az Atlantic Council két olyan példát emel ki, amelyek szerint az önszabályozás akkor lehet hatásos, ha külső kontroll egészíti ki. A Three Mile Island-i nukleáris baleset után, 1979-ben létrehozott Institute of Nuclear Power Operations, vagyis az INPO iparági ellenőrzéseket végez, eredményei pedig az ágazat kölcsönös biztosítójának kockázati besorolására és a biztosítási díjakra is hatással vannak. Az intézmény a Nuclear Regulatory Commission mellett működik, így az állami felügyelet megmarad.

A bangladesi Accord a Rana Plaza összeomlása után született, amely több mint 1100, rossz körülmények között dolgozó ember halálát okozta. A megállapodás független ellenőrzéseket, nyilvános jelentéseket, kötelező javításokat és a fejlesztések márkák általi finanszírozását írta elő. A szakszervezetek szerint az első vizsgálatok során feltárt veszélyek csaknem 80 százalékát megszüntették.

Ellentétes példaként az elemzés a vegyipari Responsible Care kezdeményezést hozza fel. A program a bhopali gázkatasztrófa után indult, de külső ellenőrzés és egyértelmű szankciók nélkül fő céljai között inkább a közvélemény befolyásolása és a szigorúbb szabályozás elleni lobbizás jelent meg.

Négy feltétel és több nyitott kérdés

Az Atlantic Council négy feltételt azonosít a működőképes önszabályozáshoz: közös kitettséget, vagyis azt, hogy egy szereplő biztonsági hibája minden résztvevőnek árthat; következményeket, például magasabb biztosítási díjat vagy választottbírósági eljárást; független ellenőrzést; valamint hiteles állami háttérszabályozást.

A Joint Commitment on Frontier Responsibilities ezek közül csak részben teljesíti az elsőt. Az AI iránti bizalom elvesztése az elemzés szerint az egész technológiát sújthatja, miközben a cégek piaci részesedésért versenyeznek. A megállapodás nem nevez meg szankciókat. Független külső auditorokat említ, de nem tisztázza, kik végeznék a vizsgálatokat.

Az elemzés szerint az is nehezíti a közös szabályok kialakítását, hogy az aláírók eltérően ítélik meg a kockázatokat. Dario Amodei, az Anthropic vezérigazgatója a fejlesztések lassítását sürgette, hogy több idő jusson a biztonság javítására. Jensen Huang, az Nvidia vezérigazgatója ezzel szemben túlzónak nevezte az egyedi katasztrofális kockázatokat, és elegendőnek tartotta a hatályos jogot. Donald Trump pedig azt mondta, hogy az Egyesült Államok lemaradhat Kínával szemben, ha lassítja saját vállalatait, az AI-katasztrófától való félelmeket pedig átverésnek nevezte.

A következő hónapokban az lesz a döntő, ki választja és fizeti a külső auditorokat, nyilvánosságra kerülnek-e az eredmények, és jár-e következménnyel a sikertelen audit. Az Atlantic Council szerint hosszabb távon kötelező alapbiztosítékokra és olyan állami végrehajtási jogkörre lehet szükség, amelyet ritkán kell alkalmazni, de amelynek hiteles fenyegetése visszatartó erőt jelent.