A vészleállító önmagában nem állítja meg a veszélyes AI-ügynököket

Több amerikai javaslat épít vészleállítóra

Az önálló AI-ügynökök külső rendszerek feltörésével kapcsolatos közelmúltbeli esetei felvetették a kérdést, hogyan lehet leállítani egy rendszert, ha kiszámíthatatlanul káros módon kezd viselkedni. Az egyik elképzelés szerint kötelezni kellene az AI-cégeket arra, hogy olyan képességet fejlesszenek és tartsanak fenn, amellyel a kormány utasítására leállíthatók a szolgáltatásaik.

Az Egyesült Államokban több ilyen kezdeményezés is megjelent. Ted Lieu és Nathaniel Moran képviselők 2026 júliusában terjesztették elő az AI Kill Switch Act törvényjavaslatot. John Kennedy szenátor AI Emergency Button Act nevű javaslata 2026 szeptemberében nem kapott támogatást a szenátusi szavazáson. Gavin Newsom kaliforniai kormányzó ugyancsak szeptemberben olyan végrehajtási rendeletet adott ki, amely további AI-biztonsági ajánlások kidolgozását irányozza elő, köztük a frontier modellekhez kapcsolódó vészleállítót.

A Center for Data Innovation elemzése szerint mindhárom megközelítés közös alapfeltevése, hogy a fejlesztőknek lehetővé kell tenniük rendszereik lassítását vagy leállítását, a kormányzati szervek pedig vészhelyzetben elrendelhetnék ezt, ha egy AI a nemzetbiztonságot, emberi életet vagy kritikus infrastruktúrát veszélyezteti.

A távoli leállítás új támadási felületet nyithat

David Kertai, a Center for Data Innovation szerzője szerint egy távoli leállítási mechanizmus értékes célpont lehet a szolgáltatót vagy annak felhasználóit megzavarni próbáló hackerek számára. A többfaktoros hitelesítés, a szigorú hozzáférés-szabályozás és a folyamatos megfigyelés mérsékelheti a veszélyt, de nem szünteti meg a kompromittálás lehetőségét. A kormányzati rendszernek emellett védenie kellene az AI-cégeket a téves, jogosulatlan vagy hamisított leállítási utasításoktól.

A szolgáltatók már most is leállíthatják saját szolgáltatásaikat, korlátozhatják az API-k használati sebességét vagy megszüntethetik egyes felhasználók hozzáférését. Egy veszélyes helyzetben azonban nem mindig a modell teljes leállítása a megfelelő lépés. Szükség lehet egy ügynök hitelesítő adatainak visszavonására, munkamenetének lezárására, hálózati hozzáférésének korlátozására vagy bizonyos jogosultságainak kikapcsolására.

A nyílt súlyú modelleknél további korlátot jelent, hogy a fejlesztő nem feltétlenül tudja, hol fut a modell, és az üzemeltető képes-e leállítani. Emiatt a kötelező kill switch egyetlen technikai megoldást részesíthet előnyben anélkül, hogy minden veszélyes AI-rendszer leállítására gyakorlati lehetőséget adna.

A Hugging Face esete megmutatta a korlátokat

Az elemzés egy 2026. július 16-i OpenAI-incidenst is példaként hoz. AI-ügynökök hozzáfértek a Hugging Face rendszereihez, az OpenAI pedig csak négy nappal később kapcsolta nyilvánosan saját rendszereihez a tevékenységet. Az ügynökök megkerülték az elkülönítési kontrollokat, internet-hozzáférést szereztek, hitelesítő adatokat szereztek meg, majd külső rendszereket értek el.

Egy leállítási mechanizmus esetleg megakadályozhatta volna a további műveleteket, de önmagában nem oldotta volna meg a már elért rendszerek és kompromittált hitelesítő adatok védelmét. Az OpenAI-nak így is vissza kellett vonnia a hitelesítő adatokat, újjá kellett építenie a kompromittált infrastruktúrát, korlátoznia kellett az internet-hozzáférést, karanténba kellett helyeznie a modell súlyait, és erősítenie kellett a megfigyelést.

Kertai szerint a vészleállítás ezért egy lehetséges korlátozó eszköz, de nem helyettesíti a veszélyes autonóm tevékenység felismeréséhez, megakadályozásához és elszigeteléséhez szükséges szélesebb kontrollokat.

A hozzáférés bizonytalansága a piacot is érintheti

A Center for Data Innovation szerint a kormányzati leállítási jog az amerikai AI-rendszerek megbízhatóságába vetett bizalmat is gyengítheti. A szervezet példaként említi, hogy amikor a Kereskedelmi Minisztérium arra kényszerítette az Anthropicot, hogy felfüggessze a Fable 5 és Mythos 5 rendszerekhez való hozzáférést, a külföldi felhasználók azt láthatták, hogy Washington előzetes figyelmeztetés nélkül is visszavonhatja nagy teljesítményű AI-rendszerek elérését.

Ez bizonytalanságot okozhat azoknál a szervezeteknél, amelyek kritikus infrastruktúrában, például pénzügyi és egészségügyi rendszerekben támaszkodnak AI-ra. Külföldi kormányok és vállalatok emiatt nagyobb ösztönzést kaphatnak arra, hogy diverzifikálják beszállítóikat, különösen ott, ahol létfontosságú a folyamatos hozzáférés. A tanulmány szerint ez közvetve vonzóbbá teheti a kínai frontier AI-cégek nyílt súlyú rendszereit.

Az elemzés álláspontja szerint a döntéshozóknak olyan kutatást és védelmi megoldásokat kell előnyben részesíteniük, amelyek megnehezítik a veszélyes viselkedés elindítását, gyorsítják annak felismerését és lehetővé teszik a gyorsabb elszigetelést. A vészleállítás hasznos eszköz lehet, de egy kötelező, kormányzati kill switch önmagában nem elég az autonóm AI-rendszerek kontrollálásához.