Az amerikai AI-modellek lekapcsolását szabályokhoz kötné a kutatóközpont

Egy jailbreak miatt világszerte leálltak a modellek

Az Anthropic a múlt hónapban elindította a Claude Fable 5 és Mythos 5 modelleket. Három nappal később a Kereskedelmi Minisztérium exportellenőrzési utasítást adott ki, amely megtiltotta, hogy külföldi állampolgárok hozzáférjenek a modellekhez.

Mivel az Anthropic nem tudta valós időben ellenőrizni minden felhasználó állampolgárságát, a vállalatnak mindkét modellt mindenki számára, világszerte le kellett kapcsolnia. A döntés hátterében egy jailbreak állt, vagyis olyan utasítási technika, amely megkerüli a modell beépített korlátozásait. A kormány szerint ez lehetővé tette volna, hogy a Fable 5 szoftveres sérülékenységeket azonosítson, és azok kihasználására alkalmas kódot állítson elő.

Az Anthropic szerint a jailbreak szűk körű volt, és más, már elérhető modelleken is megismételhető. A vita tizenkilenc napig tartott. A Kereskedelmi Minisztérium június 30-án feloldotta a korlátozásokat, a Fable 5 július 1-jén világszerte visszatért, a Mythos 5 pedig nagyjából 100 ellenőrzött amerikai intézmény számára lett ismét elérhető.

A bizonytalanság üzleti és geopolitikai kockázatot jelent

A Center for Data Innovation elemzése szerint a leállítás hirtelen, előzetes figyelmeztetés nélkül érte a felhasználókat. Brit képviselők arról számoltak be, hogy kórházak, vállalatok és kutatók is használták a Fable 5-öt, amikor a modell eltűnt.

Az elemzés szerint a körülmények arra ösztönözhetik a körültekintő vásárlókat, hogy beárazzák a leállás kockázatát. Ez redundáns rendszerek kiépítését, a munkafolyamatok több szolgáltató közötti megosztását, illetve a legfejlettebb amerikai modellek kritikus feladatokba történő bekötésének halasztását jelentheti. A szerző szerint ez termelékenységi költséget okoz, különösen azoknak a szervezeteknek, amelyek komolyabb AI-bevezetésre készülnek.

A külföldi kormányok és vállalatok számára az eset azt jelezheti, hogy az amerikai AI-modellek olyan függőséget jelentenek, amelyet Washington előzetes figyelmeztetés nélkül megszüntethet. Az elemzés szerint ez előnyt adhat a kínai nyílt súlyú modellek fejlesztőinek, mivel ezeket amerikai hatóság nem tudja visszahívni.

Írásos értesítést és fokozatos intézkedéseket javasolnak

A kutatóközpont szerint jelenleg nem világos, milyen bizonyítékok alapján kapcsolható le egy modell, és milyen feltételek mellett indulhat újra. A kormány bizonyítékait szóban ismertették, a nyilvános beszámolók pedig ellentmondanak egymásnak. A visszaállítás magánlevelekben rögzített egyezséggel történt, ezért nem született nyilvános szabvány arra, mi váltja ki az intézkedést, és mi elég a kormány aggályainak eloszlatásához.

A Center for Data Innovation egységes szabályokat, bizonyítási követelményeket, írásos értesítést, válasz- és javítási lehetőséget, meghatározott határidőket, valamint fellebbezési utat sürget. A teljes globális leállítás helyett fokozatos megoldásokat alkalmazna, például a konkrét kihasználási lehetőség további védelmi réteg mögé helyezését vagy a legfejlettebb modellhez való hozzáférés korlátozását.

Az elemzés szerint a Kongresszusnak törvénybe kellene foglalnia a 2026. június 2-i elnöki rendelet, a Promoting Advanced Artificial Intelligence Innovation and Security rendelkezéseit. A javaslat emellett bizalmas kezelést adna a súlyos AI-sérülékenységekről és jailbreak-ekről szóló bejelentéseknek, továbbá egy, a Common Vulnerabilities and Exposures rendszeréhez hasonló osztályozást hozna létre. A szabályozásnak különbséget kellene tennie a hosztolt, zárt súlyú modellek, a közzététel után vissza nem hívható nyílt súlyú modellek és az amerikai joghatóságon kívüli rendszerek között.