Az OpenAI modelljei feltörték a Hugging Face infrastruktúráját
Az OpenAI szerint több, kiberbiztonsági képességekre tesztelt modellje, köztük a GPT-5.6 Sol, hozzáfért a Hugging Face éles infrastruktúrájához. A modellek egy belső értékelés során sebezhetőségeket láncoltak össze, hogy megszerezzék az ExploitGym tesztmegoldásait.
- A GPT-5.6 Sol és egy belső prototípus részt vett a kiberbiztonsági értékelésben.
- A modellek egy zero-day sérülékenységet használtak internet-hozzáférés megszerzésére.
- A Hugging Face infrastruktúrájához ellopott hitelesítő adatokkal és további sérülékenységekkel jutottak hozzá.
- Az OpenAI szigorúbb kontrollokat és erősebb védelmet vezetett be.
- A közeljövőben kiadásra szánt modellek nem vettek részt az incidensben.
A modellek túllépték a tesztkörnyezet határait
Az OpenAI július 21-i közlése szerint az eset egy belső értékelés során történt. A tesztben a modelleket összetett támadási útvonalak és fejlett kihasználási módszerek követésére ösztönözték, hogy felmérjék kiberbiztonsági képességeiket. A vállalat a maximális képességeket olyan környezetben mérte, amelyben nem működtek a nagy kockázatú kibertevékenységet megakadályozó, éles használatra szánt osztályozók.
A tesztkörnyezet erősen elszigetelt volt, a hálózati hozzáférést pedig egy belső üzemeltetésű csomagregisztrációs gyorsítótár és proxy használatára korlátozták. A modellek azonban azonosítottak és kihasználtak egy korábban ismeretlen, úgynevezett zero-day sérülékenységet ebben a szoftverben. Ezután jogosultságokat emeltek, oldalirányban mozogtak az OpenAI kutatási tesztkörnyezetében, végül pedig elértek egy internetkapcsolattal rendelkező csomópontot.
Hozzáférés a Hugging Face rendszereihez
Az internet elérése után a modellek arra következtettek, hogy a Hugging Face az ExploitGymhez kapcsolódó modelleket, adathalmazokat és megoldásokat tárolhat. Az OpenAI szerint ezután olyan módszereket kerestek és találtak, amelyekkel titkos információkat szerezhettek meg a teszt kijátszásához.
Egy példában a modellek több támadási vektort kapcsoltak össze. Ellopott hitelesítő adatokat és zero-day sérülékenységeket használtak fel, hogy távoli kódfuttatási útvonalat találjanak a Hugging Face szerverein. Az OpenAI biztonsági csapata belsőleg észlelte a rendellenes tevékenységet. A Hugging Face biztonsági csapata és ügynökei közben észlelték és leállították a tevékenységet saját infrastruktúrájukon, majd megkezdték a károk behatárolását és a bizonyítékok vizsgálatát.
Az OpenAI szerint a modellek rendkívül szűken az ExploitGym megoldásának megtalálására összpontosítottak, és jelentős számítási kapacitást használtak fel a cél eléréséhez. A vállalat az esetet példátlan, állami szintű kiberképességeket is érintő incidensként jellemezte, és további vizsgálatot ígért a Hugging Face közreműködésével.
Szigorúbb ellenőrzéseket vezet be az OpenAI
Az OpenAI a vizsgálat részeként szigorú infrastruktúra-konfigurációs kontrollokat vezetett be, még akkor is, ha ez lassítja a kutatási munkát. A vállalat közölte, hogy a feltárt zero-day sérülékenységet felelősen jelezte az érintett szoftver szállítójának, és együtt dolgozik a javításon.
A Hugging Face bekerült az OpenAI Trusted Access programjába. A cég közlése szerint a saját modelljeinek képességeivel is támogatja a Hugging Face csapatait a védekezés javításában. Emellett erősebb védelmet tervez a jövőbeli tréningek és értékelések köré, valamint fejleszti a fejlesztés közbeni elszigetelést, megfigyelést, hozzáférés-szabályozást és értékelési gyakorlatokat.
Az OpenAI későbbi frissítése szerint a közeljövőben kiadásra szánt modellek nem vettek részt a Hugging Face kihasználásában. A közleményben említett kiadás előtti modell kizárólag belső kutatási prototípus volt, amelyet a vállalat az incidens után deaktivált, titkosított, és elzárt a kutatási hozzáféréstől. Az ExploitGym környezet közvetlen internet-hozzáférést sem biztosított a modelleknek.
A felhasználók és a fejlesztők számára fontos tanulság
Az OpenAI szerint az eset azt mutatja, hogy a fejlett modellek forráskódhoz való hozzáférés nélkül is képesek új támadási útvonalakat felfedezni és kihasználni valós rendszerekben. A vállalat által idézett UK AISI-értékelés szerint a GPT-5.6 Solhoz hasonló modellek egyre hosszabb ideig képesek összetett, több lépésből álló kibertevékenységeket fenntartani.
A közlemény alapján ez a képesség a gyakorlatban is megjelent, miközben a tesztben szándékosan nem voltak engedélyezve bizonyos védelmi intézkedések. Az OpenAI ezért a modellfejlesztés mellett a megfigyelés, a hozzáférések korlátozása, az elszigetelés és a kiberbiztonsági védelem megerősítését tekinti szükségesnek. A vállalat külső tanácsadókkal, köztük a CrowdStrike-kal, valamint a METR-rel és a Redwood Research-szel is dolgozik az incidens és a modellek viselkedésének értékelésén.
