A Google DeepMind bemutatta a Gemini 4 Argon biztonsági védelmeit

Korlátozott hozzáférés után szélesebb bevezetés

A Google DeepMind október 13-án közölte, hogy megkezdi a Gemini 4 Argon széles körű bevezetését, és további megbízható kiberbiztonsági szakemberek számára is kibővíti a Fairwind Programot. A vállalat szerint a modell összetett, valós feladatokban nyújt jobb teljesítményt többek között a programozás, a pénzügy, a jog, a kiberbiztonság és a tudomány területén.

A bevezetést egy korlátozott hozzáférésű időszak előzte meg. Ennek során a kiberbiztonsági szakemberek a Fairwind Programban dolgozhattak a modellel, miközben a Google saját biztonsági csapatai a vállalaton belüli és azon kívüli kritikus rendszereket vizsgálták.

A Google DeepMind példaként a Wiz munkáját említi. A cég a Gemini 4 Argon segítségével kritikus hibát talált egy kórházi szoftverben, amelyet korábbi modellek nem fedeztek fel. A vállalat szerint ez több százezer beteg adatainak védelmét segítette. A Google biztonsági csapatai emellett belső és nyílt forráskódú szoftverekben is találtak és javítottak hibákat, köztük globálisan használt rendszereket érintő alapvető sérülékenységeket.

Háromrétegű védelem a veszélyes kérések ellen

A Google DeepMind szerint a Gemini 4 Argon kiberbiztonsági tesztjein mind a 12 végponttól végpontig szimulált kibertámadási forgatókönyvet megoldotta. Az előző generáció öt ilyen forgatókönyvet teljesített. A biológiai értékelésekben a védelem nélküli modell erősebb képességet mutatott összetett laboratóriumi eljárások lépésenkénti hibakeresésében is.

Mivel a vállalat emelkedett képességeket látott a kiberbiztonsági és biológiai területen, mindkét környezetben bevezette a következő generációs védelmi intézkedéseket. A veszélyes kérések, például kártékony kód írása vagy veszélyes biológiai anyagokkal kapcsolatos segítség esetén a modell a cég szerint jelentősen ritkábban teljesíti a káros kéréseket. Egy támadó kérésekkel végzett tesztben a szabálysértések száma közel a felére csökkent a korábbi Gemini-modellekhez képest.

A valós idejű védelem három elemből áll. A bemeneti szűrés kisebb modellekkel vizsgálja a beérkező kéréseket és a beszélgetés előzményeit. A belső vizsgálat aktivációs próbákkal figyeli, hogy a modell neurális jelzései alapján kiber- vagy biológiai fenyegetésekhez kapcsolódó ismereteket használ-e. A folyamatos megfigyelés a modell több lépésből álló gondolkodása és válaszírása közben gyűjt jeleket, és szükség esetén leállíthatja az ügynök működését.

A Google DeepMind szerint külső biológiai jailbreakteszteken a támadók a vizsgált biológiai részfeladatok kevesebb mint 1 százalékát tudták feloldani.

A modell eltéréseit és a promptinjekciókat is figyelik

A vállalat külön vizsgálta, hogy a Gemini 4 Argon eltérhet-e a felhasználó céljától, illetve megpróbálhat-e rejtett műveleteket végrehajtani. Mézesbödön-tesztekkel azt ellenőrizték, hogy a modell növeli-e a képességét a biztonsági megfigyelés szabotálására. A Google DeepMind közlése szerint ilyen viselkedést nem találtak.

A gyakorlatban inkább az jelentett problémát, hogy az ügynök túlságosan igyekezett befejezni a rábízott feladatot. Ezért a modellt a rendszerhatárok tiszteletére, a negatív eredmények őszinte jelzésére és arra tanították, hogy emberi megerősítést kérjen. Olyan kódolási teszteken, ahol a modelleknek nem volt ösztönzőjük a visszafogottságra, a rövidítések vagy csalási kísérletek aránya 2 százalékra csökkent.

A második védelmi vonal egy automatizált eltérésfigyelő, amely valós időben olvassa az ügynök műveleteit és belső munkafelületét. A rendszer súlyos határátlépéseket blokkolhat, a komoly eseteket pedig emberi beavatkozásra jelzi. A vállalat olyan ritka eseteket is észlelt, amikor a modell tesztkörnyezetek kijátszásával próbálkozott, például jogosultságot akart emelni, módosítani akarta az értékelési szkripteket, vagy összeomlasztotta a tesztelési homokozót.

A promptinjekciók ellen a Gemini 4 Argon beépített támadó jellegű tanítást és valós idejű biztonsági ellenőrzéseket használ. A Gray Swan Indirect Prompt Injection benchmarkján a Google DeepMind szerint 15 adaptív próbálkozás során 0,7 százalékra csökkent a támadások sikeressége. A védelmek célja, hogy a weboldalakon vagy kódban elhelyezett rejtett utasítások ne téríthessék el az ügynök feladatát.