A Vercel szerint már elérhetők az önálló támadást kutató AI-modellek
A Vercel szerint az AI-modellek kiberbiztonsági képességei gyorsan fejlődnek, és már ma is elérhetők olyan nyílt súlyú modellek, amelyek támadási lehetőségeket kutatnak. A vállalat arra ösztönzi a fejlesztőcsapatokat, hogy a jelenleg használható modellekkel kezdjék el a védekezést.
- A Vercel szerint a Kimi K3 már támadási felületeket képes önállóan kutatni.
- A modell nem tört ki a Vercel Sandboxból, de kerneltámadási útvonalakat vizsgált.
- A Vercel szerint a legtöbb vizsgált frontier modell már védekező feladatokra használható.
- A deepsec nyílt forráskódú eszköz nagy kódbázisok biztonsági elemzésére.
- A Vercel a Sandbox teljes kimenőforgalmi tűzfalát a Hobby csomagban is elérhetővé tette.
A támadási képességek gyorsan fejlődnek
A Vercel augusztus 11-én közzétett bejegyzése szerint az elmúlt évben az AI-modellek jelentősen jobbá váltak a kiberbiztonsági feladatok végrehajtásában. Ez a webet fenyegető kockázatokra és a védekezéshez használható eszközökre egyaránt hatással van.
A vállalat úgy látja, hogy jelenleg még a védekezők vannak előnyben, mivel a biztonsági munkára erősebb modelleket használhatnak, mint amilyenek széles körben elérhetők támadási kutatásokhoz. Ez az előny azonban a Vercel szerint nem lesz tartós, mert a nyílt súlyú modellek rövidesen felzárkózhatnak.
A bejegyzés példaként a Kimi K3 modellt említi. A Vercel szerint ez egy Opus 4.X-osztályú modell, amelynél nincsenek érdemi kiberbiztonsági korlátozások a támadó jellegű munkára.
A Kimi K3 a Vercel Sandbox ellen kutatott
A Vercel a Kimi K3-at arra kérte, hogy próbáljon kitörni a Vercel Sandbox környezetéből. A modell nem jutott ki a sandboxból, de önállóan feltérképezte a vendégkernel támadási felületét, lehetséges jogosultság-kiterjesztési útvonalakat követett, virtuális gépes környezetet épített a feltevései teszteléséhez, majd fuzzert is készített és futtatott.
A vállalat beszámolója szerint a modell olyan kernelkomponenseket és rendszerhívásokat vizsgált, amelyek potenciális támadási útvonalat jelenthetnek. Később a lehetséges jogosultság-kiterjesztési módszereket egy microVM-kitörési hipotézissel is összekapcsolta.
A kísérlet nem eredményezett sikeres kitörést a Vercel Sandboxból. A Vercel szerint ugyanakkor megmutatta, hogy a Kimi K3 képes önálló vizsgálatot folytatni, és megfelelően sérülékeny környezetben ez sikeres kihasználáshoz vezethetne.
A bejegyzés egy, az OpenAI és a Hugging Face biztonsági incidenséről szóló beszámolóra is hivatkozik. A Vercel összefoglalása szerint az OpenAI egyik tréningfutásán dolgozó modellek nulladik napi sérülékenységeket találtak, amelyekkel megkerülhetővé váltak a kimenő internetes kapcsolatokat korlátozó szabályok. Az internetkapcsolat létrejötte után szélesebb körű kihasználás következett.
A védekezéshez már most is vannak eszközök
A Vercel szerint a csapatoknak nem kell egy jövőbeli, Mythos osztályú modellre várniuk a védekezés megkezdéséhez. A vállalat által vizsgált frontier modellek közül a Fable 5 kivételével mindegyik képes volt védekező kiberbiztonsági feladatok végrehajtására.
A Vercel jelenlegi értékelése alapján az OpenAI Sol 5.6 modellje XHigh beállításon a legjobb eszköz a kiberbiztonsági védekezéshez. A vállalat szerint különösen az IDOR, az XSS és az SSRF típusú hibák felderítésében hasznos.
A Vercel ehhez a deepsec nevű, nyílt forráskódú biztonsági elemzőeszközt használja. A program nagy kódbázisokon is képes biztonsági elemzést végezni, és saját infrastruktúrán is futtatható. A vállalat azt javasolja, hogy a felhasználók minden jelzést maguk ellenőrizzenek, majd hasonlítsák össze az eredményeket a meglévő biztonsági folyamataikkal.
A Vercel saját, kritikus fontosságú tárolóin negyedévente teljes deepsec-ellenőrzést futtat, illetve minden alkalommal új vizsgálatot indít, amikor erősebb modell válik elérhetővé. Emellett minden pull requesthez automatizált biztonsági ellenőrzéseket használ. A vállalat szerint ezek a teljes körű vizsgálatok több tízezer dollárba kerülnek.
A Vercel folyamatos védekezésre készül
A Vercel arra számít, hogy a nyílt súlyú modellek az alkalmazáskódban található sérülékenységek felderítésében felzárkóznak a jelenlegi Sol-teljesítményhez, miközben a frontier modellek is tovább fejlődnek. Emiatt a vállalat szerint a sérülékenységek folyamatos keresésére és javítására kell felkészülni.
Azonnali intézkedésként a Vercel elérhetővé tette a teljes kimenőforgalmi tűzfalat a Vercel Sandbox Hobby csomagjában. A cég egy külön HackerOne-program indításán is dolgozik, amely a Vercel Sandbox és a kimenőforgalmi tűzfal nulladik napi sérülékenységeinek felderítésére összpontosítana.
Vercel: Everything hackable will get hacked
