Egy újabb modell tette lehetővé az OpenAI fórumának feltörését

Három óra alatt működő támadás készült

A Kilo Code szeptember 22-i beszámolója szerint a Hacktron nevű biztonsági kutatócsapat július 24-én egy régi képfeldolgozó könyvtár ismert hibáját próbálta kihasználni az OpenAI súgófórumán. A kísérlet órákon át nem vezetett eredményre.

Aznap este az Anthropic kiadta a Claude Opus 5 modellt. A kutatók ugyanazt a problémát az új modellel vizsgálták tovább, és a Kilo Code szerint három óra alatt működő kihasználási módot készítettek. Másnap reggelre távoli kódfuttatást értek el az OpenAI fórumán, a kora délutáni órákra pedig egy alkalmazott ChatGPT- és Codex-fiókjához is hozzáfértek.

A csapat egy pull requestet is megnyitott az OpenAI belső kódtárában, hogy bizonyítsa a hozzáférést. A Kilo Code szerint a hibát az OpenAI egy napon belül kijavította, a jelentésért pedig 6500 dolláros jutalmat fizetett. A forrás állítása szerint a sikertelen és a sikeres kísérlet között a hiba, a kutatócsapat és a célpont sem változott, csak a használt modell.

A régi hibalisták nem feltétlenül találják meg a problémát

A Kilo Code szerint az eset a modellfüggőség biztonsági kockázatára is felhívja a figyelmet. A szóban forgó hibát több mint egy évvel korábban már kijavították, de a javítás nem biztonsági hibajelzésként történt. Emiatt sem az OpenAI, sem a Discourse nem kereste ezt a problémát.

A forrás szerint egy olyan szkenner, amely csak a nyilvánosan jelentett hibák listájával veti össze a csomagokat, ezt az esetet nem feltétlenül találta volna meg. A probléma feltárásához olyan eszközre van szükség, amely képes értelmezni a kód működését és azt is, hogyan használják a függőségeket az adott rendszerben.

A Kilo Code értelmezése szerint a Claude Opus 5 nemcsak a támadók munkáját gyorsította fel. Ugyanez a fejlődés a kódot olvasó és elemző védelmi eszközök számára is elérhető, így ezeknek a rendszereknek is gyorsan kell alkalmazkodniuk a megjelenő modellekhez.

A Kilo Code modellfüggetlen eszközöket kínál

A beszámoló egyben a Kilo Code termékeit is bemutatja. A vállalat szerint a Code Reviewer Auto Frontier módban automatikusan vált a különböző szolgáltatók legjobb elérhető modelljei között. Így egy csapatnak nem kell kézzel frissítenie a beállításokat, amikor új, hatékonyabb modell jelenik meg.

A Kilo Code szerint az Auto Efficient a saját Kilo Bench kódolási benchmarkján ellenőrzi a feladatot, majd kiválasztja a legolcsóbb olyan modellt, amelyet a feladathoz még megfelelőnek bizonyítottak. A vállalat célja, hogy a fejlesztői és biztonsági eszközök a több mint 500 elérhető modell közül mindig az adott helyzethez illőt használják.

A Codebase Indexing szemantikus keresést biztosít a kódtárban. A Kilo Code szerint ez nemcsak azt mutatja meg, hol szerepel egy függőség neve, hanem azt is, hol használják ténylegesen. Ez az olyan esetek feltárásában lehet fontos, amikor egy régi képfeldolgozó könyvtár több, már elfeledett helyen is bekerült a rendszerbe.

A kutatók szerint egy elkészült kihasználási mód új célponthoz igazítása általában egy-két napot vett igénybe. A Kilo Code ebből azt a következtetést vonja le, hogy a függőségeket ennél lassabb ciklusban ellenőrző csapatok már lemaradhatnak a támadók tempójától. A vállalat külön jelzi, hogy HEIC- vagy AVIF-képek kezelése esetén a javított könyvtárverzió és a javítási útmutató a kutatók eredeti beszámolójában található.