OpenAI: szűkül az időablak az AI-alapú kibervédelem bevezetésére

Az incidens, amely figyelmeztetésként szolgált

Az OpenAI szerint az OpenAI-Hugging Face incidens vízválasztó volt a kiberbiztonságban, mert betekintést adott abba, hogyan változhatnak egy tipikus fenyegető szereplő képességei a következő hónapokban. A bejegyzés szerint egy ügynökszerű kollektíva autonóm módon be tudott hatolni az OpenAI kutatási infrastruktúrájába, valamint egy másik vállalat éles infrastruktúrájába is.

A támadásban többféle gyengeséget láncoltak össze, köztük korábban ismeretlen biztonsági hibákat és olyan felhasználói fiókok hitelesítő adatait, amelyek kiszivárogtak az internetre. Az OpenAI állítása szerint ez rámutat arra, hogy a vállalatok technikai adóssága jelentős hibákat rejthet, amelyeket a védőknek kell megtalálniuk és kijavítaniuk, mielőtt a támadók megteszik.

A cég azt írja, hogy az év elején kiberképességeit csak megbízható védőknek kezdte el kiadni, hogy előnyt adjon a védekező oldalnak. Azóta több vállalat is széles körben elérhetővé tett olyan modelleket, amelyek kiberképességei csak néhány hónappal maradnak el az élvonaltól. A bejegyzés szerint a legutóbbi ilyen modell augusztus végére várható, és valószínűleg érdemben gyorsítja a fenyegetési környezet változását.

Mit tesz az OpenAI a saját védelméért

Az OpenAI szerint az incidens megmutatta, hogy alábecsülték saját AI-modelljeik valós kiberképességeit. A vállalat ezért szigorítja biztonsági követelményeit, és gyorsítja meglévő biztonsági kutatásait, valamint belső védelmi munkáját.

A cég négy fő pillérre építi védelmi stratégiáját. Az első a kód biztonságosabbá tétele modellek segítségével. A Codex és annak biztonsági bővítménye a kódmódosítások ellenőrzésében, sebezhetőségek azonosításában és a fejlesztők javítási munkájában vesz részt még az élesítés előtt. Az OpenAI célja, hogy az újonnan írt kódnál bizonyos sebezhetőségi osztályokat ki tudjon iktatni.

A második pillér az infrastruktúra folyamatos védelme. A bejegyzés szerint ma már a kezdeti biztonsági riasztások szinte mindegyikét intelligencia alapú rendszer rangsorolja, mielőtt emberi szakértő kapcsolódna be. A cél a gyorsabb válaszadás és az, hogy az emberek a legfontosabb döntésekre, mérlegelésre és szakértelemre koncentráljanak.

A harmadik elem a lehetséges támadási útvonalak folyamatos feltérképezése és tesztelése. Az OpenAI sebezhetőségeket, hibás konfigurációkat, túlzott jogosultságokat és nem szándékos bizalmi határokat keres a termékekben, infrastruktúrában és rendszerekben. A negyedik pillér a klasszikus biztonsági alapok erősítése nagy léptékben, köztük a biztonságos architektúra, a többrétegű védelem, a legkisebb jogosultság elve, a hálózati izoláció, a rendszerek megerősítése, a monitorozás, valamint a biztonságos javítási és telepítési folyamatok.

Egy személyes példa: 13 hiba 15 perc alatt

A bejegyzésben szereplő személyes példa szerint az incidens után ChatGPT Work, nyilvánosan elérhető GPT-5.6 Sol használatával, átvizsgálta a gregbrockman.com biztonságát. A leírás szerint az oldal egyszerű statikus webhely, AWS-en futott, Cloudflare-rel az előtérben.

A rendszer körülbelül 15 perc alatt 13 problémát talált. Ezek közül sok önmagában valószínűleg nem lett volna kihasználható, de más sebezhetőségekkel összeláncolva jelentős hatásuk lehetett volna a bejegyzés szerint. A felsorolt példák között szerepelt, hogy a DNS-rekordok nem akadályozták meg a hamisított e-mailek küldését, az oldal nem biztonságos jQuery-verziót használt, a Cloudflare pedig titkosítatlan HTTP-n továbbított kéréseket az AWS felé.

A szerző ezután a ChatGPT Worköt kérte a hibák javítására. A leírás szerint a rendszer egy óra alatt beállításokat módosított a Cloudflare vezérlőpultján, konfigurálta a DNS-t, a TLS-t és fejlett biztonsági opciókat, eltávolította a jQueryt, az oldalt AWS-ről Cloudflare Pagesre költöztette, valamint fokozatos DMARC-bevezetést indított.

Mit javasol a védőknek

Az OpenAI szerint a szervezeteknek gyorsan kell cselekedniük. A cég hangsúlyozza, hogy bár saját technológiáit is megemlíti, az ökoszisztémában több versenytárs is értékelhető. A lényeg a bejegyzés szerint az, hogy a védelmi csapatok mielőbb képes AI-eszközökhöz jussanak.

• Szervezeti támogatás: a biztonsági és mérnöki csapatoknak erőforrásokra, együttműködésre és vezetői támogatásra van szükségük. Az OpenAI asztali gyakorlatokat is javasol a lehetséges támadások és válaszok modellezésére.
• Ügynök a biztonsági csapatnak: a cég a Codex, a Codex Security plugin vagy más, hasonlóan képes kódolási és biztonsági ügynök használatát ajánlja, jóváhagyott hozzáféréssel a szükséges kódbázisokhoz, infrastruktúra-konfigurációkhoz és műszaki dokumentációhoz.
• Biztonsági szaktudás beépítése: a bejegyzés közösségi támogatású készségek használatát javasolja, például statikus elemzéshez, biztonsági fókuszú kódellenőrzéshez, sebezhetőségi variánsok elemzéséhez és szoftverellátási lánc kockázataihoz.
• Azonnali saját vizsgálatok: elsőként az internet felé néző szolgáltatásokat, hitelesítési folyamatokat, infrastruktúra mint kód rendszereket, telepítési csővezetékeket és érzékeny adatokat kezelő rendszereket kell előtérbe helyezni.
• Meglévő hibák feldolgozása: az OpenAI azt javasolja, hogy az ügynök kapja meg a kódszkennerek, függőségi riasztások, biztonsági jegyek, bug bounty jelentések és korábbi vizsgálatok eredményeit, majd segítsen a triázsban.

Miért fontos ez a cégeknek és a felhasználóknak

Az OpenAI álláspontja szerint az AI egyszerre növeli a támadók és a védők lehetőségeit. A támadók hamarosan könnyebben találhatnak meg régóta meglévő hibákat sok jelenlegi rendszerben, ugyanakkor a védők is gyorsabban azonosíthatják, rangsorolhatják és javíthatják ugyanazokat a gyengeségeket.

Ez a felhasználók szempontjából azért lényeges, mert a vállalatoknál meglévő hibás beállítások, elavult komponensek és túl széles jogosultságok közvetlen kockázattá válhatnak, ha AI-alapú eszközökkel gyorsabban felderíthetők. Az OpenAI szerint ha a cégek határozottan lépnek, megerősítik az alapokat és AI-val támogatják csapataikat, az internet biztonságosabbá válhat, mint valaha volt.