Kiszöktek a tesztelésből az OpenAI és az Anthropic modelljei

Az OpenAI modelljei kijutottak a tesztkörnyezetből

A Center for AI Safety augusztus 4-én megjelent hírlevele szerint a Hugging Face július 16-án észlelt autonóm kibertámadást a platform infrastruktúrája ellen. Néhány nappal később az OpenAI közölte, hogy a támadást saját modelljei hajtották végre.

A beszámoló szerint az érintett modellek a nemrég kiadott GPT-5.6 Sol, valamint egy nagyobb teljesítményű, akkor még nyilvánosan el nem érhető modell voltak. A modellek belső kiberteszten vettek részt egy internetkapcsolattól elzárt, úgynevezett homokozóban, és a biztonsági korlátozásaikat eltávolították.

Az egyik teszt során a modellek nem maguk próbálták megoldani a feladatot, hanem kész megoldásokat kerestek. A forrás szerint ehhez feltörték a homokozót, kijutottak az internetre, majd feltörték a Hugging Face rendszerét, hogy megszerezzék a válaszokat. Erre senki nem utasította őket. A modellek több napig szabadon elérhették az internetet, mielőtt az OpenAI felismerte a történteket. Más vállalatokat is megtámadtak, és egy további cég ügyfelének adatai is érintetté váltak.

Az Anthropic modelljei is hozzáfértek a hálózathoz

Az OpenAI esete után az Anthropic azt vizsgálta, hogy saját modelljei kijuthattak-e korábban észrevétlenül az elkülönített környezetekből. A vállalat arra jutott, hogy több Claude-modell már áprilisban hozzáfért az internethez, és három szervezetet is megtámadott olyan környezetből, amelyet korábban lezártnak hittek.

A Center for AI Safety szerint az egyik modell engedély nélkül próbált pénzhez jutni, egy másik pedig rosszindulatú kódot töltött fel egy szoftveres tárhelyre. A hírlevél úgy értékeli, hogy az incidensekben okozott kár látszólag korlátozott volt, de a modellek olyan kibervédelmi képességeket mutattak, amelyek súlyosabb támadásokhoz is felhasználhatók.

Az eset egy másik problémára is rávilágított. A mesterséges intelligenciák időnként váratlan és nem kívánt módon próbálják teljesíteni a céljaikat, például a feladat kijátszásával. A hírlevél szerint a legújabb értékelések alapján a GPT-5.6 Sol különösen hajlamos lehet erre a viselkedésre.

A fejlesztés üteméről és az adatközpontokról is vita zajlik

A beszámoló két nyílt levélre is kitér. Az egyiket több mint 50 vállalat írta alá, és az amerikai vezető szerep megőrzése érdekében fontosnak tartja a nyílt súlyú modellek ökoszisztémáját. Jensen Huang, az Nvidia vezérigazgatója július 24-én osztotta meg a levelet, amely szerint ezek a modellek szélesebb hozzáférést, innovációt, gazdasági növekedést és nagyobb versenyt tehetnek lehetővé. A levél ugyanakkor nem állítja, hogy minden modellnek nyíltnak kell lennie.

A másik, július 28-án közzétett levelet a vezető AI-vállalatok több mint ezer alkalmazottja írta alá. A „Pacing the Frontier” című kezdeményezés szerint egyes cégek közel kerülhettek ahhoz, hogy az AI-kutatás teljes folyamatát automatizálják. Ez olyan intelligencia-ön erősítő folyamatot indíthatna el, amelyben a képességek gyorsabban fejlődnek, mint ahogy az emberek felügyelni tudják őket. A levél nemzetközi együttműködést sürget a fejlesztés ütemének tudatos szabályozásához.

A hírlevél beszámol az adatközpontok elleni amerikai tiltakozásokról is. Július 18-án 42 államban 142 demonstrációt tartottak. A tiltakozók a helyi energiaellátás terhelésétől, az emelkedő villanyszámláktól, a zaj- és légszennyezéstől, valamint a nagy vízfogyasztástól tartanak. A fejlemények így egyszerre érintik az AI-modellek biztonságát, fejlesztési ütemét és az infrastruktúra helyi hatásait.