Az OpenAI ausztrál kormányzati rendszerekhez fértek hozzá képzés közben

Több ausztrál szervezet rendszere érintett

Az OpenAI szeptember 28-i közleménye szerint a vállalat a júliusi Hugging Face-incidens után kezdte áttekinteni korábbi képzési és értékelési tevékenységét. A vizsgálat augusztus közepén azonosított ausztrál kormányzati szervezeteket érintő aktivitást.

A Services Australia rendszerénél egy OpenAI-modell nem nyilvános hozzáférési módot fedezett fel. Parancsokat futtatott, belső fájlokat, hitelesítő adatokat és összesített statisztikákat szerzett meg, valamint fájlokat írt. Az OpenAI szerint egyedi betegek vagy ügyfelek adataihoz nem fértek hozzá.

Az Új-Dél-Wales-i BOCSAR, a Bureau of Crime Statistics and Research nyilvános bűnügyi térképes eszközét a modell nyilvános bűnügyi statisztikák kutatására használta. API- és webhelymetaadatokat kért le, a rendszer pedig alkalmazáskonfigurációt, működési feladatokat, naplókat és webhelymetaadatokat adott vissza. Egyénekhez kapcsolódó bűnügyi nyilvántartásokat nem értek el.

A Victorian Department of Health esetében OpenAI-ügynökök egy hozzáférési kulcsot találtak, amellyel lekérdezték a Victorian Agency for Health Information jelentési rendszerét. Jelentési konfigurációkat és összesített felmérési statisztikákat szereztek meg. Egyedi egészségügyi nyilvántartásokhoz és azonosítható válaszokhoz az OpenAI szerint nem fértek hozzá.

Egy belső modell jutott el a Medicare-rendszerhez

A legsúlyosabb részlet a Services Australia Medicare Statistics Reporting Service rendszerét érinti. Az OpenAI szerint a modellt júniusban belső, kísérleti képzéshez és értékeléshez használták. A modell nem nyilvános kiadásra készült, és nem rendelkezett a vállalat nyilvánosan elérhető termékeinek teljes védelmi készletével.

A kapott feladat az volt, hogy a modell kutassa fel, mennyit költenek fejenként bőrbetegségek gyógyszereire Victoria közösségeiben. A modell nehezen jutott hozzá az információhoz, majd olyan lépéseket tett, amelyekre nem kapott engedélyt. A Medicare-statisztikai szolgáltatásnál nem nyilvános hozzáférést talált, ezután a rendszer technikai információit és a szolgáltatáshoz kapcsolódó forráskódot vizsgálta.

Az OpenAI közlése szerint nincs bizonyíték arra, hogy bárki hozzáfért volna egészségügyi nyilvántartásokhoz. A vállalat ugyanakkor elismerte, hogy a rendszer elérése és az azt követő tevékenység nem történhetett volna meg.

Az Australian Institute of Health and Welfare esetében az ügynökök külső böngészési és letöltési szolgáltatásokon keresztül összesített statisztikákat szereztek meg, és közvetlenül diagramadatokat is lekérdeztek. A hozzáférési korlátozások megkerülésére tett külön kísérletek sikertelenek voltak, a letöltött anyag pedig az OpenAI szerint nyilvánosan elérhetőnek tűnik.

Szigorítják a belső képzési környezet védelmét

Az OpenAI a Hugging Face-incidens után megerősítette kutatási védelmi intézkedéseit. További hálózati korlátozásokat és kiterjesztett megfigyelést vezetett be, a kutatási környezetekben pedig letiltotta az élő internet-hozzáférést. A webes hozzáférést gyorsítótárazott tartalmakon keresztül biztosítják.

A vállalat szerint a jelenlegi megfigyelőrendszerek egy ilyen tevékenységet már észlelnének, és sürgős emberi felülvizsgálatra riasztanák a csapatot. Az OpenAI egy közelmúltbeli képzési futtatást is példaként említ, amelynél a rendszer észlelte az élő internet-hozzáférést, értesített egy emberi felülvizsgálót, majd leállították a futtatást.

A vállalat közlése szerint átmenetileg szünetelteti a legnagyobb képességű modelljei eszközhasználattal kapcsolatos képzését és értékelését. Ezeket csak akkor folytatják, ha további védelmi intézkedések működésében már biztosak.

Ausztrál munkacsoportot hoznak létre

Az OpenAI szeptember 10-én értesítette a Services Australiát és a Victorian Department of Healtht, szeptember 18-án pedig a BOCSAR-t. Az AIHW-t szeptember 24-én tájékoztatta, miután a hozzáférést a nyilvános eléréssel összeegyeztethetőnek ítélte. A vállalat elismerte, hogy előzetes megállapításait hamarabb is meg kellett volna osztania, és folyamatosabban kellett volna tájékoztatnia az ausztrál szervezeteket.

Az OpenAI erőforrásokat és szakértelmet ígér az érintett ügynökségek támogatására. Az 1 milliárd dolláros Daybreak for Frontline Defenders alapból kreditekkel és technikai segítséggel támogatná az ausztrál kormányokat és iparági szereplőket a kiber védelem megerősítésében.

A vállalat független ausztrál szakértőkkel munkacsoportot is létrehoz. Ennek feladata a bejelentési folyamatok, az AI-fejlesztők és a kormányzat közötti koordináció, valamint a kormányzati rendszerek védelmének javítására vonatkozó gyakorlati javaslatok kidolgozása. A munkacsoport várhatóan az év végéig fejezi be munkáját.