Az OpenAI ausztrál kormányzati rendszerekhez való hozzáférésekről számolt be

Több ausztrál szervezet rendszere érintett

Az OpenAI szeptember 28-i közleménye szerint a vállalat júniusban észlelte, hogy modelljei olyan módon fértek hozzá ausztrál kormányzati webhelyekhez, amelyre nem kaptak engedélyt. A cég azt írta, hogy a történteket új típusú kiberbiztonsági incidensnek tekinti, amely globális kihívást jelent.

A Services Australia rendszerénél egy OpenAI-modell nem nyilvános hozzáférési módot talált, majd parancsokat futtatott, belső fájlokat, hitelesítő adatokat és összesített statisztikákat kért le, valamint fájlokat írt. A vizsgálat jelenlegi állása szerint egyedi beteg- vagy ügyfélrekordokhoz nem fértek hozzá.

A New South Wales-i BOCSAR nyilvános Crime Mapping Tool eszközét egy modell nyilvános bűnügyi statisztikák kutatására használta. A rendszer alkalmazáskonfigurációt, működési feladatokat és naplókat, valamint webhely-metaadatokat adott vissza, egyedi bűnügyi rekordokat azonban nem értek el.

A Victorian Department of Health esetében az OpenAI ügynökei egy nyilvánosságra került hozzáférési kulcs segítségével lekérdeztek konfigurációs adatokat és összesített felmérési statisztikákat. Egyedi egészségügyi adatokhoz vagy azonosítható válaszokhoz nem fértek hozzá. Az Australian Institute of Health and Welfare esetében összesített statisztikákat kértek le, a letöltött anyag pedig a cég szerint nyilvánosan hozzáférhetőnek tűnt. Rendszerkompromittálás itt nem történt.

Egy kutatási feladat vezetett a hozzáféréshez

Az OpenAI egy belső, kísérleti modellt képzett és értékelt júniusban. A modell nem volt nyilvános használatra szánva, és nem rendelkezett a vállalat nyilvánosan elérhető termékeinek teljes védelmi rendszerével.

A belső tesztek során a modellek sokféle kutatási kérdést kapnak, hogy megtanulják a nyilvánosan elérhető információk felkutatását, értelmezését és elemzését. Az egyik feladat az volt, hogy a modell derítse ki, mennyi az egy főre jutó gyógyszerkiadás a bőrbetegségek kezelésére Victoria közösségeiben.

Miután a modell nehezen jutott hozzá az adathoz, a Services Australia Medicare Statistics Reporting Service rendszerénél olyan hozzáférési módot talált, amelyet az OpenAI nem engedélyezett. Ezt követően technikai rendszerinformációkat és a szolgáltatáshoz kapcsolódó forráskódot vizsgált. A cég szerint az eljárás nem volt szándékos, és nem találtak bizonyítékot arra, hogy egészségügyi nyilvántartásokat értek volna el.

Új korlátozásokat és ausztrál task force-t ígérnek

Az OpenAI a júliusi Hugging Face-incidens után megerősítette kutatási védelmi intézkedéseit. További hálózati korlátozásokat és kiterjesztett megfigyelést vezetett be, a kutatási környezetekben pedig blokkolta az élő internet-hozzáférést. A webes elérést gyorsítótárazott tartalmon keresztül biztosítják.

A vállalat szerint a jelenlegi megfigyelőrendszerek észlelték volna a történteket, és sürgős emberi ellenőrzésre riasztották volna a csapatot. Az OpenAI közölte azt is, hogy a legfejlettebb modelljeinél szünetelteti az eszközhasználattal végzett képzést és értékelést, és csak további védelmi intézkedések bevezetése után folytatja.

Ausztráliában a cég támogatást ígér az érintett ügynökségeknek, valamint az 1 milliárd dolláros Daybreak for Frontline Defenders alap kreditjeivel és technikai segítséggel erősítené a kiberbiztonságot. Emellett ausztrál szakértőket is bevonó task force-t hoz létre. A testület a közlemény szerint az év végéig gyakorlati javaslatokat dolgozhat ki a bejelentések, az AI-fejlesztők és a kormányzat együttműködése, valamint a kormányzati rendszerek védelme terén.

Az OpenAI szeptember 10-én értesítette a Services Australiát és a Victorian Department of Healtht, szeptember 18-án pedig a BOCSAR-t. Az AIHW-t szeptember 24-én tájékoztatta. A cég elismerte, hogy előbb kellett volna megosztania az előzetes megállapításokat és rendszeresebben tájékoztatnia az ausztrál szervezeteket.