Zero Data Retention mellett vezet be új biztonsági feldolgozást az OpenAI

A ZDR ígéretét akarja megtartani az OpenAI

Az OpenAI közlése szerint a Zero Data Retention, vagyis ZDR lényege, hogy a jogosult API-ügyfelek esetében a vállalat nem őrzi meg a promptokat és a modellválaszokat a kérés feldolgozása után. A cég azt is írja, hogy az ügyféltartalom nem érhető el OpenAI-munkatársak számára felülvizsgálatra, és a vállalati ügyfelek adatait nem használják modellképzésre, kivéve, ha az ügyfelek ezt kifejezetten engedélyezik.

A Private Safety Processing bevezetését az OpenAI azzal indokolja, hogy a fejlettebb modellek hosszabb és összetettebb feladatokat végeznek, miközben bizonyos súlyos kockázatok csak több interakció együttes vizsgálatakor válnak láthatóvá. A meglévő, ZDR-kompatibilis biztonsági rendszerek egyenként értékelik az interakciókat, az új megközelítés viszont kapcsolódó interakciók mintázatait is képes vizsgálni.

Hogyan működik a Private Safety Processing

A megoldás az OpenAI szerint azokra az automatizált védelmekre épül, amelyeket már ma is használnak ZDR és más bevezetéseknél. A cél az, hogy az automatizált rendszerek felismerhessenek lehetséges visszaéléseket kapcsolódó interakciók között, anélkül, hogy az OpenAI munkatársai hozzáférnének az alapul szolgáló ügyféltartalomhoz.

ZDR-bevezetések esetén az ügyféltartalom továbbra is az ügyfél által kontrollált infrastruktúrán marad. Az OpenAI emellett olyan lehetőséget is fejleszt, amelyben a tartalom OpenAI-infrastruktúrán tárolható, de az ügyfél által kontrollált kulcsokkal titkosítva. A cég közlése szerint az OpenAI munkatársainak nincs másolatuk ezekről a kulcsokról, így nem férnek hozzá az alapul szolgáló tartalomhoz.

Ha a rendszer kockázatot azonosít, az OpenAI egy szűken meghatározott jelzést kap az érintett tevékenység típusáról, hasonlóan a jelenlegi biztonsági rendszerekhez. Ezt a jelzést annak eldöntésére használhatják, hogy szükség van-e intézkedésre. A vállalat szerint az OpenAI munkatársai ilyenkor sem kapnak hozzáférést az ügyféltartalomhoz.

Miért tartja szükségesnek az új biztonsági réteget

Az OpenAI szerint a legsúlyosabb AI-biztonsági kockázatok nem mindig látszanak egyetlen interakcióból. A káros szándék több lépésben is kirajzolódhat, például ha rosszindulatú szereplők ismételten próbálgatják a védelmi korlátokat, fiókok között koordinálnak, vagy rutinszerű kutatásnak álcáznak fenyegetéseket.

A közlemény az ügynökszerű feladatvégzést is példaként hozza: kockázat alakulhat ki akkor, ha egy rendszer eltér a felhasználó szándékától, például tovább cselekszik azután is, hogy leállításra utasították. Az OpenAI álláspontja szerint a tágabb kontextus egyre fontosabb annak megkülönböztetéséhez, hogy egy tevékenység jogos használat vagy visszaélés.

A vállalat azt is írja, hogy egyes közelmúltbeli frontier-model bevezetések megkövetelték az ügyfelektől, hogy az AI-szolgáltató biztonsági megfigyelés céljából megőrizhessen érzékeny tartalmat. Az OpenAI szerint ez sok szervezetnél ütközhet biztonsági kötelezettségekkel vagy az általuk kiszolgált emberek felé tett vállalásokkal.

Mit jelent ez az ügyfeleknek

A Private Safety Processing jelenleg korai ügyfelekkel tesztelt megoldásként jelent meg a közleményben, a szeptember 22-i frissítés szerint pedig az API-ügyfelek felé történő bevezetés szakaszosan bővül. Az OpenAI azt írja, hogy a megoldást iparágak, régiók és különböző méretű vállalatok ügyfélvisszajelzései alakítják.

A cég szerint az érintett szervezetek érzékeny információkat kezelhetnek, köztük pénzügyi nyilvántartásokat, egészségügyi adatokat, bizalmas üzleti terveket és saját kutatásokat. A Private Safety Processing ezeknél az ügyfeleknél azt a célt szolgálja, hogy a biztonsági ellenőrzés mintázatokat is felismerjen, miközben az információk az ügyfelek kontrollja alatt maradnak.

Az ügyfelek a saját rendszereikben elérhető információk alapján vizsgálhatják a riasztásokat és az intézkedési döntéseket. Ha fellebbezni szeretnének, jogos tevékenységet tisztáznának, vagy igazolt visszaélés vizsgálatát támogatnák, dönthetnek úgy, hogy releváns információkat osztanak meg az OpenAI-jal.