Új ETSI-szabvány előzné meg a káros deepfake-ek létrehozását

A megelőzésre helyezi a hangsúlyt az új szabvány

Az ETSI, az információs és kommunikációs technológiák szabványosításával foglalkozó, független és nonprofit szervezet október 29-én jelentette be az ETSI TS 104 275 kiadását. A műszaki specifikációt az ETSI mesterséges intelligencia biztonságával foglalkozó technikai bizottsága, a TC SAI dolgozta ki.

A dokumentum célja, hogy csökkentse annak kockázatát, hogy generatív AI-rendszereket káros deepfake-ek előállítására használjanak. Az ETSI szerint a deepfake-ek elleni korábbi erőfeszítések főként a már létrehozott, manipulált tartalmak felismerésére összpontosítottak. Az új specifikáció ezzel szemben megelőző megközelítést alkalmaz, és a deepfake-ek létrehozását a teljes AI-életcikluson át kezelendő biztonsági és irányítási kérdésként fogja fel.

A szabvány az AI-modellekre és -rendszerekre vonatkozó, az ETSI EN 304 223 szabványban rögzített alapvető kiberbiztonsági követelményekre épít. Az ETSI szerint ez az uniós AI Act célkitűzéseit is támogatja, miközben a biztonsági szempontokat a magas kockázatúként besorolt rendszereken túl is kiterjeszti.

Kockázatfelmérés, emberi kontroll és folyamatos ellenőrzés

Az ETSI TC SAI több gyakorlati intézkedést sorol fel a generatív AI-rendszerek üzemeltetői és fejlesztői számára. A bevezetés előtt fel kell mérni a lehetséges visszaéléseket, majd még a rendszer kiadása előtt megfelelő védelmi intézkedéseket kell kialakítani.

• Emberi felügyelet: olyan folyamatokat kell létrehozni, amelyek lehetővé teszik az emberi ellenőrzést és beavatkozást, így a szervezetek megtarthatják az irányítást a rendszer működése felett.
• Védelem a visszaélések ellen: megfelelő esetekben tartalomszűrésre, az AI által létrehozott tartalmak címkézésére és felhasználói figyelmeztetésekre lehet szükség.
• Folyamatos megfigyelés: az újonnan megjelenő fenyegetéseket át kell tekinteni, az incidenseket ki kell vizsgálni, a védelmi intézkedéseket pedig az új kockázatoknak megfelelően frissíteni kell.
• Bizonyítékokon alapuló értékelés: dokumentálni és nyilvántartani kell, hogy a megfelelő kontrollokat bevezették-e, és azok a tervek szerint működnek-e.

Tesztekkel mérhetővé tenné a védelem működését

Az ETSI TS 104 275 a védelmi intézkedések mellett tesztforgatókönyveket és megfelelési kritériumokat is tartalmaz. Ezek alapján a szervezetek értékelhetik, hogy teljesültek-e a deepfake-ekhez kapcsolódó kockázatok csökkentésére vonatkozó célok.

Az ETSI szerint ez lehetőséget ad arra, hogy a szervezetek ne csak a felelős AI-fejlesztés melletti kötelezettségvállalásokra támaszkodjanak, hanem gyakorlati bizonyítékot is mutassanak a kontrollok bevezetéséről és működéséről. Alex Cadzow, az ETSI TC SAI jelentéstevője és titkára szerint a káros, megtévesztő és jogellenes deepfake-tartalmak, például bántalmazó képek vagy csalárd termékoldalak, legális és kereskedelmi forgalomban elérhető szoftverek visszaélésével is létrehozhatók.

Cadzow úgy fogalmazott, hogy ahogy a deepfake-ek egyre szélesebb körben jelennek meg, az AI-szervezeteknek már korábban, a generatív AI-rendszerek tervezésétől kezdve szükségük van segítségre a kockázatok kezeléséhez. Az ETSI közlése szerint az új specifikáció ehhez egyértelmű követelményeket és a szükséges védelmi intézkedések értékelésére szolgáló módszereket ad.

A műszaki specifikáció elérhető az ETSI oldalán. Az ETSI az Európai Unió által hivatalosan elismert három európai szabványügyi szervezet egyike, és több mint 900, öt kontinens több mint 60 országából érkező tagszervezetet tömörít.