Új kockázati keretrendszer segítené az AI munkahelyi használatát

A kockázatot a használati környezet határozza meg

A Future of Privacy Forum, röviden FPF, a Dayforce, a LinkedIn, az UKG, a Workday és a Beamery közreműködésével augusztus 5-én publikálta az Updated Best Practices for AI and Workplace Assessment Technologies című útmutatót. A dokumentum a 2023-ban kiadott ajánlásokra épül, és a generatív AI, valamint a több lépésből álló munkafolyamatokat részben önállóan végrehajtó ügynöki rendszerek elterjedésére reagál.

Az FPF és a szakértői munkacsoport szerint a foglalkoztatási célú AI-rendszereket nem célszerű egyszerűen alacsony vagy magas kockázatú kategóriába sorolni. Ehelyett a szükséges védelmi intézkedéseket a rendszer működése és tervezett felhasználása alapján kell fokozatosan meghatározni. A kockázatot a környezet és a konfiguráció is befolyásolja.

Nagyobb figyelmet igényelnek azok a rendszerek, amelyek érzékeny adatokat használnak fel, vagy érzékeny, esetleg váratlan következtetéseket vonnak le emberekről. Szintén magasabb kockázatot jelenthet a nagyobb önállóság és mérlegelési szabadság, a döntéshozatalhoz való közvetlen közelség, illetve az, ha a rendszer jelentős hatású döntésben vesz részt. A dokumentum példaként a munkaviszony megszüntetését említi.

Külön felelősséget kapnak a fejlesztők és a bevezetők

Az új ajánlások a fejlesztők és a rendszereket alkalmazó szervezetek felelősségét is részletezik. A javasolt felelős AI-irányításnak a teljes rendszer-életciklus alatt fel kell térképeznie, mérnie és kezelnie a kockázatokat. A keretrendszer külön kezeli a prediktív, a generatív és az ügynöki működést.

A megkülönböztetés tilalmára vonatkozó gyakorlatok előírják az alkalmazandó diszkriminációellenes jogszabályok betartását, valamint az előre nem látott torzítások proaktív vizsgálatát. Az átláthatósági ajánlások megosztják a tájékoztatási feladatokat a fejlesztők és a bevezetők között.

Az adatbiztonsági és adatvédelmi intézkedéseknek a személyes adatok védelme mellett olyan új kitettségekre is reagálniuk kell, mint a promptinjektálás vagy az ügynöki rendszerek hozzáférése a kapcsolódó rendszerekhez. Az emberi felügyeletnél az anyag különböző hatáskörszinteket vázol fel, miközben elvárja, hogy az emberek továbbra is felelősek legyenek a kimenetekért.

Stacey Gray, az FPF Mesterséges Intelligencia Központjának vezető igazgatója szerint a generatív és ügynöki rendszerek új kockázatai, például a kitalált tartalmak, az alacsonyabb átláthatóság és ellenőrizhetőség, valamint a kisebb emberi felügyelet mellett történő működés megváltoztatták a fejlesztők és bevezetők felelősségét. Az FPF szerint a vörös csapatos tesztelés, az auditálás és a bevezetés utáni megfigyelés már nem választható intézkedés.

Jogszabályokhoz és gyakorlati bevezetéshez igazított útmutató

Az Updated Best Practices a NIST AI Risk Management Frameworkre és kapcsolódó NIST-útmutatásokra, az ISO/IEC 42001 és 42005 szabványokra, az uniós AI Act vonatkozó részeire, valamint több amerikai állami keretrendszerre támaszkodik. A közlemény Kaliforniát, Coloradót és Connecticutot említi példaként.

Az FPF szerint az anyag gyakorlati, átfogó keretként szolgálhat a fejlesztők és a bevezetők számára. Célja, hogy segítse őket a polgárjogi, foglalkoztatási és adatvédelmi jogból fakadó jelenlegi kötelezettségek teljesítésében, miközben a folyamatosan változó irányítási környezetre is felkészít.

Az FPF és a munkacsoport szeptember 28-án, keleti parti idő szerint 12 órakor webináriumot tart az ajánlásokról és a kockázatértékelési keretrendszerről. A rendezvényen szakpolitikai döntéshozók, munkatársaik, fejlesztők, bevezetők és más érdeklődők vehetnek részt. A részvétel ingyenes, de regisztrációhoz kötött.

A bejelentés a munkaadók számára azt jelenti, hogy az AI-rendszerek értékelésénél a konkrét feladatot, az önállóság mértékét, az adatok érzékenységét és a döntés következményeit együtt kell vizsgálni. Az FPF szerint egyetlen kockázati tényező önmagában nem döntő, a tényezők kombinációja emelheti vagy csökkentheti a szükséges védelmi szintet.