Kilenc ajánlást tett Kanada AI-átláthatósági konzultációjára az SRI
A Schwartz Reisman Institute kilenc ajánlást nyújtott be a kanadai kormány mesterséges intelligenciáról szóló konzultációjára. Az intézet szerint az átláthatóság csak akkor működik, ha a megfelelő információ eljut azokhoz, akik képesek intézkedni.
- Az SRI kilenc ajánlást nyújtott be az ISED AI-átláthatósági konzultációjára.
- Az intézet szerint az információt a címzetthez és a felhasználás céljához kell igazítani.
- Többszintű, bizalmas kutatói és auditálási hozzáférést javasolnak.
- Súlyos incidensekre kötelező, majdnem bekövetkezett esetekre védett önkéntes jelentéstételt indítanának.
- A szövetségi közbeszerzés lehetne a független AI-ellenőrzési piac első vásárlója.
Az átláthatóság több, mint dokumentáció
A Schwartz Reisman Institute for Technology and Society, vagyis az SRI szeptember 23-án válaszolt az Innovation, Science and Economic Development Canada (ISED) Enhancing trust in artificial intelligence through increased transparency című konzultációjára. A konzultáció öt területet érintett: az AI által létrehozott tartalmakat, az AI-rendszerekkel való interakciót, a rendszerekről szóló információkat, az AI-incidenseket és az AI-ügynököket.
Az SRI beadványa szerint az átláthatóságot információs infrastruktúraként kell kezelni. Az intézet álláspontja szerint önmagában az sem javítaná feltétlenül az AI irányítását, ha Kanada minden rendszer számára részletes dokumentáció közzétételét írná elő. Ha az információ nem jut el olyan szereplőkhöz, akiknek megvan a felhatalmazásuk vagy a képességük a cselekvésre, akkor a közzététel könnyen puszta adminisztrációvá válhat.
A beadvány húsz, számítástechnikával, joggal, pszichológiával, közgazdaságtannal és filozófiával foglalkozó SRI-kutató munkájára támaszkodik. Monique Crichlow, az SRI ügyvezető igazgatója szerint az átláthatóság nem pusztán az információhoz való hozzáférés megteremtését jelenti, hanem olyan információ biztosítását, amely pozitív cselekvést és elszámoltathatóságot eredményezhet.
Célzott hozzáférést és megosztott felelősséget javasolnak
Az SRI két alapelvet emel ki. Az információt a címzetthez és a célhoz kell igazítani, mert az egyéneknek, az AI-rendszereket alkalmazó szervezeteknek és a felügyeleti szerveknek eltérő bizonyítékokra van szükségük. Egyetlen dokumentum nem tudja mindhárom csoport igényeit megfelelően kiszolgálni.
A második alapelv szerint a felelősségnek a kontrollhoz kell igazodnia. A kontroll itt nem formális jogosultságot, hanem gyakorlati cselekvési képességet jelent. Mivel az AI-ellátási láncokban a kontroll ritkán összpontosul egyetlen szereplőnél, az információval rendelkező és a cselekvésre képes felek között is meg kell osztani a kötelezettségeket.
Az intézet strukturált, többszintű hozzáférési programot javasol minősített kutatóknak, auditoroknak és szabályozóknak. Ehhez jóhiszemű kutatás esetén jogi védelmet, úgynevezett safe harbourt is társítana. Külön bizalmas csatornát hozna létre a veszélyes képességek bejelentésére a Canadian Artificial Intelligence Safety Institute, vagyis a CAISI, valamint a Canadian Centre for Cyber Security felé, anélkül, hogy a fejlesztőket nem biztonságos nyilvános közlésre kényszerítenék.
Az SRI szerint a korlátozott hozzáférésre azért is szükség van, mert egy modell egyszerű kezelőfelülete is érzékeny információkat tárhat fel. A Thomas Ristenpart kutatására hivatkozó beadvány szerint a predikciós felületen visszaadott konfidenciapontszámokból rekonstruálható lehet a betanítás során használt adat, ismételt API-lekérdezésekkel pedig egy védett modell funkcionálisan egyenértékű másolata is előállhat.
Incidensjelentés, hitelesség és közbeszerzés
Az AI-incidenseknél az SRI kétcsatornás rendszert javasolna. A meghatározott súlyos esetekre kötelező jelentéstételt, a majdnem bekövetkezett eseményekre pedig védett, önkéntes bejelentési lehetőséget vezetne be. David Lie, az SRI igazgatója szerint az egyes szervezetek látják a saját hibáikat, a különböző bevetésekben megjelenő mintázatokat azonban csak jelentések összegyűjtésével lehet felismerni. A jelentési rendszer célja ezért az elemzés, nem egy puszta eseménylista létrehozása.
Az AI által létrehozott tartalmaknál a beadvány a valódi tartalmak hitelesítését helyezné előtérbe a mesterséges tartalmak egyszerű felismerésével szemben. Az SRI egyik, AI-ról és bizalomról szóló tanulmánya szerint az egyre több szintetikus tartalom új problémát teremt: a valódi, károkozó anyagokat is könnyebb lehet hamisnak minősíteni.
Az intézet az átláthatósági előírásokat piaci keresleti jelzésként is értelmezi. A származási információkat kezelő infrastruktúra, az értékelési és garanciális szolgáltatások, az auditálási eszközök és az incidensek elemzése mind olyan képességek, amelyeket valakinek ki kell építenie. Az SRI szerint független ellenőrzési piac akkor alakulhat ki, ha a vevőknek kötelező igénybe venniük ezeket a szolgáltatásokat. A beadvány utolsó ajánlása ezért a szövetségi közbeszerzést tenné meg első vásárlóvá.
A javaslatok a felhasználók és a szervezetek számára azt jelentik, hogy az AI-rendszerekről szóló információk hozzáférése a szerepükhöz és a kockázathoz igazodhatna. A kanadai kormány a beadvány alapján egyszerre alakíthatna ki incidensjelentési csatornákat, biztonságos kutatási hozzáférést és olyan piacot, amelyben az ellenőrzési szolgáltatások iránt szabályozási kereslet jelenik meg.
Schwartz Reisman Institute: SRI submits recommendations to federal consultation on AI transparency
