A GDPR az AI-rendszerek káros döntései ellen is jogorvoslatot adhat
A GDPR az AI Act alkalmazhatóságától függetlenül is védelmet adhat azoknak, akiket személyes adatokon alapuló, automatizált döntés hátrányosan érintett. A Center for Democracy and Technology Europe szerint az érintettek emberi beavatkozást, meghallgatást, a döntés vitatását és magyarázatot is kérhetnek bizonyos esetekben.
- A GDPR személyes adatokat kezelő algoritmikus rendszerekre is alkalmazható.
- A teljesen automatizált, jelentős hatású döntéseket a GDPR főszabály szerint tiltja.
- Az érintett emberi beavatkozást, meghallgatást és a döntés vitatását kérheti.
- Az uniós bírósági gyakorlat alapján a döntés mögötti logikáról is kérhető érdemi tájékoztatás.
- Az AI Act magyarázathoz való joga meghatározott, magas kockázatú felhasználási esetekre vonatkozik.
A GDPR akkor is alkalmazható, ha az AI Act nem egyértelmű
A Center for Democracy and Technology Europe elemzése azt vizsgálja, milyen jogorvoslati lehetőségeket kínál az uniós jog a mesterséges intelligencia által okozott károk esetén. A szervezet szerint az AI Act önmagában csak korlátozott számú jogorvoslati eszközt biztosít, ezért fontos szerep jut más jogterületeknek, köztük az adatvédelemnek, az egyenlő bánásmódnak, a fogyasztóvédelemnek és a termékfelelősségnek.
A most vizsgált megközelítés középpontjában az általános adatvédelmi rendelet, a GDPR áll. Ez technológiasemleges szabályozás, vagyis minden olyan technológiára kiterjedhet, amely személyes adatokat kezel, függetlenül attól, hogy az adott megoldást az uniós jog AI-rendszerként határozza-e meg.
A CDT szerint ez különösen azokban az esetekben lehet fontos, amikor egy algoritmikus technológia nem illeszkedik egyértelműen az AI Act mesterségesintelligencia-rendszerre vagy általános célú AI-modellre vonatkozó fogalmaihoz. Ilyenkor az AI Act alkalmazása bizonytalanná válhat, miközben a GDPR alapján továbbra is vizsgálható a személyes adatok kezelése.
A teljesen automatizált döntések korlátozása
A GDPR főszabálya szerint személyes adatok alapján nem hozható kizárólag automatizált feldolgozáson alapuló döntés, ha annak joghatása van az érintettre, vagy jelentős mértékben befolyásolja őt. A CDT értelmezése szerint ez a korlátozás a döntési folyamat jellegére összpontosít, így nem szükséges előbb bizonyítani, hogy az alkalmazott technológia megfelel az AI Act szerinti AI-rendszer fogalmának.
A tilalomnak három kivétele van. Ilyen az érintett kifejezett hozzájárulása, ha az adatkezelés az érintett és az adatkezelő közötti szerződés megkötéséhez vagy teljesítéséhez szükséges, illetve ha az adatkezelést uniós vagy tagállami jog engedélyezi megfelelő garanciák mellett.
A kivételek alkalmazásakor is megmaradnak bizonyos biztosítékok. Az érintett kérheti ember beavatkozását, előadhatja saját álláspontját, és vitathatja a döntést.
Magyarázat kérhető az automatizált döntésről
Az Európai Unió Bíróságának újabb ítélkezési gyakorlata alapján további jogként jelent meg a döntés magyarázatának lehetősége. A CDT szerint ez azt jelentheti, hogy az érintett érdemi információkat kaphat a kizárólag automatizált döntés mögött álló logikáról. Ez segítheti annak megértését, hogy miért született a döntés, és megalapozhatja annak vitatását.
Az AI Act szintén biztosít magyarázathoz való jogot, de eltérő feltételekkel. Ez olyan esetekre vonatkozik, amikor valaki úgy véli, hogy hátrányosan érinti egy AI-rendszer kimenetén alapuló döntés, és az érintett rendszer az AI Actben felsorolt, magas kockázatú alkalmazások közé tartozik.
A két szabályozás kiegészítheti egymást. Az AI Act szerinti jog gyakorlásához nem kell teljesen automatizált döntés, ugyanakkor csak meghatározott, magas kockázatú felhasználási esetekre terjed ki. A CDT szerint az uniós jog két rendszere között ezért további értelmezésre van szükség, hogy a meglévő jogorvoslati mechanizmusok erősítsék, és ne gyengítsék egymást.
Center for Democracy & Technology: Potential Avenues for Redress for AI-related Harms under EU Equality and Non-Discrimination law: A Visual Explanation