Az uniós szabályok nem kezelik együtt az AI kognitív kárait

Több szabályozás, széttagolt ellenőrzés

A Centre for Future Generations szeptember 9-én publikált elemzése a „Governing AI for cognitive integrity” című jelentéssorozat negyedik része. Nicoleta Prutean, Abbi Brittain, Mehmet Onur Cevik és Virginia Mahieu azt vizsgálja, hogy az uniós eszközök miért nem érik el megfelelően az emberi gondolkodási és döntési autonómiát érő károkat.

A szerzők szerint az uniós szabályozási eszközök jellemzően egyetlen réteget kezelnek, miközben a károk több tényező kölcsönhatásából alakulnak ki. Ilyen tényező lehet az üzleti modell ösztönzése, az adat-infrastruktúra és a rendszer kialakítása. A hatások függhetnek az érintett fejlődési szakaszától, mentális egészségi állapotától és az adott helyzettől is.

A GDPR, az AI Act, a digitális szolgáltatásokról szóló jogszabály, a digitális piacokról szóló jogszabály, a vállalati fenntarthatósági átvilágítási szabályozás, a fogyasztóvédelmi előírások és az Európai Unió Alapjogi Chartája különböző hatóságokhoz és eltérő feladatkörökhöz kapcsolódik. Egy ajánlórendszeres elköteleződés-optimalizálás ezért egyszerre vethet fel adatvédelmi, rendszerszintű kockázati, fogyasztóvédelmi és piaci erővel kapcsolatos kérdéseket, de egyik hatóság sem látja át szükségszerűen a teljes folyamatot.

A jogorvoslat nehezen illeszkedik a kár természetéhez

Az elemzés szerint a jelenlegi jogorvoslati mechanizmusok abból indulnak ki, hogy a felhasználó felismeri a jogsértést, megérti annak hatását, majd végig tud menni a panaszkezelési eljáráson. A kognitív károk esetében azonban ez éppen azok miatt a folyamatok miatt lehet nehéz, amelyeket a rendszerek előidéznek.

A felhasználó nem tudja érdemben hozzáférhetővé tenni a róla következtetett pszichológiai profilokat, helyesbíteni az elköteleződés-optimalizáló algoritmusokat, vagy törölni azokat a kognitív szokásokat, amelyeket a rendszerek idővel alakítottak ki. A nagy léptékű pszichológiai károk bizonyításához hosszú időn át gyűjtött adatokra, műszaki elemzésre és platformadatokra lenne szükség, ezeket azonban a vállalatok a jelentés szerint rendszeresen visszatartják.

A szerzők úgy látják, hogy a bíróságoknak nincs kialakult módszertanuk a kognitív károk ok-okozati összefüggésének megítélésére. A modernizált termékfelelősségi irányelv már kiterjeszti a hatályt a szoftverekre, köztük az AI-rendszerekre, és kompenzálható kárként ismeri el az orvosilag releváns pszichológiai károkat. A károsultnak azonban továbbra is bizonyítania kell a hibát, a kárt és a kettő közötti okozati kapcsolatot. A jelentés szerint ez különösen bizonytalan az összetett, halmozódó és valószínűségi hatásoknál.

Közös kognitív integritási standardot sürgetnek

A Centre for Future Generations tíz irányelvet fogalmaz meg. Ezek között szerepel a kognitív integritás védelme, az üzemeltetők kifejezett gondossági kötelezettsége, az uniós értékekre épülő szabályozás, valamint a különböző tudományterületek és hatósági eszközök összehangolása.

A szerzők elővigyázatosságot sürgetnek, ha már ismert káros mechanizmusok, sérülékeny csoportok és egyre több bizonyíték áll rendelkezésre. Szerintük a beavatkozásnak a rendszertervezésre és a platformarchitektúrára kell irányulnia, nem az egyes felhasználókra. A szabályoknak a kutatási eredményekkel együtt kell fejlődniük, és a bizonyítékok gyarapodásával felül kell vizsgálni őket.

Az első ismertetett ajánlás a meglévő uniós keretek kognitív integritás köré szervezett, összehangolt végrehajtása. A jelentés szerint ez teremthetné meg annak feltételét, hogy az emberi jogok védelme, a versenyképesség és a technológia tényleges haszna egymással összeegyeztethető legyen. Az elemzés az offline klubok terjedését is annak jeleként értelmezi, hogy a fiatalok részéről létezik igény a kevésbé közvetített, közös tevékenységekre és személyes kapcsolatokra épülő alternatívákra.