Az AI a kognitív integritást is veszélyeztetheti egy új jelentés szerint

A mindennapi szükségletek miatt fordulunk az AI-hoz

A Centre for Future Generations 2026. szeptember 3-án közzétett anyaga a „Governing AI for cognitive integrity” című jelentéssorozat első része. A szerzők, Nicoleta Prutean, Abbi Brittain, Mehmet Onur Cevik és Virginia Mahieu, azt vizsgálják, miként hat az AI az emberi autonómiára kognitív szempontból.

A jelentés szerint a generatív AI-chatbotokra és a közösségi médiára azért támaszkodnak egyre többen, mert segítséget nyújtanak az információk megtalálásában és értelmezésében, a kapcsolatok és közösségek fenntartásában, a kommunikációban és alkotásban, valamint egyre gyakrabban az érzelmi nehézségek kezelésében is.

A szerzők egy „Five Cs” nevű keretben írják le az AI-rendszerek használatát ösztönző alapvető pszichológiai szükségleteket. Ezek közé tartozik a világ megértése, a másokkal való kapcsolódás és kommunikáció, tudás, jelentés és alkotások létrehozása, az önkifejezés, valamint az élet nehézségeivel való megküzdés. A jelentés szerint e szükségletek kielégítése teljes egészében nem szervezhető ki a technológiáknak.

A mentális egészség önmagában nem elégséges mérce

A nyilvános vita eddig főként a leglátványosabb károkra összpontosított. Ilyen a kényszeres használat, a „brain rot”, az öngyilkossággal kapcsolatos esetek, az AI által kiváltott pszichózis, illetve az az állítás, hogy egy egész generáció függővé válik a közösségi médiától. A Centre for Future Generations szerint ezek fontos esetek, de fokozatos és felhalmozódó emberi interakciók eredményeként jelennek meg.

A szerzők bírálják azt a megközelítést, amely a mentális egészség károsodását főként diagnosztizálható állapotokon, például depresszión, szorongáson, függőségen vagy pszichózison keresztül méri. A diagnózis sokszor csak hónapokkal vagy évekkel azután jelenik meg, hogy a kiváltó folyamatok működésbe léptek. A figyelem fokozatos romlása, az érzelmi függőség és az önálló ítéletalkotás AI által létrehozott válaszokkal való helyettesítése már korábban is valós károkat okozhat.

Az anyag szerint a szabályozásnak ezért azt kellene vizsgálnia, hogy egy adott rendszerfunkció kimutatható módon működik-e egy azonosított kockázati útvonalon. Így nem azt kellene bizonyítani, hogy egy platform kizárólagosan okozott egy mentális állapotot, hanem azt, hogy hozzájárult-e annak kialakulásához.

A kognitív integritás az önálló működés feltétele

A jelentés a kognitív integritást olyan képességként határozza meg, amely lehetővé teszi, hogy az emberek önállóan vegyenek részt a működésük alapját adó kognitív folyamatokban. Ide tartozik a figyelem, a döntéshozatal, a kritikus gondolkodás és az érzelmi szabályozás. A cél az, hogy az emberek saját céljaikat kövessék, ne külső rendszerek irányítsák őket.

A fogalom nem zárja ki a külső hatásokat. A szerzők szerint az emberi fejlődés része, hogy mások és különböző környezetek befolyásolják az egyént. A befolyás akkor maradhat összeegyeztethető az önmeghatározással, ha az érintett elvileg tud róla, saját céljai alapján értékelheti, és vitathatja azt.

A keret különösen azokat a helyzeteket tartja problémásnak, amikor egy rendszer kihasználja a tudás és a hatalom egyenlőtlenségeit, illetve a felhasználó kognitív sérülékenységeit, és ezzel megkerüli a mérlegelést. A Centre for Future Generations szerint a kognitív integritás védelme lehetővé tenné a fokozatos, klinikai küszöbök előtt jelentkező és konkrét mechanizmusokhoz köthető hatások vizsgálatát.

A gyerekek kiemelt védelme nem oldja meg mindenki problémáját

Az Európai Bizottság online gyermekbiztonsággal foglalkozó különleges testületének friss ajánlásait a jelentés fontos lépésnek nevezi. A testület felismeri, hogy ezek a technológiák valós szükségleteket szolgálhatnak, ezért a gyerekeket meg kell tanítani a használatukra, nem elég pusztán korlátozni a hozzáférést.

A gyerekek ugyanakkor érzékenyebbek lehetnek bizonyos rendszerjellemzőkre, mert a figyelem, a társas gondolkodás, az érzelmi szabályozás és a viselkedés irányítása még fejlődik. A Centre for Future Generations szerint ezek a sérülékenységek a nagykorúsággal nem tűnnek el. A felhasználóknak ezért olyan irányítási keretre van szükségük, amely felismeri a fokozott veszélyeztetettséget, de nem kezeli a sérülékenységet kizárólag a gyerekek sajátosságaként.