A Centre for Future Generations szerint az AI a kognitív autonómiát is veszélyeztetheti

Az AI nemcsak segít, hanem irányíthat is

A Centre for Future Generations 2026. szeptember 7-én közzétett tanulmánya a „Governing AI for cognitive integrity” című jelentéssorozat második része. A szerzők, Nicoleta Prutean, Abbi Brittain, Mehmet Onur Cevik és Virginia Mahieu, azt vizsgálják, hogyan hat az AI az emberi autonómiára kognitív szempontból.

Az emberek azért fordulnak AI-rendszerekhez, mert hasznosnak érzik őket. A technológiát a világ megértésére, az egyre összetettebb információs környezetben való eligazodásra, kapcsolattartásra, tudás létrehozására és az élet nehézségeinek kezelésére használják. A szerzők szerint azonban nemcsak az számít, hogy ezek a rendszerek segítenek-e, hanem az is, hogyan teszik ezt, és közben mi veszhet el.

A tanulmány a „kognitív integritás” fogalmát használja arra a képességre, hogy az emberek autonóm módon gondolkodjanak, döntsenek és cselekedjenek, saját céljaikat kövessék, és ne külső rendszerek irányítsák őket. Az elemzés szerint ennek védelme fontos feladat az AI korában.

A platformok üzleti modelljei újrahasznosíthatják a régi mintát

A jelentés szerint a pszichológiai alapvető szükségleteket kielégítő platformok önmagukban nem feltétlenül használják ki a kognitív sérülékenységeket. Az üzleti modellek azonban egy olyan irányba fejlődhetnek, amelyben a felhasználók figyelmének és viselkedésének kinyerése fontosabbá válik a szolgáltatás minőségénél.

Cory Doctorow által leírt minta szerint a platformok először ingyenes, hasznos szolgáltatásokkal igyekeznek minél több felhasználót szerezni. Miután a társas kapcsolatok, a felhalmozott adatok és a kevés alternatíva miatt kialakul a kötődés, a reklám válhat a fő bevételi forrássá. A Centre for Future Generations ezt a folyamatot az „enshittification” kifejezéssel összekapcsolva mutatja be, amely a felhasználói élmény fokozatos romlását írja le.

Az elemzés szerint egyes AI-cégek hasonló pályát követhetnek. Az OpenAI korábbi, reklámellenes vállalását visszavonta, és reklámmodellt vezetett be. A Character AI fizetős csomagokat kínál gyorsabb válaszokkal és új képességekkel. A jelentés szerint több, mentális egészséggel és társas kapcsolatokkal foglalkozó chatbot klinikai tanúsítás nélkül, freemium modellekben építhet felhasználói függőséget, mielőtt előfizetéshez kötné a szolgáltatást.

A szerzők arra is figyelmeztetnek, hogy az AI-rendszerek a közösségi médiánál jóval részletesebb viselkedési és beszélgetési adatokat gyűjthetnek. Ezek célzott hirdetéshez, harmadik feleknek történő licenceléshez vagy modellképzéshez is felhasználhatók, gyakran a felhasználók tudta nélkül.

A szabályozás csökkentheti a bezártságot, de vannak hiányosságai

A jelentés szerint az AI-piac koncentrációja tovább növeli a kockázatokat. A fejlett modellek betanításához és működtetéséhez szükséges számítási infrastruktúra csak kevés vállalat számára megfizethető. Ezek közül sok már eleve meghatározó szereplő a digitális piacokon, vagy olyan infrastruktúrától függ, amely domináns vállalatok tulajdonában van. Ez a szerzők szerint a hatalmat az infrastruktúra, a modellek és a felületek felett koncentrálja.

Az Európai Unió digitális piacokról szóló jogszabálya, a DMA interoperabilitási és adathordozhatósági előírásokkal mérsékelheti a platformokhoz kötődést. A szabályozás korlátozza a személyes adatok szolgáltatások közötti, kifejezett hozzájárulás nélküli összekapcsolását, és tiltja az önpreferálást. A digitális szolgáltatásokról szóló jogszabály, a DSA, a nagyon nagy online platformok és keresőprogramok számára mentális egészséggel és jólléttel kapcsolatos rendszerszintű kockázatok felmérését és csökkentését írja elő.

A szerzők szerint a DMA csak a kijelölt kapuőrökre vonatkozik, így sok platform és új AI-üzleti modell kívül maradhat a hatályán. A jogszabályt még a közösségi média és a keresők korszakára tervezték, ezért nem biztos, hogy megfelelően kezeli az infrastruktúra, a modellek és a felületek vertikális integrációjából fakadó AI-piaci koncentrációt. Az interoperabilitás és az adathordozhatóság pedig csak akkor jelent valódi kiutat, ha léteznek életképes alternatívák.