A Centre for Future Generations szerint az AI hatásai összeadódhatnak

A figyelemre építő digitális minták az AI-ban is megjelennek

A Centre for Future Generations szeptember 9-én közzétett anyaga a „Governing AI for cognitive integrity” című jelentéssorozat harmadik része. A szerzők a kognitív integritást úgy írják le, mint az ember képességét arra, hogy önállóan gondolkodjon, döntsön és cselekedjen.

A jelentés szerint az emberi figyelem korlátozott erőforrás. A figyelmet az újdonság, a jutalom és a társadalmi jelentőség jelei is megragadhatják. A közösségi platformok értesítései, társas visszajelzései és gyorsan frissülő tartalomfolyamai erre az érzékenységre építenek. Az automatikus lejátszás és a végtelen görgetés közben eltűnnek a természetes megállási pontok, így a használat hosszabbá válhat.

A Centre for Future Generations szerint a kiszámíthatatlan időközönként érkező értesítések és az algoritmikusan válogatott, változó újdonságokat kínáló tartalmak változó jutalmazási mintát hoznak létre. Ez a viselkedéskutatások alapján erősítheti a szokások kialakulását és az ismételt ellenőrzést.

A kényelmesebb használat csökkentheti az önálló ellenőrzést

A generatív AI-rendszerekben a javasolt utasítások, az automatikus kiegészítés és a következő kérdéseket ajánló funkciók könnyebbé teszik a beszélgetés folytatását. A jelentés szerint ez azért fontos, mert az emberek gyakran a legkevesebb erőfeszítést igénylő utat választják. Ennek következtében a felhasználók külső eszközökre bízhatnak olyan figyelmi, gondolkodási vagy emlékezeti feladatokat, amelyeket korábban maguk végeztek el.

Az AI-válaszok folyékony, összefüggő és magabiztos nyelvezete akkor is a teljesség és a tekintély érzetét keltheti, ha a tartalom hallucinációt tartalmaz. A tanulmány ezt az automatizálási torzítással, illetve az algoritmikus tekintély jelenségével kapcsolja össze. Mivel a generatív rendszerek gyakran egyetlen közvetlen választ adnak, a felhasználók kevésbé lehetnek hajlamosak több forrás összevetésére vagy önálló ellenőrzésre.

A jelentés elismeri, hogy az AI-asszisztált eszközök gyorsíthatják a fogalmazást, a programozást és a problémamegoldást. Ugyanakkor a bemutatott kutatási eredmények szerint más lehet a hatás, ha valaki az AI-t magyarázatok és fogalmi kérdések feltevésére használja, mint amikor a rendszerre bízza a megoldást. A programozást tanuló, megoldásgenerálásra és hibakeresésre támaszkodó fejlesztők gyengébb fogalmi elsajátítást mutattak, míg a magyarázatokat kérők erősebb megértést őriztek meg.

A jelentés szerint a használat módja a tanulásra is hat

Írási feladatoknál azok a résztvevők, akik előbb önállóan írtak, majd használtak AI-eszközt, erősebb idegi kapcsolódást, jobb felidézést és magasabb színvonalú esszét mutattak, mint azok, akik kezdettől az AI-ra támaszkodtak. Az utóbbi csoportnál a kutatók „kognitív adósságot” neveztek meg, amely az AI segítségének megszűnése után is fennmaradó, csökkent agyi aktivitással járt.

A Centre for Future Generations szerint az AI emberhez hasonló nyelvi és érzelmi jelzései a társas reakciókat és a bizalmat is kiválthatják. Az első személyű megfogalmazások, a mentális állapotokra utaló kifejezések és az empatikus mondatok erősíthetik az antropomorfizációt, vagyis azt, hogy a felhasználó emberi tulajdonságokat tulajdonítson a rendszernek. A szerzők kiemelik, hogy ez akkor is megtörténhet, ha a felhasználó tudja, hogy nem emberrel beszél.

A jelentés szerint az AI-rendszerek terjedésével a döntéshozóknak, az oktatás szereplőinek és a technológiai fejlesztőknek egyszerre kell figyelembe venniük a termelékenységi előnyöket, valamint a tanulás és a kritikus gondolkodás megőrzését.