Az AI-címke bizalmat építhet, de gyanakvást is kelthet

Az AI-jelölés félrevezető kettősséget teremthet

Az ARC Centre of Excellence for Automated Decision-Making & Society szeptember 15-én közölt beszámolója szerint az AI-val létrehozott tartalmakat egyre nehezebb megkülönböztetni az ember által készített anyagoktól. Az Európai Unió AI Act rendelete ezért bizonyos, AI-val létrehozott vagy módosított képek, videók és hangfelvételek, valamint egyes, közérdekű ügyekről tájékoztató AI-generált szövegek esetében átláthatósági követelményeket ír elő.

A cél a megtévesztés, a megszemélyesítés, a félretájékoztatás és a manipuláció kockázatának csökkentése. A szakértők szerint azonban a címkék azt a leegyszerűsítő benyomást kelthetik, hogy az AI-val készült tartalom megbízhatatlan, az ember által készített pedig megbízható. Jean Burgess, a QUT professzora szerint a hitelesség kulturális szempontból összetettebb annál, mint hogy szerepet játszott-e AI az előállításban.

Tom Divon, a Jeruzsálemi Héber Egyetem kutatója úgy fogalmazott: „Az AI részvétele önmagában nem bizonyítja, hogy az állítás hamis, ahogy az AI hiánya sem bizonyítja, hogy igaz.”

Védelmi célú használatnál különösen fontos a kontextus

Az AI-t sok esetben nem a tartalom meghamisítására, hanem az érintettek védelmére használják. Aktivisták például tanúvallomások fordítására, azonosító részletek eltávolítására vagy érzékeny anyagok online közzétételre való előkészítésére alkalmazhatják. Egy tanú arcát vagy hangját úgy is módosíthatják, hogy az illető ne legyen azonosítható, miközben vallomásának lényege megmarad.

Egy egyszerű, „AI-val módosított” jelölés viszont csak az AI használatát közli, annak célját és a konkrét változtatásokat nem. Emiatt a címke könnyen a „hamis” vagy a „ne bízz benne” rövidítésévé válhat. A kutatók szerint az emberek felismerhetik, hogy egy tartalom AI-generált, mégsem feltétlenül cselekszenek ennek alapján, vagy egyszerűen tovább görgetnek. Így az átláthatóságra szánt intézkedés automatikus elutasítást is kiválthat.

A probléma az írott kommunikáció esetében is jelentős. AI-eszközök segíthetnek diszlexiával élő, vak, kisebbségi nyelvet beszélő vagy más kommunikációs akadállyal szembesülő embereknek a fordításban, szerkesztésben és a szöveg felépítésében. A kutatók fontos különbséget látnak az AI fordítási vagy akadálymentesítési eszközként való használata és egy teljes kommunikáció létrehozása között. Egyetlen „AI-generált” címke ezt a különbséget nem feltétlenül mutatja meg.

A címke csak egy átfogóbb rendszer része lehet

Az AI használatára vonatkozó információ a platformok döntéseit is befolyásolhatja. A szolgáltatók ezt a jelet felhasználhatják annak meghatározására, hogy egy tartalom mit kapjon ajánlásként, mit népszerűsítsenek, illetve mit jelöljenek meg. Ez a kutatók szerint aránytalanul érintheti azokat, akiknek a tartalma eleve könnyen félreérthető vagy marginalizált, továbbá azokat, akik fordításra, akadálymentesítésre vagy az angoltól eltérő nyelven való kommunikációra használnak AI-t.

Anja Bechmann, az Aarhusi Egyetem professzora szerint a jelenlegi megközelítés még fejlődik. Romániában és Franciaországban három különböző ikonváltozatot teszteltek. A legjobban teljesítő címke 22 százalékponttal növelte annak felismerését, hogy a tartalom AI-generált, a címke nélküli kontrollcsoporthoz képest. Bechmann szerint a címkézés önmagában nem elég, ehhez szervezeti folyamatokra, technikai szabványokra, médiaműveltségi kezdeményezésekre és ágazatspecifikus megoldásokra is szükség van.

A szakértők ezért olyan jelöléseket sürgetnek, amelyek azt is megmutatják, hogy az AI fordításra, hangmódosításra, képszerkesztésre, anonimizálásra vagy más célra szolgált-e. A beszélgetés fő üzenete szerint az AI jelenléte nem azonos a tartalom ellenőrzésével. A felhasználóknak azt kell megérteniük, mi változott, miért alkalmazták a technológiát, és milyen további információk alapján ítélhetik meg az anyag megbízhatóságát.