Az ausztrálok bizalmatlanok a be nem jelentett Voice AI-jal szemben

A résztvevők megtévesztve érezték magukat

Az ARC Centre of Excellence for Automated Decision-Making & Society, röviden ADM+S, How do everyday Australians feel about Voice AI? című jelentése egy 61 résztvevővel végzett pilotfelmérés eredményeit mutatja be. A kutatás azt vizsgálta, hogyan találkoznak az ausztrálok a hangalapú mesterséges intelligenciával a médiában, mit gondolnak róla, és milyen kérdéseket tartanak fontosnak.

A jelentés szerint a Voice AI-val kapcsolatos attitűdök többnyire negatívak voltak. Több résztvevő úgy fogalmazott, hogy „csalódott és becsapottnak” érezte magát, miután rájött, hogy mesterséges intelligenciával létrehozott hanggal találkozott. A kutatók különösen azokat a helyzeteket emelték ki, amelyekben egy generatív rendszer valós embereket vagy eseményeket jeleníthet meg megtévesztő módon.

A felmérés nem tekinthető az ausztrál lakosságra nézve reprezentatívnak. Dr Phoebe Matich, a QUT ADM+S-kutatója és a jelentés vezető szerzője szerint azonban a kis léptékű vizsgálat is azt mutatja, hogy a Voice AI megjelenése a hangalapú médiában több, további kutatást igénylő kérdést vet fel.

A hitelesség a tartalom típusától is függ

A résztvevők a hang technikai eredetén túl az identitás, a reprezentáció és a bizalom kérdéseit is fontosnak tartották. Egyikük arra figyelmeztetett, hogy a generatív AI „hatással lehet a társadalmi kohézióra”, mivel olyan meggyőző ábrázolásokat hozhat létre, amelyekben emberek olyasmit mondanak vagy tesznek, amit valójában nem mondtak vagy tettek.

A szintetikus hangok használatával kapcsolatos aggodalmak a fiktív és életmódtartalmaknál is megjelentek, de kisebb mértékben, mint a tényszerű tartalmak esetében. Ez arra utal, hogy a közönség reakcióját erősen befolyásolja a tartalom környezete és az, hogy milyen elvárásokkal fogyasztják azt.

A résztvevők számára a hitelesség nem pusztán azt jelentette, hogy egy hang technikailag valódi-e. Azt is vizsgálták, hogy az adott tartalom jelentőségteljes és megbízható módon jelenít-e meg embereket, tapasztalatokat és érzelmeket. Egyesek szerint az AI „rontotta a média minőségét”, mások pedig azt kérdőjelezték meg, hogy a mesterséges hangok képesek-e átadni az emberi kommunikációhoz kötődő érzelmeket és jelentést.

A kutatók további vizsgálatokat sürgetnek

A kutatás szerint a résztvevők nagyra értékelik az emberi jelenlétet a hangalapú és általában a médiatartalmakban. A jelentés megfogalmazása szerint valódi emberektől szeretnének valódi dolgokat tanulni, hogy eligazodjanak a világban, és emberi kapcsolatot tapasztaljanak meg.

A Voice AI használata ezért a kutatók szerint etikai kérdés is, nem kizárólag gazdasági vagy politikai ügy. A közönség egyes helyzetekben elfogadóbb lehet a szintetikus hangokkal szemben, különösen akkor, ha a használat világosan bejelentett. Nagyobb aggodalmat kelthet viszont, ha a technológiáról nem tájékoztatják a hallgatókat, vagy ha egy eredetileg emberinek gondolt kommunikáció jellegét megváltoztatja.

A jelentés további kutatási irányként a Voice AI terjedésének követését jelöli meg a digitális médiaplatformokon, a különböző hangalapú műfajok, például a podcastok és a zene közönségfogadtatásának vizsgálatát, valamint a mesterséges hangokhoz kapcsolódó érzékszervi és érzelmi reakciók elemzését. A szerzők szerint a Voice AI-hoz kapcsolódó médiaműveltségi megközelítések kidolgozására is szükség lehet. A jelentés alapvető kérdése szerint egyre fontosabb tudni, ki vagy mi áll egy hang mögött.