Ausztrália kikapcsolható algoritmust ígér, a kutatók szerint ez tévút

A kormány a „My Feed, My Way” lehetőséget hangsúlyozza

Az ausztrál kormány szeptember 8-án hozta nyilvánosságra a Digital Duty of Care, vagyis a digitális gondoskodási kötelezettség tervezetének társadalmi egyeztetésre szánt változatát. A javaslat előírná az online szolgáltatásoknak, hogy előre azonosítsák a várható károkat, majd tegyenek ésszerű lépéseket azok mérséklésére. A reform különösen a gyermekek online veszélyekkel szembeni védelmét szolgálná.

A tervezet úgynevezett felhasználói önrendelkezési eszközöket is előírna, ezek pontos formáját azonban még nem határozták meg. A kormány kommunikációjában és az erről szóló médiabeszámolókban mégis egy könnyen érthető elem került előtérbe, a „My Feed, My Way” koncepciója.

Ennek alapján a 16 évesnél idősebb felhasználók választhatnának, hogy elsődleges közösségimédia-hírfolyamuk továbbra is algoritmikusan ajánlott tartalmakat jelenítsen meg, vagy csak az általuk követett fiókok bejegyzéseit mutassa időrendi, illetve fordított időrendi sorrendben. A szerzők szerint a felhasználói kontroll bővítése szükséges, de az egyszerű be- és kikapcsolóként bemutatott megoldás nem fedi le a probléma teljes körét.

Nincs egyetlen algoritmus, amelyet ki lehetne kapcsolni

Daniel Angus, Jean Burgess és Amanda Third, az ARC Centre of Excellence for ADM+S szerzői szerint „az algoritmus” a platformok hatalmának és tartalomválogatásának gyűjtőfogalmává vált. A káros ajánlásokat, a ragadozó jellegű hirdetéseket, a függőséget erősítő dizájnt, a politikai polarizációt és a tartalomkészítők láthatóságát gyakran mind ugyanennek tulajdonítják.

A szerzők állítása szerint azonban nincs egyetlen algoritmus, amelyet egyszerűen be vagy ki lehetne kapcsolni. Az algoritmusokat és gépi tanulási rendszereket számos feladatra használják: tartalomajánlásra, keresési találatok rangsorolására, hirdetések célzására, spam felismerésére, moderálásra és biztonsági folyamatokra. A platformoknak akkor is dönteniük kellene arról, milyen tartalom jelenhet meg, mit távolítanak el vagy sorolnak hátrébb, illetve milyen sorrendben mutatják az anyagokat, ha a személyre szabott ajánlás megszűnne.

A kérdés ezért az, hogy ezek a rendszerek mit próbálnak optimalizálni, milyen jeleket vesznek figyelembe, kinek az érdekeit szolgálják, és milyen hatásokat eredményeznek nagy léptékben. Az ajánlórendszereknek a szerzők szerint nem szükségszerűen a hirdetési bevételt vagy a képernyő előtt töltött időt kell előnyben részesíteniük.

Az időrendi hírfolyam sem teljesen algoritmusmentes

A kutatók szerint az időrendi vagy kizárólag a követett fiókok bejegyzéseit megjelenítő hírfolyam sem jelenti az algoritmikus közvetítés teljes hiányát. Egy ilyen rendszernek is szabályokat kell alkalmaznia arról, mi kerüljön be, mi maradjon ki, és milyen sorrendben jelenjen meg a nagy mennyiségű elérhető tartalom.

A felhasználók jelenleg több platformon is módosíthatják, kikapcsolhatják vagy törölhetik a hírfolyamukat alakító beállításokat, de ezek az eszközök gyakran nehezen megtalálhatók, használhatók vagy értelmezhetők. A szerzők szerint a választási lehetőségnek nem kellene két, előre meghatározott mód közötti döntésre korlátozódnia. A hírfolyam például előnyben részesíthetné a legkedveltebb fiókokat, vagy lehetővé tehetné, hogy a felhasználók különösen értékesnek tartott forrásokat jelöljenek meg.

A forrás a Bluesky „hírfolyamok piactere” elképzelését is említi. Ezen a modellen a felhasználók saját, válogatott hírfolyamokat tervezhetnek és oszthatnak meg a közösséggel.

A káros tartalom az ajánlás előtt is létezik

Az ajánlások kikapcsolása önmagában azért sem oldja meg a problémát, mert a tartalomnak előbb elérhetőnek kell lennie ahhoz, hogy a rendszer ajánlhassa. Ez különösen fontos az ausztrál közösségimédia-korlátozások mellett. A fiókkal nem rendelkező fiatalok kijelentkezett állapotban továbbra is hozzáférhetnek a kijelölt platformokhoz.

Ilyenkor a rendszer kevés információval rendelkezik a felhasználóról, ezért azt kell eldöntenie, mit mutasson neki. Ha a nőgyűlölő vagy erőszakos tartalom már akkor is könnyen elérhető, amikor a platform még alig tud valamit a látogatóról, a személyre szabás eltávolítása nem szünteti meg az alapvető gondot.

A szerzők szerint maga a Digital Duty of Care ennél szélesebb megközelítést alkalmaz. A tervezet nemcsak az ajánlórendszerekkel foglalkozna, hanem a szolgáltatás által elérhetővé tett anyagokkal, a felhasználók találkozását meghatározó dizájnelemekkel, valamint a károkhoz vezető tágabb rendszerekkel és folyamatokkal is. A kutatók szerint ez azért fontos, mert a károk felismeréséhez és mérsékléséhez a platformoknak fejlett algoritmikus rendszerekre is szükségük van, például a spam, a visszaélések, az összehangolt káros tevékenység vagy az ismételt kockázatos tartalomkitettség azonosításához.