Ausztrália kikapcsolható algoritmust ígér, de a kutatók szerint ez félrevezető

A kormány az ajánlott hírfolyamokról adna választási lehetőséget

Az ausztrál kormány szeptember 8-án hozta nyilvánosságra a tervezett Digital Duty of Care, vagyis digitális gondoskodási kötelezettség jogszabálytervezetét. A javaslat arra kötelezné az online szolgáltatásokat, hogy előre azonosítsák az előre látható károkozási kockázatokat, és tegyenek ésszerű lépéseket ezek mérséklésére. A kezdeményezés különösen a gyermekek online védelmét szolgálná.

A tervezet úgynevezett felhasználói önrendelkezési eszközöket is előírna, ezek pontos formáját azonban még nem határozták meg. A kormány kommunikációjában és a sajtóban ennek egyik eleme, a „My Feed, My Way” vált központi témává. Ennek alapján a 16 éves vagy annál idősebb felhasználók választhatnának az algoritmikusan ajánlott elsődleges hírfolyam, illetve egy olyan nézet között, amely csak az általuk követett fiókok tartalmait jeleníti meg időrendi vagy fordított időrendi sorrendben.

A szerzők szerint nagyobb és érthetőbb felhasználói kontrollra valóban szükség van. Ugyanakkor a „kapcsoljuk ki az algoritmust” üzenet elrejti, hogy az ajánlórendszerek csak egy részét jelentik a platformok működésének.

Az algoritmus nem egyetlen kapcsoló

Daniel Angus, Jean Burgess és Amanda Third, az ARC Centre of Excellence for ADM+S szerzői szerint nincs egyetlen algoritmus, amelyet egyszerűen be vagy ki lehetne kapcsolni. Az algoritmusokat használó, adatokra épülő gépi tanulási rendszerek számos digitális szolgáltatás alapját adják. Ezek válogatják és rendezik a zenéket, filmeket, embereket, termékeket és információkat, emellett a platformok moderálásra, keresési találatok rangsorolására, hirdetések célzására és a kéretlen tevékenység felismerésére is használják őket.

A platformoknak akkor is dönteniük kellene arról, mely tartalmak jelenhetnek meg, melyeket távolítanak el vagy sorolnak hátrébb, hogyan észlelik a levélszemetet, illetve hová kerülnek a hirdetések, ha a személyre szabott ajánlást kikapcsolnák. Ezért a szerzők szerint a fő kérdés nem az algoritmikus ajánlás puszta léte, hanem az, hogy a rendszereket mire optimalizálják, milyen jeleket értékelnek, kinek az érdekeit szolgálják, és milyen hatásokat okoznak nagy léptékben.

A YouTube példáját is említik. A szolgáltató nemzetközi szakértőkkel dolgozott együtt azon, hogy a kiskorúak fiókjainál a jóllétet támogató szempontokat építsen be az ajánlórendszer módosításaiba. A platform minőségi elvekkel és védelmi intézkedésekkel igyekszik hátrébb sorolni, illetve ritkábban megjeleníteni azokat az alacsony minőségű tartalmakat, amelyek nagy mennyiségben károsak lehetnek a gyermekek számára.

Az időrendi hírfolyam sem mentes a szabályoktól

A kizárólag követett fiókok tartalmait vagy időrendben megjelenítő hírfolyam sem szünteti meg az algoritmikus közvetítést. Egy ilyen nézetben is szabályok határozzák meg, mi kerüljön be, mi maradjon ki, és milyen sorrendben jelenjenek meg a tartalmak egy nagyobb kínálatból.

A szerzők szerint a két, platform által meghatározott mód közötti választás csak korlátozott önrendelkezést ad. Több lehetőség is elképzelhető lenne, például a felhasználók által leginkább kedvelt fiókok előnyben részesítése, különösen fontosnak jelölt források kiemelése, vagy annak átláthatóbbá tétele, hogy milyen célok alapján rangsorolja a platform a tartalmakat. A Bluesky ennél tovább megy a „hírfolyamok piacterének” koncepciójával, ahol a felhasználók saját, megosztható válogatásokat állíthatnak össze.

A kutatók arra is felhívják a figyelmet, hogy a káros tartalom már az ajánlás előtt létezik. A közösségi média korhatárkorlátozásai mellett a fiók nélküli, kijelentkezett felhasználók továbbra is elérhetnek bizonyos platformokat. Ha egy rendszer alig tud valamit a felhasználóról, úgynevezett hideg indulási helyzettel találkozik, és gyorsan gyenge minőségű vagy káros anyagokat mutathat. A személyre szabás megszüntetése önmagában nem oldja meg, ha a platform kínálatában eleve könnyen elérhetőek például nőgyűlölő vagy erőszakos tartalmak.

A Digital Duty of Care tervezete a szerzők szerint éppen ezért szélesebb megközelítést alkalmaz. A tartalmak mellett a szolgáltatások kialakítását, a felhasználói találkozási pontokat, valamint a károkozási kockázatokat létrehozó rendszereket és folyamatokat is vizsgálná. Ez a megközelítés összetettebb annál, mint amit az algoritmus ki- és bekapcsolásáról szóló nyilvános vita sugall.