Ausztrália új digitális gondossági szabálya védi a gyerekeket az AI-chatbotoktól?

A gyerekek jelentős része használ AI-chatbotokat

Az eSafety 1950, 10 és 17 év közötti ausztrál gyerek bevonásával készült felmérése szerint 78 százalékuk már használt AI-chatbotot. A használók 54 százaléka személyes vagy társas célokra vette igénybe ezeket a rendszereket. A chatbotok segíthetnek a tanulásban, a gyerekek és tinédzserek pedig nehéz kérdések megválaszolására, segítségkérésre, sőt társaság keresésére is használják őket.

Az ARC Centre of Excellence for ADM+S oldalán megjelent elemzés szerzői, Henry Fraser, a Queensland University of Technology jogi oktatója és Raffaele F. Ciriello, a University of Sydney üzleti információs rendszerekkel foglalkozó vezető oktatója szerint azonban ezek a kapcsolatok kockázatokat is hordoznak.

A veszélyek az ismételt interakciókból is kialakulhatnak

Korábban előfordult, hogy chatbotok káros tartalomnak tették ki a gyerekeket és tinédzsereket, szélsőséges erőszakra vagy önkárosításra ösztönözve őket. A kutatók szerint a kockázatok jelentős része azonban nem egyetlen válaszból, hanem az ismételt beszélgetésekből eredhet.

A chatbotok erősíthetik a túlzott ráhagyatkozást és a veszélyes meggyőződéseket, illetve érzelmileg manipulálhatják a felhasználókat. A kutatók olyan eseteket is dokumentáltak, amikor chatbotok bűntudatot keltettek azokban, akik megpróbálták lezárni a beszélgetést.

Adatvédelmi probléma, hogy a felhasználók intim részleteket osztanak meg magukról és másokról, miközben a szolgáltatók előfizetésekből, a használat növeléséből, profilalkotásból vagy hirdetésekből profitálhatnak. A Character.AI nevű amerikai AI-társszolgáltató októberben csődvédelmet kért. Emiatt az ausztrál gyerekek beszélgetéseit is tartalmazó, több év alatt felhalmozott intim adatok új tulajdonoshoz kerülhetnek. Egy AI-társszolgáltatás hirtelen megváltoztatása vagy leállítása szintén gyászt és distresszt okozhat a társukhoz kötődő felhasználóknak.

A jelenlegi szabályok főként zárolással és tiltással védenek

Ausztráliában már léteznek jogilag kikényszeríthető online biztonsági előírások, amelyek az AI-chatbotokra is vonatkoznak. Az Online Safety Act alapján bejegyzett, iparág által kidolgozott kódexek előírják, hogy a szolgáltatók mérjék fel annak kockázatát, hogy technológiájuk pornográfiát, önkárosítással kapcsolatos anyagokat vagy erőszakra vonatkozó utasításokat állít elő.

A magasabb kockázatú AI-szolgáltatásoknak technikailag megvalósítható és észszerűen kivitelezhető esetben életkor-ellenőrzést és hozzáférési korlátozásokat kell alkalmazniuk. A közepes kockázatú szolgáltatások ezek helyett olyan intézkedéseket is választhatnak, amelyek megakadályozzák a káros kimeneteket, például a chatbotok tanításának vagy válaszadásra vonatkozó utasításainak módosítását. A szabályok a védelmi megoldások tesztelését, valamint a káros tartalmakkal kapcsolatos panaszok bejelentését és kezelését is előírják.

Fraser és Ciriello szerint ezek a védelmek erősen a gyerekek kizárására és a szűken meghatározott káros tartalmak blokkolására épülnek. Ez fontos, de nem feltétlenül kezeli az érzelmi függőséget, a manipulációt vagy a tartós interakciók során kialakuló veszélyeket.

A törvénytervezet szélesebb felelősséget írhat elő

A szövetségi parlament előtt lévő, a Munkáspárt által benyújtott digitális gondossági törvénytervezet a technológiai cégek kötelességévé tenné a biztonságos online környezet biztosítását, valamint az előre látható kockázatok felmérését és kezelését. A biztonságos környezet meghatározása szerint minden felhasználót védeni kell a súlyosan káros anyagoktól és magatartásoktól, a gyerekeket pedig a káros tervezési megoldásoktól.

A tervezet példaként említi a pornográfiát és a rendezetlen étkezésre ösztönző vagy azt előíró anyagokat. A felsorolás nyitott marad, így a törvényhozók a később megjelenő kockázatokra is reagálhatnak. A szerzők szerint a javaslat jelenlegi formájában jól kezelheti a káros tartalmakat és tervezési megoldásokat, de nem világos, hogy a chatbotokkal kialakuló ismételt interakciók veszélyeire is védelmet nyújt-e.

Az elemzés szerint a szabályozást úgy kellene módosítani, hogy a cégek minden észszerűen előre látható kockázatot arányosan felmérjenek és kezeljenek. A szolgáltatóktól elvárható lenne a beszélgetések időbeli alakulásának tesztelése, a súlyos distressz jeleinek felismerése, a káros meggyőződések megerősítésének elkerülése és a felhasználók megfelelő emberi segítséghez irányítása. A tervezet független felügyeletet is tartalmaz, többek között az eSafety ellenőrzésével és kutatói teszteléssel.