A Meta értesíti a szülőket, ha tinédzserek önsértésről írnak az AI-nak

Riasztás a szülőknek kockázatos beszélgetéseknél

A Meta július 16-i bejelentése szerint a Meta AI már eddig is válságkezelő segélyvonalakhoz irányította azokat a tinédzsereket, akik öngyilkossági vagy önsértési gondolatokra utaltak, és arra biztatta őket, hogy szóljanak egy szülőnek vagy más megbízható felnőttnek, például tanácsadónak.

Az új rendszer a felügyelő szülőket is proaktívan értesíti, ha a tinédzser Meta AI-jal folytatott beszélgetése a veszélyeztetettség jeleit mutatja. A Meta szakértőkkel és szülőkkel dolgozott azon, hogy meghatározza, mely beszélgetések indokolnak riasztást. Ide tartozhat az is, ha a tinédzser akár csak burkoltan, de egyértelműen utal arra, hogy bántaná magát.

A riasztásokat egy erre a célra fejlesztett mesterségesintelligencia-rendszer jelöli meg, de az értesítés elküldése előtt minden megjelölt beszélgetést manuálisan is átnéznek. Ha a szándék nem egyértelmű, a Meta az óvatosságot választja, és elküldi a riasztást. A vállalat elismeri, hogy emiatt olyan szülők is kaphatnak értesítést, akiknél később nem igazolódik valós veszély.

Elérhetőség és kapcsolat a segélyszolgálatokkal

A szülői értesítések jelenleg az Egyesült Államokban, az Egyesült Királyságban, Ausztráliában és Kanadában érhetők el az Instagram szülői felügyeletét használók számára. A Meta szerint az év végéig világszerte elérhetővé teszi a funkciót a felügyelő szülőknek.

A megoldás kiegészíti azokat a riasztásokat, amelyeket a vállalat már küld, ha egy tinédzser rövid időn belül ismételten öngyilkossággal vagy önsértéssel kapcsolatos kifejezésekre keres az Instagramon.

A Meta egy olyan képességet is fejleszt, amely szükség esetén a sürgősségi szolgálatokat is értesítheti. Ez felnőttekre és tinédzserekre egyaránt vonatkozna, ha a Meta AI-jal folytatott beszélgetés közvetlen öngyilkossági veszélyre utal. A vállalat közlése szerint a Facebookon és az Instagramon már működik hasonló eljárás hiteles öngyilkossági kockázatot jelző bejegyzéseknél. Tavaly több mint 19 000 ilyen jelzést továbbítottak világszerte, hogy a beavatkozók jóléti ellenőrzést végezhessenek a veszélyben lévő embereknél.

Klinikai visszajelzések és szigorúbb tartalmi beállítás

A Meta több szakértői csoporttal, köztük AI-jólléti szakértői tanácsával, öngyilkossággal és önsértéssel foglalkozó tanácsadó csoportjával, valamint ifjúsági tanácsadóival is egyeztetett. Emellett több mint 75, tinédzser-mentális egészségügyre szakosodott klinikus vizsgált meg több száz, érzékeny témájú kérdésre adott AI-választ.

A visszajelzések alapján a Meta úgy módosítja a válaszokat, hogy a rendszer ismerje el a tinédzserek érzéseit, miközben támogatási lehetőségekhez irányítja őket, és ne zárja le túl hirtelen a beszélgetést.

A tinédzserfiókok automatikusan a 13 év felettieknek szánt tartalombeállításba kerülnek, amely a Meta AI-beszélgetésekre is vonatkozik. Ebben a módban a rendszernek életkornak megfelelő válaszokat kell adnia, és nem teljesítheti az érzékeny kéréseket. A Meta példaként a szexuális vagy romantikus beszélgetések elutasítását, valamint alkoholos italok receptjeinek megtagadását említi.

A vállalat októberben jelentette be a szigorúbb, Limited Content beállítást. Ha a szülő ezt választja az Instagramon, a korlátozás a Meta AI-funkciókra is kiterjed, így a rendszer a kérések szélesebb körére nem válaszol. A felhasználók számára ez nagyobb szülői kontrollt, a Meta számára pedig többlépcsős védelmi rendszert jelent a tinédzserek érzékeny AI-beszélgetéseiben.