Közös iránymutatást készít az AI és a lelki jóllét kapcsolatáról a PAI

Közös szabvány nélkül kezelik a legérzékenyebb helyzeteket

A Partnership on AI (PAI) október 8-án jelentette be az AI and Psychological Well-Being Working Group létrehozását. A szervezet szerint emberek milliói fordulnak AI-chatbotokhoz információért, társaságért és támogatásért, a legsebezhetőbb pillanataikban is.

A PAI közlése szerint jelenleg nincs olyan közös szabvány, klinikai protokoll vagy szabályozási követelmény, amely meghatározná, miként kell ezeknek a rendszereknek reagálniuk, ha a felhasználó öngyilkosság vagy önsértés kockázatának lehet kitéve. Az új, több szereplőt tömörítő csoport ezért az AI-szektor számára készít nyilvános iránymutatást, és idővel a fejlődésről is beszámol.

„Az emberek a legnehezebb pillanataikat is AI-rendszerek elé tárják, a szektornak pedig meg kell határoznia, mit jelent a bizonyítékokon alapuló válasz”, mondta Rebecca Finlay, a PAI vezérigazgatója. Hozzátette, hogy a munkában klinikusokkal, kutatókkal és krízistanácsadókkal dolgoznak együtt, akik régóta foglalkoznak a biztonságos támogatás kérdésével, valamint az ilyen rendszereket fejlesztő szakemberekkel.

Az első iránymutatás a krízishelyzetekre összpontosít

A munkacsoport első projektje azt vizsgálja, hogyan kellene az általános célú AI-chatbotoknak válaszolniuk azoknak, akiknél felmerülhet az öngyilkosság vagy az önsértés kockázata. A tervezetet a PAI még 2026-ban nyilvános véleményezésre bocsátja, ezt követően készülhet el a végleges iránymutatás, amelyet a szervezetek hivatalosan is elfogadhatnak.

A PAI szerint az öngyilkosság megelőzése olyan terület, ahol széles körű egyetértés alakítható ki. Az itt kidolgozott megközelítés később mintát adhat kevésbé összehangolt kérdésekhez is, például az AI-hoz való érzelmi függődéshez, illetve ahhoz, hogy hol húzódik a határ a támogatás és a túlzott hízelgés között.

A csoport feltérképezi a jelenlegi értékelési módszereket, közös meghatározásokat dolgoz ki annak mérésére, mi számít a pszichológiai jóllét szempontjából, és azonosítja a bezárandó kutatási hiányokat. Emellett nyitott kutatási kérdéseket gyűjt, a finanszírozást a megválaszolásukra legalkalmasabb kezdeményezésekhez kapcsolná, valamint folyamatos mérési folyamatot alakítana ki.

AI-szakemberek és mentális egészségügyi szervezetek együttműködése

A munkacsoportban AI-szakemberek, mentális egészségügyi és öngyilkosság-megelőzési szervezetek, krízistámogató szolgáltatások, klinikusok, egyetemi kutatók, valamint mentális egészségügyi kihívásokat személyesen megtapasztaló emberek vesznek részt. A kezdeményezés a PAI több mint 150 partnerből álló közösségére támaszkodik, amelyhez egyre több mentális egészségügyi szervezet csatlakozik.

A folyamat strukturált egyeztetésre, szakértői hozzájárulásra és nyilvános konzultációra épül. A résztvevők között van az American Foundation for Suicide Prevention is. A szervezet vezető orvosa, Christine Moutier szerint az AI mentális egészségben és az öngyilkosság-megelőzésben betöltött szerepének mélyebb megértésére és támogatására van szükség, miközben bizonyítékokon alapuló útmutatást és oktatást szeretnének nyújtani a közösségeknek, családoknak, tinédzsereknek és munkahelyeknek.

A program a PAI 2027 és 2031 közötti stratégiai tervének AI, Human Connection, and Well-Being nevű kiemelt területéhez kapcsolódik. A kezdeményezést az OpenAI Foundation támogatja egy pályázati támogatással. A PAI független nonprofit szervezetként többféle filantróp és intézményi támogatótól kap finanszírozást, iránymutatásait pedig társadalmi szervezetek, iparági szereplők, kutatók és más szektorok képviselőinek bevonásával alakítja ki.