Az OpenAI az APA-val dolgozik a fiatalok felelős AI-használatán

Pszichológiai tudásra építené a fiataloknak szánt AI-védelmeket az OpenAI

Az OpenAI szerint a fiatalok már ma is használnak AI-t tanulásra, alkotásra, kérdések feltevésére és tanácskérésre. A vállalat közlése szerint ahogy ez a használat terjed, a családoknak, iskoláknak, klinikusoknak és közösségeknek világosabb bizonyítékokra, jobb erőforrásokra és erősebb védelmi megoldásokra van szükségük.

Ennek részeként az OpenAI az American Psychological Associationnel, röviden APA-val dolgozik együtt. A forrás szerint az APA az Egyesült Államok vezető tudományos és szakmai pszichológiai szervezete, amelynek bizonyítékokon alapuló munkája segíthet tisztázni, mi ismert, mi bizonytalan, és hogyan nézhet ki a felelős AI, ahogy a technológia fejlődik.

Dr. Sara Johansen, az OpenAI mentális egészséggel és jólléttel foglalkozó termékpolitikai vezetője a közlemény szerint úgy fogalmazott: „A technológia része a tinédzserek életének, és a mi felelősségünk, hogy ezt a valóságot biztonságos, életkornak megfelelő, a családokat szem előtt tartó élményekkel kezeljük. Az AI-nak erősítenie kell, nem helyettesítenie azokat a valós kapcsolataikat és gondoskodást, amelyekre a fiatalok támaszkodnak.”

Családoknak, iskoláknak és szakembereknek készülnek útmutatók

Az OpenAI közlése szerint az év korábbi részében az APA-val közösen olyan egyeztetést tartottak, amelyen mentális egészséggel foglalkozó szervezetek vezetői, kutatók, klinikusok, oktatók és fiatalok képviselői vettek részt. A megbeszélések arról szóltak, hol vannak ma támogatási hiányok a fiatalok körül, és az AI hol segíthet felelősen információhoz vagy valós támogatáshoz kapcsolódni.

A tervezett munka több területet érint. Ide tartozik, hogyan támogathatja az AI a fiatalokat nehéz lelki helyzetekben, hogyan lehet fejlesztésében életkori szempontból megfelelőbb és hasznosabb, valamint hogyan kaphatnak a szülők, gondviselők és klinikusok jobb eszközöket a fiatalok AI-használatának kíséréséhez.

Az egyik korai fókusz a szülőknek és gondviselőknek szánt gyakorlati segítség. Az OpenAI az APA-val olyan, családoknak szóló anyagokat tervez kidolgozni, amelyek támogatják az egészséges használatot, segítenek felismerni, mikor lehet szükség felnőtt beavatkozására, és megerősítik, hogy az AI eszköz, nem az emberek vagy a gondoskodás helyettesítője. A vállalat azt írja, hogy ezt az útmutatást széles körben elérhetővé kívánja tenni iskolai közösségekben is.

A szakembereknek szánt munka része klinikusoknak és iskolapszichológusoknak készülő erőforrások fejlesztése. Ezek az egészséges AI-használat előmozdítására, a túlzott ráhagyatkozás felismerésére és az egészségtelen használati minták kezelésére fókuszálnának.

A fiatalok tapasztalatait is bevonnák a fejlesztésbe

Az OpenAI hangsúlyozza, hogy a munkát nem feltételezésekre, hanem azok tapasztalataira akarják alapozni, akik érintettek. A vállalat az APA-val tinédzsereket, családokat, klinikusokat, iskolapszichológusokat és más szereplőket hívna össze, hogy jobban megértsék, hogyan használják a fiatalok az AI-t.

A tervek szerint azt is vizsgálják, hogyan jelennek meg az AI-val kapcsolatos kérdések az iskolákban, a terápiában és a családi környezetben, hol teljesítenek gyengén a jelenlegi rendszerek, és az AI hol segíthet felelősen a hozzáférésben, az oktatásban vagy az eligazodásban.

A vállalat szerint a tágabb munka egészségügyi, oktatási, kutatási, szakpolitikai, technológiai és ifjúsági érdekképviseleti szereplők bevonásával folytatódik. A cél az, hogy a kialakuló tanulságok gyakorlati útmutatókká váljanak a szélesebb szakmai közeg számára.

Mit jelenthet ez a felhasználóknak és a piacnak

A bejelentés a ChatGPT érzékeny helyzetekre adott válaszainak és a fiatalabb felhasználók támogatásának fejlesztéséhez kapcsolódik. Az OpenAI közlése szerint több mint 260 mentális egészségügyi szakértővel dolgozik azon, hogy a ChatGPT jobban felismerje a distressz jeleit, gondoskodóan válaszoljon, és valós támogatás felé irányítsa az embereket.

A vállalat azt is írja, hogy bővítette a lokalizált krízisforrásokhoz és az egykattintásos segélyvonalakhoz való hozzáférést, bevezetett szünetre figyelmeztető emlékeztetőket, valamint további védelmeket adott a fiatalabb felhasználók számára. Ezek között említi a szülői felügyeletet, a szülők értesítését biztonsági aggályok esetén, a 18 év alattiakra vonatkozó elveket a Model Spec dokumentumban, valamint egy életkor-előrejelző modellt, amely a megfelelő élmény és védelmi szint alkalmazását segíti.

A felhasználók számára a partnerség legközvetlenebb jelentősége az lehet, hogy az OpenAI a jövőbeni AI-használati útmutatókat és védelmi megoldásokat pszichológiai bizonyítékokra és érintetti tapasztalatokra kívánja építeni. A közlemény alapján a vállalat azt az irányt képviseli, hogy az AI segíthet információt találni és rendszerekben eligazodni, de a fiatalok jólléte továbbra is erős emberi kapcsolatokon és megbízható támogatáson múlik.