Az OpenAI támogatja a kaliforniai fiatalok AI-biztonságáról szóló törvényjavaslatot

Kaliforniai szabályozást sürget az OpenAI

Az OpenAI Ann O’Leary, a vállalat globális politikáért felelős alelnöke által jegyzett közleményben állt ki a California Senate Bill 1119 mellett. A cég szerint szövetségi szintű intézkedés hiányában Kaliforniának lehetősége van erős mércét felállítani a fiatalok AI-biztonságában.

Az OpenAI közölte, hogy levélben méltatta Gavin Newsom kormányzót, valamint Steve Padilla szenátort, Buffy Wicks és Rebecca Bauer-Kahan képviselőket és a kaliforniai törvényhozást a témában végzett munkájukért. A vállalat arra bátorítja Newsom kormányzót, hogy írja alá a törvényjavaslatot.

A közlemény szerint az SB 1119 azokra a fiatalokat védő intézkedésekre épít, amelyeket az OpenAI termékeiben, globális szakpolitikai elveiben, kaliforniai érdekképviseleti munkájában és a Parents & Kids Safe AI Acttel kapcsolatos tevékenységében támogatott.

Automatikus védelem a 13 és 17 év közötti felhasználóknak

Az OpenAI szerint a tizenévesek az első generáció, amely AI-val nő fel. A vállalat azt állítja, hogy a ChatGPT-t használó tizenévesek közül egy adott héten csaknem tízből kilenc tanulásra, információszerzésre, készségfejlesztésre vagy produktivitási célokra fordul a szolgáltatáshoz.

A cég nemcsak hozzáférést, hanem a fiatalok fejlődési igényeihez igazított alapértelmezett védelmet tart szükségesnek. Ennek példájaként említi az újonnan elindított ChatGPT for Teens szolgáltatást, amelyet a 18 év alatti felhasználók tanulásának, kritikus gondolkodásának és alkotásának támogatására terveztek, beépített védelmi funkciókkal és további szülői kontrollokkal.

Az OpenAI közlése szerint ha a rendszere úgy becsüli, hogy valaki 18 év alatti, vagy a felhasználó 13 és 17 év közötti életkort ad meg, automatikusan a ChatGPT for Teens környezetbe kerül. A cég hangsúlyozza, hogy ezek a védelmi elemek az alapélmény részei, nem kikapcsolható opcionális beállítások.

Mit írna elő az SB 1119?

Az OpenAI szerint az SB 1119 erős védelmi szabályokat kapcsolna össze azzal, hogy a fiatalok továbbra is hozzáférjenek hasznos AI-eszközökhöz. A vállalat külön kiemelte a javaslat több követelményét.

• A szolgáltatóknak meg kellene határozniuk a felhasználó életkorát.
• A termék fiatalok számára való elérhetővé tétele előtt azonosítani és kezelni kellene a biztonsági kockázatokat.
• Független auditokra lenne szükség.
• Védeni kellene a fiatalokat a káros tartalmaktól, köztük az önsértéssel, a szexuálisan kizsákmányoló tartalmakkal és más magas kockázatú interakciókkal szemben.
• A szülőknek eszközöket kellene adni a gyermekek használatának irányítására és korlátozására.
• Súlyos biztonsági kockázatok esetén a fiatalokat krízistámogató erőforrásokhoz kellene kapcsolni.
• Korlátozni kellene a célzott hirdetéseket és védeni kellene a fiatalok személyes adatait.

A közlemény szerint a 13 és 17 év közötti felhasználók esetében ezeknek a védelmeknek automatikusan kellene érvényesülniük. Az OpenAI azt is kiemeli, hogy a javaslat az AI-t nem közösségi médiaként kezeli, hanem a tanulásra, alkotásra és felfedezésre használt eszközökhöz igazított szabályokat állítana fel.

Tanulási funkciók és a memória szerepe

A ChatGPT for Teens az OpenAI szerint több, kifejezetten tizenévesek tanulását segítő funkciót tartalmaz. Ilyen a Quizzes, a Learning Visualizations és a Study mode. A cég közlése alapján ezeket pedagógusokkal és tanulási szakértőkkel fejlesztették, hogy lépésről lépésre vezessék a diákokat a feladatok megoldásában.

Az OpenAI a korábbi beszélgetésekből származó kontextust, köztük a memóriafunkciót is fontosnak tartja. A közlemény szerint ezek a funkciók segíthetnek a védelmi szabályok következetesebb alkalmazásában, az aggasztó mintázatok felismerésében, valamint abban, hogy a rendszer idővel hasznosabb tanulási támogatást adjon.

A vállalat azt írja, hogy a memória lehetővé teheti releváns információk és preferenciák továbbvitelét korábbi beszélgetésekből, így a tizenévesek hosszabb tanulási projekteket is folytathatnak anélkül, hogy elölről kellene kezdeniük. A cég szerint ez a folytonosság segíthet elkerülni káros mintázatok megerősítését, és támogathatja a hatékonyabb válaszokat, ha egy fiatalnak további segítségre vagy erőforrásokra van szüksége.

Mit jelenthet ez a felhasználóknak és a piacnak?

Az OpenAI szerint a javaslat olyan keretet adna Kaliforniában, amely egyszerre ír elő elszámoltathatóságot és automatikus védelmet a fiatalok AI-használatához. A cég az elmúlt évben szülői felügyeleti eszközöket, életkorbecslést, Teen Safety Blueprintet, valamint Under-18 Principles elveket adott hozzá a Model Spechez, vagyis azokhoz a szabályokhoz, amelyek meghatározzák, hogyan kellene a modelljeinek viselkedniük.

A közlemény szerint ezek az elvek tiltják a romantikus bevonódást, az érzelmi függés bátorítását, valamint azt, hogy a ChatGPT embernek vagy érző lénynek állítsa magát. Az OpenAI azt is közölte, hogy szülői kontrollokat kínál, amelyekkel a családok kezelhetik a tizenévesek fontos beállításait, és magas kockázatú helyzetekben értesítéseket kaphatnak.

A felhasználók szempontjából a javaslat az OpenAI értelmezésében azt jelentené, hogy a tizenévesek AI-használata több automatikus korláthoz, szülői eszközhöz és biztonsági eljáráshoz kötődne, miközben megmaradnának a tanulási és biztonsági szempontból fontos funkciók. A cég szerint a végrehajtás során további vizsgálat és együttműködés segíthet abban, hogy a keret a technológia változásával is hatékony maradjon.