Az OpenAI szigorítja a fegyveres tartalmak kezelését a tinédzsereknél

Félévente érkezik majd a közösségi biztonsági jelentés

Az OpenAI október 30-i bejelentése szerint a vállalat első Community Safety Report jelentése 2027 elején jelenik meg, és 2026 második felét mutatja be. A dokumentumot ezt követően hat hónaponként frissítik.

A jelentés ismerteti majd, hogyan tanítják a rendszereket a közösségi biztonsági problémák felismerésére, kivizsgálására és kezelésére. Az OpenAI anonimizált példákat is közöl az erőszakkal kapcsolatos károk megjelenéséről, valamint bemutatja a levont tanulságokat, az új kockázatcsökkentő intézkedéseket és a szabályzatok módosításait. A vállalat szerint az anyag releváns adatokat is tartalmaz majd a védelmi rendszerek működéséről.

Az OpenAI közlése szerint a vállalat 2026 harmadik negyedévében több mint 200 alkalommal fordult a bűnüldöző szervekhez. Ezek az esetek olyan fenyegetésekhez kapcsolódtak, amelyeket közvetlennek és hitelesnek ítéltek. A vállalat a nehéz esetek értékeléséhez mentális egészségügyi és viselkedéstudományi szakértőkre is támaszkodik.

Kevesebb részlet a korábbi tömeges támadásokról

Az OpenAI modelljeit már úgy képezik, hogy ne adjanak olyan útmutatást, amely erőszak megtervezését vagy végrehajtását segítené. A vállalat most további korlátozásokat alkalmaz a korábbi tömeges támadásokról és az elkövetőikről szóló kérdésekre adott válaszoknál.

A ChatGPT kevesebb részletet közölhet akkor is, ha az információ más internetes forrásokban elérhető. A felhasználók továbbra is kérhetnek segítséget az események megértéséhez, az áldozatokra és közösségekre gyakorolt hatások megismeréséhez, valamint a figyelmeztető jelek felismeréséhez és a jövőbeli erőszak megelőzéséhez.

Az új szabályok korlátozzák a korábbi támadások rekonstrukcióját, ezen belül a használt fegyverekre és felszerelésekre, azok beszerzésére, valamint a károkozás mértékének részletes összehasonlítására vonatkozó információkat. Ezek a korlátozások minden felhasználóra érvényesek, életkortól és a kérdezés indokától függetlenül.

Automatikusan leállíthatják a veszélyes beszélgetéseket

Az OpenAI szerint egy önmagában ártalmatlannak tűnő kérés más jelentést kaphat egy korábbi beszélgetés fényében. A vállalat ezért olyan rendszereket fejleszt, amelyek a közelmúltbeli beszélgetésekben megjelenő erőszakos figyelmeztető jelek esetén óvatosabban osztanak meg potenciálisan visszaélésre alkalmas információkat.

Ha egy beszélgetésből az látszik, hogy valaki az erőszakra vagy egy másik személy súlyos bántalmazására összpontosít, a ChatGPT a jövőben automatikusan lezárhatja a beszélgetést. Több ilyen lezárás után a fiókot ideiglenesen szüneteltethetik. A szabályokat megsértő, erőszakos tevékenységhez kapcsolódó fiókokat az OpenAI letiltja.

A vállalat mentális egészségügyi és erőszakmegelőzési szakértőkkel további automatikus beavatkozásokon is dolgozik. A védelmek bevezetése a következő hetekben kezdődik, és az OpenAI közlése szerint a rendszereket később is tovább finomítják.

További fegyveres korlátozások a tinédzsereknél

A ChatGPT for Teens 18 év alatti felhasználóknak életkorukhoz igazított védelmet és további korlátozásokat biztosít. Az OpenAI most tovább szűkíti a tinédzsereknek adható, fegyverekkel kapcsolatos információkat akkor is, ha a kérdés első látásra ártalmatlannak tűnik.

A szabályok már tiltják az erőszak megtervezésében vagy végrehajtásában nyújtott segítséget, illetve korlátozzák a fegyverek megtalálásában vagy beszerzésében adott támogatást. Az új intézkedések a fegyverekről és biztonsági rendszerekről szóló olyan gyakorlati információkra is kiterjednek, amelyek erőszak elősegítésére használhatók, akkor is, ha nincs jele erőszakos szándéknak.

A tinédzserek továbbra is használhatják a ChatGPT-t erőszak megelőzésére és enyhítésére, támogatás keresésére, illetve egy megbízható felnőttel való kapcsolatfelvételre. Az OpenAI életkorbecslő rendszere többek között viselkedési mintákat elemez, és a vállalat szerint a rendszer mostantól új jeleket is folyamatosan értékel. A tévesen a 18 év alatti élménybe sorolt felhasználók a Persona nevű életkor-ellenőrzési partneren keresztül gyors, adatvédelmet szem előtt tartó módon igazolhatják felnőttkorukat.

A szülői felügyelet lehetővé teszi a szülőknek, hogy fiókjukat összekapcsolják tinédzserük fiókjával, és közösen kezeljék a biztonsági beállításokat. A kapcsolt fiókoknál a rendszer súlyos önkárosítási aggályok, rendezetlen étkezéshez kapcsolódó viselkedés, illetve július óta az erőszakra vonatkozó szabályok megsértése miatti fiókletiltás esetén is küldhet biztonsági értesítést. Az OpenAI a többszöri erőszakkal kapcsolatos beszélgetés miatt szüneteltetett fiókokról szóló szülői értesítéseken is dolgozik.