A Microsoft keretrendszert mutatott be a fiatalok biztonságos AI-használatához
A Microsoft Safe Participation Framework néven olyan megközelítést tett közzé, amely a fiatalok biztonságos, adatvédelmet tiszteletben tartó és életkorukhoz igazított online, illetve AI-élményeire összpontosít. A vállalat szerint a védelemnek és a technológiai lehetőségekhez való hozzáférésnek együtt kell járnia.
- A Microsoft hárompillérű Safe Participation Frameworköt mutatott be.
- A megközelítés a biztonságos tervezést, az életkorhoz igazított élményeket és a digitális oktatást kapcsolja össze.
- A Copilot használatához be kell jelentkezni, a hozzáférés 13 év alatt korlátozott.
- A Windows Age API adatvédelmet támogató életkori jelzéseket kínálhat a fejlesztőknek.
- A Microsoft ősszel több kontinensre kiterjeszti a biztonságos AI-használatról szóló oktatási anyagait.
Három pillérre épül a Microsoft megközelítése
A Microsoft szeptember 10-én ismertette Safe Participation Framework nevű keretrendszerét. A vállalat ezt jelenlegi munkájának alapjaként mutatja be, és hangsúlyozza, hogy az a technológia, a kutatások és a társadalmi elvárások változásával tovább fog fejlődni.
A keretrendszer három fő területet jelöl ki. Az első a biztonság beépítése a tervezésbe, a második az életkor szerint eltérő élmények és védelmi intézkedések kialakítása, a harmadik pedig az oktatás és a felhasználók felhatalmazása. A Microsoft szerint a cél, hogy a gyerekek és a tizenévesek megfelelő digitális környezetekben magabiztosan vehessenek részt, miközben hozzáférhetnek az oktatási, társadalmi és gazdasági lehetőségekhez.
A vállalat elismeri, hogy nem rendelkezik minden válasszal. A keretrendszer közzétételével saját megközelítését és tapasztalatait szeretné megosztani, hogy hozzájáruljon a készülő szabályozási keretekhez, valamint a védelem és a lehetőségek együttes fejlesztéséhez.
Biztonsági intézkedések a termékekben és az AI-szolgáltatásokban
A Microsoft biztonságközpontú tervezése során előre felmérik az előre látható kockázatokat, vizsgálják a termékfunkciók és felhasználói élmények hatásait, majd arányos védelmi intézkedéseket vezetnek be. A vállalat több mint egy évtizede fejleszt online védelmi technológiákat. A közlemény a 2009-ben elindított PhotoDNA-t, valamint a mesterséges intelligenciával kapcsolatos védelmi megoldásokat is említi.
A Microsoft szerint a Bing generatív AI-élményeiben megerősítették a gyermekek szexuális kizsákmányolását ábrázoló anyagokkal szembeni védelmet. A SafeSearch szolgáltatást világszerte kibővítették további káros tartalomkategóriákkal, hogy csökkentsék az ilyen anyagoknak való kitettség kockázatát.
A vállalat a Windows Family Safety korábban bejelentett új védelmi beállításait és alapértelmezéseit is a keretrendszer részeként említi. Ezek a gyerekeket, a tizenéveseket és a családokat célozzák. A Microsoft szerint az egyszerűbb, könnyebben használható eszközökre azért van szükség, mert a családok ilyen megoldásokat várnak.
Életkorhoz igazított Copilot és adatvédelmi korlátok
A Microsoft szerint a fiatalok nem alkotnak egységes csoportot, mivel szükségleteik és képességeik az életkorral, a fejlődéssel és a helyzettel együtt változnak. Az Xboxon ezért családi biztonsági és adatvédelmi eszközök segítik az online interakciók, a tartalmakhoz való hozzáférés, a költések, a képernyőidő és az adatvédelmi beállítások kezelését. A vállalat ezekből a tapasztalatokból a Copilot fejlesztésekor is felhasznál.
A Copilot használatához most minden felhasználónak be kell jelentkeznie, a hozzáférés pedig a 13 év alatti gyerekek számára korlátozott, illetve azokban a régiókban is, ahol a helyi jogszabály magasabb korhatárt ír elő. A Microsoft intézkedéseket vezetett be a káros tartalmaknak való kitettség csökkentésére, önsértési kockázat észlelésekor válságkezelési forrásokhoz irányítja a felhasználókat, továbbá átláthatósági funkciókat, szünetekre emlékeztető jelzéseket, jelentési eszközöket és a téveszmés kimenetek elleni korlátokat alkalmaz.
A Windows Age API, a kibővített életkor-ellenőrzési képességek és a fejlettebb családi biztonsági eszközök a fejlesztők számára megbízható, adatvédelmet támogató életkori jelzéseket adhatnak. A Microsoft szerint ezek célja, hogy kevesebb személyes adat gyűjtésével és megosztásával segítsék az életkorhoz igazított védelmet.
Oktatás, visszajelzés és együttműködés
A Microsoft szerint a technológia önmagában nem elég a biztonságos részvételhez. A fiataloknak és családjaiknak közvetlen visszajelzési lehetőségekre, valamint olyan eszközökre és ismeretekre van szükségük, amelyek segítenek értékelni az online élményeket és felismerni, mikor kell segítséget kérni. A vállalat ezért a digitális jártasságot a gyermekbiztonság egyik alapvető elemének tekinti.
A Microsoft az év elején elindította a Behind the Chat: A Human Guide to Safe AI Conversations című anyagot. A fiataloknak szánt útmutató az AI-alapú társalgási rendszerek lehetőségeit és kockázatait mutatja be, tanórai anyagokkal, valamint szülőknek és más megbízható felnőtteknek szóló tartalmakkal kiegészítve. A vállalat ősszel Európában, Ázsiában és Amerikában is bővíteni tervezi ezeket az erőforrásokat.
A következő évben a Microsoft kutatókkal, AI Safety Institutes intézetekkel, kormányokkal és civil szervezetekkel dolgozna együtt a biztonságosabb digitális és AI-élményekhez szükséges kutatások, értékelések és mérési viszonyítási pontok fejlesztésén. A vállalat szerint a fiatalok védelme és a technológiai részvétel lehetősége csak kormányzati, iparági, oktatási, civil és családi együttműködéssel erősíthető.
Microsoft: A framework for safe participation with AI for the next generation
