Országos AI-biztonsági és adatvédelmi iskolai sztenderdet jelentett be az AFT, a UFT és a Microsoft

Jogilag érvényesíthető szabályokat ígérnek az iskolai AI-használatra

Az AFT elnöke, Randi Weingarten, a United Federation of Teachers elnöke, Michael Mulgrew és a Microsoft alelnöke és elnöke, Brad Smith a Microsoft közleménye szerint több hónapnyi intenzív tárgyalás után állapodott meg a National AI Safety & Privacy Standard keretről. A bejelentés indoklása szerint az Egyesült Államokban hiányoznak az érdemi szövetségi és állami szabályok, amelyek az iskolai mesterséges intelligencia használatát rendeznék.

A megállapodás központi eleme, hogy a technológiai cégek nem használhatják a diákadatokat AI-modellek betanítására, a diákokat nem lehet nyomon követni, és az AI nem hozhat döntéseket emberi felügyelet nélkül. A vállalatoknak emellett átlátható, közérthető válaszokat kell adniuk a pedagógusoknak és a szülőknek arról, hogyan működnek az eszközeik.

A Microsoft közlése szerint az amerikai iskolai körzetek ezeket a védelmeket közvetlenül beépíthetik a Microsofttal kötött ügyfélszerződéseikbe, így azok szerződéses alapon érvényesíthetővé válnak.

Három fő terület: adatvédelem, biztonság, átláthatóság

A megállapodás három prioritás köré rendezi az iskolai AI-használat alapelveit. Az első az adatvédelem: a diákok és pedagógusok adatai nem használhatók AI-modellek betanítására, nem adhatók el, és nem hasznosíthatók újra. Az iskolák megtartják az ellenőrzést afelett, hogyan használják, őrzik meg és törlik az adatokat.

A második terület a biztonság. Az AI-rendszereket úgy kell kialakítani, hogy elkerüljék a káros vagy manipulatív élményeket, védjék az érzékeny információkat, és megfeleljenek a biztonságra, elszámoltathatóságra és felelős használatra vonatkozó szigorú elvárásoknak. A forrás szerint a diákokat és pedagógusokat erős biztonsági intézkedéseknek, védelmi mechanizmusoknak és emberi felügyeletnek kell védenie.

A harmadik elem az átláthatóság és kontroll. A családoknak világos, hozzáférhető információt kell kapniuk arról, hogyan használnak AI-t az iskolákban, milyen adatokat gyűjtenek, és milyen védelmek működnek. Az iskolák dönthetnek arról, mikor és hogyan alkalmaznak AI-t, a cégeknek pedig egyértelműen kell kommunikálniuk a termékváltozásokról, kockázatokról és kontrollokról.

New York és Los Angeles példája is szerepel a háttérben

A bejelentés a New York City Public Schools képernyő- és AI-tilalma után érkezett. A Microsoft közleménye szerint Randi Weingarten egy májusi, „Devices Down, Eyes Up, Hands-On” című beszédében már sürgetett egy érvényesíthető adatvédelmi sztenderdet, továbbá teljes képernyőtilalmat javasolt az óvodától a második osztályig, a diákoknak szóló AI tiltását az általános iskolában, valamint a társas chatbotok tiltását a 16 év alatti diákoknak.

A forrás szerint hasonló keretet fogadott el a Los Angeles Unified School District, a New York State United Teachers, amely az AFT állami tagszervezete, valamint a múlt héten a New York City Public Schools és Zohran Mamdani polgármester.

Az AFT 2024-ben adta ki a „Commonsense Guardrails for Using Advanced Technology in Schools” című anyagát, amely kilenc alapelvet határozott meg annak érdekében, hogy a diákok és családok tájékoztatást és védelmet kapjanak. Tavaly a szervezet bejelentette a National Academy for AI Instruction létrehozását is, amely képzést ad a pedagógusoknak az AI-eszközök használatáról és visszaélésszerű használatáról.

Mit jelenthet ez az iskoláknak és a családoknak?

A bejelentés legfontosabb gyakorlati következménye, hogy az iskolai körzetek szerződésbe foglalható védelmeket kaphatnak a Microsofttal kötött megállapodásaikban. Ez a forrás szerint nem ajánlásként, hanem érvényesíthető szerződéses kötelezettségként jelenhet meg.

Michael Mulgrew, a 200 000 tagú New York-i AFT-tagszervezet vezetője a Microsoft közleménye szerint azt mondta: „Ez a megállapodás megadja a családoknak és az iskolai körzeteknek azokat az információkat és adatvédelmi biztosítékokat, amelyeket követeltek, és felhatalmazza az iskolai körzeteket arra, hogy felmondják a megállapodásokat és kártérítést követeljenek azoktól a rosszhiszemű szereplőktől, akik megszegik a szabályokat.”

Brad Smith, a Microsoft elnöke szerint a sztenderd magas mércét állít a gyermekek adatvédelme és az AI-biztonság terén, és a Microsoft ezt a megállapodást az ország minden iskolai körzetére ki fogja terjeszteni. Randi Weingarten a közleményben úgy fogalmazott, hogy a HIPAA és a FERPA nem számolt az AI megjelenésével, ezért szerinte a technológiai cégeknek felelősséget kell vállalniuk azokért a termékekért, amelyeket diákoknak, pedagógusoknak és közösségeknek készítenek és értékesítenek.