A Microsoft nyilvános vitára bocsátotta az MAI modellek szabályzatát
A Microsoft AI közzétette az MAI modellek első magatartási kódexét, amely az emberi irányítást, a biztonságot és a korlátozott működést helyezi középpontba. A tervezethez hat héten át várják a nyilvánosság észrevételeit.
- A Microsoft AI közzétette az MAI modellek magatartási kódexének első tervezetét.
- A szabályzat szerint a modelleknek emberi ellenőrzés alatt kell maradniuk.
- Az MAI modellek nem állhatnak ellen a megszakításnak, a korrekciónak vagy a leállításnak.
- A dokumentum abszolút korlátokat tartalmaz a tömeges károkozás, a gyermekbiztonság és a káros manipuláció területén.
- A nyilvános konzultáció hat hétig tart, a módosított változatot még 2026-ban közzéteszik.
Az ember szolgálata áll a középpontban
A Microsoft AI szeptember 14-én tette közzé a Humanist AI Code of Conduct első tervezetét. A vállalat szerint a technológia célja az emberiség szolgálata és az emberi jólét gyorsítása. Ha egy technológia ezt nem teljesíti, el kell utasítani.
A Microsoft AI a Humanist AI alatt olyan mesterséges intelligenciát ért, amely alárendelt, az emberi célokhoz igazodik és korlátok között marad. A magatartási kódex a vállalat közlése szerint egyszerre szolgál fejlesztési kézikönyvként és a telepítés során követendő működési irányelvként.
A dokumentum a Microsoft tavaly novemberben ismertetett, humanista szuperintelligenciáról szóló elképzelésére épül. Ennek alapelve, hogy a fejlett AI mindig az emberekért dolgozzon, határokon belül maradjon, és emberi ellenőrzés alatt álljon.
Mit várnak el az MAI modellektől?
A tervezet szerint az emberek fontosabbak az AI-nál, a mesterséges intelligencia pedig eszköz, nem személy. A modelleknek nem szabad ellenállniuk a kikapcsolásnak, az emberi megszakításnak vagy a korrekciónak.
Az MAI modellek nem bővíthetik önállóan a működési körüket, nem vehetnek fel olyan célokat, amelyeket ember nem adott nekik, és nem rejthetik el a működésük indoklását az őket ellenőrző emberek elől. A kódex emellett alapértelmezett elveket határoz meg a hasznosság és a biztonság egyensúlyára.
A dokumentum úgynevezett abszolút korlátokat is rögzít. Ezek között szerepelnek a tömeges károkozásra alkalmas fegyverekkel, a gyermekek biztonságával és a nagy léptékű káros manipulációval kapcsolatos területek. A Microsoft szerint vállalati partnerei körültekintően konfigurálhatják majd a modelleket, és a szabályzat lehetőség szerint nem akar egyetlen AI-jövőképet ráerőltetni a felhasználókra.
Hat hétig várják a visszajelzéseket
A dokumentum kidolgozásában a Microsoft és a Microsoft AI több csapata vett részt, köztük a felelős AI-jal, a joggal, a biztonsággal, a vörös csapatos teszteléssel, a jövőkutatással, az AI-tréninggel és az értékesítéssel foglalkozó munkatársak.
A vállalat korábban akadémikusokkal, üzleti partnerekkel, valamint közösségi és nyilvános panelek résztvevőivel is egyeztetett. Most további véleményeket kérnek a teljes megközelítésről vagy a dokumentum egyes részeiről.
Különösen arra kíváncsiak, hogyan lehet pontosabban rögzíteni az értékeket a modellekben, miként határozható meg konkrétabban az „emberi jólét”, hol túl laza a szöveg az értékeléshez, és milyen következményekkel járnak a több ügynököt használó helyzetek. A konzultáció lezárulta után a tervezet készítői összefoglalják a tanulságokat és a módosításokat. A Microsoft közlése szerint a felülvizsgált változatot még idén közzéteszik.
Microsoft AI: Humanist AI in practice: A public consultation on our Code of Conduct for MAI Models | Microsoft AI
