Microsoft: az ügynökös AI miatt rugalmasabb irányításra van szükség

Három fő területre épít a Microsoft felelős AI-programja

A Microsoft friss jelentése azt mutatja be, hogyan alakítja át a vállalat a felelős mesterséges intelligenciával kapcsolatos irányítását, eszközeit és gyakorlatait. A cég azt írja, hogy közel egy évtizede építi felelős AI-programját, amely két alapelvre támaszkodik: a bizalomra mint az AI előnyeinek feltételére, valamint arra, hogy az emberek és szervezetek megerősítése maradjon a stratégia középpontjában.

A jelentés szerint az elmúlt évben három területen történt kiemelt beruházás: az adaptív irányítás és technikai kockázatkezelés, a gyakorlati eszközök és képességek, valamint a közös gyakorlatok és partnerségek területén. A Microsoft ezeket öt, az AI-környezetet alakító trendhez kapcsolja, köztük az ügynökös AI gyors terjedéséhez.

A vállalat álláspontja szerint önmagában a modellképesség nem fogja meghatározni az AI hatását. A hatás azon is múlik, hogy a fejlesztő és bevezető szervezetek képesek-e valódi értéket adó technológiákat létrehozni, és azokat kellő szigorral, ugyanakkor alkalmazkodó módon irányítani.

Átdolgozott Responsible AI Standard és új kockázatkezelési fókusz

A Microsoft szerint az AI fejlődésével a vállalat irányítását is rugalmasabbá és a mérnöki munkafolyamatokhoz szorosabban kapcsolódóvá teszi. Ennek részeként frissítette irányelveit, hogy azok jobban illeszkedjenek az AI technológiai rétegéhez és értékláncához, valamint továbbfejlesztette kockázatkezelési gyakorlatait az új képességek és kockázatok kezelésére.

A cég az idén újratervezte Responsible AI Standard nevű belső szabványát. Az új struktúra a technológiai réteg különböző elemeire hivatkozik, például modellekre, platformszolgáltatásokra és alkalmazásokra, valamint arra, hogy a Microsoft milyen szerepet játszik ezek fejlesztésében vagy bevezetésében. A szabvány egyszerre tartalmaz mindig érvényes alapkövetelményeket és célzott, helyzetfüggő követelményeket.

A Microsoft példaként említi, hogy a legszigorúbb kockázatkezelési intézkedések egy részét a jelentős kiberképességekkel rendelkező AI-rendszerekre alkalmazza, hogy az AI fejlődése a kritikus digitális infrastruktúrát védőknek kedvezzen.

A jelentés külön kitér arra, hogy a fejlettebb rendszerek képesek lehetnek memóriát megtartani, eszközöket használni, adatokhoz hozzáférni és műveleteket végrehajtani a felhasználók nevében. Emiatt a kormányzásnak túl kell lépnie az egyes modellek vagy alkalmazások viselkedésén, és figyelembe kell vennie a modellek, ügynökök, alkalmazások, eszközök, adatok és emberek közötti kölcsönhatásokat is.

A Microsoft ezért olyan kontrollokra összpontosít, mint az ügynökazonosságok, az eszközjogosultságok és a műveletek monitorozása. A vállalat azt is közli, hogy mérnökök és termékmenedzserek ezreit képezte többek között ügynökös AI-fenyegetésmodellezésre és prompt injection elleni védekezésre.

Új eszközök az értékeléshez, teszteléshez és felügyelethez

A Microsoft szerint a hatékony irányításhoz olyan eszközökre van szükség, amelyek a szabályzati célokat gyakorlati lépésekké alakítják. A vállalat ezért olyan eszközöket, képességeket és erőforrásokat fejleszt, amelyek nemcsak a Microsofton belül, hanem külső fejlesztők és szervezetek számára is használhatók lehetnek, akár a Microsoft platformjaira építenek, akár nyílt forrású projekteket használnak.

A jelentésben szerepel az AI Red Teaming Agent, amely a kockázatok azonosítását és értékelését hivatott gyorsítani. Az agent evaluator eszközök a fejlesztőknek segítenek mérni az ügynökös alkalmazások minőségét, biztonságát és teljesítményét. A RAMPART a red team vizsgálatok eredményeit ismételhető tesztekké alakítja, hogy a rendszerek változásával folyamatosabb legyen a lefedettség.

A Microsoft emellett az ASSERT és az Agent Control Specification eszközöket is kiemeli. Ezekkel a fejlesztők a vállalat szerint értékelhetik az ügynököket saját szabályzataik alapján, futásidejű kontrollokat helyezhetnek el az ügynöki munkafolyamatok kritikus pontjain, és figyelhetik a viselkedést.

A jelentés egyik hangsúlya, hogy a dinamikusabb rendszereknél a kormányzásnak működés közben is alkalmazhatónak kell lennie. A szervezeteknek látniuk kell, mit csinálnak rendszereik, tesztelniük kell azok viselkedését, és szükség esetén be kell tudniuk avatkozni.

A Microsoft azt is közli, hogy azon kevés vállalat egyike, amely széles portfólióra kiterjedően rendelkezik ISO 42001 tanúsítással, beleértve a Microsoft 365 Copilot, a Foundry és a GitHub Copilot szolgáltatásokat. A vállalat szerint az elmúlt évben egyszerűsítette és megerősítette a tanúsítást támogató belső folyamatait.

Nemzetközi együttműködések és közös mérési módszerek

A Microsoft szerint az AI irányításának kihívásai nagyobbak annál, mint amit egyetlen vállalat önállóan kezelni tudna. A cég ezért közös elvárásokat, interoperábilis szabványokat és olyan technikai gyakorlatokat sürget, amelyek láthatóbbá teszik az eszközök, adatok és rendszerek közötti kölcsönhatásokat.

A jelentés alapján a Microsoft az elmúlt évben együtt dolgozott a US Center for AI Standards and Innovation szervezettel, valamint Ausztrália, Szingapúr és az Egyesült Királyság AI Safety and Security Institute intézményeivel az AI-értékelés tudományos és gyakorlati alapjainak erősítésén. A vállalat emellett External Red Team Alliance néven együttműködést indított 18 egyetemmel hat kontinensen, hogy bővítse a kiemelt kockázatok megértését.

A cég a Frontier Model Forum, az OpenTelemetry és az Appia Foundation keretében is dolgozik olyan megközelítéseken, amelyek a frontier kiberbenchmarkokat, az egyre ügynökösebb rendszerek végponttól végpontig tartó megfigyelhetőségét, valamint az AI-biztosítást érintik ellátási láncokon és szektorokon át.

A Microsoft hozzájárul az átláthatósági jelentések szervezetek és joghatóságok közötti összehangolását célzó munkához is, többek között egy OECD-vezette informális munkacsoporton keresztül, amely a Hiroshima AI Process Reporting Framework 2.0-s verzióját dolgozta ki.

A mérés területén a vállalat az MLCommons szervezettel együttműködve segíti az AILuminate bővítését szélesebb megbízhatósági benchmarkcsomaggá. A jelentés szerint ez közös értékelési megközelítéseket hozhat olyan területeken, mint a jailbreak-ellenállás, a többnyelvű teljesítmény és a társalgási AI pszichoszociális kockázata.

Mit jelent ez a felhasználóknak és a piacnak

A jelentés legfontosabb üzenete a felhasználók és vállalati ügyfelek számára az, hogy az AI-rendszerekbe vetett bizalom a széles körű használat egyik feltételévé válik. A Microsoft szerint ahogy az AI egyre inkább beépül a munkába és a mindennapi életbe, alapvető elvárássá válik, hogy a rendszerek megbízhatóan és biztonságosan működjenek.

Az ügynökös AI terjedése különösen fontos ebből a szempontból, mert ezek a rendszerek nemcsak válaszokat adhatnak, hanem eszközöket használhatnak, adatokhoz férhetnek hozzá és műveleteket hajthatnak végre. A Microsoft válasza erre az, hogy az értékelést, a jogosultságkezelést, a monitorozást és a beavatkozási lehetőségeket a teljes életciklus részévé tenné.

A piaci szereplők számára a jelentés azt jelzi, hogy a felelős AI nem különálló megfelelési feladatként jelenik meg, hanem a fejlesztéshez, üzemeltetéshez, tanúsításhoz és iparági együttműködésekhez kapcsolódó folyamatos gyakorlatként. A Microsoft szerint a jövőbeni hatás azon múlik, hogy a szervezetek mennyire tudják a technikai fejlődést mérhető, ellenőrizhető és közösen értelmezhető irányítási gyakorlatokkal összekapcsolni.