Közös útmutatót adott ki a Microsoft és az NVIDIA a nyílt súlyú modellekhez

A modell nyitottsága önmagában nem határozza meg a kockázatot

A Microsoft Azure október 16-i bejegyzése szerint a vállalatok egyre több lehetőség közül választhatnak a fejlett mesterségesintelligencia-modellek felépítése, testreszabása és üzemeltetése során. A nyílt súlyú modellek hozzáférést adnak a modellparaméterekhez, így a vállalatok nagyobb rugalmassággal vizsgálhatják, értékelhetik, módosíthatják és saját környezetükben futtathatják ezeket a rendszereket.

Ez a rugalmasság a biztonsági intézkedések helyét és a fenntartásukért felelős szereplőket is érinti. A Microsoft és az NVIDIA szerint a kockázatot a modell, a felhasználási eset, a telepítés módja és az alkalmazott védelmi intézkedések együtt határozzák meg. A vállalatoknak ezért azt kell feltérképezniük, mire használják a modellt, mi romolhat el az adott környezetben, és milyen bizonyítékokra, illetve kontrollokra van szükségük.

Öt kategóriába sorolja a kockázatokat az új útmutató

A Risk Management for Open-Weight Models in Enterprise című tanulmány az első része annak a közös forrássorozatnak, amelyet a Microsoft és az NVIDIA a vállalati kockázatkezelés támogatására tervez. A dokumentum az International Organization for Standardization szabványaira és az amerikai National Institute of Standards and Technology AI Risk Management Framework keretrendszerére támaszkodik.

A kezdeti taxonómia öt nagy területet különít el:

• kiberbiztonság,
• adatvédelem,
• tartalom,
• ember és mesterséges intelligencia közötti interakció,
• elfogultság.

A besorolás nem szabályzat és nem telepítési ellenőrzőlista. A vállalatoknak saját rendszereikhez, felhasználási eseteikhez és kockázati szempontjaikhoz kell igazítaniuk, majd az egyes kockázatokat értékelésekhez, mérséklő intézkedésekhez és felelősökhöz kapcsolniuk.

A kockázat a telepítési környezettől is függ. Más szempontok merülnek fel, ha egy modell dokumentumot készít egy alkalmazottnak, mint amikor ügyfelek által használt munkafolyamatban működik. Különbséget jelent az is, hogy önálló következtetési végponton fut, vagy külső adatokhoz és eszközökhöz kapcsolódó rendszer része.

Az értékelés és a felelősség a telepítéstől függ

A Microsoft és az NVIDIA a tanulmányban egyes kockázatokhoz értékeléseket rendel. Ezek segítségével a csapatok az adott telepítés szempontjából fontos kockázatból indulhatnak ki, majd releváns bizonyítékokat gyűjthetnek. A Microsoft Foundry beépített és egyedi értékeléseket, valamint automatizált vörös csapatos tesztelést kínál a minőség, a megalapozottság és a biztonság vizsgálatához.

A konfigurálható tartalombiztonsági vezérlők káros bemenetek és kimenetek, valamint prompttámadások észlelésére és mérséklésére használhatók. A Microsoft ugyanakkor arra figyelmeztet, hogy a vállalatoknak ellenőrizniük kell, az adott modellhez és telepítéshez milyen vezérlők érhetők el, beleértve az előzetes állapotú funkciókat is. Ezeket alkalmazásspecifikus teszteléssel, megfigyeléssel és emberi felügyelettel kell kombinálni.

A nyílt súlyú hozzáférés és a telepítés két külön döntés. Ilyen modellek kezelt platformokon keresztül is használhatók, miközben a saját üzemeltetésű telepítések esetén a vállalat olyan kontrollokért is felelhet, amelyeket egy kezelt szolgáltatás biztosítana. A védelem több rétegen működhet, például a modell módosításával, hozzáférés-szabályozással, bemeneti és kimeneti szűréssel, megfigyeléssel vagy emberi ellenőrzéssel.

A közös repository további értékelésekkel bővülhet

Az első tanulmány elsősorban a modellréteg kockázataira összpontosít. A Microsoft és az NVIDIA a későbbi munkában a futtatási környezet, a vezérlőréteg és az alkalmazás rétegét is vizsgálná, valamint további technikai útmutatást tervez az értékeléshez és a kockázatok mérsékléséhez.

A közös repositoryban új értékelési erőforrásokat kívánnak megosztani, köztük a tágabb szakmai közösség hozzájárulásait. A vállalatok számára a dokumentum már most alkalmazható kiindulópontot ad saját felhasználási eseteik vizsgálatához. A Microsoft és az NVIDIA szerint az értékeléseknek és a kontrolloknak a modellek, a telepítési minták és a megjelenő kockázatok változásával együtt kell fejlődniük.