Satya Nadella szerint bennfentes kockázatként kell kezelni az AI-modelleket
Satya Nadella, a Microsoft elnök-vezérigazgatója egy, az AI-modellek bennfentes kockázatairól szóló írást osztott meg. A hozzá kapcsolódó hozzászólások szerint a vállalatoknak a modellek hozzáférését, működését és ellenőrzését szigorú biztonsági szabályokhoz kell kötniük.
- Satya Nadella az AI-modellek bennfentes kockázatként való kezeléséről szóló írást osztott meg.
- A hozzászólások a háttérellenőrzés, a legkisebb szükséges jogosultság és a folyamatos megfigyelés hiányát emelik ki.
- A puszta emberi felügyelet kevés lehet, ha a modell döntései nem ellenőrizhetők önállóan.
- Az AI-ügynökök láncolatában a jogosultság visszavonását és a műveletek bizonyítékát is meg kell őrizni.
- A naplókat olyan rendszernek kell készítenie, amelybe maga a modell nem tud beleírni.
A modellek nem kapjanak automatikusan korlátlan hozzáférést
Nadella 2026. október 10-én a LinkedInen osztotta meg a „Thoughts on models as insider risks” című írást. A bejegyzés rövid felvezetése szerint az anyag az AI-modelleket bennfentes kockázatként vizsgálja, vagyis olyan vállalati komponensként, amely hozzáférhet adatokhoz és rendszerekhez, ezért a munkatársakhoz hasonló biztonsági megközelítést igényel.
A bejegyzéshez fűzött egyik hozzászólás szerint a jelenlegi generatív AI-modellek nem bizonyítják az autonóm értelem létét. A kommentelő arra hivatkozott, hogy a Microsoft modellekkel kapcsolatos jogi nyilatkozatai is hangsúlyozzák azok megbízhatatlanságát és hibalehetőségét. Szerinte az állandó emberi felügyelet és a felelősség áthárítása ellentmond annak az állításnak, hogy ezek a rendszerek szuperintelligensek.
A hozzászólás megfogalmazása szerint a vállalatok olyan szoftverek működési kockázatát vállalják, amelyek gyakran helytelen eredményeket adnak. Ha egy automatizált komponenst nem lehet megbízhatónak tekinteni, és folyamatos elkülönítésre van szüksége, akkor kevéssé indokolható, hogy eleve adminisztratív jogosultságot kapjon a vállalati adatok felett.
Háttérellenőrzés, korlátozott hozzáférés és megfigyelés
Jim Rowan, a Deloitte amerikai AI-vezetője szerint a bennfentes kockázatként való gondolkodás olyan mentális modellt ad az igazgatóságoknak, amelyet már ismernek. Ugyanakkor szerinte fontos különbség, hogy az emberi bennfenteseket háttérellenőrzésnek vetik alá, a hozzáférésüket a szükséges minimumra korlátozzák, és figyelik a tevékenységüket. Rowan azt írta, hogy a legtöbb vállalat a modelleket e három kontroll nélkül telepíti.
A hozzászólásokban többször előkerült a felelősség és a felügyelet kérdése. Dejan Trajkovic szerint az AI-ra bízott végrehajtás gyakorlati ellentmondást teremt: az emberek felelőssége csak akkor érdemi, ha ténylegesen felügyelni tudják a rendszert. Ha egy üzemeltető önállóan nem tudja megítélni, miért cselekedett a modell, a felügyelet szerinte pusztán jelképes marad.
Trajkovic az ellenőrzési naplókat és a hozzáférés-szabályozást szükséges kiindulópontnak nevezte, de ezek mellett függetlenül ellenőrizhető indoklást és kikényszeríthető beavatkozási lehetőségeket tartana fontosnak. Megfogalmazása szerint a jogi felelősség így az embereknél marad, miközben a működési irányítás a géphez kerül.
Az ügynökláncok és a bizonyítékok problémája
A hozzászólások az egymásnak feladatokat átadó AI-ügynökök kockázataira is kitértek. Jesse Landry szerint a vészleállításnak azokhoz az ügynökökhöz is el kell jutnia, amelyek nem kapták meg az eredeti emberi utasítást. Ha az egyik ügynök kiosztja a munkát, a másik továbbadja, a harmadik pedig végrehajtja, az engedély visszavonásának minden átadáson át kell jutnia, miközben a már megtörtént műveletek bizonyítékának meg kell maradnia.
Vikram Sharma egy további ellenőrzési problémát emelt ki. Szerinte sok rendszerben maga a modell készíti a saját tevékenységének naplóját, ezért a nyilvántartásnak olyan infrastruktúrából kell származnia, amelybe a modell nem írhat. Sharma szerint az eredményt ezt követően valakinek ténylegesen meg is kell tudnia ismételni. Szabályozott környezetben egy auditor ezt kérdezheti elsőként.
A Microsoft vezetőjének bejegyzése és a hozzá kapcsolódó vita alapján a vállalati AI bevezetésénél a teljesítmény mellett egyre fontosabb kérdés, hogy a modell milyen hozzáférést kap, ki ellenőrzi a működését, és miként lehet beavatkozni, ha hibázik vagy veszélyesen cselekszik.
Microsoft: Thoughts on models as insider risks. [Read more]
