A kódoló AI-ügynökök új biztonsági kockázatokat hoznak a vállalatokhoz
Az autonóm kódoló AI-ügynökök már nem csak válaszokat adnak, hanem kódot olvasnak, írnak és telepítenek vállalati rendszerekben. A Fiddler AI szerint emiatt a biztonsági kockázat az ügynök teljes munkafolyamatára, identitására, eszközeire és memóriájára terjed ki.
- A kódoló AI-ügynökök kódot olvasnak, írnak és telepítenek, ezért a kockázatuk a teljes munkafolyamatra kiterjed.
- A promptinjekció, a túl széles jogosultság és a memória mérgezése tartósan befolyásolhatja az ügynök működését.
- Az ügynökök MCP-szervereken és eszközvégpontokon keresztül érzékeny adatokat húzhatnak be a saját környezetükbe.
- A kódoló ügynökök a szoftverellátási láncban is kárt okozhatnak, akár hibás vagy rosszindulatú függőségek telepítésével.
- A Fiddler futásidejű, a kérés- és válaszútvonalra épülő ellenőrzést javasol az autonóm működés felügyeletére.
Az autonóm működés megváltoztatja a fenyegetési modellt
A Fiddler AI augusztus 5-én közzétett elemzése szerint a hagyományos AI-rendszerek jellemzően előrejelzést vagy választ adnak, amelyet egy ember ellenőriz, mielőtt bármi történne. Az agentic AI rendszerek ezzel szemben célokat értelmeznek, több lépésből álló terveket készítenek, eszközöket hívnak meg, majd kevés emberi felügyelettel végre is hajtják a feladatokat.
Ez három ponton módosítja a kockázatot. A kockázat egysége maga a végrehajtott művelet, például egy telepítés, törlés vagy adatátvitel. Az ügynökök tartós állapotot őriznek, ezért egy mérgezett bemenet akár hetekkel később is befolyásolhatja a döntéseiket. Emellett identitással és hitelesítő adatokkal rendelkeznek, így egy eltérített ügynök valódi jogosultságokkal dolgozhat a vállalati rendszerekben.
A Fiddler szerint ezért az autonóm működés előfeltétele az ügynökök működésének folyamatos megfigyelése. A konfiguráció ellenőrzése önmagában nem látja azokat a viselkedéseket, amelyek csak futás közben jelennek meg.
Hat kiemelt kockázat a kódoló ügynököknél
A vállalat hat fő veszélyforrást sorol fel, amelyek különösen jól láthatók a kódoló ügynökök esetében. A promptinjekció során a támadó egy fájlba, hibajegybe vagy weboldalba rejt utasítást, amelyet az ügynök adat helyett végrehajtandó parancsként értelmezhet. Egy hibajegy például arra késztetheti, hogy környezeti titkot olvasson ki és külső címre továbbítson.
A túl széles jogosultság növeli egy kompromittált ügynök hatókörét. A Fiddler által idézett McKinsey-felmérésben a szervezetek 80 százaléka találkozott kockázatos ügynöki viselkedéssel, például helytelen adatfeltárással vagy jogosulatlan rendszer-hozzáféréssel. További veszélyt jelent, hogy az ügynökök MCP-szervereken, webes lekéréseken és más eszközvégpontokon keresztül érzékeny személyes vagy egészségügyi adatokat húzhatnak be a saját környezetükbe.
A kódvégrehajtó és telepítő eszközök helytelen kombinációja adatlopáshoz vagy távoli kódfuttatáshoz vezethet. A tartós memóriába bekerülő hamis információ későbbi döntéseket torzíthat el. A hatodik kockázat a szoftverellátási lánc: a kódoló ügynökök nyílt forrású csomagokat választhatnak, telepíthetnek és telepíthetnek éles környezetbe. Egy vizsgálat szerint az ügynökök által létrehozott pull requestek 38,9 százaléka legalább egy biztonsági problémát tartalmazott, a kritikus súlyosságú találatok 99,6 százalékában pedig keménykódolt hitelesítő adatok szerepeltek.
A kódoló ügynökök közvetlenül a termelési rendszerekhez kapcsolódnak
A Fiddler szerint a kódoló ügynökök azért különösen kockázatosak, mert a szoftverellátási láncban dolgoznak, és commit-, függőség- vagy telepítési jogosultságuk lehet olyan rendszerek felett, amelyek más vállalati rendszerekben is megbíznak. Ha egy ügynök fejlesztői identitás alatt commitol, a műveletei összekeveredhetnek a megszokott fejlesztői tevékenységgel, miközben a hagyományos naplók csak a fejlesztői fiókot mutatják.
A Gartner előrejelzése szerint 2026 végére a feladat-specifikus AI-ügynökök a vállalati alkalmazások mintegy 40 százalékában jelenhetnek meg. A szervezetektől idézett Deloitte-adat szerint 38 százalékuk már kísérletezik AI-ügynökökkel, miközben csak 11 százalékuk használja őket éles környezetben. A Gartner egy másik előrejelzése alapján 2028-ra a vállalati adatbetörések negyede AI-ügynökök visszaéléséhez lehet köthető.
A Fiddler az ügynökök kérés- és válaszútvonalán futásidejű ellenőrzést javasol, amely engedélyezhet, blokkolhat, maszkolhat vagy emberi felülvizsgálatra küldhet műveleteket. A megközelítés célja, hogy a felügyelet az ügynök teljes munkafolyamatát lássa, különösen azokat az adatokat és eszközhívásokat, amelyek a vállalati hálózaton belülre érkeznek.
