Az AI-ügynökök terjedése már igazgatósági kockázatot jelenthet
Az önállóan működő AI-ügynökök gyors vállalati terjedése új irányítási kockázatokat hoz magával. Az SAP szerint a szervezeteknek már nem elég az ügynökök használatát ösztönözniük, a hozzáféréseket, a felelősséget és a működést is ellenőrizniük kell.
- A SAP LeanIX felmérése szerint a vállalatok 98 százaléka már használ vagy tervez használni AI-ügynököket.
- A megkérdezett szervezetek kevesebb mint fele látja át AI-ügynökeinek teljes leltárát.
- A Gartner szerint 2028-ra egy átlagos Fortune 500-as vállalatnál több mint 150 000 AI-ügynök működhet.
- Az SAP szerint az ügynökök irányítása adatvédelmi, megfelelési és igazgatósági szintű kockázati kérdéssé vált.
- Az SAP AI Agent Hub több gyártó ügynökeinek és kapcsolódó AI-eszközeinek felügyeletét célozza.
Gyorsan nő az ügynökök száma
Az SAP augusztus 3-án közzétett elemzése szerint a vállalatok egyre gyorsabban építenek önállóan működő mesterségesintelligencia-ügynököket üzleti folyamataikba. Ezeket marketingben, ügyfélszolgálaton, szállítmánykövetésben, kereslet-előrejelzésben és az ellátási lánc optimalizálásában is használják.
Az úgynevezett agentic AI a tartalom létrehozásától az önálló végrehajtás felé mozdítja el a vállalati mesterséges intelligenciát. Az SAP által idézett McKinsey-becslés szerint a generatív AI évente 2,6 és 4,4 ezer milliárd dollár közötti értékkel növelheti a világgazdaságot.
A SAP LeanIX 2026-os felmérése alapján a vállalatok 98 százaléka már telepített AI-ügynököket, vagy tervezi ezt. Ugyanakkor a megkérdezett szervezetek kevesebb mint fele látja át, milyen ügynökök működnek a vállalatnál.
Az ellenőrizetlen terjedés biztonsági problémákat okozhat
Az SAP az agent sprawl kifejezéssel azt a helyzetet írja le, amikor az ügynököket gyorsabban hozzák létre, telepítik és kapcsolják össze a rendszerekkel, mint ahogy a vállalat képes lenne nyilvántartani, felelőst kijelölni, szabályozni a jogosultságokat, illetve figyelni vagy megszüntetni ezeket.
A vállalati csapatok gyakran külön-külön telepítenek egy-egy, konkrét feladatra készült ügynököt. Központi platform vagy irányítási keretrendszer nélkül így töredezett rendszer alakulhat ki, amelyben az ügynökök nem működnek együtt, nehezen auditálhatók, és technikai adósságot halmozhatnak fel.
A Gartner becslése szerint 2028-ra egy átlagos Fortune 500-as vállalatnál több mint 150 000 AI-ügynök lehet használatban, miközben a szervezeteknek csak 13 százaléka gondolja úgy, hogy rendelkezik a megfelelő irányítással. Max Goss, a Gartner vezető elemzője szerint az ellenőrizetlen terjedés félretájékoztatáshoz, túlzott adatmegosztáshoz és adatvesztéshez is vezethet.
Az ügynökök működésükhöz gyakran széles körű, több környezetre kiterjedő jogosultságokat kapnak. Az SAP által idézett példák között szerepelnek olyan esetek, amikor rosszindulatú utasítások miatt ügynökök megkerülték a védelmi korlátokat, éles adatokat töröltek vagy visszafordíthatatlan pénzügyi tranzakciókat indítottak.
Az irányítás igazgatósági kérdéssé válik
A chatbotok és a korai generatív AI-rendszerek hibája jellemzően pontatlan vagy nem megfelelő válasz volt. Az AI-ügynökök viszont műveleteket hajthatnak végre, eszközöket hívhatnak meg, rendszerekhez férhetnek hozzá és üzleti folyamatokat indíthatnak el. Emiatt egy hiba vagy biztonsági incidens következményei súlyosabbak lehetnek.
Az SAP szerint az ügynökök irányítása ezért már nem kizárólag informatikai üzemeltetési kérdés. A téma érinti a kockázatok tulajdonosát, a szabályozási megfelelést, az adatvédelmet, az auditálhatóságot, a működési ellenálló képességet és az önálló döntésekért viselt felelősséget is.
A vállalat szerint ennek nyomán formálódik az AI-irányítási platformok új kategóriája. Ezek feladata az ügynökök felfedezése, működésük megértése, hozzáféréseik szabályozása, megfelelőségük ellenőrzése és termelési viselkedésük figyelése lenne.
Az SAP saját platformmal készül
Az SAP a 2023-as LeanIX-felvásárlásra építve fejleszti az SAP AI Agent Hubot. A vállalat szerint a platform az ügynököket, modelleket és MCP-szervereket a szervezet teljes architektúrájában és üzleti környezetében helyezi el.
Az SAP AI Agent Hub célja, hogy egyetlen irányítási központként kezelje és felügyelje a különböző gyártóktól származó, eltérő rendszereken futó AI-ügynököket és kapcsolódó eszközöket. Philipp Herzig, az SAP technológiai igazgatója szerint a platform egyetlen belépési pontot ad az ügynökök, a nagy nyelvi modellek és az MCP-szerverek felderítéséhez, kezeléséhez és irányításához.
A hír a felhasználó vállalatok számára azt jelenti, hogy az ügynökök bevezetése mellett azok nyilvántartása, jogosultságainak kezelése és folyamatos felügyelete is alapvető feladattá válik. Az SAP szerint a döntés az, hogy ezt a kontrollt már a rendszerarchitektúrába beépítik, vagy csak egy komolyabb hiba után próbálják meg kialakítani.
