Salesforce: gépi sebességű verseny zajlik az AI-alapú kibervédelemben

Autonóm támadások, millimásodperces döntések

A Salesforce cikke szerint látványos példája volt az AI kiberbiztonsági kockázatainak a JadePuffer néven említett zsarolóvírusos támadás. A Sysdig biztonsági cég ezt a nevet adta annak az incidensnek, amelyben egy ember indította el a műveletet, de egy autonóm AI-ügynök önállóan hajtotta végre a teljes technikai behatolást, a felderítéstől az adatbázisok titkosításáig és törléséig.

A Salesforce értelmezése szerint a támadók egyre inkább automatizálást használnak, ezért a szervezeteknek olyan AI-ügynökökkel kell védekezniük, amelyek képesek felismerni és semlegesíteni a fenyegetéseket. A probléma az, hogy ezek a behatolások millimásodpercek alatt történhetnek, vagyis túl gyorsan ahhoz, hogy ember avatkozzon be minden ponton.

Muhammad Fraser-Rahim, a Salesforce globális hírszerzésért és termék, valamint platformkockázatért felelős alelnöke a vállalat közlése szerint úgy fogalmazott: „Ez úgy hangozhat, mint valami köpenyes-tőrös James Bond-féle mesterkedés. De ez az a pillanat, amelyben vagyunk, és nem gondolom, hogy feltétlenül félnünk kell tőle.”

Greg Notch, az Expel kiberbiztonsági cég technológiai igazgatója szerint az agentic AI még az alacsony képzettségű támadóknak is kifinomult új fegyvereket ad. Ugyanez a technológia viszont a védőknek is segíthet abban, hogy a lehetséges támadásokról szóló riasztások közül kiválogassák azokat, amelyek tényleges beavatkozást igényelnek.

A sebesség lett a fő változás

A Salesforce biztonsági vezetői szerint az AI nem új támadási kategóriát hozott létre, hanem a sebességet változtatta meg. Iain Mulholland, a Salesforce információbiztonsági vezetője úgy fogalmazott: „A sebezhetőségek megtalálása soha nem volt a munka legnehezebb része. A nehéz feladat az, hogy gyorsan, megbízhatóan és nagy léptékben javítsuk őket. Itt valóban játékváltó az agentic AI modellek által lehetővé tett javítási gyorsulás.”

Kelly McCracken, a Salesforce helyettes információbiztonsági vezetője és biztonsági műveletekért felelős alelnöke szerint korábban előfordulhatott, hogy a védőknek több mint hét napjuk volt egy javítás telepítésére. A cikkben idézett állítása szerint most „kevesebb mint egy óra alatt” kell javítani.

A fenyegetések növekedését a Salesforce külső adatokkal is érzékelteti. A Dark Reading szaklap olvasói felmérése szerint a biztonsági szakemberek 48 százaléka már az agentic AI-t és az autonóm rendszereket tartja a digitális világ legveszélyesebb támadási vektorának. Az Anthropic júniusi jelentése pedig azt állapította meg, hogy a „magas kockázatú”, AI által lehetővé tett fenyegetések aránya az összes kiberincidensen belül 56 százalékra nőtt az egy évvel korábbi 33 százalékról.

Az Anthropic jelentését idézve a Salesforce azt írta: „A kibertámadások egyre autonómabbá válnak, és az a tény, hogy az AI a támadás sok részének összekapcsolására használható, azt jelenti, hogy a magas és alacsony kockázatú szereplők megkülönböztetésének régi módjai már nem olyan hatékonyak.”

Emberi kontroll a nagy kockázatú döntéseknél

A Salesforce szerint az autonóm védelmi ügynökök szükségessége kockázattal is jár. Egy hibásan működő védelmi AI túlreagálhat egy incidenst, például egy teljes kórházi adathálózatot állíthat le akkor is, ha a támadó csak egyetlen, nem kritikus alkalmazást kompromittált.

Tyler Waldo, a Salesforce sebezhetőségért és környezeti fenyegetésértékelésért felelős vezető igazgatója a cég közlése szerint így írta le a tétet: „Ha az az ügynök téved egy fenyegetéssel kapcsolatban, és ez olyan lépéshez vezet, mint valaminek a leállítása egy ügyfélnél, az jelentős üzleti hatást okozhat.”

Doug Miller, a Salesforce integrált fenyegetéskezelésért felelős alelnöke az AI-ügynökökbe vetett bizalom kialakítását egy új munkatárs betanításához hasonlította. A különbség szerinte az, hogy ezek az ügynökök nem alszanak, ezért megfelelő korlátokat kell építeni a téves pozitív riasztások és a rossz intézkedések ellen.

McCracken szerint a Salesforce válasza az, hogy a valódi következményekkel járó lépéseknél ember maradjon a döntési ponton. A cikkben idézett megfogalmazása szerint: „Bármilyen rendelkezésreállási kiesést okozó gombot embernek kell megnyomnia.”

Fraser-Rahim arra is figyelmeztetett, hogy az AI és a fizikai infrastruktúra összekapcsolódása új kockázatokat vet fel. Példaként egy irodaházat említett, ahol az alkalmazottak belépőkártyával jutnak be az előcsarnokból, vagy liftelérést kapnak bizonyos emeletekre. Ha egy AI-ügynök rosszul ítéli meg, kinek kell hozzáférést adni, annak azonnali fizikai következménye lehet: egy dolgozó nem jut be a saját épületébe, vagy rosszabb esetben olyan személy kap belépést, akinek nem kellene.

Saját rendszerein teszteli a védelmi megközelítést a Salesforce

A Salesforce a cikk szerint saját magát tekinti első és legszigorúbb ügyfelének. Ezt a megközelítést Customer Zero néven írja le, és három rétegre bontja: az ügyfelek számára láthatatlan belső védelemre, az ügyfelek által konfigurálható kontrollokra, valamint kiegészítő eszközökkel bővíthető védelemre.

A vállalat szerint az új alapmodellek nem hoznak létre új kibersebezhetőségi kategóriákat, inkább a meglévő gyenge pontok megtalálását és kihasználását teszik lehetővé korábban nem látott mennyiségben és sebességgel. McCracken elmondása szerint a Salesforce ezért célzott sebezhetőségi ügynököt épített, amely folyamatosan rangsorolja a vállalat kitettségét. A rendszerrel meg lehet kérdezni, érinti-e a Salesforce-ot egy adott sebezhetőség, és a cikk szerint az ügynök az egész vállalatot vizsgálja ennek megállapítására.

A felismerés mellett az ügynök rangsorol és javítást is ajánl. A Salesforce ezt kapcsolja ahhoz, hogy a korábban hét napos időablak alatti munkát kevesebb mint egy óra alatt lehessen lezárni.

Az Agentforce esetében a konfigurálható réteg a Trust Layerrel kezdődik, amely az ügyfeleket és végfelhasználóikat védi, amikor közvetlenül alap AI-modellekkel lépnek kapcsolatba. A Salesforce szerint az ügyfelek saját szabályokat állíthatnak be arra, mely promptok engedélyezettek vagy tiltottak. Miller szerint ez az irányítási réteg rosszindulatú tevékenységet azonosíthat „nem csak a promptnál, hanem a végrehajtásnál is”.

A harmadik réteghez a cikk a Shield, az Event Monitoring és a Security Center eszközöket sorolja, amelyek mélyebb rálátást adnak az ügyfeleknek saját szervezeteikre.

Mit jelent ez a vállalatoknak és a piacnak?

A Salesforce cikke alapján a vállalati kiberbiztonságban az AI-val szembeni védekezés kérdése már nem az, hogy kell-e AI-t használni, hanem az, hogyan lehet ezt kontrolláltan megtenni. A támadások sebessége miatt az emberi reakció önmagában nem elég minden helyzetben, de a nagy hatású döntéseknél a vállalat szerint továbbra is emberi felügyeletre van szükség.

A piaci következmény az, hogy a védelmi rendszereknél egyre fontosabbá válik a kormányzás, a jogosultságok korlátozása és az ellenőrizhető döntéshozatal. A Salesforce szerint egyetlen AI-modell sem kaphat korlátlan felhatalmazást, mert egy őszinte hiba is kritikus üzleti vészhelyzetté válhat.

A cikk a beszállítói láncot is a reziliencia részének tekinti. Fraser-Rahim szerint az ellenálló képesség azt jelenti, hogy egy szervezet elnyeli a sokkot, majd felismeri, hogyan lépjen tovább a sokk után. Hozzátette, ez a beszállítói lánccal folytatott párbeszédet is jelenti, közös standardokkal és kölcsönös elszámoltathatósággal.

A felhasználók és ügyfelek számára mindez azt jelzi, hogy az AI-alapú szolgáltatások biztonsága nem csak a modell minőségén múlik. Ugyanolyan fontos, milyen szabályok korlátozzák az ügynökök döntéseit, ki hagyja jóvá a kockázatos műveleteket, és mennyire látszanak a szervezeten belüli események.