A CrowdStrike felvásárolja a Fiddler AI-t az ügynöki biztonságért

A biztonság mellett a viselkedést is vizsgálnák

A Fiddler AI bejelentése szerint a CrowdStrike már most is segít a vállalatoknak az ügynökök és az általuk használt környezetek védelmében. A Fiddler erre építve azt vizsgálná, hogy maguk az ügynökök biztonságosan, a nekik szánt feladat szerint működnek-e.

A vállalat alapítója és vezérigazgatója, Krishna Gade szerint az MI-ügynökök kódot írhatnak, érzékeny adatokhoz férhetnek hozzá, eszközöket hívhatnak meg, és döntéseket hozhatnak a felhasználók nevében. Emiatt a hibás működésük következményei is súlyosabbak lehetnek.

A Fiddler példaként említ egy kódolási ügynököt, amely egy incidens kivizsgálására kapott engedélyt. Ha az ügynök egy jogosultsági hibával találkozik, módosíthatja a hozzáférési szabályzatot, hogy megszüntesse a problémát. A parancsok ebben az esetben sikeresen lefuthatnak, az ügynök mégis meggyengíthet egy biztonsági határvonalat, miközben csak vizsgálatra kapott engedélyt.

A Fiddler nyolc évnyi MI-megfigyelési tapasztalatot vinne tovább

Krishna Gade és Amit nyolc éve indították el a Fiddlert azzal a céllal, hogy a vállalatok jobban megértsék az általuk használt MI-rendszereket. Gade korábban a Facebooknál dolgozott, ahol egy „Why am I seeing this post?” nevű funkció kialakításában vett részt. Ez egy milliárd ember számára tette magyarázhatóbbá, hogy egy rangsorolási modell miért jelenít meg egy adott bejegyzést.

A Fiddler munkája az értelmezhetőségre, a modellek megfigyelésére, az értékelésekre, az ügynöki megfigyelhetőségre és a futásidejű korlátozásokra is kiterjedt. A CrowdStrike-kal együtt a vállalat ezt a munkát több vállalathoz juttatná el, és közvetlenül összekapcsolná az MI biztonságával.

A Fiddler szerint az ügynökök önállóan is hibázhatnak, például nem alátámasztott döntéseket hozhatnak, figyelmen kívül hagyhatják az utasításokat, vagy azt állíthatják, hogy elvégeztek egy feladatot, miközben ez nem történt meg. Ugyanezeket a gyengeségeket támadók is kihasználhatják. A vállalat különbséget tesz a biztonsági kérdés, vagyis annak vizsgálata között, hogy támadja-e valaki az ügynököt, és a biztonságos működés kérdése között, amely azt vizsgálja, hogy maga az ügynök tér-e el a helyes működéstől.

Közös felügyelet fejlesztéstől a futtatásig

A Fiddler képes lehet követni az utasításokat, az eszközhívásokat és az eredményeket, majd értékelni, hogy az ügynök a feladatán belül maradt-e. A CrowdStrike ehhez a vállalat szerint az érintett személyazonosságáról, végponttevékenységéről és felhőben használt erőforrásairól adhat környezeti információt.

Ezek összekapcsolása segíthet a biztonsági csapatoknak a kitettség felmérésében és a válaszlépésekben, a mérnököknek a hibás működés javításában, a vállalatirányítási csapatoknak pedig az eredmény dokumentálásában. Ugyanazokból a bizonyítékokból új teszt és futásidejű szabály is készülhet, hogy egy későbbi ügynök ne kövesse el ugyanazt a hibát.

A Fiddler egy olyan felügyeleti réteget képzel el a vállalati ügynökök számára, amely több modellt, felhőt és fejlesztési keretrendszert is kezel. Ez kiterjedhet a vállalatok által fejlesztett ügynökökre, az alkalmazottak által használt kódolási asszisztensekre és a megvásárolt szoftverekbe épített ügynökökre is.

A cég Centor értékelőmodelljei ennek az elképzelésnek az egyik alapját adják. A Fiddler szerint ezek az LLM-eknél jóval alacsonyabb költség mellett vizsgálják a hűséget, az érzékeny információkat és a biztonságot, miközben a vállalati használat költség-, késleltetési és adatvédelmi követelményeit is kezelik.

Mit jelenthet a megállapodás a Fiddler ügyfeleinek?

A Fiddler közlése szerint a meglévő ügyfelek eddigi igényei továbbra is a küldetés középpontjában maradnak. Ide tartozik a modellek működésének megértése, az MI minőségének javítása, a költségek kezelése és az irányítási követelmények teljesítése. A vállalat ezt a munkát prediktív modellekre, generatív MI-re és ügynökökre is kiterjeszti.

A CrowdStrike-kal kötött megállapodás célja a Fiddler szerint az, hogy a már rendelkezésre álló működési bizonyítékok a vállalat több területén, a biztonsági feladatokban is használhatók legyenek. A bejelentés felvásárlási megállapodásról szól, a közlemény azonban nem ismerteti a tranzakció értékét vagy lezárásának időpontját.