A Check Point valós időben állítaná meg az ártalmas ügynöki műveleteket
A Check Point olyan szinkron vezérlésfigyelési megoldást ismertetett, amely az AI-ügynökök működését végrehajtás közben követi, és a vállalat szerint még az indításuk előtt megakadályozhatja az ártalmas műveleteket. A rendszer 100 ezredmásodpercnél rövidebb késleltetéssel dolgozik.
- A Check Point szinkron vezérlésfigyelést ismertetett AI-ügynökökhöz.
- A modell folyamatosan fogadja és elemzi az ügynök működési nyomkövetését.
- A vállalat szerint az ártalmas műveletek még végrehajtás előtt megállíthatók.
- A rendszer 100 ezredmásodpercnél rövidebb késleltetéssel működik.
- A nyomkövetés másodpercenként 30 token sebességgel érkezik a modellhez.
Folyamatosan figyeli az ügynök működését
A Check Point szeptember 15-én közzétett bejegyzése szerint a szinkron vezérlésfigyelés az AI-ügynökök összehangolását és irányíthatóságát támogatja. A vállalat által ismertetett modell felügyeli az ügynök végrehajtását, miközben folyamatosan fogadja és környezetként használja annak működési nyomkövetését, vagyis a trace-t.
A folyamat célja, hogy a rendszer ne utólag értékelje az ügynök tevékenységét. A Check Point leírása alapján a kontrollmodell az ügynök futása közben elemzi az érkező nyomkövetést, és az ártalmasnak ítélt műveleteket még a végrehajtásuk előtt megállítja.
A vezérlésfigyelő modell kapja a működési nyomkövetést
A bemutatott felépítésben az ügynök nyomkövetése másodpercenként 30 token sebességgel érkezik a vezérlésfigyelő modellhez. Ez a modell a beérkező adatot a végrehajtás kontextusaként használja, majd valós időben dönthet arról, hogy engedélyezi-e a következő műveletet.
A Check Point szerint a megoldás 100 ezredmásodpercnél rövidebb késleltetéssel működik. Ez azt jelenti, hogy a vállalat elképzelése szerint a biztonsági ellenőrzés közvetlenül az ügynöki művelet előtt történhet, anélkül, hogy a figyelés kizárólag utólagos vizsgálatra korlátozódna.
A Hugging Face incidens után felértékelődött a kontroll
A Check Point a Hugging Face incidensre is hivatkozik. A bejegyzés szerint ez az eset megerősítette annak szükségességét, hogy a már meglévő biztonsági mechanizmusok fölött külön vezérlésfigyelés is működjön.
A vállalat azt írja, hogy az OpenAI ezt követően nagyobb hangsúlyt fektetett a biztonsági figyelőeszközök fejlesztésébe. A forrás nem részletezi az incidenst, az OpenAI befektetéseinek mértékét vagy az alkalmazott eszközök konkrét működését.
Mit jelenthet ez az ügynökök használatában?
A Check Point megközelítése szerint az autonóm AI-ügynökök biztonságát a futás közbeni, folyamatos ellenőrzés erősítheti. A rendszer lényege, hogy a kontrollmodell ugyanabban az időben követi az ügynök tevékenységét, amikor az ügynök megpróbálja végrehajtani a feladatot.
A bejelentés alapján ez további védelmi réteget jelenthet az ügynöki rendszerekben, mivel az ártalmasnak minősített műveletek blokkolását még a végrehajtás előtt célozza. A forrás nem közöl konkrét terméknevet, elérhetőséget, teszteredményt vagy bevezetési dátumot.
