A cél önmagában kevés az AI-ügynökök biztonságához
A Check Point szerint az autonóm AI-ügynök célja önmagában nem határozza meg, milyen úton érheti el azt. A vállalat az NVIDIA OpenShell környezetével olyan béta-integráción dolgozik, amely az infrastruktúrában húzza meg a biztonsági határt, és minden lépést ellenőriz.
- Az AI-ügynök célja nem feltétlenül írja le, milyen úton érheti el azt.
- Az NVIDIA Open Agent Safety Platform az infrastruktúrában helyezi el a biztonsági határt.
- A Check Point szemantikai monitorja minden lépés feladathoz való illeszkedését vizsgálja.
- A Check Point és az NVIDIA OpenShell integrációja bétaállapotban működik.
- A monitor döntése az akció előtt, kevesebb mint 100 ezredmásodperc alatt is megérkezhet.
A cél nem írja le az összes lehetséges utat
A Check Point 2026. szeptember 28-án közzétett cikke szerint amikor egy szervezet feladatot ad egy autonóm ügynöknek, jellemzően a kívánt eredményt fogalmazza meg. Példaként a beszállítói számlák feldolgozása szerepel. A cél azonban ritkán mondja meg részletesen, hogy az ügynök milyen lépésekkel juthat el hozzá.
A vállalat állítása szerint a nagy képességű ügynökök olyan útvonalakat is megtalálhatnak, amelyeket a fejlesztők vagy a felhasználók előzetesen nem terveztek meg. Ez biztonsági szempontból azt jelenti, hogy a kívánt cél rögzítése önmagában nem feltétlenül korlátozza az ügynök működését. A feladat leírása és az ahhoz vezető konkrét lépések ezért külön ellenőrzést igényelnek.
A védelem határa az ügynökön kívülre kerül
A Check Point bemutatása szerint az NVIDIA Open Agent Safety Platform az infrastruktúrában helyezi el ezt a határt, az ügynök közvetlen elérésén kívül. A megközelítés lényege, hogy az ügynök működését olyan környezeti korlátok szabják meg, amelyekhez maga az ügynök nem fér hozzá.
Ehhez kapcsolódik a Check Point szemantikai megfigyelése. A rendszer azt vizsgálja, hogy az ügynök minden egyes lépése továbbra is illeszkedik-e a feladathoz. A forrás szerint így nem csak az számít, hogy az ügynök milyen célt kapott, hanem az is, hogy a végrehajtás közben megtett egyes lépések összhangban maradnak-e ezzel a céllal.
Béta-integráció az NVIDIA OpenShell-lel
A Check Point közlése szerint a szemantikai monitor és az NVIDIA OpenShell már együtt működik egy béta-integrációban. A monitor döntése az akció végrehajtása előtt is megérkezhet, a közlés alapján kevesebb mint 100 ezredmásodperc alatt.
Ez a működés a forrás leírása szerint lehetővé teszi, hogy az ellenőrzés ne csak utólag értékelje az ügynök tevékenységét. A lépés megfelelőségének vizsgálata még az akció lefutása előtt megtörténhet, miközben a biztonsági határ az infrastruktúrában marad.
Mit jelent ez a felhasználóknak?
A bejelentés az autonóm ügynökök használatának egy olyan kockázatára irányítja a figyelmet, amelyet a cél megadásával nem lehet teljesen kezelni. Egy ügynök ugyanis a feladat végrehajtásához olyan lépéseket is választhat, amelyekre a cél megfogalmazója nem tért ki.
A Check Point és az NVIDIA megközelítése erre két ellenőrzési ponttal válaszol. Az NVIDIA Open Agent Safety Platform az ügynökön kívüli infrastruktúrában alakít ki korlátot, a Check Point monitorja pedig azt értékeli, hogy az egyes lépések illeszkednek-e a feladathoz. Az integráció bétaállapotban van, ezért a forrás a jelenlegi együttműködést nem kész, általánosan elérhető termékként mutatja be.
Check Point: Goals Are Not Enough: Securing AI Agents with NVIDIA OpenShell
