A Jev döntési modellje is sebezhetőnek bizonyult a promptinjekcióval szemben
A Check Point szerint a Jev nevű, döntéseket visszaadó AI-modell minden tesztelt konfigurációban eltéríthető volt. A kísérletben egy figyelmeztető jelekkel teli dokumentumra alacsony kockázati besorolás és befektetési javaslat született.
- A Jev típusos döntéseket ad vissza szöveges válaszok helyett.
- A Check Point minden tesztelt konfigurációt sebezhetőnek talált.
- Egy figyelmeztető jelekkel teli dokumentumnál alacsony kockázatot és befektetési javaslatot kaptak.
- Egy sikeres feltörés költsége körülbelül 50 cent volt.
Szöveg helyett típusos döntéseket ad
A Check Point 2026. szeptember 24-én közzétett beszámolója szerint a Jev egy új típusú AI-modell, amely nem szöveges választ ad, hanem típusos döntéseket. A modellt szoftverek általi használatra építették, ezért a kimenete elsősorban programok számára készül, nem közvetlenül az emberek olvasására.
A biztonsági cég azt vizsgálta, hogy egy ilyen rendszer döntése kívülről megváltoztatható-e. A kutatók a Jevet egy valósághű alkalmazásba helyezték, majd megpróbálták módosítani a modell ítéletét.
Minden tesztelt konfiguráció elbukott
A Check Point közlése alapján minden kipróbált konfiguráció sebezhetőnek bizonyult. A kísérlet során a kockázati besorolást alacsonyra módosították, miközben a rendszer befektetést javasolt egy olyan dokumentum alapján, amely a forrás szerint minden figyelmeztető jelet tartalmazott.
Ez azt mutatja, hogy a támadás a Jev által visszaadott döntést is képes volt eltéríteni, annak ellenére, hogy a modell nem hagyományos, szöveges válaszokat előállító nyelvi modellként működik. A bejegyzés címe is erre a párhuzamra épít: a döntési modell a Check Point szerint ugyanúgy megtörhető, mint más nyelvi modellek.
Körülbelül 50 centbe került egy sikeres támadás
A Check Point szerint a vizsgálat egy napig tartott, és egy sikeres feltörés költsége körülbelül 50 cent volt. A bejegyzés alapján ezt az eredményt a legerősebb tesztelt megközelítés mellett érték el, a forrás szövege azonban nem közöl további részleteket erről a módszerről.
A költségadat azért fontos, mert a Jevhez hasonló rendszereket szoftverek használhatják döntési folyamatokban. Ha egy modellen kívülről módosítható a kockázati értékelés vagy az arra épülő javaslat, akkor a probléma nem áll meg a modell válaszának tartalmánál, hanem az azt használó alkalmazás működésére is hatással lehet.
A döntési modelleknél is vizsgálni kell a külső eltérítést
A beszámoló alapján a Jev esete arra hívja fel a figyelmet, hogy a biztonsági tesztelést nem érdemes kizárólag a szöveget előállító AI-rendszerekre korlátozni. A Check Point kísérletében a típusos döntéseket visszaadó modellnél is sikerült megváltoztatni a végeredményt.
A felhasználók és a rendszergazdák számára a közölt eredmény azt jelenti, hogy a Jevhez hasonló döntési modellek beillesztésekor a külső befolyásolhatóságot is ellenőrizni kell. A forrás ugyanakkor nem ismertet javítást, védelmi megoldást vagy a Jev elérhetőségét.
Check Point: A Decision Model Breaks Like Any Other Language Model: A First Look at Jev
