Az Orca Security természetes nyelvű felületet épített AWS-modellekkel

Több mint 900 felhőmodellt kell kezelni

Az Orca Security Sonar nevű, szakterületre szabott lekérdezési rendszerében a felhasználók a teljes adatgráfban kereshetnek, szűrhetnek és vizsgálódhatnak. A rendszer több mint 900 felhőinfrastruktúra- és alkalmazásmodellt támogat. Ezek közé tartoznak például az Amazon Elastic Compute Cloud, vagyis Amazon EC2 példányai és az Amazon Simple Storage Service, vagyis Amazon S3 tárolói.

A Sonar-lekérdezések elkészítéséhez korábban pontos modellnevekre, egymásba ágyazott kapcsolatok kezelésére és 18 operátor használatára volt szükség. A felhasználóknak JSON-objektumokat kellett létrehozniuk, miközben a különböző felhőszolgáltatók erőforrásai közötti szülő-gyermek kapcsolatokat is megfelelően kellett megadniuk.

Az Orca és az AWS ezért olyan természetes nyelvű felületet fejlesztett, amely egyszerű szöveges kérésből állít elő érvényes Sonar-lekérdezést. A Discovery AI az Amazon Bedrockon fut, és az AWS 2026. október 13-i bejegyzése szerint naponta több ezer lekérdezést képes kezelni, körülbelül 15 másodperces válaszidővel.

A teljes séma betöltése túl drága és lassú volt

Az első prototípus a teljes Sonar-sémát egyetlen promptban adta át a legnagyobb elérhető modellnek. A csomag több mint 900 modell leírását, minden kapcsolattípust és számos példalekérdezést tartalmazott. A kezdeti eredmények jók voltak, az Orca belső felhasználói és tervezési partnerei pozitívan reagáltak, a gyártási használat előtt azonban komoly korlátok jelentkeztek.

Egy munkaterhelés nagyjából 2 millió bemeneti tokent használt fel, ami magas költséget eredményezett. A teljes válaszidő körülbelül 60 másodperc volt, az összetett, több modellt érintő kérdéseknél pedig a beágyazott kapcsolatok és a több feltétel miatt gyakran további finomításra volt szükség.

Az Orca végül hibrid megközelítést választott. A Discovery AI a visszakereséssel támogatott generálást, vagyis a RAG-ot, sémaalapú lekérdezés-építéssel kombinálja. Az Amazon Bedrock mellett az szólt, hogy egyetlen programozási felületen keresztül több modellt is elérhetővé tesz. Így az egyes folyamatlépésekhez külön modelleket rendelhettek, és az AWS szerint az újabb modellverziókra való átállás nem igényelte a teljes architektúra újratervezését.

Kilenc lépésből áll a lekérdezési folyamat

A rendszer kilenc szakaszban alakítja át a természetes nyelvű kérést ellenőrzött Discovery-szűrővé. Elsőként a felhasználó kérését a szervezetre, a csatlakoztatott felhőszolgáltatókra és a kérés metaadataira vonatkozó kontextussal egészíti ki.

A Quick Matcher szabályalapú módszerekkel és reguláris kifejezésekkel azonosít olyan strukturált adatokat, mint az IP-címek, a CVE-k, az ARN-ek, a fájlhash-ek, az Amazon Machine Image-azonosítók, az Oracle Cloud-azonosítók, az EC2-azonosítók, az URL-ek és a riasztásazonosítók. Biztos egyezés esetén a rendszer nagy nyelvi modell használata nélkül is visszaadhat egy előre elkészített szűrőt.

A védelmi ellenőrzés kiszűri a promptinjekciós kísérleteket, a témán kívüli, nem műszaki vagy nem támogatott kéréseket. A rendszer ezt követően az Amazon Titan Text Embeddings segítségével megkeresi a 20 legközelebbi, korábban ellenőrzött példát, majd a Cohere Rerank 3.5 öt, leginkább releváns példára szűkíti a találatokat.

A modellválasztó a több mint 900 Sonar-modell közül kiválasztja a kéréshez és a csatlakoztatott szolgáltatókhoz illő elemeket. A generátor ezután a kiválasztott sémák, a példák, a felhasználói kontextus és a rendelkezésre álló eszközök alapján elkészíti a szűrőt, szükség esetén több lépésben finomítva azt. A kész eredményt statikus ellenőrzés, majd az Orca Sonar API-ján végzett vizsgálat validálja. Hiba esetén az üzenet visszakerül a generátorhoz javításra.

Eltérő modelleket rendeltek az egyes feladatokhoz

Az Orca az Amazon Bedrock több modelljét használja a folyamat különböző pontjain. Az Anthropic Claude Haiku 4.5 végzi a modellkiválasztást és a szűrők generálását, mivel ezeknél erős következtetési képességre van szükség. Az Amazon Nova 2 Lite a védelmi ellenőrzésben és a validálásban kap szerepet, ahol a gyors, alacsonyabb költségű feldolgozás a prioritás.

Az Amazon Titan biztosítja a szemantikus kereséshez használt beágyazásokat, a Cohere Rerank 3.5 pedig a visszakeresett példákat rangsorolja. Az AWS beszámolója szerint a példák visszakeresése volt a rendszer pontosságának legfontosabb tényezője. A releváns példák a vállalat tapasztalata alapján hatékonyabban tanítják meg a generátort a természetes nyelvű kérdések Sonar-lekérdezésekké alakítására, mint a séma önmagában.

A felhasználók számára ez azt jelenti, hogy a felhőbiztonsági adatok lekérdezéséhez kevesebb közvetlen ismeretre lehet szükségük a Sonar sémájáról, a modellnevekről és az operátorokról. A háttérben ugyanakkor továbbra is séma- és API-alapú ellenőrzés biztosítja, hogy a rendszer csak érvényes Discovery-szűrőt adjon tovább.