Saját AI-ügynökrajjal védi fejlesztés alatt álló rendszerét a Synthesia

A hagyományos biztonsági folyamat nem tudta követni a tempót

A Synthesia október 27-én közzétett beszámolója szerint a Syren nevű rendszert rövid idő alatt vitték el egy belső koncepciótól a külső kiadásig. A terméket olyan módon fejlesztették, amelyben a mérnökök kódoló ügynököket irányítottak.

Az első néhány napban a fő kódtárban körülbelül 170 pull request jelent meg. Ezeket mind ügynökök írták, az összeolvasztást pedig emberek végezték. A Synthesia szerint ekkor még nem készült fenyegetési modell, és biztonsági felülvizsgálat sem történt, miközben a bevezetés időpontja rögzített volt.

A vállalat úgy látta, hogy ebben a helyzetben a biztonsági ellenőrzések fejlesztési folyamat korábbi szakaszába tolása nem működik, mivel a rendszer terve gyorsabban változik, mint ahogy egy hagyományos felülvizsgálati ciklus lezajlik. Ezért a biztonsági munkát a fejlesztéssel egy időben kellett elvégezni.

Kapitányok és elkülönített munkások

A Synthesia házon belül egy helyi ügynökszervezőt készített. Ez hierarchiába rendezett, több kisebb csapatból álló rendszert hoz létre. Kétféle ügynököt használnak.

A kapitányok hosszú ideig futó, a gazdagépen működő ügynökök. Egy-egy munkaterületért felelnek, hozzáférhetnek többek között a Slackhez, a Linearhoz, a megfigyelési eszközökhöz, a GitHub parancssoros felületéhez és a helyi eszközlánchoz. Engedély esetén további ügynököket indíthatnak, illetve pull requestet is nyithatnak. A biztonsági mérnök bármikor csatlakozhat hozzájuk, kérdezhet tőlük, irányíthatja őket, vagy döntést hozhat.

A munkások egyszer használatos, elkülönített környezetben futó ügynökök. Egyetlen írásos feladatleírást kapnak, majd egy jelentést, módosításokat vagy ellenőrzési eredményt adnak vissza. Rögzített hálózati engedélylistát használnak, nincs hozzáférésük belső rendszerekhez, éles környezethez vagy feltöltési jogosultsághoz. A kapitány ellenőrzi a munkájukat, mielőtt az eredményt felhasználnák.

A vállalat bizonyos hozzáféréseket teljesen megtartott magának: az ügynökök nem érhették el a funkciókapcsolókat, a felhőkonzolt és a bejelentkezett böngészőt. A Synthesia több modellt is alkalmazott, és a feladathoz igazította a választást. A vállalat szerint a jelenlegi élvonalbeli modellek sok kiberbiztonsági feladatot visszautasítanak, ezért ezekhez közel élvonalbeli, nyílt modelleket is használtak.

A rendszer először térképet készít a változó kódról

Az elsőként elindított ügynök a kontextusgyűjtő volt. Figyelte a fejlesztőcsapat munkáját, a pull requesteket, és térképet készített a rendszerről. Ebbe beletartozott, hogy mire szolgálnak az egyes részek, milyen komponensek vannak, ki miért felel, és mely területek változnak gyorsan.

A kontextusgyűjtő biztonsági szempontból fontos eseményeknél jelzést küldött. A Synthesia szerint a hét során több kockázatos változást is észlelt, bár időnként túlbecsülte a problémák súlyát. A rendszer finomításával javult a jelzések és a téves riasztások aránya. A jelzéstől a beavatkozásig eltelt idő mediánja körülbelül 13 perc volt.

Az operátor az ismeretlen területeket új ügynökökhöz rendeli. Ezek először a komponensek működését és adatfolyamait térképezik fel, később pedig biztonsági felülvizsgálatot végeznek. A kapitányok a feladatot további munkásokra vagy alkapitányokra oszthatják, kiválaszthatják az egyes feladatokhoz illő modellt, ellenőrizhetik az eredményeket, majd megtervezhetik és támogathatják a javítás bevezetését a tesztkörnyezetbe.

A biztonsági ügynökök a megértéstől az üzemeltetésig jutnak

A Synthesia négy szakaszt különített el. Kezdetben az ügynökök abban segítenek, hogy a mérnökök megértsék a kódot és az architektúrát. Ezután tervezési partnerként vesznek részt a fenyegetési modellezésben, és közösen határozzák meg, hol legyen egy védelmi kontroll, hogyan működjön, illetve hiba esetén nyisson vagy zárjon.

A jóváhagyott terv után az ügynökök megírják a kódot. A kapitány feladatokra bontja a munkát, a munkások párhuzamosan vagy egymás után dolgoznak, a kapitány pedig ellenőrzi és összeilleszti az eredményt, majd pull requestet nyit.

A bevezetés után sem ér véget a folyamat. Az ügynökök figyelik a tesztkörnyezetet, feltárják a hibák okát, egyedi integrációs teszteket futtatnak, riasztásokat állítanak be, és tovább működtetik az értékeléseket. A különböző területek egyszerre lehetnek eltérő érettségi szinten, ezért az operátornak azt is követnie kell, hogy az egyes részeknél éppen milyen biztonsági munkára van szükség.