A Docker új architektúrával védené az AI-ügynökökre épülő szoftvergyárakat

Az AI-ügynökök már a fejlesztési folyamatot is irányítják

A Secure Software Factory olyan rendszerekre készült, amelyekben az AI-ügynökök egy beérkező kérést feldolgoznak, módosítják a kódot, teszteket futtatnak, majd az eredményt emberi felülvizsgálatra adják át. A Docker szerint az elmúlt évben sok mérnöki csapat kezdett ilyen szoftvergyárakat építeni, és gyorsabb szállításról számoltak be.

A nagyobb önállóság ugyanakkor biztonsági kockázatokat is hordoz. A vállalat példaként említi, hogy egyes ügynökök megpróbáltak kijutni a homokozókból, adatbázisokat töröltek, vagy jóváhagyás nélkül éles környezetbe küldtek változtatásokat. Ezért a fejlesztési folyamat minden szakaszában szabályokra van szükség, amelyek korlátozzák az ügynökök hozzáférését és ellenőrzik a munkájukat.

Három biztonsági szint és ellenőrzések minden lépésnél

A referenciaarchitektúrát a Keycard, a Socket, a Docker, a Tessl, a Tracebit, a Browserbase és a Tailscale szakemberei dolgozták ki. A munkát nagyvállalati, szabályozott környezetben, például a pénzügyi és biztosítási szektorban dolgozó biztonsági vezetőkkel folytatott egyeztetések is formálták.

A dokumentum végigköveti a szoftvergyár folyamatát a bemenettől a tervezésen, az összeállításon és a buildfolyamaton át az ellenőrzésig. Emellett tárgyalja az identitás- és hozzáférés-kezelést, a szoftverellátási láncot, a hálózati szabályozást, a futtatási elkülönítést és a vezénylést. A modell három érettségi szintet tartalmaz, így a csapatok a jelenlegi állapotukból indulhatnak, majd fokozatosan javíthatják a kontrollokat.

A dokumentum központi állítása szerint minél nagyobb önállóságot kap egy ügynök, annál kevésbé lehet arra hagyatkozni, hogy saját maga ellenőrizze a működését. Egy futás közbeni utasítás, egy mérgezett függőség vagy egy rosszindulatú eszközleírás eltérítheti a működését. A védelmi intézkedéseknek ezért a futtatási környezetben kell működniük, az ügynök döntéseitől függetlenül.

A Docker elkülönített MicroVM-ekkel korlátozná az ügynököket

A Docker szerint a megoldás egyik része a Docker Sandboxes, amely elkülönített MicroVM-ekben futtatja a kódoló ügynököket. A rendszer helyben és felhőben is használható, és egyértelmű határokat állít a hozzáférhető fájlok, hálózati célpontok és hitelesítő adatok köré.

A vállalat ezt az Agent Baseline „Constrain”, vagyis korlátozásra vonatkozó biztonsági eredményéhez kapcsolja. Az Agent Baseline-t júliusban a Docker, a Snyk és a Keycard tette közzé nyílt, gyártófüggetlen referenciaarchitektúraként. A célja, hogy közös keretet adjon az AI-ügynökök vállalati használatához, többek között annak megválaszolásával, hogy mi működik, milyen képességekkel, az ügynök az engedélyezett határok között marad-e, és bizonyítható-e utólag, mi történt.

A Docker szerint a szoftvergyárban a felhasznált kontextus is a szoftverellátási lánc részévé válik. Az ügynökök által használt készségek ezért ugyanúgy lehetnek sérülékenyek, gondatlanul elkészítettek vagy rosszindulatúak, mint a szoftvermodulok.

Közös iparági keretet szeretnének kialakítani

A kezdeményezéshez további vállalatok is csatlakoznak. A Tailscale vezetője szerint az ügynököknek csak egy adott feladathoz szükséges jogosultságot kellene megkapniuk, amelynek érvényessége lejár, miközben a szabályzatokat és a naplózást az ügynök nem írhatja át. A Keycard vezetője úgy fogalmazott, hogy egy ügynök terve nem válhat automatikusan a jogosultságává.

A Docker arra kéri a fejlesztőket és biztonsági szakembereket, hogy használják a dokumentumokat, jelezzék a GitHubon, ha eltérést találnak, vagy csatlakozzanak az Agent Baseline Slack-közösségéhez. A vállalat szerint a gyakorlati megvalósításból érkező visszajelzések segíthetik annak felmérését, hogy a referenciaarchitektúrák mennyire illeszkednek a tényleges fejlesztési folyamatokhoz.