A Replit bemutatta, hogyan védené az önállóan dolgozó AI-ügynököket

A biztonság az ügynökök önállóságával együtt válik fontossá

A Replit október 28-i bejegyzése szerint az elmúlt héten nyilvánosságra került biztonsági hibák megmutatták, milyen kihívásokkal kell szembenézniük a vállalatoknak. A szoftverekben egyre gyorsabban lehet sérülékenységeket megtalálni, miközben a felfedezéstől a kihasználásig tartó idő is rövidül.

A vállalat szerint az AI-ügynökökre egyszerre van szükség a fenyegetések elhárításához és a munkafolyamatok átalakításához. Ahogy egyre több feladatot kapnak, a biztonsági ellenőrzéseknek is együtt kell skálázódniuk az önállóságukkal. A Replit Nikesh Arora, a Palo Alto Networks vezérigazgatójának kérdését is idézi, amely szerint minden AI-t bevezető vállalatnak fel kell tennie magának a kérdést: „Biztonságos a kódolási környezetük?”

A Replit állítása szerint a közelmúltbeli Linux kernelhibákat meglévő elkülönítési védelme megakadályozta, a vállalat pedig központilag javította az érintett eszközöket és tűzfalvédelmet telepített.

Az Agent Habitat négy biztonsági alapelve

A Replit Self-Driving Company nevű elképzelésének részeként az Agent Habitat más vállalatok számára is elérhetővé teszi azt az infrastruktúrát, amelyen az ügynökök a cég tudásához és rendszereihez férhetnek hozzá. A hozzáférést a vállalat által meghatározott határok szabályozzák.

• Csak a szükséges jogosultság: a rendszergazdák megadhatják, mely csoportok használhatnak egy adott kapcsolatot, és milyen hatókörrel működnek az egyedi OAuth-kapcsolatok. A SAML SSO, a SCIM-provízionálás és a szerepköralapú jogosultságok központi kezelést tesznek lehetővé.
• A hibák elkülönítése: az ügynökök elszigetelt felhőkörnyezetben futnak. A microVM-ek minden végrehajtási környezethez külön, minimális kernelt biztosítanak, a fejlesztési és éles adatbázisokat pedig elkülönítik.
• Elszámoltatható élesítés: a Replit szerint a problémához legközelebb álló szakértők ügynökökkel célzott módosításokat készíthetnek, majd pull requestként nyújthatják be azokat. A forrás ezen a ponton megszakad, ezért az élesítés további részletei nem ismertek.
• Átlátható delegálás: az ügynökök tevékenységét láthatóvá kell tenni, támogatni kell a vizsgálatokat, és egyértelmű határokat kell szabni az adatok és a munkaterhelések kezeléséhez.

A hitelesítő adatok külön védelmi réteget kapnak

A Replit szerint a jogosultságok és a hitelesítő adatok védelme külön problémát jelent. Egy ügynöknek végre kell tudnia hajtania egy engedélyezett kérést anélkül, hogy hozzáférne az ahhoz használt, újra felhasználható külső hitelesítő adathoz.

A vállalat ezért a csatlakozók hitelesítő adatait az ügynök környezetén kívül tartja. A hitelesítőadat-bróker minden kérést ellenőriz, majd csak engedélyezés után kéri le az adatot egy tárolóból, és hozzáadja a külső szolgáltatásnak küldött kéréshez. A Replit szerint ez csökkenti annak kockázatát, hogy titkok generált kódba, naplókba vagy beszélgetésekbe kerüljenek.

A vállalat Auto-Protect eszköze bekapcsolás esetén ellenőrzi a projektfüggőségeket az újonnan közzétett sérülékenységek alapján, és automatikusan előkészítheti, majd tesztelheti a javításokat. A Security Center segít az érintett projektek azonosításában és a javítások fontossági sorrendjének meghatározásában.

A Replit saját platformját is folyamatosan teszteli. A vállalat közlése szerint az év eleje óta éjjel-nappal AI-alapú vörös csapatos tesztelést futtat, amelyben több száz ügynök dolgozik együtt nyílt és zárt forrású modellekkel. Ezek a rendszerek sérülékenységeket keresnek, ellenőrzik és megpróbálják kihasználni azokat. A Replit ezt külső behatolási tesztekkel, a Trail of Bits és a HackerOne munkájával, valamint hibavadász programjával egészíti ki.