Az Anaconda csatlakozott az Open Secure AI Alliance-hoz

Jelentős kockázatokat találtak az MCP-szervereken

Az Anaconda október 28-i közleménye szerint az AI-ügynökök a meghívott eszközökön keresztül üzleti adatokkal és vállalati rendszerekkel dolgoznak. Ezek az eszközök biztonsági kockázatokat hordozhatnak, ezért az ügynökök használatának bővítése mellett a vállalatoknak azt is ellenőrizniük kell, hogy miként tarthatják meg az irányítást.

Az Anaconda Enkrypt AI nevű megoldása két hónap alatt több mint 268 000 eszközt vizsgált meg 25 000 Model Context Protocol, vagyis MCP-szerveren. A vizsgálat több mint 143 000 sérülékenységet tárt fel, amelyek a szerverek 73 százalékát érintették.

A vállalat szerint ezek az eredmények azt mutatják, hogy egy AI-modell önálló vizsgálata nem elegendő. A biztonsági ellenőrzésnek ki kell terjednie a modell környezetére is, beleértve a függőségeket, az elérhető eszközöket, a hozzáférhető adatokat és azokat a műveleteket, amelyeket az ügynök végrehajthat.

Nyílt eszközökkel védenék az AI-rendszereket

Az Open Secure AI Alliance-t az NVIDIA alapította, vezetését pedig a Linux Foundation látja el. A szövetség technológiai vállalatokat, kutatókat és kormányzati partnereket hoz össze az AI biztonságát szolgáló nyílt eszközök, szabványok és technikák fejlesztésére és megosztására.

A tagok között az Anaconda partnerei, az NVIDIA, a Microsoft és az AWS mellett a Cloudflare, a Red Hat, valamint más vállalati technológiai és kiberbiztonsági szereplők is megtalálhatók. A kezdeményezés olyan védelmi képességeket kíván létrehozni, amelyeket a szervezetek megvizsgálhatnak, saját igényeikhez igazíthatnak, és az általuk ellenőrzött infrastruktúrán futtathatnak.

A szövetség munkája a teljes ügynöki technológiai láncra kiterjed, a modellektől az ügynökök működését lehetővé tevő szoftvereken át az irányelvekig és kontrollokig. Ez azért fontos, mert a vállalati csapatok nyílt és saját tulajdonú modelleket, fejlesztőeszközöket, adatplatformokat és infrastruktúrát is kombinálhatnak.

Három területre összpontosít az Anaconda

Az Anaconda három prioritást jelölt ki a szövetségen belüli együttműködéshez. Az első az ügynökök teljes döntési láncának tesztelése. A vállalat javítaná az értékelési és támadó szimulációs módszereket, hogy a több lépésen át kialakuló hibák is feltárhatók legyenek.

A második cél az ügynökök által elért eszközök és MCP-szerverek védelme. Ehhez közös megközelítéseket fejlesztenének a mesterséges intelligencia szoftverellátási láncának vizsgálatára, ellenőrzésére és a hozzáférések szabályozására.

A harmadik terület az AI-szabályzatok működésének bizonyítása. Az Anaconda szerint javítani kell annak rögzítését, hogy az ügynökök milyen döntéseket hoztak, valamint az incidensek jelentését is, hogy a biztonsági és megfelelőségi csapatok ellenőrizhessék, mely kontrollok működtek, és mit engedélyeztek vagy állítottak meg.

Az Anaconda Platform fejlesztéstől az üzemeltetésig kínál eszközöket

Az Anaconda közleménye a vállalat Anaconda Platform rendszerét is bemutatja. A platform négy területet fog össze. A fejlesztők a Kilo by Anaconda AI-munkakörnyezetében dolgozhatnak, ahol modellválasztás, megbízható csomagok és modellek, valamint a használat és a költségek átláthatósága érhető el. A Kilo Enterprise modell- és szolgáltatói kontrollokat, egyszeri bejelentkezést és auditnaplókat is kínál.

Az Enkrypt AI by Anaconda kiadás előtti támadó szimulációt, éles környezetben alkalmazható korlátozásokat az ügynökök eszközhívásaira, valamint folyamatos megfelelőséghez használható auditálható bizonyítékokat biztosít. Az AI-koordináció reprodukálható és nyomon követhető munkafolyamatokat támogat a különböző környezetekben.

A megbízható AI-elemek között ellenőrzött Python-csomagok, válogatott modellek és megbízható MCP-szerverek szerepelnek, eredet- és sérülékenységkövetéssel. Az Anaconda szerint ezek az elemek együtt segíthetik, hogy a csapatok a kísérletezéstől az éles működésig követni tudják, mi változott, és milyen biztonsági kontrollok léptek működésbe.