Nyílt szabványt fejlesztenek az AI-ügynökök azonosítására
A Coalition for Secure AI, vagyis a CoSAI technikai munkamenetet tartott az Open Delegation & Identity Standard, röviden ODIS fejlesztéséről. A nyílt kezdeményezés közös megközelítést alakítana ki az AI-ügynökök azonosítására, delegált jogosultságaira és irányítására.
- A CoSAI az ODIS nyílt szabvány fejlesztésén dolgozik.
- A szabvány az AI-ügynökök identitását, delegált jogosultságait és irányítását kezeli.
- Az ODIS az OAuth 2.0, az OpenID Connect, a SPIFFE és a SCIM technológiáira is épít.
- A közösség augusztus 28-án korai megvalósításokat mutatott be egy hibrid munkameneten.
- A tervezethez GitHubon, referencia-megvalósításokkal és a Workstream 4 közösségében lehet hozzájárulni.
Az AI-ügynök képviselete és jogosultsága a központi kérdés
Az egyre önállóbban működő AI-ügynökök vállalati rendszerekben, alkalmazásokban és API-kon keresztül hajtanak végre műveleteket. Emiatt alapvető kérdéssé vált, hogy egy adott ügynök kit vagy mit képvisel, milyen jogosultságot kapott, és megbízható-e az adott művelet végrehajtására.
Az ODIS ezt három elem összekapcsolásával kezeli: az ügynök által képviselt fő entitással, a számára delegált jogosultsággal, valamint a műveletet végrehajtó konkrét ügynökpéldánnyal. A CoSAI szerint a szabvány gyártófüggetlen architektúrát határoz meg a kriptográfiai identitás kezelésére vállalati bizalmi tartományok között.
A kezdeményezés olyan meglévő technológiákra épít és azokat terjeszti ki, mint az OAuth 2.0, az OpenID Connect, a SPIFFE és a SCIM, az ügynökalapú mesterséges intelligencia sajátos követelményeihez igazítva.
Munkameneten mutatták be az ODIS korai megvalósításait
A CoSAI augusztus 28-án technikai szakembereket, identitáskezelési szakértőket és irányítási vezetőket hívott össze egy hibrid munkamenetre. A résztvevők áttekintették az ODIS legfrissebb munkáját, bemutatták a korai megvalósításokat, és visszajelzéseket adtak a szabvány következő fejlesztési szakaszához.
A találkozó az ODIS áttekintésével kezdődött, amely kitért a kezdeményezés által kezelni kívánt problémára és a specifikáció aktuális állapotára. Ezt két élő bemutató követte, így a résztvevők működő megvalósításokon keresztül vizsgálhatták a szabványt.
Az eseményt a Chatham House szabály szerint tartották. Ez a CoSAI közlése szerint lehetőséget adott a nyílt technikai egyeztetésre a megvalósítók, identitásszakértők, AI-szakemberek és irányítási vezetők között. A résztvevők megvalósítási nehézségeket azonosítottak, és az együttműködést támogató átjárhatóság javításának lehetőségeit is megvitatták.
Nyílt közreműködéssel gyorsítanák az elfogadást
Az ODIS a CoSAI több nyílt kezdeményezésének egyike, és a CoSAI Workstream 4 munkafolyamatában készül. Ez a munkafolyamat az ügynökalapú rendszerek biztonságos tervezési mintáira összpontosít. A CoSAI emellett a mesterséges intelligencia szoftverellátási láncának biztonságával, a védekezési felkészültséggel és az AI-biztonsági kockázatok irányításával is foglalkozik.
A szervezet szerint az identitásszabványok akkor lehetnek sikeresek, ha széles körben alkalmazzák őket, és azok a közösségek alakítják őket, amelyek később bevezetik a technológiát. Ezért az ODIS fejlesztésébe AI-platformok, felhőszolgáltatók, identitásszolgáltatók, vállalati szoftvercégek, kutatók és nyílt forráskódú közreműködők is bekapcsolódhatnak.
A közösség a GitHubon olvashatja és véleményezheti az ODIS tervezetét, hibákat és javaslatokat küldhet be, valamint referencia-megvalósításokat építhet és oszthat meg. A Workstream 4 levelezőlistájához és találkozóihoz is lehet csatlakozni. A CoSAI szerint minden felvetett probléma, beküldött kódmódosítás, specifikációs áttekintés és referencia-megvalósítás javíthatja az átjárhatóságot, és segítheti a szabvány elterjedését.
Coalition for Secure AI: CoSAI Hosts Working Session on Open Delegation & Identity Standard (ODIS)
