AIUC-1 tanúsítást szerzett a Sierra ügynökplatformja

Az AI-ügynökök működését vizsgáló tanúsítás

A Sierra szeptember 17-i közlése szerint az AIUC-1 kifejezetten AI-ügynökökhöz kialakított új szabvány. A tanúsítás azt vizsgálja, hogyan viselkednek ezek a rendszerek tényleges használat közben, beleértve azokat a helyzeteket is, amikor valaki megpróbálja manipulálni őket, védett információhoz próbál hozzáférni, vagy arra készteti őket, hogy túllépjék a számukra engedélyezett határokat.

A Sierra platformjára épülő ügynökök a vállalat szerint többek között betegellátást koordinálnak, műszaki problémákat kezelnek, biztosítási károkat rendeznek és jelzáloghiteleket refinanszíroznak. A Sierra közlése alapján a Fortune 50 vállalatainak több mint 40 százaléka, a vezető bankok egyharmada, valamint a világ tíz legnagyobb egészségügyi vállalata közül öt dolgozik a céggel.

Chat- és hangalapú ügynököket is teszteltek

Az AIUC a tanúsítás részeként a Sierra chat- és hangalapú ügynökeit mindennapi interakciókban és szándékosan támadó jellegű helyzetekben is vizsgálta. A tesztek között szerepeltek olyan kísérletek, amelyek az ügynökök manipulálására vagy védett információk felfedésére irányultak. A hangalapú működést több valós körülmény között is ellenőrizték.

Ezzel párhuzamosan a Schellman áttekintette a Sierra műszaki, jogi, működési és irányítási kontrolljait. A vállalat szerint az auditor megállapította, hogy a Sierra teljesíti az AIUC-1 valamennyi alkalmazandó követelményét.

A technikai értékeléseket legalább negyedévente megismétlik, a teljes auditot pedig évente végzik el. A Sierra szerint ez biztosítja, hogy a tanúsítás kövesse a platform változásait és az AI-kockázatok alakulását.

Többrétegű védelem az ügynökök teljes életciklusában

A Sierra a biztonságot, a védelmet és a megbízhatóságot az ügynökök létrehozásába, tesztelésébe, kiadásába és továbbfejlesztésébe is beépíti. A vállalat többrétegű védelmi megközelítést alkalmaz, vagyis több biztosítékra támaszkodik egyetlen kontroll helyett.

Az ügynökök viselkedését megalapozott tartalmak és az ügyfelek által meghatározott szabályok irányítják. Éles működés közben a Supervisors valós időben értékelik a beszélgetéseket, és szükség esetén javíthatják, blokkolhatják vagy eszkalálhatják a válaszokat. A determinisztikus védelmi szabályok olyan alapvető követelményeket érvényesítenek, mint a hitelesítés és a hozzáférési jogosultságok ellenőrzése.

Az AIUC-1 a Sierra meglévő SOC 2 Type II megfelelőségi igazolását, valamint ISO 27001 és ISO 42001 tanúsítását egészíti ki. A Sierra szerint ezek a szabványok a biztonsági és AI-irányítási rendszereket igazolják, míg az AIUC-1 kifejezetten az AI-ügynökökre szabott, ismétlődő technikai tesztelést ad hozzá.

Mit jelent ez a Sierra ügyfeleinek?

A vállalkozások továbbra is maguk határozzák meg, hogy ügynökeik mit tudnak, milyen rendszerekhez férnek hozzá, milyen műveleteket hajthatnak végre, és hogyan képviselik a márkát. Az AIUC-1 ezek alatt a testreszabott ügynökök alatt működő platform független ellenőrzését biztosítja.

A Sierra közlése szerint a tanúsítás a biztonsági, kockázatkezelési, megfelelőségi és AI-irányítási csapatok számára azt jelzi, hogy a platform kontrolljait olyan helyzetekben is tesztelték, amelyekkel az AI-ügynökök a valós használat során találkozhatnak. A vállalat folytatja a független értékelésekbe, saját tesztelésébe, monitorozásába és termékfejlesztésébe irányuló befektetéseit.