Döntős lett az MLCommons pénzügyi AI-ügynökökre kidolgozott profilja
Döntőbe jutott az MLCommons Financial Services Working Group Agent Reliability Profile kezdeményezése a C:>DIR Global „Agentic Regulator” Hackathonon. A projekt azt vizsgálja, hogyan lehet szabványos módon leírni és ellenőrizni, hogy egy pénzügyi AI-ügynök milyen műveletekre jogosult, és betartja-e ezeket a korlátokat.
- Döntős lett az MLCommons Agent Reliability Profile a C:>DIR globális hackathonján.
- A projekt a pénzügyi AI-ügynökök jogosultságainak és megbízhatóságának ellenőrzésére készül.
- A Profile Builder Level 1 Asserted Profile-t, a Profile Validator Level 2 Validated Profile-t állít elő.
- A bemutató egy nyílt bankolási adatmegosztási és hozzájárulási forgatókönyvet tesztel.
- A hackathonra 336 pályázat érkezett több mint 65 országból, 36 csapat jutott a döntőbe.
Az ügynökazonosítás önmagában nem elég
Az AI-ügynökök nem csak kérdésekre válaszolnak, hanem műveleteket is végrehajtanak. Emiatt a pénzügyi intézményeknek és a felügyeleteknek azt is meg kell tudniuk állapítaniuk, hogy egy ügynök ténylegesen mire jogosult, és a digitális pénzügyi infrastruktúrához kapcsolódva ezen a hatókörön belül maradt-e.
Az MLCommons szerint a jelenlegi ügynökazonosítási szabványok képesek igazolni, hogy ki vagy mi az adott ügynök, arról azonban nem adnak elegendő információt, hogy milyen műveleteket kellene engedélyezni számára. A szervezet ezt az engedélyezési és felügyeleti hiánynak nevezi.
Az Agent Reliability Profile célja egy szabványos, a felügyeleti szervek számára is használható keretrendszer létrehozása. Ez a pénzügyi szolgáltatásokban működő ügynöki rendszerek leírására, érvényesítésére és összehasonlító tesztelésére szolgálna.
Két eszköz vizsgálja az ügynökök működését
Az MLCommons nevezése a Know Your Agent, röviden KY-A, Digital Verification & Digital Public Infrastructure problématérben versenyez. A pályázatot Mike Hsu és Medha Bankhwal, a munkacsoport társelnökei nyújtották be.
A bemutató két, az Agent Reliability Profile-ra épülő eszközt használ. A Profile Builder egy intézmény saját bizonyítékait, például tervdokumentumokat, konfigurációs exportokat és szabályzatokat dolgozza fel. Ezekből Level 1 Asserted Profile-t, vagyis állított profilt állít össze, és jelzi, ha eltérés van a leírt szándék és a ténylegesen kiépített konfiguráció között.
A Profile Validator ezt a profilt tesztelési specifikációként használja, majd valós rendszerbeli viselkedés alapján próbálja megcáfolni annak állításait. Az eredmény egy Level 2 Validated Profile, vagyis validált profil.
A demonstráció egy nyílt bankolási adatmegosztási és hozzájárulási helyzetet modellez. Azt teszteli, hogy az ügynök az ügyfél által ténylegesen engedélyezett adatmegosztási hatókörön belül marad-e.
336 pályázatból 36 csapat jutott tovább
A C:>DIR hackathont a Cambridge-i Egyetem Digital Innovation and Regulation Initiative kezdeményezése szervezi. A programot többek között a BIS Innovation Hub, a Global Financial Innovation Network és a Digital Regulation Cooperation Forum támogatja, összesen több mint 35 szervezet közreműködésével.
A versenyre 65-nél több országból 336 pályázat érkezett. A döntőbe 36 csapat jutott tovább, problématérként hat csapat.
A döntős fejlesztések szeptember 1. és 8. között készülnek. Az élő bemutatók és a bírálat szeptember 15-én és 16-án lesz, a Cambridge Regulator Visiting Fellowship Program szabályozói ösztöndíjasaiból álló zsűri előtt. A győzteseket szeptember 18-án, a C:>DIR Summiton jelentik be.
Pénzügyi intézményeket és felügyeleteket várnak
Az MLCommons kezdeményezése munkacsoporti projektként folytatódik. A szervezet pénzügyi intézményeket, felügyeleti szerveket és technikai közreműködőket keres a keretrendszer alakításához.
A Financial Services Working Group szerdánként, keleti parti idő szerint 12 és 13 óra között tart ülést. A csatlakozni kívánók az [email protected] címen vehetik fel a kapcsolatot a csoporttal.
Ha a Profile Builder és a Profile Validator módszere a gyakorlatban is működőképesnek bizonyul, az intézmények dokumentáltabb módon vethetik össze az ügynökök deklarált jogosultságait a tényleges viselkedésükkel. A projekt jelentősége az MLCommons szerint abban áll, hogy a pénzügyi AI-ügynökök engedélyezését és felügyeletét szabványosítható tesztekkel támogatná.
