Az OECD szerint a pénzügyi felügyeletnek az AI alkalmazását kell értenie

Az AI már a pénzügyi rendszerek része

Az OECD.AI szeptember 3-án közzétett elemzésében Iota Kaousar Nassr és Dr Henrike Mueller azt írja, hogy a mesterséges intelligencia már nem feltörekvő technológia a pénzügyi rendszerekben. A hitelbírálattól és a csalások felismerésétől a pénzügyi tanácsadásig és az ügyfélszolgálatig több területen alakítja át a működést.

A szerzők szerint az innováció gyorsulása új felügyeleti kérdéseket vet fel. A hatóságoknak lépést kell tartaniuk az AI fejlődésével, fel kell mérniük a fogyasztókra és a piacokra gyakorolt hatásokat, valamint azonosítaniuk kell a piaci integritást és stabilitást érintő kockázatokat.

Az OECD-országok pénzügyi szabályozásában általános technológiasemleges elv érvényesül. Ez azt jelenti, hogy a meglévő követelmények a technológiától függetlenül vonatkoznak a pénzügyi szolgáltatásokra és termékekre. A felügyelet feladata, hogy ezeket a szabályokat a gyakorlatban is érvényesítse.

A fejlett modellek felügyelete nehézségekbe ütközik

Az OECD elemzése szerint az AI pénzügyi alkalmazásának gyakorlati felügyeletét megnehezíti a fejlett, köztük az önállóan működő, úgynevezett agentic AI-rendszerek jellege. További problémát jelent a tranzakciók növekvő száma és sebessége, valamint egyes modellek összetettsége és átláthatatlansága. Ezek a tulajdonságok megnehezítik az emberi ellenőrzést, különösen akkor, ha a rendszerek bizonyos fokú önállósággal működnek.

A pénzügyi szolgáltatók AI-használatáról rendelkezésre álló adatok korlátozottak, ezért nehéz felmérni az alkalmazás mértékét, illetve az ehhez kapcsolódó sérülékenységeket és piaci hatásokat. A megfelelés vizsgálata során gondot okozhat a modellkockázat kezelése és validálása, az összetett rendszerek kimeneteinek tesztelése, valamint a magyarázhatóság hiánya.

A szerzők külön kiemelik a modellek eredményeinek megbízhatóságát és méltányosságát, továbbá az adatkezelést és az adatirányítást. A gyakorlatban az is nehézséget okoz, hogy mit jelent pontosan az emberi ellenőrzés a folyamatban, illetve milyen méltányossági küszöbök és iparági összehasonlítási alapok lennének megfelelőek.

Az FCA tesztelési programja gyakorlati mintát adhat

Az OECD szerzői szerint egyes joghatóságokban útmutatásra és pontosításra lehet szükség ahhoz, hogy a meglévő kockázatkezelési és irányítási szabályokat miként kell alkalmazni a fejlett AI-modellekre. Ez különösen a modellvalidálás, a tesztelés, a folyamatos megfigyelés és a vállalatirányítás területén lehet hasznos. A túlzottan részletes, merev új előírások helyett az értelmezést segítő gyakorlati útmutatók támogathatják az innovációt.

A felügyeletek és az iparági szereplők szorosabb együttműködése kölcsönösen javíthatja a megértést. Példaként az Egyesült Királyság Financial Conduct Authority, vagyis FCA AI Live Testing programját említi az elemzés. A kezdeményezésben pénzügyi vállalkozások dolgoznak együtt a hatóság szabályozási és technikai csapataival, ellenőrzött, éles piaci környezetben.

A program két szakaszból áll. A felfedezési szakaszban a résztvevők bemutatják az AI-rendszer felépítését, fejlesztését, teljesítményét, az adatok kezelését, a robusztusságot, a magyarázhatóságot, a naplózást, a verziókezelést, valamint a biztonsági és technikai ellenálló képességet. Az éles tesztelési szakasz a tesztelési és megfigyelési módszereket, a fogyasztók és a piacok számára megfelelő eredmények bizonyítékait, továbbá az FCA követelményeivel való összhangot vizsgálja.

Az FCA nem végzi el a tesztelést a vállalkozások helyett. A cégek felelősek a tesztekért, a pilotprojektekért és a bizonyítékok előállításáért. A program a megközelítéseket és az eredményeket elemzi, és jelzi, ha a kockázatkezelés, az irányítás vagy a szabályok értelmezése pontosításra szorul. Célja a biztonságos és felelős alkalmazás támogatása, nem hatósági jóváhagyás, audit vagy tanúsítás.