A pénzügyi szektorban terjednek az önállóan cselekvő AI-rendszerek

Már működő pénzügyi alkalmazások

A Center for Democracy & Technology szeptember 23-án közzétett elemzése szerint a pénzügyi intézmények fejlett AI-rendszereket vezetnek be az ügyfélszolgálat, a csalások felderítése, a befektetési elemzés és a hitelfeldolgozás támogatására. A Morgan Stanley például GPT-4-re épülő AI-asszisztenst vezetett be vagyonkezelési tanácsadói számára, a Bloomberg pedig létrehozta a BloombergGPT nevű, pénzügyi alkalmazásokra tervezett, 50 milliárd paraméteres nagy nyelvi modellt.

Az OpenAI és az Anthropic általában óvatosságra int a pénzügyi szolgáltatásokhoz való hozzáférést befolyásoló felhasználással kapcsolatban, miközben modelljeik pénzügyi alkalmazásait, például a piacelemzést és a szabályozási megfelelést is népszerűsítik.

A téma azért különösen érzékeny, mert a pénzügyi döntések hatással lehetnek a hitelhez való hozzáférésre, az ügyfeleknek kínált kamatokra és arra is, hogy egy csalásgyanú miatt zárolják-e a számlájukat. A CDT szerint az AI hibái és torzításai jelzáloghitel-elutasításhoz, korlátozott banki hozzáféréshez vagy diszkriminatív hitelezéshez vezethetnek.

Az agentic AI nagyobb mozgásteret kap

Az úgynevezett agentic AI a generatív AI olyan részterülete, amely korlátozott emberi felügyelet mellett képes tervezni, következtetni és összetett feladatokat végrehajtani. Az ilyen rendszerek új információk alapján módosíthatják a terveiket, több alkalmazáson keresztül dolgozhatnak, adatokat kérhetnek le és dolgozhatnak fel, valamint különböző rendszerek feladatait hangolhatják össze.

A CDT által idézett egyik tanulmány szerint a pénzügyi szolgáltatások vezetőinek több mint fele már éles környezetben használ AI-ügynököket, 40 százalékuk pedig arról számolt be, hogy szervezetük már tíznél több ügynököt indított el.

Az elemzés szerint a hagyományosabb pénzügyi AI-rendszerek jellemzően elkülönült komponensként működnek, ezért viselkedésük és kockázataik könnyebben körülhatárolhatók. Ezek a rendszerek is okoztak már dokumentált károkat, például alacsonyabb hitelkereteket állapítottak meg nők számára, eltéréseket okoztak a hitelárazásban etnikai csoportok között, illetve előítéletes munkaerő-felvételi ajánlásokat adtak.

Az önállóan cselekvő rendszerek ennél szélesebb kockázati felületet teremthetnek, mivel több felhasználási területet kapcsolhatnak össze, tartós memóriát használhatnak, és e-mailhez, weboldalakhoz vagy személyes fájlokhoz is hozzáférhetnek.

Ügyfélszolgálat, fizetések és ellenőrzési kérdések

A pénzügyi intézmények olyan AI-ügynököket fejlesztenek, amelyek telefonon, üzenetben vagy chatbotként válaszolnak a számlákkal, egyenlegekkel és pénzügyi termékekkel kapcsolatos kérdésekre. Egyes rendszerek jelszó-visszaállítást, elveszett bankkártya törlését vagy akár számlanyitást is kezelhetnek. A Bank of America Erica és a Wells Fargo Fargo asszisztense a szöveges és hangalapú, emberi beszélgetést utánzó ügyfélkapcsolat példái. Az elemzés szerint a Lyzr olyan megoldásokat is elképzel, amelyek vitatott tranzakciókat és visszatérítéseket kezelnek.

Az ilyen használat adatvédelmi és biztonsági kérdéseket vet fel. Az ügynökök a költési szokásokra, a személyes körülményekre, az érzelmi állapotokra, a jövedelemre vagy a számlaegyenlegre vonatkozó információkat kérhetnek vagy következtethetnek ki. Ezek később diszkriminatív hatások alapjául szolgálhatnak.

A CDT külön kiemeli a promptinjekciós támadásokat, amelyek módosíthatják a rendszer bemenetét, felülírhatják a kívánt működést vagy megkerülhetik a védelmi korlátokat. Ha egy ügynök fizetési adatokkal vásárlást is végrehajthat, egy ilyen támadás jogosulatlan tranzakciókhoz és pénzügyi veszteséghez vezethet. A jelentés szerint a felhasználóknak világos lehetőséget kell kapniuk az ügynökök műveleteinek jóváhagyására, szüneteltetésére vagy felülbírálására, miközben az emberi felügyelet normái még kialakulatlanok.

A szabályozási kérdéseket tovább nehezíti, hogy az Equal Credit Opportunity Act tiltja a diszkriminációt a hiteldöntésekben, a Fair Credit Reporting Act pedig magyarázatot ír elő bizonyos hitel-elutasítások esetén. A CDT szerint a jelenlegi nagy nyelvi modellek korlátozottan képesek következetes és pontos magyarázatot adni a kimeneteikre.

A szervezet úgy látja, hogy a pénzügyi AI-ügynökök egyelőre nem érték el a nyilvános bejelentésekben sugallt fejlettséget, de a termékbejelentések és az iparági figyelem alapján képességeik a jövőben fejlődhetnek. Emiatt a biztonsági, adatvédelmi, fogyasztóvédelmi és felelősségi kérdések vizsgálatát már most szükségesnek tartja.