Az európai pénzügyi szektor nyílt modellekkel épít saját AI-rendszereket
Európai bankok, fizetési szolgáltatók és pénzügyi adatcégek nyílt súlyú modellekre építik saját intelligenciarendszereiket. Az NVIDIA szerint a megoldások már nagyüzemi pénzügyi, kutatási és csalásmegelőzési feladatokban is megjelennek.
- A Revolut PRAGMA modellje kezdetben 80 millió ügyfelet szolgál ki.
- A bunq Finn asszisztense a közlemény szerint 60 százalékkal alacsonyabb válaszköltséggel működik a vezető zárt modellekhez képest.
- Az LSEG pénzügyi tickadatok elemzését akár tízszer gyorsítaná.
- A Stripe offline tesztjeiben 42-szer gyorsabb adatfolyamokat és 92 százalékos költségcsökkenést mért.
- Az európai pénzügyi cégek saját adataikra és saját infrastruktúrájukra építik AI-megoldásaikat.
A Revolut 80 millió ügyfélre skálázza a PRAGMA modellt
Az NVIDIA a berlini GTC rendezvényen több európai pénzügyi szervezet példáját mutatta be. A vállalat közlése szerint a Revolut technológiai stackjét egyetlen alapmodellre, a PRAGMA-ra építi át. A modellt NVIDIA gyorsított számítási infrastruktúráján futtatják, a skálázást pedig az NVIDIA cuDF eszközkészlete, valamint a Dynamo-Triton szoftver segíti NVIDIA Blackwell Ultra GPU-kon.
A PRAGMA éles környezetben kezdetben 80 millió ügyfelet szolgál ki, a rendszert pedig ennek háromszorosára méretezték. Pavel Nesterov, a Revolut mesterséges intelligenciáért felelős vezetője szerint a vállalatnak már korábban is rendelkezésére állt a tranzakciók nagy mennyisége, a kérdés az volt, hogy az alapmodellek képesek-e ekkora léptékben és több területen működni. Az NVIDIA közleménye szerint a PRAGMA a Revolut és az NVIDIA együttműködésében készült.
Saját adatokkal és saját infrastruktúrán fejlesztenek
A Starling Bank a közlemény szerint első bankként képzett ügynökalapú modellt brit szuverén felhőinfrastruktúrán. A bank a Starling Intelligence nevű intelligenciaréteget a Civo brit felhőjén, saját tranzakciós adataira támaszkodva fejlesztette.
A Lloyds Banking Group ATUM néven tranzakciós alapmodellt épített. Ez a bank szerint több milliárd tranzakciót alakít újra felhasználható intelligenciává, NVIDIA RTX PRO 6000 Blackwell GPU-k gyorsításával. Az SBS olyan szuverén intelligenciaplatformot indított, amelyen a bankok úgy futtathatnak generatív és ügynökalapú modelleket, hogy adataik nem hagyják el saját környezetüket.
Az NVIDIA szerint a nyílt súlyú modellek lehetőséget adnak az európai pénzügyi intézményeknek arra, hogy saját adataikból egyedi intelligenciát építsenek, miközben a költségeket is kontrollálják. A bunq Finn nevű ügynökalapú asszisztense már ilyen modelleken fut. A Nebiuson, NVIDIA gyorsított számítás mellett, a vállalat állítása szerint a válaszok minősége eléri a vezető zárt modellekét, a válaszonkénti költség pedig 60 százalékkal alacsonyabb.
Modellek a beszédfelismeréstől a pénzügyi kutatásig
A NatWest olyan technológiát fejleszt, amely a brit akcentusok, nyelvjárások és pénzügyi szakkifejezések teljes körének felismerésére szolgál. A megoldásban az NVIDIA beszédmodelljei, köztük a Nemotron 3.5 ASR is szerepet kapnak. A Modulr a fizetési műveletek különböző részeihez készít specializált modelleket az NVIDIA Nemotron-3-Ultra-550B nyílt modellje alapján. A Santander pedig az NVIDIA új Kumo nyílt súlyú alapmodell-családjának korai felhasználói között van, strukturált pénzügyi adatokhoz.
A pénzügyi kutatásban az LSEG az NVIDIA-val együtt dolgozik azon, hogy az intézmények akár tízszer gyorsabban elemezhessék a nagy mennyiségű korábbi tickadatot. A feldolgozást a Polars GPU-motor, az NVIDIA cuDF és az NVIDIA RTX PRO 6000 Blackwell GPU-k gyorsítják. A RavenPack Bigdata.com platformján olyan adat-előállító folyamatot épített, amely egy természetes nyelven megfogalmazott kutatási hipotézisből címkézett, visszatesztelésre kész adatkészletet készít egy finomhangolt NVIDIA Nemotron modellel.
Gyorsabb adatfeldolgozás a csalásmegelőzésben
Az NVIDIA RTX PRO 6000 Blackwell Server Edition GPU-k és az NVIDIA cuDF több terabájtos, elkülönített és szabályozott adatforrások feldolgozását gyorsítják. Az NVIDIA szerint ez a csalásmegelőzésben és más feladatokban rövidíti az adat és a döntés közötti időt.
A HSBC a Starburst Enterprise GPU Engine segítségével ügyfélfolyamatokat és az igény szerinti döntéshozatalt támogató, közel valós idejű ügyfélismereteket biztosít. A közlemény szerint az adatfeldolgozás ötször gyorsabb, miközben a kockázatok és a csalások mérséklése is cél.
A Stripe offline tesztjeiben az NVIDIA GPU-gyorsítású Ray Data a Stripe Radar csalásészlelő platform adatfolyamatait 42-szer gyorsabbá tette, a költségeket pedig 92 százalékkal csökkentette. Ez lehetővé teszi, hogy a Stripe Radar gépi tanulási folyamatai folyamatosan optimalizálják a modellképzést és javítsák a csalásészlelést. A bemutatott példák alapján a nyílt modellek, a saját adatok és a gyorsított infrastruktúra együtt a pénzügyi szolgáltatások több, eltérő feladatában is megjelenik.
NVIDIA: Leading European Financial Services Organizations Embrace Open Models to Build Proprietary Intelligence
