A berlini GTC rendezvényen európai bankok, fizetési szolgáltatók és pénzügyi adatszolgáltatók mutatták be, hogyan működnek nyílt AI-modellek a pénzügyi szektorban éles, nagy léptékű környezetben. A közös elem az NVIDIA gyorsított számítási platformja, a nyílt súlyozású modellek és az, hogy a cégek saját infrastruktúrájukon futtatják a megoldásokat.
Alapmodellek a bankoknál
A Revolut a teljes technológiai alapját egyetlen alapmodellre, a PRAGMA-ra építi újra. A rendszer NVIDIA Blackwell Ultra GPU-kon fut, a cuDF eszközkészletet és a Dynamo-Triton szoftvert használja. Kezdetben 80 millió ügyfelet szolgál ki, és háromszoros skálázásra tervezték. Pavel Nesterov, a Revolut AI-vezetője szerint a PRAGMA bizonyítja, hogy a kutatási áttörés és az éles banki rendszer közötti szakadék áthidalható.
További példák:
- Starling Bank: az első bank, amely agentikus modellt tanított brit szuverén felhőinfrastruktúrán. A „Starling Intelligence” réteg a Civo brit felhőjében készült, a bank saját tranzakciós adataiból.
- Lloyds Banking Group: az ATUM tranzakciós alapmodell milliárdnyi banki tranzakciót alakít újrahasznosítható intelligenciává, NVIDIA RTX PRO 6000 Blackwell GPU-kkal gyorsítva.
- SBS: szuverén banki intelligenciaplatformot indított, hogy a bankok generatív és agentikus modelleket futtathassanak úgy, hogy az adataik nem hagyják el a saját falaikat.
Nyílt modellek alacsonyabb költséggel
A nyílt súlyozású modellek lehetővé teszik, hogy a pénzintézetek saját adataikra építsenek, a költségeket pedig maguk kontrolláljanak. A bunq agentikus asszisztense, a Finn már nyílt modelleken fut. A Nebiuson futtatva a vezető zárt modellekkel egyező minőséget nyújt a válaszonkénti költség 60%-án.
- NatWest: a brit akcentusok, dialektusok és pénzügyi szakkifejezések felismerésére fejleszt technológiát az NVIDIA beszédmodelljeivel, köztük a Nemotron 3.5 ASR-rel.
- Modulr: a fizetési műveletek különböző részeire készít specializált modelleket az NVIDIA Nemotron-3-Ultra-550B nyílt modellre építve.
- Santander: korai alkalmazója az új NVIDIA Kumo nyílt súlyozású alapmodell-családnak, amely strukturált pénzügyi adatokra készült.
Pénzügyi kutatás és csalásfelderítés
Az LSEG az NVIDIA-val együttműködve akár tízszer gyorsabban elemezhet nagy mennyiségű történeti tick-adatot a Polars GPU-motorral, NVIDIA cuDF-fel, RTX PRO 6000 Blackwell GPU-kon. A RavenPack a Bigdata.com-on olyan folyamatot épített, amely egy egyszerű nyelven megfogalmazott kutatási hipotézisből címkézett, backtestre kész adathalmazt állít elő, finomhangolt Nemotron modellel.
A csalásfelderítésnél az RTX PRO 6000 Blackwell Server Edition GPU-k és a cuDF a többterabájtos, elszigetelt, szabályozott adatforrások feldolgozását gyorsítják.
- HSBC: közel valós idejű ügyfélbetekintést kap a Starburst Enterprise GPU-motorjával elért ötszörös adatfeldolgozási sebességnek köszönhetően.
- Stripe: a Stripe Radar csalásfelderítő platformnál offline tesztben 42-szer gyorsabb adatfolyamokat és 92%-os költségmegtakarítást mért az NVIDIA GPU-gyorsított Ray Data-val.
A nyílt AI-biztonsági oldalról is érdekes lehet az NVIDIA Open Agent Safety Platform.
Gyakori kérdések
Mi a PRAGMA?
A Revolut alapmodellje, amelyre a cég újraépíti technológiai stackjét. Éles környezetben kezdetben 80 millió ügyfelet szolgál ki.
Mennyivel olcsóbb a bunq megoldása?
A Finn asszisztens nyílt modellekkel a vezető zárt modellek minőségét hozza a válaszonkénti költség 60%-án, Nebiuson futtatva.
Mit gyorsít a Stripe esetében az NVIDIA?
A Stripe Radar adatfolyamait: offline tesztben 42-szeres gyorsulást és 92%-os költségmegtakarítást értek el GPU-gyorsított Ray Data-val.
Forrás: NVIDIA Blog
