SEC-beadványokból épít RAG-rendszert a LangChain és két partnere

A pénzügyi dokumentumok feldolgozása a cél

A pénzügyi beszámolók sok olyan részletes információt tartalmaznak, amelyet befektetési és vállalati stratégiai döntésekhez használnak. A LangChain blogján bemutatott SEC Retriever az amerikai tőzsdei vállalatok kötelező beadványaiból, köztük a 10-K és 10-Q dokumentumokból tesz elérhetővé releváns részleteket.

A fejlesztők számára a forrásadatok használata több okból is nehéz. A nyelvi modellek tudása egy adott betanítási időpontnál lezárul, miközben a pénzügyi piacok gyorsan változnak. A keresésre épülő kiegészítés, vagyis a Retrieval Augmented Generation, röviden RAG, friss információkat adhat a modellek válaszaihoz.

A SEC-beadványok formátuma és szerkezete szintén megnehezíti az indexelést. A dokumentumok táblázatokat, különféle adatstruktúrákat és egymáshoz kapcsolódó szakaszokat tartalmaznak, ezért a feldarabolás és a releváns entitások azonosítása külön feldolgozást igényel. Pénzügyi adatoknál a téves találatok kockázata is jelentős, mivel a kinyert számok fontos döntésekre hatással lehetnek.

A Kay előre elkészített keresési infrastruktúrát ad

A LangChain szerint a SEC Retriever a Kay és a Cybersyn adat- és technológiai megoldásaira épül. A Kay RAG-hoz kialakított adat-API-kat kínál, és nagy adathalmazok teljes körűen hosztolt beágyazását biztosítja. Így a fejlesztőknek nem kell saját maguknak adatot gyűjteniük, embeddingeket létrehozniuk és a keresési infrastruktúrát skálázniuk.

A Cybersyn adatszolgáltatásként kínál elemzésre előkészített gazdasági adatokat a Snowflake Marketplace-en. A vállalat egyik terméke az LLM Training Essentials adathalmaz, amely SEC-beadványokat és más kormányzati adatokat is tartalmaz. A Kay ezt az adatot tovább gazdagítja, beágyazza, majd szemantikus keresési API-t épít rá.

A LangChainben a használat a bemutató szerint egyszerű. A fejlesztő telepíti a Kay csomagját, API-kulcsot kér a Kay.ai oldalon, majd létrehozza a KayAiRetriever példányát. A példakódban a company adatkészlet 10-K és 10-Q dokumentumait használják, és lekérdezésenként hat kontextusrészletet kérnek le. A kapott kontextus ezután a meglévő promptokhoz és a választott nyelvi modellhez kapcsolható.

Elemzésre, értékesítésre és megfelelésre is használható

A bemutatott példa az NVIDIA elmúlt három negyedévének pénzáramlásait vizsgálja. A válasz külön kezeli a működési, befektetési és finanszírozási tevékenységből származó pénzmozgásokat, az akvizíciókat és befektetéseket, valamint a saját részvények visszavásárlásához kapcsolódó kifizetéseket. A forrás szerint a második negyedévben a részvény-visszavásárlásokhoz kapcsolódó pénzkiáramlás 8 826 millió dollár volt.

A SEC-adatok felhasználási területei között szerepel a pénzügyi teljesítmény elemzése, például a bevételnövekedés vagy két vállalat adósság és saját tőke arányának összevetése. Értékesítési csapatok új hardvertermékekről és vállalati terjeszkedési tervekről kérdezhetik a rendszert, iparági elemzők pedig a piaci trendeket és a vállalatok pozicionálását vizsgálhatják.

A forrás megfelelési kutatási példákat is említ, köztük azt, hogy egy vállalat miként alkalmazkodik a GDPR-irányelvekhez, illetve milyen kockázatok kapcsolódhatnak egy akvizícióhoz. A megoldás jelentősége a fejlesztők számára, hogy az összetett pénzügyi dokumentumok feldolgozásának és kereshetővé tételének egy részét kész szolgáltatásként vehetik igénybe.