Agentic Search: új keresési réteget mutatott be a Mistral AI vállalatoknak

Többlépéses keresés a vállalati dokumentumokban

A Mistral AI bejelentése szerint az Agentic Search olyan visszakeresési réteg, amely lehetővé teszi, hogy az AI-rendszerek összetett dokumentumokban és adatforrásokban navigáljanak, információt olvassanak ki, majd ellenőrizzék azt. A megoldás a Mistral Search Toolkit részeként érhető el, valamint beépül a Libraries funkcióba a Studio és a Vibe környezetekben.

A cég a vállalati felhasználást helyezi középpontba: pénzügyi jelentések, jogi szerződések, belső erőforrások, kormányzati iratok, hosszú és sűrű dokumentumok szerepelnek példaként. A Mistral szerint ezekben a hagyományos keresési módszerek nem mindig navigálnak hatékonyan, különösen akkor, ha az információ több dokumentumban oszlik el, vagy egy táblázatban, lábjegyzetben, záradékban található.

Az Agentic Search a Mistral leírása alapján a meglévő keresési indexre épít, és öt eszközt ad a modellnek: search, open, navigate, read és grep. Ezekkel a modell nem csak az első találatokból válaszol, hanem megnyithat dokumentumokat, eljuthat egy oldalra, szakaszra vagy régióra, kiolvashatja az adott helyen lévő tartalmat, illetve mintákat kereshet egy megnyitott dokumentumban.

Miben különbözik a hagyományos RAG-megközelítéstől

A Mistral a bejelentésben a hagyományos, egykörös RAG-módszert állítja szembe az Agentic Search működésével. A cég szerint az egykörös RAG egy rögzített szövegrészlet-készletet kér le, majd egyetlen menetben válaszoltatja a modellt. Ez akkor működhet jól, ha a válasz a legelső találatok között szerepel, de gyengébb lehet, ha hosszú jelentésben kell navigálni, hivatkozásokat követni, több dokumentumot összevetni vagy bizonyítékot ellenőrizni.

A Mistral három korlátot emel ki. Az első, hogy a modell a kezdeti visszakereséskor kiválasztott darabokra van utalva, akkor is, ha azok hiányosak vagy nem relevánsak. A második, hogy a darabolt szövegrészletek szintje nem kezeli jól az összetett, több módú dokumentumokat, például táblázatokat tartalmazó anyagokat. A harmadik, hogy sok kérdés több visszakeresési lépést igényelne, például keresés finomítását, ígéretes dokumentum megnyitását, források összehasonlítását vagy új útvonal kipróbálását.

A bejelentés szerint az Agentic Search ilyen esetekben többlépéses visszakeresési ciklust vezet be. Az index a valószínű forrásokat azonosítja, az Agentic Search pedig azt dönti el, hogy ezeken belül és ezek között mit kell megvizsgálni. A Mistral azt is hangsúlyozza, hogy az eszközök nem igényelnek finomhangolást vagy modellspecifikus tanítást.

A Mistral mérései szerint pontosabb és takarékosabb

A Mistral a FinanceBench és az OfficeQA Pro benchmarkokra hivatkozva azt állítja, hogy az Agentic Search pontosabb keresési eredményeket ad, miközben csökkenti a fordulók számát, a tokenhasználatot és a késleltetést. A cég szerint pénzügyi beadványokon, a FinanceBench alapján, a helyesség 26,7 százalékról 86 százalékra nőtt, amit a Mistral legfeljebb háromszoros javulásként ír le.

Az OfficeQA Pro táblázatokban gazdag, több dokumentumot érintő kérdéseinél a Mistral +45,6 pontos javulást mért, 6,3 százalékról 51,9 százalékra. A bejelentés szerint a célzott navigáció az Agentic Search esetében akár 39,6 százalékkal csökkentheti a p90 késleltetést, a kevesebb ismételt keresés pedig legfeljebb egyharmaddal mérsékelheti a tokenfogyasztást.

A vállalat azt írja, hogy a mérésekhez az alapértelmezett Mistral Search Toolkit stacket használták, alapértelmezett darabolással, alapértelmezett rangsorolással, külön hangolás nélkül. A Mistral szerint ezek az eredmények alsó határként értelmezhetők, mert adott felhasználási esetre szabott hangolással tovább javítható a minőség.

Hol lehet hasznos a felhasználóknak és a piacnak

A Mistral szerint az Agentic Search olyan feladatokra való, ahol a válasz hosszú dokumentumok egy adott oldalán, táblázatában, záradékában, ábrájában vagy lábjegyzetében található, illetve ahol több forrásból kell bizonyítékot keresni, összevetni vagy egyeztetni. A cég példaként pénzügyi adatokat, jogi záradékokat, szabályozási hivatkozásokat és működési adatokat említ, ahol fontos, hogy a válasz stabil és konkrét dokumentumhelyre legyen visszavezethető.

A bejelentés alapján a hagyományos indexelt keresés továbbra is megfelelő kiindulópont közvetlen keresésekhez, rövid és tiszta dokumentumokhoz, nagy volumenű kulcsszavas vagy szemantikus keresésekhez, valamint egyszerű, előre kiszámítható kérdésekhez. Az Agentic Search akkor adhat többletet, amikor a modellnek túl kell lépnie az első találatokon, és ténylegesen vizsgálnia kell a forrásanyagot.

A vállalati piac szempontjából a Mistral üzenete az, hogy a saját, érzékeny adatok értéke akkor használható ki jobban AI-rendszerekkel, ha a keresés a szervezeti izolációs határokon belül maradhat. A cég szerint a Mistral Search Toolkit nyílt és hordozható eszközei felhőben vagy helyben telepített környezetben is használhatók, így a megoldás a meglévő indexekre és dokumentumtárakra építhet.