A Cohere felhőbe költözteti Compass vállalati keresőplatformját

A Compass Cloud leveszi az üzemeltetés terhét a fejlesztőkről

A Cohere szeptember 25-i bejelentése szerint a Compass Cloud azoknak a fejlesztőcsapatoknak készül, amelyek vállalati adatokkal működő AI-alkalmazásokat építenek. A platform a vállalati dokumentumkorpusz legrelevánsabb információit keresi ki, hogy azok felhasználhatók legyenek visszakereséssel támogatott generálásban, vagyis RAG-ban, hagyományos keresésben és ügynöki munkafolyamatokban.

A Compass eddig elsősorban a Cohere vállalati ügynöki munkaterét, a Northot szolgálta ki, beleértve annak dokumentumtárait és MCP-ökoszisztémáját. A vállalat emellett szabályozott iparágak partnereinek önállóan üzemeltethető, magas biztonságú környezetekbe is telepítette a rendszert.

A Compass Cloud esetében a Cohere kezeli a teljes feldolgozási folyamatot és a modellkövetkeztetést. Így az ügyfeleknek nem kell saját maguknak összeállítaniuk és működtetniük a keresési infrastruktúrát. A Cohere szerint az önállóan üzemeltetett telepítések továbbra is elérhetők maradnak azokhoz a projektekhez, amelyeknél az adatvédelmi korlátok ezt szükségessé teszik.

Egy platformon a dokumentumfeldolgozás és a keresés

A Compass egyetlen, konfigurálható szolgáltatásba csomagolja a dokumentumfeldolgozást és az információ-visszakeresést. A rendszer csatlakozókat kínál többek között a SharePointhoz, a OneDrive-hoz és a Google Drive-hoz, valamint többnyelvű, multimodális és fájlformátumtól független adatkezelést ígér.

A feldolgozás során a komplex dokumentumokat kereshető, strukturált adatokká alakítja. A Cohere leírása szerint a rendszer dokumentumonként választja ki a megfelelő elemzési stratégiát, és csak akkor használ látásalapú feldolgozást, amikor annak értelme van. A beágyazásoknál a sűrű és ritka reprezentációkat együtt alkalmazza, így a keresés a jelentésre és a szakterminológiára is támaszkodhat.

A forrásfájlok, a feldolgozott tartalom és a beágyazások külön rekordként maradnak meg. Ez lehetővé teszi egy új beágyazási modell használatát anélkül, hogy a tartalmat ismét be kellene járatni és feltölteni. Kereséskor a szemantikus, ritka és kulcsszavas keresés külön vagy együtt is futtatható, miközben a jogosultságokat már a visszakeresés során ellenőrzi a rendszer.

A platform újrarangsoroló komponense a Cohere szerint a széles jelöltkészletből azokat a szövegrészeket választja ki, amelyek a legjobb bizonyítékot adják a modell számára. A több bérlőt kezelő hozzáférés-szabályozás és a dokumentumszintű jogosultságok szintén a visszakeresési folyamat részei. A megőrzési szabályok automatikusan lejárathatják a tartalmakat, a törölt dokumentumok pedig nem szinkronizálódnak újra.

A Cohere szerint a pontosabb keresés a költségekre is hat

A Cohere érvelése szerint a vállalati keresés követelményei megváltoztak, ahogy a visszakeresés a generatív AI és az ügynökök alapinfrastruktúrájává vált. A modellhez továbbított irreleváns találatok tokeneket és korlátozott kontextushelyet foglalnak, ezért a pontosabb visszakeresés kisebb és jobb minőségű bemenetet adhat.

Az ügynökök egyetlen feladat során több tucat lekérdezést is indíthatnak, újrafogalmazhatják a kéréseket, és több adatforráson haladhatnak végig. Ilyenkor összeadódhat a késleltetés, romolhat a relevancia, és minden lépésnél érvényesíteni kell a jogosultságokat. A Compass a Cohere szerint az ilyen ügynöki keresést és a hagyományos keresési alkalmazásokat is támogatja.

A vállalat egy belső, High Finance nevű, befektetési banki és fedezeti alapok prezentációira épülő mérésben hasonlította össze a rendszert az Azure Search megoldásával. A Cohere állítása szerint a Compass 14 és 16 pont közötti javulást ért el, az Azure Search 64,8-as eredményéről 81,1-re emelve a teljesítményt az nDCG@10 mérőszámon. A Cohere ezt reprezentatív pénzügyi RAG-munkafolyamat eredményeként mutatta be.

API vagy MCP az alkalmazás típusától függően

A fejlesztők két fő módon kapcsolódhatnak a Compass Cloudhoz. A Compass API elsősorban egyedi RAG- és keresőalkalmazásokhoz készült. Segítségével közvetlenül érhetők el azok a modellek és visszakeresési összetevők, amelyek a tartalom megjelenítését, megtalálását, rangsorolását és az alkalmazásba illesztését kezelik.

Az ügynöki visszakereséshez a Cohere külön, önálló verziózású MCP-szervert kínál. Ez nyílt szabványon keresztül újrahasznosítható eszközökként teszi elérhetővé a keresést. Az MCP-kompatibilis kliensek közvetlenül felfedezhetik és meghívhatják ezeket az eszközöket, így a Compass több ügynöki keretrendszerben is használható egyedi integráció nélkül.

A szolgáltatás jelenleg korlátozott számú vállalati béta-partnerrel működik. A résztvevők mérnöki támogatást, korai hozzáférést a felhős telepítéshez és közvetlen beleszólást kapnak az ütemtervbe. A Cohere október 8-ra élő X-eseményt is meghirdetett, amelyen a vállalat mérnöki és termékvezetői a vállalati keresés jövőjéről beszélnek.