A Cohere bemutatta az Embed 5 vállalati keresésre szánt modellcsaládot
A Cohere új embeddingmodell-családot mutatott be Embed 5 néven. A Pro és Fast változatok vállalati kereséshez, RAG-rendszerekhez és ügynöki munkafolyamatokhoz készültek, közös beágyazási térrel és 128K tokenes kontextusablakkal.
- A Cohere bemutatta az Embed 5 Pro és Embed 5 Fast modelleket.
- A két modell közös beágyazási teret használ, ezért az index újraépítése nélkül váltható közöttük.
- Mindkét változat több mint 100 nyelvet, képi bemenetet és 128K tokenes kontextusablakot támogat.
- Az Embed 5 Pro ára 0,12, a Fasté 0,08 dollár egymillió szöveges tokenenként.
- A modellek a Cohere API-n, a Model Vaultban, a Microsoft Foundryn és az Amazon SageMakeren érhetők el.
Két modell, egy közös index
A Cohere szeptember 30-án jelentette be az Embed 5 modellt, amelynek két változata van. Az Embed 5 Pro a lehető legjobb lekérdezési minőségre, összetett vállalati dokumentumokra, offline indexelésre, pénzügyi adatokra, kódra és többféle bemenet kezelésére optimalizált. Az Embed 5 Fast a kisebb késleltetésű és költségérzékeny feladatokra készült, például interaktív kereséshez, nagy forgalmú RAG-rendszerekhez és ügynöki lekérdezésekhez.
A két modell ugyanazt a beágyazási teret használja. Ez azt jelenti, hogy a vállalatok az indexet Pro segítségével építhetik fel, a lekérdezésekhez pedig később bármelyik modellt használhatják az index újraépítése nélkül. Mindkét változat 128K tokenes kontextusablakot, szöveges és képi bemenetet, valamint szöveg és kép kombinációját támogatja. A modellek több mint 100 nyelven működnek.
Erős eredmények vállalati és pénzügyi dokumentumokon
A Cohere saját tesztjei szerint az Embed 5 Pro a vizsgált modellek közül a legmagasabb átlagos pontszámot érte el a ViDoRe V3, pénzügyi dokumentumok, feldolgozott PDF-ek, képek és üzleti nyelvek tesztjein. A vizuálisan gazdag vállalati dokumentumokat vizsgáló ViDoRe V3 teszten a Pro 85,8-as átlagot ért el, ami 8,8 ponttal magasabb az Embed 4 eredményénél. A Cohere közlése szerint ez megelőzte a Voyage 4 Large (83,7), a Gemini Embedding 2 (83,2) és az OpenAI text-embedding-3-large (75,5) eredményét.
A Pro a vállalat szerint három pénzügyi benchmarkon is első helyen végzett. A FinanceBench eredménye 80,1, a FinQA pontszáma 90,0, a ViDoRe V3 Finance eredménye pedig 85,0 volt. A Fast ugyanezeken a teszteken 80,0, 88,8 és 83,9 pontot ért el, így mindhárom esetben második lett.
A feldolgozott PDF-ek tesztjén az Embed 5 Pro 84,8-as átlagot ért el. A Cohere szerint ez az eredmény a táblázatokat, többhasábos oldalakat, ismétlődő fejléceket és grafikonokat tartalmazó dokumentumoknál is erős teljesítményt jelez. A modell képes közvetlenül oldalakról készült képeket beágyazni, illetve a képet a hozzá tartozó metaadatokkal egyetlen vektorba kombinálni.
Árak, tömörítés és elérhetőség
Az Embed 5 Pro használata szöveges bemeneteknél 0,12 dollárba kerül egymillió tokenenként, a Fast ára 0,08 dollár egymillió tokenenként. Képi bemenetek esetén mindkét modell díja 0,40 dollár egymillió tokenenként.
A modellek többféle kimeneti méretet kínálnak, 2048, 1536, 1024, 768, 512 és 256 dimenzióval. A Cohere szerint a Matryoshka-reprezentációk és az alacsonyabb pontosságú kimenetek csökkenthetik a vektortárolás és a keresés költségeit. A kvantált súlyok a vállalati, saját infrastruktúrán történő telepítés kiszolgálási igényeit is mérsékelhetik. Mindkét változat támogatja a saját üzemeltetést.
Az Embed 5 a bejelentés szerint általánosan elérhető a Cohere API-n és a Model Vaulthoz, a Microsoft Foundryn, valamint az Amazon SageMakeren. A Cohere az új modelleket olyan keresési alapként pozicionálja, amely relevánsabb környezetet adhat a kereső, RAG- és ügynöki rendszereknek, miközben kiszűri a zajt a drágább generatív modellek meghívása előtt.
