Toast 1: olcsóbb és gyorsabb keresőügynököt mutatott be a Mixedbread

A Toast 1 önállóan vagy alügynökként is használható

A Mixedbread augusztus 13-án tette elérhetővé a Toast 1-et. A specializált keresőügynök a Mixedbread Search használatával teljesít a legjobban, de más keresési háttérrendszerekkel is működhet.

A rendszer átveszi a keresési folyamat egészét. A kezdeti kérdést részfeladatokra bontja, bizonyítékokat gyűjt, megvizsgálja a forrásokat, majd kiválogatja a releváns kontextust, mielőtt visszaadja azt a további feldolgozásra. A Toast 1 önálló visszakeresési ügynökként is futtatható, illetve egy általános célú, csúcsmodellre épülő rendszer egyik alügynöke is lehet.

A Mixedbread értelmezése szerint ezzel a csúcsmodell a saját kontextusát és számítási kapacitását a következtetésre, a cselekvésre és a végső válasz elkészítésére fordíthatja, miközben a dokumentumok átnézését a Toast 1 végzi.

Több körben keres, majd rangsorolja a bizonyítékokat

A Mixedbread egy olyan keresési folyamatot is bemutatott, amely egy, a kiskereskedelmi és az egészségügyi szektor foglalkoztatási arányainak változását összehasonlító kérdésre válaszol. A Toast 1 három körben összesen 16 eszközhívást indított, és 5,33 másodperc alatt adott le rangsorolt találatokat.

Az első körben alapkeresést végzett, majd párhuzamosan több, pontosított lekérdezést futtatott. Emellett szöveges és optikai karakterfelismerésből származó találatokban is keresett, valamint dokumentumszintű áttekintést készített. A következő körökben korábban megtalált részleteket olvasott vissza, új lekérdezésekkel ellenőrizte az adatokat, és a grafikonok pontos számait is megpróbálta azonosítani.

A bemutatott példában a rendszer az Egyesült Államokban a kiskereskedelmi foglalkoztatás 15,6 millió teljes munkaidős egyenértékről 16,6 millióra emelkedését, Nyugat-Európában pedig 17,0 millióról 15,7 millióra csökkenését azonosította 2000 és 2016 között. Az egészségügyi foglalkoztatás ugyanebben az időszakban az Egyesült Államokban 16,4 millióról 20,1 millióra, Nyugat-Európában 15,1 millióról 19,1 millióra nőtt.

A Mixedbread vállalati és jogi feladatokon mérte a rendszert

A Mixedbread szerint a Toast 1 az úgynevezett ügynöki munkafolyamatok költsége és sebessége között új Pareto-frontiert hoz létre. A vállalat ezt két, eltérő területet vizsgáló értékeléssel támasztotta alá.

A Databricks által kiadott OfficeQA Pro V2 pénzügyi vállalati benchmark 90 kérdést tartalmaz. A Mixedbread beszámolója szerint a Codexben alügynökként használt Toast 1-gyel működő GPT-5.6 Sol 70 százalékos válaszpontosságot ért el, 1,18 dolláros gördülésenkénti költség mellett. A cég ezt a vizsgált rendszerek között a legmagasabb eredményként írta le. Összehasonlításként a Claude Fable 5 a Databricks Genie segítségével 60 százalékos pontosságot ért el körülbelül 4 dolláros feladatonkénti költséggel, míg a Toast 1 nélkül, Codexben futó GPT-5.6 Sol 33 százalékot ért el.

A Harvey LAB Firm Knowledge benchmark véletlenszerűen kiválasztott, 33 feladatból álló részhalmazán a GPT-5.6 Sol minden vizsgált keresési módszerrel 55-ös feladatpontszámot ért el. A teljes tokenfelhasználás a beépített fájlrendszeres keresés 80,6 millió tokenjéről Mixedbread Search használatával 47,0 millióra, Toast 1 alügynök hozzáadásával pedig 23,0 millióra csökkent. A közlemény szerint ez a kiinduló konfigurációhoz képest 3,5-szer kevesebb token ugyanazon pontszám mellett.

A felhasználók számára a bejelentés fő állítása az, hogy a keresési feladatok egy külön erre szakosodott ügynökre bízhatók, így a drágább, általános célú modellek a végső elemzésre és válaszadásra összpontosíthatnak. A Mixedbread mérései alapján ez változatlan feladatpontszám mellett kevesebb tokent, a vállalat szerint pedig több esetben alacsonyabb költséget és gyorsabb működést jelenthet.