A Baseten webes keresést épít a modellek és ügynökök futtatási rétegébe

A webes keresés a modell futtatási rétegébe kerül

A 2026. szeptember 16-án bemutatott Baseten Hosted Tools célja, hogy a fejlesztők egyszerű konfigurációval adhassanak külső képességeket a Basetenön futó modellekhez. A vállalat szerint korábban az open source modellekre épülő alkalmazások fejlesztőinek eszközönként kellett összeállítaniuk ezt a réteget. Az MCP bizonyos fokú egységesítést kínál, de a ReAct ciklus, a feladatkoordináció, a modell irányítása és az egyidejű eszközhívások kezelése továbbra is a fejlesztőkre marad.

A Hosted Tools első kategóriája a webes keresés. A Baseten Grounded Inference olyan információkhoz ad hozzáférést a platformon hosztolt modelleknek, amelyek az aktuális naphoz kötődnek, részletesek, és nem feltétlenül szerepelnek a modellek betanítási adataiban. A vállalat példaként említi egy cég értékesítési hívás előtti kutatását, aktuális termékek és árak összehasonlítását, egy kibontakozó esemény vizsgálatát, valamint friss műszaki dokumentációk megtalálását.

Négy keresési szolgáltatóval indul a rendszer

A Baseten Grounded Inference a Baseten Inference Stack részeként fut. A webes keresés a Messages, Chat Completions és Responses kérésekben is engedélyezhető a hosztolt keresőeszköz nevének konfigurációs megadásával. A modell saját eszközhasználati képessége alapján dönthet arról, hogy szükség van-e keresésre, és több iterációt is végrehajthat. A viselkedés a rendszerszöveggel és az iterációk számának korlátozásával állítható, az egyszeri kereséstől a mélyebb kutatási ügynökig.

A Baseten szerveroldalon váltogatja a modell következtetését és a keresési kéréseket. A kliens közben folyamatosan megkaphatja az eszközhasználat és az eredmények egyes lépéseit, így az alkalmazás megjelenítheti a folyamatot. Induláskor az Exa, a Keenable, a Parallel és a You.com keresési szolgáltatásai érhetők el, egységes fejlesztői felületen.

Az Exa több mint 100 milliárd webhelyet, dokumentumot, tanulmányt, személyt, vállalatot és hírt tesz kereshetővé a saját bemutatása szerint. A Keenable szintén több mint 100 milliárd webes dokumentumot tartalmazó, valós időben frissülő indexet kínál. A Parallel Search és Extract API-i AI-ügynökök webes kutatására készültek. A You.com vállalati webes keresési API-kat kínál, és saját közlése szerint havonta több mint 1 milliárd lekérdezést szolgál ki.

A Baseten szerint rövidebb lehet az ügynökök válaszideje

A Hosted Tools egyik célja, hogy az eszközhívások közvetlenül az ügynök ciklusában fussanak. A Baseten szerint a megoldás alacsony késleltetésre készült, támogatja a gyors és egyidejű végrehajtást, valamint lehetővé teszi a modellek és az általuk használt eszközök közös platformon történő üzemeltetését. A használati és számlázási adatokban az eszközhívások külön tételként jelennek meg, modellenként, szolgáltatónként és eszköztípusonként bontva.

A vállalat benchmarkjai szerint a Hosted Toolst használó ügynökök végponttól végpontig mért késleltetése 15 százalékkal alacsonyabb volt a kliensoldali eszközökhöz képest. A Baseten ezt azzal indokolja, hogy a szerveroldali futtatás kevesebb hálózati kört és újrafeldolgozást igényel, miközben a kontextus a szerveren marad. A rendszer támogatja a kliensoldali és a hosztolt eszközök vegyes használatát, valamint a részletes lépések élő továbbítását és a megfigyelhetőséget segítő metaadatokat.

Később kódfuttatás és böngészőhasználat is érkezhet

A Baseten közlése szerint a webes keresés csak az első lépés. A vállalat idővel kódfuttatást és böngészőhasználatot is hozzáadna a Hosted Tools rendszeréhez, miközben az eszközök végrehajtását és összehangolását maga kezelné. A Blaxel felvásárlása a Baseten szerint gyors, elkülönített és tartós homokozókat, valamint tárhelyet biztosító, kiegészítő alapot ad ehhez.

A Baseten Grounded Inference jelenleg előnézeti módban érhető el a playgroundban, 25 RPM-es korlátozással és 2 dollár értékű ingyenes kredittel. Nagyobb léptékű teszteléshez vagy éles, nagyobb forgalmú használathoz a vállalat kapcsolatfelvételt kér. A fejlesztők a Hosted Tools technikai dokumentációjában és a playgroundban próbálhatják ki a szolgáltatást.