A Baseten és a Postman vállalati AI-ügynökökön dolgozik
A Baseten és a Postman partnerséget kötött, hogy a vállalatok megbízható és költséghatékony AI-ügynököket juttathassanak éles környezetbe. A Postman az ügynöki munkafolyamatok felépítéséhez és működtetéséhez ad eszközöket, a Baseten pedig az ezek mögött futó modellek kiszolgálását és utótréningjét biztosítja.
- A Baseten és a Postman vállalati AI-ügynökök éles környezetbe juttatásán dolgozik.
- A Postman Agent Stack az API-hozzáférést, a forgalmat és az ügynökök működését kezeli.
- A Baseten több felhőn működő inference infrastruktúrát és utótréninget biztosít.
- A Baseten szerint a specializált modellek javíthatják a válaszminőséget és csökkenthetik a költségeket.
A Postman Agent Stack az ügynökök irányítására szolgál
A Baseten október 29-i közleménye szerint a Postmant több mint 40 millió fejlesztő használja, és a Fortune 500 vállalatainak 98 százaléka is alkalmazza. A partnerség célja, hogy a vállalatok könnyebben építsenek és termelési környezetben is működtessenek AI-ügynököket.
A Postman Agent Stack olyan eszközöket fog össze, amelyekkel a vállalatok előkészíthetik az API-kat az ügynökök számára, szabályozhatják, hogy az ügynökök mely rendszerekhez férhetnek hozzá, és felügyelhetik a végrehajtott műveleteket. A csomag négy terméket tartalmaz:
- Passport: az emberek és az ügynökök API-hozzáférését védi, korlátozott hatókörű hitelesítési hivatkozásokkal, az alapul szolgáló API-kulcsok felfedése nélkül.
- Fabric: AI-alapú átjáróként kezeli és irányítja az AI-, MCP- és API-forgalmat.
- Astropods: futtatási környezetet, megfigyelhetőséget és védelmi korlátokat ad az élesben működő AI-ügynökökhöz.
- Fern: dokumentációt, SDK-kat és parancssori felületeket készít, hogy az API-k a fejlesztők és az AI-ügynökök számára is felfedezhetők, típusosak és hívhatók legyenek.
A Baseten az inference réteget és az utótréninget adja
A Baseten a Postman ajánlott inference partnereként a modellek futtatását vállalja. A cég szerint ehhez nagy teljesítményű következtetési infrastruktúrát, több felhőn átívelő kapacitást és a modellek specializálásához szükséges utótréninges eszközöket biztosít.
A Baseten állítása szerint a Model API-k nagy áteresztőképességet és alacsony késleltetést kínálnak. A vállalat hét, 2026-ban indított modell esetében hivatkozik az Artificial Analysis rangsoraira, ahol ezek az áteresztőképesség és a késleltetés alapján egyaránt az első két szolgáltató között szerepeltek. A felsorolásban a Beam 1.0, a Nemotron 3.5 Super VL, a Muse Spark Open, a DeepSeek V4.1 Flash 1017, a DeepSeek V4.1 Flash, a DeepSeek V4 Flash és a GLM-5.2 Fast található.
A megbízhatóságot a Multi-cloud Capacity Management támogatja, amely a Baseten szerint több felhőben egyesíti a GPU-kapacitást, és hardverhiba esetén is ellenállóbb működést tesz lehetővé. Az alapértelmezett adatmegőrzés nélküli működés mellett az ügyfelek korlátozhatják vagy testre szabhatják a használt felhőket, régiókat és fürtöket. A lehetőségek között egybérlős és aktív-aktív telepítések is szerepelnek.
Specializált modellekkel csökkentenék a költségeket
A Baseten szerint az utótréninggel az általános célú modellekhez képest javítható az ügynökök válaszainak minősége, miközben gyorsabb és olcsóbb modellek használhatók. A folyamat során a modelleket felügyelt finomhangolással és megerősítéses tanulással igazítják az adott ügynöki munkafolyamathoz, majd a Basetenen telepítik őket. A használati adatok alapján további tréninget lehet végezni.
A cég példaként a Harvey esetét említi, amely egy 27 milliárd paraméteres nyílt modellt utótréningezett. A Baseten szerint ez a modell egy jogi ügynöki mérésben teljesítményben elérte a zárt, élvonalbeli modelt, miközben ezek költsége feladatonként nagyjából 50 dollár volt.
A partnerség a Postmannal felépített ügynökök éles üzemeltetését célozza. A Baseten közlése szerint az ügyfelek megtarthatják a modell súlyait, az értékeléseket és a tréning szkripteket, miközben szakértői támogatást is kaphatnak a cég utótréninges csapatától. A vállalatok így a Postman eszközeivel építhetnek, a Baseten infrastruktúráján pedig futtathatják és tovább optimalizálhatják ügynöki munkafolyamataikat.
