A deepset stabil végpontokat ad az AI-ügynökök frissítéséhez

Különválasztja az ügynökök fejlesztését és használatát

Az AI-ügynökök fejlesztése folyamatos, ismétlődő folyamat. A csapatok a tesztek és a valós használat tapasztalatai alapján módosíthatják az utasításokat, válthatnak modellek vagy adatforrások között, finomíthatják a visszakeresési stratégiákat, illetve üzleti logikát változtathatnak.

Eközben az ügynökökre épülő alkalmazásoknak és munkafolyamatoknak stabilan kell működniük. A deepset által bemutatott Services ezt a két igényt választja szét. A Haystack Enterprise Platformban egy Service olyan stabil, felügyelt végpont, amely egy kiválasztott folyamatverzióhoz kapcsolódik. Az alkalmazások és más ügynökök ehhez a Service-hez csatlakoznak, nem közvetlenül az alapul szolgáló folyamathoz.

Ha elkészül egy új folyamatverzió, azt a csapatok közzétehetik anélkül, hogy meg kellene változtatniuk a fogyasztók által használt végpontot. Így a fejlesztők rugalmasabban kísérletezhetnek, miközben a kapcsolódó alkalmazások felülete változatlan marad.

Biztonságos közzététel és különálló környezetek

A Services több lehetőséget kínál a folyamatverziók kezelésére. A csapat kiválaszthatja, pontosan melyik verzió legyen élesben, rögzítheti, mi változott, és sikertelen telepítés esetén megtarthatja az utolsó sikeresen működő verziót.

Különálló Service hozható létre teszteléshez, előkészítéshez, éles használathoz, illetve egyes alkalmazásokhoz és integrációkhoz. Minden Service saját futtatási beállításokat kaphat, például meghatározható a replikák száma és a tétlenségi időkorlát. A deepset szerint ehhez ajánlott rendszeralapértelmezések is használhatók.

A működés áttekintését szolgálja, hogy a csapatok Service-szinten tekinthetik át a nyomkövetéseket, a teljesítményt, a kapcsolati adatokat és a közzétételi előzményeket. Ugyanitt kezelhető a szolgáltatások hosztolása is.

Az AI Gateway szélesebb szerepet kaphat

Az AI Gateway kifejezés gyakran egy olyan végpontot jelöl, amely több modell elérését teszi lehetővé útválasztással, tartalékmegoldásokkal és költéskövetéssel. A deepset szerint ez továbbra is fontos része a kategóriának, az üzleti felhasználás követelményei azonban bővülnek.

Az AI-alkalmazások egyre gyakrabban támaszkodnak a modellek mellett eszközökre, folyamatokra, adatokra, MCP-szerverekre és más ügynökökre is. A hozzáférés, a költség, a biztonság vagy az útválasztás szabályozása előtt szükség van egy stabil objektumra, amelyre ezek a vezérlők alkalmazhatók. A deepset szerint ezt az alapot adják a Services.

A Haystack Enterprise Platformban a Gateway az a termékterület, ahol a csapatok közzéteszik és működtetik az általuk létrehozott AI-képességeket. A Services ennek az első alapvető képessége.

Mit jelent ez a Haystack felhasználóinak?

A deepset a Services használatát ajánlja a folyamatok éles környezetben történő közzétételéhez. A Service-ek létrehozása és kezelése a Gatewayben történik, a már telepített folyamatok pedig később átállíthatók erre a működésre.

A megoldás elsősorban azoknak a csapatoknak szól, amelyek termelési környezetben futtatnak folyamatokat, miközben folyamatosan változtatják az ügynökök működését. A stabil végpont, a verziók kiválasztása, a sikertelen telepítések kezelése és a Service-szintű láthatóság egy közös kezelési réteget ad ezekhez a feladatokhoz.

A bejelentést Loretta Shen, a deepset vezető termékmarketing-igazgatója, valamint Volkan Arisli vezető termékmérnök jegyzi. A vállalat 2026. október 1-jén tette közzé a Servicesről szóló ismertetőt.