Nyilvános MCP-szervert épített a Vespa Cloud AI-asszisztensekhez

Egy szerver több Vespa Cloud-alkalmazáshoz

A Vespa szeptember 13-án számolt be a nyári gyakornoki projekt eredményéről. A csapat egy önálló, nyilvánosan hosztolható MCP-szervert készített, amelyhez bármely Vespa Cloud-fiókkal rendelkező felhasználó csatlakozhat, és elérheti a saját bérlőit, valamint alkalmazásait.

A Model Context Protocol egy nyílt szabvány arra, hogy AI-asszisztenseket külső adatforrásokhoz, rendszerekhez és környezetekhez kapcsoljanak. A rendszer háromféle elemet szabványosít: a modell számára olvasható erőforrásokat, végrehajtható műveleteket biztosító eszközöket, valamint az interakciók felépítését segítő újrahasznosítható promptokat.

A Vespa megoldása elsősorban az eszközökre és a megfelelő erőforrások biztosítására összpontosít. A korábbi, alkalmazáscsomagba épített vagy helyben futtatott megoldásokhoz képest a nyilvános szerver használatához nincs szükség telepítésre, és minden alkalmazáshoz sem kell külön MCP-szervert futtatni.

A jól megtervezett eszközök irányítják az ügynököt

A Vespa szerint az MCP-eszközök megtervezése nehéz feladat, mivel egy nem determinisztikus modellnél már kisebb változtatások is jelentősen befolyásolhatják a végeredményt. A fejlesztők ezért az Anthropic irányelveit és saját tapasztalataikat is felhasználták.

Példaként a vespa_get_logs eszközt mutatták be. A kezdeti változatban az ügynöknek közvetlenül epoch milliszekundumban kellett megadnia az időtartományt, ami gyakran hibás számításokhoz vezetett. A relatív kifejezések, például a now-1h és a now-7d, valamint szükség esetén az ISO 8601 formátumú dátumok jobban működtek.

A naplók feldolgozásánál a kontextusablak mérete is fontos szempont. A teljes naplóadat átadása lelassíthatja a következtetést és növelheti a költséget, miközben sok irreleváns információt tartalmaz. Az eszköz ezért tömör összefoglalót vagy nyers naplósorokat kérhet, és súlyossági szint alapján is szűrhet. Az ismétlődő eseményeket egy bejegyzésbe vonja össze, a választ pedig rögzített méretkorláttal kezeli.

Több irányítás, mint a terminál átadása

A Vespa összehasonlította az MCP-szervert azzal a megközelítéssel, amikor az AI-asszisztens egyszerűen hozzáférést kap a Vespa CLI-hez és egy terminálhoz. A vállalat szerint az MCP előnye az ellenőrzött hozzáférés. A fejlesztők meghatározhatják, milyen műveletek érhetők el, milyen bemeneteket fogadnak az eszközök, és mikor célszerű használni őket.

Ez csökkentheti a próbálkozások számát, mivel az ügynök strukturált bemenetet és az adott feladathoz szükséges környezetet kap. A szerver a hibaüzeneteket is úgy alakíthatja, hogy azok a javítás következő lépését is jelezzék. A Vespa szerint az MCP-eszközök emellett olyan képességeket is biztosíthatnak, amelyeknek nincs közvetlen CLI-megfelelőjük. Ilyen például a Grafana-metrikák közvetlen megjelenítése.

A nyilvánosan hosztolt szerver a Vespa megfogalmazása szerint az új és a tapasztalt fejlesztőknek is könnyebbé teheti a használatot. Az új felhasználók segítséget kaphatnak a Vespa működésének és az alkalmazástervezésnek a megértéséhez, a gyakorlott fejlesztők pedig időigényes feladatokat, például a gyenge szolgáltatásminőség okának keresését bízhatják az asszisztensre.

A megoldásnak korlátai is vannak. A nyilvánosan hosztolt szerver jelenleg nem tudja biztonságosan végrehajtani a legtöbb Data Plane-műveletet, ezért a fejlesztés jelenlegi célterülete a Control Plane. A csapat emellett egy értékelési keretrendszert is készített az MCP-szervert használó ügynökök pontozására, a terminál és a Vespa CLI használatával való összevetéshez.