A LangSmith új eszközökkel gyorsítja az ügynökök fejlesztését
A LangChain több új LangSmith-funkciót jelentett be az AI-ügynökök fejlesztéséhez és üzemeltetéséhez. Az Engine v2 proaktív hibakeresést és automatikus javítás-ellenőrzést kapott, a Managed Deep Agents pedig felhasználói memóriával, új csatornákkal és beépített webes kereséssel bővült.
- A LangSmith Engine v2 red teaminggel és automatikus javítás-ellenőrzéssel bővült.
- A Managed Deep Agents 0.8 felhasználói memóriát, új csatornákat és beépített webes keresést kínál.
- A Trajectories áttekinthető, időrendi nézetet ad az ügynöki munkamenetekhez.
- A LangSmith Fine-Tuning Trajectories adataiból segít nyílt modelleket finomhangolni.
- A Custom Apps egyedi LangSmith-felületek készítését és megosztását teszi lehetővé.
Proaktív hibakeresés a LangSmith Engine v2-ben
A LangSmith Engine platformon belüli ügynökként támogatja az ügynökök fejlesztési életciklusát. A LangChain közlése szerint a májusi indulás óta az Engine több mint 60 millió nyomkövetési adatot elemzett, és több tízezer problémát segített diagnosztizálni.
Az Engine v2 egyik újdonsága a red teaming, vagyis az ügynökök célzott tesztelése olyan hibák felderítésére, amelyek még nem jelentek meg éles környezetben. A rendszer a produkciós nyomok és a kódtárak alapján hipotéziseket állít fel, ezeket teszteli, majd ellenőrzött hibákat mutat be átvizsgálásra.
A frissítés többféle problémát is képes felismerni. A hibák és a felhasználói kérések teljesítetlensége mellett teljesítménytrendeket keres a hibaarány, a késleltetés és a költség alapján. Az olyan nem hatékony működést is jelezheti, mint az ismétlődő eszközhívások vagy a szükségtelenül hosszú munkamenetek.
A LangSmith Deploymentön futó ügynököknél az Engine v2 a javasolt javításokat emberi ellenőrzés és telepítés előtt is tesztelheti. Először a problémás bemeneteken ellenőrzi az eredeti hibát, majd egy szélesebb értékelési készleten vizsgálja a lehetséges javításokat. A megfelelő javítás után a felhasználó egy kattintással pull requestet nyithat. A LangSmith következő önállóan üzemeltethető kiadása támogatja majd az Engine BYOK használatát is.
Memória, jogosultságok és webes keresés az ügynököknek
A Managed Deep Agents 0.8 a Deep Agents keretrendszert kezelt infrastruktúrával kapcsolja össze. Az új felhasználói szintű memória az adott, hitelesített felhasználóhoz kötött kontextus tárolására szolgál, elkülönítve a közös ügynökszintű memóriától.
A LangChain szerint a futtatási környezet nem másolja a tartalmat a memória-rétegek között, és mindkét szinten külön hozzáférési szabályok határozhatók meg. A rendszer az ügynök és a felhasználó tulajdonában lévő hitelesítő adatokat is támogatja külső kapcsolatokhoz, például GitHubhoz és Notionhöz.
A Slack-integráció fájlküldéssel bővült, így a felhasználók naplókat, táblázatokat, szerződéseket és képernyőképeket is küldhetnek az ügynöknek. Az új HTTP-csatornával bármely JSON webhookot küldő szolgáltatás összekapcsolható az ügynökökkel. A Managed Deep Agents 0.8 beépített webes keresést is kínál, amelyet a Parallel biztosít, külön szolgáltatói fiók, API-kulcs vagy egyedi eszköz létrehozása nélkül.
A munkamenetekből értékelési és tanítási adat lehet
A LangSmith Trajectories a hosszú és összetett ügynöki munkamenetek áttekintését egyszerűsíti. A funkció az emberi, AI- és eszközüzeneteket időrendben jeleníti meg a fő ügynökből és az alügynökökből, így a fejlesztők könnyebben megtalálhatják, hol változott meg vagy romlott el a működés.
A nézet a szakértői ellenőrzést is támogatja. Azok a felülvizsgálók, akik nem építették az ügynököt, a végrehajtási metaadatok részletes értelmezése nélkül pontozhatják, megjelölhetik és annotálhatják a munkameneteket. A LangSmith online értékelői a Trajectories elemeit is pontozhatják.
A LangSmith Fine-Tuning a Trajectories adatait nyílt forrású modellek felügyelt finomhangolásához használja. A smithtune parancssori eszköz adatkészleteket készít és előkészít, Baseten vagy Fireworks segítségével betanítja a modellt, LangSmithben értékeli az eredményt, majd támogatja a finomhangolt modell kiszolgálását és alkalmazásokhoz kapcsolását.
Egyedi felületek a csapatok munkafolyamataihoz
A Custom Apps lehetővé teszi, hogy a csapatok saját LangSmith-felületeket építsenek, tegyenek közzé és futtassanak a platform adatai fölött. A megoldás sablonokkal, alkalmazáson belüli chattel vagy kódoló ügynöki segítséggel használható, az elkészült alkalmazás pedig megosztott felületté válhat a LangSmith-munkaterületen.
A LangChain példaként annotációs folyamatokat, kísérletek különböző verzióinak összehasonlítását és nyomkövetési adatok áttekintését említi. A bejelentett funkciók közös célja, hogy a vállalatok saját üzleti adataikra és munkafolyamataikra szabott ügynököket építsenek, ezeket mérjék, javítsák és éles környezetben üzemeltessék.
