Nyilvános bétában a LangChain menedzselt Deep Agents rendszere
Nyilvános bétába lépett a LangChain Managed Deep Agents szolgáltatása és az LLM Gateway. A vállalat emellett új LangSmith-funkciókat, frissített Deep Agents keretrendszert és több, ügynököket fejlesztő csapat eredményeit ismertette.
- Nyilvános bétába lépett a Managed Deep Agents.
- Az LLM Gateway költségszabályozást, sebességkorlátokat és modellváltást kínál.
- A Deep Agents 0.7 hasonló teljesítmény mellett 65 százalékkal kevesebb alap bemeneti tokent használ.
- A Stripe Kai ügynöke egy hónap alatt 296-ról több mint 5000 felhasználóra nőtt.
- Az Apollo szerint az új megoldás 80, illetve 85 százalékkal rövidítette az ügynökfejlesztést.
Két új szolgáltatás érkezett nyilvános bétába
A Managed Deep Agents lehetővé teszi, hogy a fejlesztők egyetlen paranccsal telepítsék Deep Agentjüket egy menedzselt LangSmith-futtatókörnyezetbe. A LangChain közlése szerint a rendszer beépítve kínál tartós végrehajtást, elkülönített homokozókat, nyomkövetést és további funkciókat.
Szintén nyilvános bétában érhető el az LLM Gateway. Ez az ügynökök és az általuk használt modellek közé kerül, és olyan vezérlési lehetőségeket biztosít, amelyeket a vállalatok a termelési használat megkezdésekor igényelhetnek. Ide tartozik a költségszabályozás, a sebességkorlátok kezelése, a modellváltás hibák esetén, valamint az érzékeny adatok kezelése.
A LangSmith és a Deep Agents is frissült
A LangSmith Engine teljesítményét is javította a LangChain. A vállalat szerint az Engine immár több mint kétszer hatékonyabban találja meg az ügynökök hibáit, a javasolt javítások pedig 25 százalékkal jobb eredményt érnek el a szabványos benchmarkokon.
Az új Tuned Evaluators automatikusan minőségi visszajelzést kapcsol a termelési nyomkövetésekhez. Így a csapatok saját értékelő rendszer kezelése nélkül kereshetik meg és javíthatják az ügynökök hibáit. Az első ilyen értékelő a Perceived Error.
A Bring Your Own Cloud funkció AWS-en is elérhetővé vált. Ennek segítségével a csapatok saját virtuális privát felhőjükben futtathatják a LangSmitht, miközben a beállítást, a skálázást és a frissítéseket a LangChain kezeli.
A nyílt forráskódú Deep Agents 0.7-es verziója egyszerűbb alapstruktúrát kapott. A LangChain szerint ez hasonló teljesítmény mellett 65 százalékkal kevesebb alapértelmezett bemeneti tokent jelent.
A vállalatok saját intelligenciájára építene
A hírlevélben Harrison Chase arról írt, miért válik fontosabbá a vállalatok számára a saját intelligenciájuk birtoklása. A LangChain álláspontja szerint a következő öt évben minden vállalat kétféleképpen használja majd az AI-t: üzleti működésének kritikus részeit bízza rá, vagy az ügyfeleknek értékesített termék részeként alkalmazza. A cég szerint ezekben az esetekben az általános célú intelligencia önmagában nem lesz elég.
A LangChain két ügyfélpéldát is kiemelt. A Stripe a Deep Agents segítségével egy hét alatt építette fel a Kai nevű, vállalati szintű termelékenységi ügynökét, majd egy hónap alatt 296-ról több mint 5000 felhasználóra bővítette. A közlés szerint a Stripe munkatársainak 83 százaléka hetente használja a Kait, összesen több mint 60 000 munkamenetben.
Az Apollo a Deep Agentsre építve újraépítette AI-asszisztensét, hogy egyetlen természetes nyelvű beszélgetésben kezelje a teljes értékesítési és piacra lépési folyamatot. A vállalat szerint az átállás nagyjából 80, illetve 85 százalékkal csökkentette az új ügynökök fejlesztési idejét.
A felhasználók számára a bejelentés elsősorban több telepítési, felügyeleti és ellenőrzési lehetőséget jelent. A LangChain új videósorozatot és frissített Deep Agents-tanfolyamot is közzétett, amely a 0.7-es verzió mellett új alügynökmodulokat, TypeScript-támogatást és beépített oktatói képességet tartalmaz.
