A LangChain és az NVIDIA nyílt ügynöki rendszert mutatott be
A LangChain és az NVIDIA bemutatta a NemoClaw for LangChain Deep Agents blueprintet, amely nyílt modellel, hangolt ügynöki keretrendszerrel és szabályozott futtatási környezettel segítené a vállalatokat. A LangChain mérése szerint a megoldás egy vizsgálatban nagyjából tizedére csökkentette a következő legjobb modellhez képest az inferencia költségét.
- A NemoClaw a LangChain és az NVIDIA közös, vállalati ügynökökhöz készült blueprintje.
- A rendszer a Nemotron 3 Ultra modellt, a Deep Agents Code keretrendszert és az OpenShell futtatási környezetet kapcsolja össze.
- A LangChain mérésében 0,86-os pontszám mellett 4,48 dollár volt a költség.
- A közlemény szerint a következő legközelebbi modell 43,48 dollárba került ugyanebben a mérésben.
- A blueprint a nyílt modellek testreszabását, az értékelést és a szabályozott futtatást célozza.
Három rétegre épül a NemoClaw
A LangChain közleménye szerint a vállalati ügynökök teljesítményét nem kizárólag a választott modell határozza meg. A fejlesztőknek azt is szabályozniuk kell, milyen eszközöket használhat az ügynök, milyen kontextust lát, hogyan mérik a működését, hol fut, és milyen szabályok vonatkoznak az egyes műveleteire.
A NemoClaw blueprint ezt a teljes rendszert fogja össze. Az első réteg az NVIDIA Nemotron 3 Ultra nyílt modellje, amelyet a vállalatok saját munkafolyamataikhoz futtathatnak, szabhatnak testre és optimalizálhatnak. A második a LangChain Deep Agents Code, röviden dcode, amely a hosszabb ideig futó ügynökök tervezését, eszközhasználatát, memóriáját és feladatvégrehajtását kezeli.
A harmadik réteg az NVIDIA OpenShell futtatási környezete. Ez elkülönített, szabályozott végrehajtást biztosít, és házirendekkel korlátozza, hogy az ügynök miként férhet hozzá eszközökhöz, rendszerekhez és adatokhoz.
A LangChain szerint tízszer alacsonyabb lehet a költség
A LangChain saját ügynöki értékelési csomagjában a Nemotron 3 Ultra és a LangChain Deep Agents együtt 0,86-os összesített pontszámot ért el, 4,48 dolláros költség mellett. A közlemény szerint a következő legközelebbi teljesítményű modell 43,48 dollárba került ugyanebben a mérésben, így a Nemotron 3 Ultra inferenciaköltsége nagyjából tízszer alacsonyabb volt.
A vállalat azt írja, hogy az eredményhez az ügynök eszközhasználatát, kontextuskezelését és a köztes lépések értékelését is hangolták. A cél az volt, hogy a keretrendszer igazodjon a Nemotron 3 Ultra erősségeihez és a hosszabb ideig futó ügynöki feladatok gyakori mintáihoz.
A blueprint lehetővé teszi, hogy a vállalati csapatok a modell súlyait, az ügynöki keretrendszert, az értékeléseket és a futtatási környezetet is saját igényeik szerint alakítsák. A LangChain szerint így a minőség, a költség, a késleltetés és az irányítási követelmények egyszerre vehetők figyelembe.
A nyílt felépítés a vállalati kontrollt célozza
A LangChain érvelése szerint a termelési környezetben működő ügynökök körül kialakuló rendszer, például a memória, a munkafolyamatok, a nyomkövetési adatok, az értékelési adathalmazok és a keretrendszer beállításai, a vállalat saját szellemi értékévé válhat. A nyílt stack célja, hogy a cégek ezt a munkát birtokolhassák, továbbfejleszthessék, és az ügynököket az általuk elvárt kontrollok mellett futtathassák.
Az alacsonyabb inferenciaköltség a közlemény szerint az ügynökök fejlesztését is befolyásolja. Olcsóbb működés mellett több értékelési teszt, több modell-, keretrendszer- és eszközváltozat, valamint speciális, egyes területekre szabott ügynök vizsgálható a bevezetés előtt és után.
Az együttműködést az AI-infrastruktúra és a vállalati piac több szereplője támogatja, köztük az EY, a Baseten, a Fireworks, a Nebius, a Crusoe, a DeepInfra és a Together AI. A LangChain szerint ezek a partnerek a Nemotron modellek éles környezetben történő kiszolgálását és a blueprint üzleti alkalmazásokhoz igazítását segítik. A NemoClaw for LangChain Deep Agents blueprint a bejelentés szerint már elérhető.
LangChain: LangChain and NVIDIA Launch NemoClaw Deep Agents Blueprint
