Újraépítette chatbotját a LangChain, hogy pontosabb válaszokat adjon
A LangChain újraépítette a Chat LangChain chatbotot, miután saját mérnökei inkább külön kerestek a dokumentációban, a tudásbázisban és a kódbázisban. Az új megközelítés közvetlenül ezeket a forrásokat használja, és a kérdés összetettségétől függően eltérő ügynökarchitektúrát alkalmaz.
- A LangChain saját mérnökeinek keresési folyamatát automatizálta.
- A dokumentációs kérdésekhez createAgentet, a kódot érintő feladatokhoz Deep Agentet használ.
- A rendszer közvetlenül éri el a dokumentációt, a tudásbázist és a kódbázist.
- A komplex kódkeresések 1-3 percig is tarthatnak.
- A Deep Agent induláskor csak a felhasználók egy részének érhető el.
A saját mérnökeik mutatták meg a problémát
A LangChain eredetileg két céllal készítette el a chat.langchain.com prototípusát: a felhasználók és a vállalat munkatársai gyors, megbízható választ kaphassanak a termékekkel kapcsolatos kérdésekre, valamint élő példaként szolgáljon arra, hogyan lehet összetett ügynököket építeni a LangChain, a LangGraph és a LangSmith eszközeivel.
A támogatási mérnökök azonban nem használták aktívan a chatbotot. Egy éles környezetben felmerülő hibánál először a dokumentációt keresték át, majd a support tudásbázisát ellenőrizték, végül a Claude Code segítségével a tényleges megvalósítást is átnézték. A LangChain ezt a háromlépéses folyamatot automatizálta egy belső Deep Agent segítségével. Ebben külön alügynök foglalkozott a dokumentációval, a tudásbázissal és a kódbázissal, a válaszokat pedig egy fő ügynök állította össze.
Kétféle ügynök kezeli a kérdéseket
Az egyszerűbb dokumentációs kérdésekhez a LangChain a createAgent absztrakciót választotta. Ez nem használ külön tervezési fázist vagy összetett koordinációt, hanem közvetlenül eszközhívásokat indít. Az ügynök átnézi a dokumentációt, szükség esetén a tudásbázist is, majd pontosítja a keresést, ha az első találatok nem elég egyértelműek.
A vállalat szerint a legtöbb ilyen kérdés 3-6 eszközhívással megválaszolható, és a válaszok többsége 15 másodpercnél rövidebb idő alatt elkészül. A felhasználók Claude Haiku 4.5, GPT-4o Mini és GPT-4o-nano modellek közül választhatnak. A LangChain a LangSmith segítségével követi a beszélgetéseket, teszteli a különböző utasításokat, és keresi a felesleges eszközhívásokat.
A kód működését is érintő kérdésekhez Deep Agentet használ. Ez három specializált alügynököt fog össze, amelyek a dokumentációban, a tudásbázisban és a kódbázisban keresnek. A kódbázisért felelős alügynök privát tárolókban is tud mintákra keresni, bejárhatja a könyvtárstruktúrát, és konkrét fájlokból, sorszámokra hivatkozva emelhet ki részleteket. Ez az eljárás összetett kérdéseknél 1-3 percig is tarthat. A LangChain közlése szerint induláskor csak a felhasználók egy része fér hozzá ehhez a módhoz, amelyet néhány napon belül általánosan is elérhetővé kívánnak tenni.
A chatbot eltávolodott a vektoros kereséstől
A korábbi nyilvános chatbot a dokumentumokat darabokra bontotta, beágyazásokat készített belőlük, majd vektoros adatbázisban tárolta azokat. A LangChain szerint ez a módszer a strukturálatlan tartalmaknál, például PDF-eknél jól működhet, a termékdokumentáció esetében viszont elveszítette a címsorokat, az alfejezeteket és a környezetet. Emellett a naponta többször frissülő dokumentáció miatt rendszeresen újra kellett indexelni az adatokat, a hivatkozások pedig nehezen voltak ellenőrizhetők.
Az új megoldás közvetlen hozzáférést ad a forrásokhoz. A dokumentációhoz a Mintlify API-ját használják, amely a teljes oldalakat, a címsorokat, az alfejezeteket és a kódpéldákat is visszaadja. A tudásbázisban először cím alapján keresnek, majd a releváns cikkeket teljes egészükben olvassák be. A LangChain szerint így az ügynök nem hasonlósági pontszámok alapján válogat, hanem kulcsszavakkal, pontosítással és további kérdésekkel keres, ahogy egy ember tenné.
LangChain: Why We Rebuilt LangChain’s Chatbot and What We Learned
