LangChain eszközzel készíthetők korpuszokra épülő karakterchatbotok

Karakterek meglévő szövegekből

A LangChain szerint a nagy nyelvi modellek egyik fontos felhasználási területe, hogy statikus szövegekből interaktív élményt hozzanak létre. A data-driven-characters ezt a lehetőséget általánosítja: a felhasználó feltölt egy korpuszt, megadja a karakter nevét, majd az eszköz a forrásanyag alapján karakterchatbotot készít.

A repó egyik példája Evelyn chatbotja a Everything Everywhere All At Once című film forgatókönyvéből. A rendszer a szöveget feldolgozza, összefoglalókat készít belőle, majd ezekre támaszkodva létrehozza a karakter rövid és hosszú leírását, valamint köszöntő üzenetét. A LangChain bemutatója szerint a létrehozott definíció ezután exportálható a character.ai platformjára.

Irányítható memória és hibakeresés

A LangChain a megoldás egyik előnyeként azt emeli ki, hogy a felhasználó maga szabályozhatja, miként kezeli a chatbot a beszélgetéshez kapcsolódó hátteret. A repó többféle memória-kezelést támogat, köztük az összefoglalást és a visszakeresést. Ez lehetővé teszi, hogy a válaszok a karakter alapjául szolgáló korpusz konkrét részleteire támaszkodjanak.

A csapat összevetése szerint a character.ai karakterdefiníciói önmagukban kevés szöveget tartalmaznak a részletes háttér megalapozásához. A platform további kontextus hozzáadását is lehetővé teszi, de a LangChain szerint a felhasználó nem lát rá közvetlenül arra, hogyan használja a rendszer ezt az információt, és diagnosztikai eszközök sem állnak rendelkezésre a karaktertől eltérő válaszok vizsgálatához.

A data-driven-characters ezzel szemben parancssoros felületet és Streamlit-alapú kezelőfelületet biztosít. A Streamlit alkalmazásban a felhasználó feltöltheti a korpuszt, kiválaszthatja a karakter nevét, beállíthatja a személyiség megalapozásának módját, majd megtekintheti a beszélgetést és a hibakeresési információkat.

Háromféle használati mód

A repó három módon kínál hozzáférést a létrehozott karakterekhez. A karakter exportálható a character.ai rendszerébe, helyben futtatható parancssorból vagy Streamlit-felületen, illetve önálló Streamlit-alkalmazásként böngészőben is hosztolható.

A LangChain bemutatója szerint a módszer olyan karaktereknél is használható, amelyekről a modell előzetes tanítása nem tartalmaz elegendő információt. A cég példája alapján a saját korpuszra épített Evelyn chatbot a film eseményeire hivatkozva folytat beszélgetést, miközben a fejlesztő láthatja, milyen háttérinformációkat használ fel. A megoldás így elsősorban azoknak szól, akik meglévő dokumentumokból vagy átiratokból szeretnének ellenőrizhetőbb, saját maguk által futtatott karakterchatbotot készíteni.