A LangChain új ügynöktípusa előre megtervezi a feladat végrehajtását
A LangChain bemutatta a Plan-and-Execute nevű ügynöktípust, amely a feladat végrehajtása előtt több lépésből álló tervet készít. A megközelítés összetettebb, hosszabb távú célok kezelését célozza, cserébe több nyelvimodell-hívást igényel.
- A Plan-and-Execute előre megtervezi a végrehajtandó lépéseket.
- A rendszer külön tervezőt és végrehajtót használ.
- A kezdeti végrehajtó egy Action ügynök.
- A megközelítés összetettebb feladatokra készült, több modellhívással.
- A LangChain Pythonhoz és TypeScripthöz is elérhetővé tette a keretrendszert.
A korábbi működés egyetlen folyamatban kezeli a lépéseket
A LangChain eddigi ügynökei a ReAct tanulmány által bemutatott működési elvet követték. A keretrendszer ezeket Action ügynököknek nevezi. A folyamat során a felhasználó megadja a bemenetet, az ügynök kiválasztja a használni kívánt eszközt, majd az eszköz eredményét megfigyelésként visszakapja.
Ezután az ügynök a korábbi eszközhasználatot, a bemeneteket és a megfigyeléseket is figyelembe véve eldönti a következő lépést. A ciklus addig ismétlődik, amíg az ügynök úgy nem ítéli meg, hogy nincs szüksége további eszközre, és közvetlenül válaszolhat a felhasználónak.
A LangChain szerint ezt a módszert egyre nehezebb összetett feladatokra alkalmazni. A felhasználói célok bonyolultabbá váltak, miközben a fejlesztők és szervezetek éles környezetben is egyre inkább támaszkodnak az ügynökökre. A nagyobb megbízhatóság érdekében több utasítás és egyre hosszabb előzmény kerül a promptokba, ami problémákat okozhat a legtöbb nyelvi modell használatakor.
Különválasztják a tervezést és a végrehajtást
A Plan-and-Execute megközelítés először megtervezi a végrehajtandó lépéseket, majd ezeket egymás után hajtja végre. A LangChain kezdeti megvalósítása két fő összetevőből áll: egy tervezőből és egy végrehajtóból.
A tervező jellemzően nyelvi modell. Ennek feladata, hogy a modell következtetési képességeit felhasználva meghatározza a teendőket, valamint kezelje a kétértelműségeket és a különleges eseteket. A kimenet egy feldolgozó segítségével lépések listájává alakítható, ahol minden elem egy külön végrehajtandó feladat.
A végrehajtó a kezdeti változatban Action ügynök. Egy magasabb szintű célt, vagyis egyetlen tervezett lépést kap, majd meghatározza, mely eszközökkel teljesíthető az adott részfeladat. A LangChain Pythonhoz és TypeScripthöz is elkészítette ezt az ügynökkeretrendszert, amelyet a kísérleti modulban helyezett el, mivel gyors változásokra számít.
Több modellhívás, későbbi fejlesztési lehetőségekkel
A tervezés és a végrehajtás szétválasztása lehetővé teszi, hogy külön nyelvi modell összpontosítson az egyes feladatokra. A LangChain szerint ez mindkét területen megbízhatóbb működést támogathat, és később kisebb, finomhangolt modellekre is könnyebbé teheti az összetevők cseréjét.
A fő hátrány a hívások nagyobb száma. A vállalat ugyanakkor arra számít, hogy a tervezés és a végrehajtás elkülönítése miatt ezekhez kisebb, gyorsabb és olcsóbb modellek is használhatók.
A LangChain több irányt is megjelölt a folytatáshoz. A hosszú lépéssorozatoknál a korábbi lépéseket jelenleg listaként adják tovább, később azonban vektortárban tárolnák és onnan keresnék vissza a köztes eredményeket. A tervek újbóli átnézését és módosítását is vizsgálnák, mivel a jelenlegi változat a kezdeti tervezés után nem tér vissza a tervhez.
További cél a keretrendszerek szigorúbb értékelése, valamint több végrehajtási lánc támogatása. Így a tervező például külön webes kutatásra vagy elemzésre optimalizált láncot választhatna. A LangChain a BabyAGI és a Plan-and-Solve tanulmány munkáit is olyan előzményként említi, amelyekből ezekhez a fejlesztésekhez meríthető inspiráció.
LangChain: Plan-and-Execute Agents
