A LangChain egyedi modelleket tanít a LangSmith Engine számára
A LangChain a Baseten Loops segítségével egyedi modelleket tanít a LangSmith Engine számára. A cél, hogy a platformba épített ügynök önállóbban tudja felismerni és javítani a más ügynökök működésével kapcsolatos problémákat.
- A LangChain egyedi modelleket tanít a LangSmith Engine számára.
- A modellek ügynökök hibáinak felismerésére és javítására szolgálnak.
- A Baseten Loops API-alapú infrastruktúrát kínál a finomhangoláshoz.
- A rendszer támogatja a felügyelt finomhangolást, a megerősítéses tanulást és a hosszú kontextust.
- A tanítási ellenőrzőpontok kiértékelhetők és közvetlenül telepíthetők.
A LangSmith Engine feladataihoz igazítják a modelleket
A LangChain olyan eszközöket fejleszt, amelyekkel a vállalatok nagy léptékben építhetnek, értékelhetnek és telepíthetnek mesterségesintelligencia-ügynököket. A cég a LangSmith Engine nevű, platformon belüli ügynökéhez használja a Baseten Loopsot. Az ügynök feladata, hogy segítsen a felhasználóknak az ügynökeik hibáinak feltárásában és önálló javításában.
A Baseten szeptember 15-i közlése szerint a LangChain egyedi modelleket képez a LangSmith Engine mögött álló feladatokra. Az egyedi modellképzés lehetővé teszi, hogy egy rendszer viselkedését kifejezetten egy adott munkafolyamathoz igazítsák.
Az egyik példa szerint egy nagy, nyílt súlyú modellt az ügynökök működéséből származó nyomokkal, vagyis trace-ekkel hangolhatnak finomra. Így a modell képes lehet egy csatlakoztatott GitHub-tárház átvizsgálására, annak megállapítására, miért történik egy probléma, majd a pull requestbe kerülő prompt- vagy kódmódosítás megfogalmazására.
Kisebb modellek speciális feladatokra
A LangChain a forrás szerint az egyedi igényekhez könnyen cserélheti a modelleket, és az adott feladatra szabott, kisebb nyílt súlyú modellt is taníthat. Példaként a Baseten a Qwen modellt említi.
Az ilyen modellek használhatók az ügynökök működéséből származó nyomok hibamód és súlyosság szerinti kategorizálására. Arra is alkalmasak lehetnek, hogy ezeket a nyomokat meglévő, nyitott hibajegyekhez kapcsolják.
A megközelítés lényege, hogy a LangChain az ügynökök működésének megértésére és értékelésére szolgáló eszközöket biztosít, majd az ezekből származó adatokat a modellek fejlesztéséhez használja fel. A Baseten szerint az együttműködés közös célja, hogy a fejlesztők az alkalmazások adataiból javítani tudják az ügynökök viselkedését.
A Baseten Loops a tanítástól az éles használatig kíséri a modelleket
A Baseten Loops API-n keresztül biztosít felügyelt infrastruktúrát a modellek finomhangolásához. A szolgáltatás támogatja a felügyelt finomhangolást, a megerősítéses tanulást és a hosszú kontextusú munkafolyamatokat.
A Loops közvetlenül kapcsolódik a Baseten következtetési platformjához is. A tanítás közben létrehozott ellenőrzőpontok kiértékelhetők, majd közvetlenül telepíthetők. A Baseten ezt olyan munkafolyamatként írja le, amely megkönnyíti a kísérletezést és a modellek éles környezetbe juttatását.
A vállalat szerint ez jelentősen felgyorsítja a tanítást. A Baseten mérnökei továbbra is szorosan együtt dolgoznak a LangChain csapatával a tanítási folyamatok fejlesztésén. A LangChain számára az egy platformon elérhető tanítás és következtetés egyértelmű utat biztosít a modellfejlesztéstől a gyártási használatig.
A felhasználók ebből elsősorban azt tapasztalhatják, hogy a LangSmith Engine mögötti modellek egyre célzottabban kezelhetik az ügynökök hibakeresését, a hibák osztályozását és a javítási javaslatok elkészítését. A közlemény nem közöl konkrét teljesítményméréseket vagy bevezetési dátumot.
