A CoreWeave zárt ciklust épít az AI-ügynökök képzése és futtatása között

A produkciós használatból indul a fejlesztési ciklus

A CoreWeave október 22-i bejelentése szerint az AI-ügynököket eddig jellemzően hosszú, címkézett adathalmazokon végzett offline értékelésekkel fejlesztették. A csapatok javítottak az eredményeken, majd újra lefuttatták a teszteket, amíg a minőség, a pontosság, a költség és a stílus elfogadható szintre nem került. Az ügynök csak ezután jutott el a produkcióba, ahol valós felhasználói helyzetekkel találkozott.

A vállalat szerint ez a módszer lassú, és megbízhatósági problémákhoz vezethet, mivel a címkézett adathalmazok nem tudják lefedni a valós világ minden forgatókönyvét. A CoreWeave erre egy zárt visszacsatolási ciklust kínál, amely összekapcsolja a tanítást és a következtetést. A rendszer része a szerver nélküli megerősítéses tanulás, a nagy léptékű produkciós következtetés, az ügynökök és az infrastruktúra teljes körű megfigyelhetősége, valamint az autonóm fejlesztés.

Szerver nélküli megerősítéses tanulás

A produkcióban működő ügynököktől a CoreWeave szerint nagyobb megbízhatóság várható el, mint amit az alapmodellek önmagukban biztosítanak. A megerősítéses tanulás során az ügynök a környezettel interakcióba lép, jutalmakat vagy büntetéseket kap, majd idővel megtanulja azokat a műveleteket, amelyek hosszú távon a legtöbb jutalomhoz vezetnek.

A CoreWeave Serverless RL szolgáltatása lehetővé teszi a nagy nyelvi modellek utólagos tanítását többfordulós, agentikus feladatokra. A csapatoknak nem kell saját infrastruktúrát kiépíteniük és kezelniük. A szolgáltatás a terheléshez igazítja a számítási kapacitást, szükség esetén felskáláz, üresjáratban pedig nullára csökken. A vállalat teljes mértékben kezeli az infrastruktúrát, miközben a feladatok a CoreWeave Cloud számítási kapacitásához férnek hozzá.

A CoreWeave állítása szerint a szerver nélküli RL-háttérfolyamat a munkák összevonásával akár 40 százalékkal csökkenti a költségeket, és hozzávetőleg 1,4-szeresére gyorsítja a tanítást minőségromlás nélkül. A futtatások megosztott GPU-fürtön, tokenenkénti számlázással működnek. A tanítás és a következtetés külön, folyamatosan elérhető példányokon fut, ezért a módosítások másodpercek alatt alkalmazhatók a hosszabb várakozás helyett.

Produkciós következtetés és megfigyelhetőség

A CoreWeave Inference a produkciós végrehajtási réteget biztosítja az agentikus munkafolyamatokhoz. A vállalat szerint a következtetési terhelések egy- és többcsomópontos telepítéseken is kiszámíthatóan működnek, miközben a terhelés és az egyidejűség növekedése mellett is stabil marad a viselkedés. A csapatok a Serverless Inference, a Dedicated Inference és az Inference on CKS lehetőségek közül választhatnak.

A beépített monitorozás láthatóvá teszi a következtetés teljesítményét, a skálázódást és a rendszer állapotát. A W&B Weave ehhez az ügynökök végponttól végpontig tartó megfigyelését, hibamódokat feltáró jeleket és értékelési keretrendszert ad. A rendszer egyetlen nézetben összesíti az adatokat, a beépített és egyedi jelek pedig automatikusan rögzíthetik és osztályozhatják a felhasználói interakciókat.

A Weave a többügynökös nyomkövetéseket munkamenetekbe és fordulókba rendezi, így a fejlesztők a vállalat szerint könnyebben azonosíthatják a hibák gyökérokait. A riasztások Slack-értesítéseket és webhookos automatizmusokat is indíthatnak. Az értékelési összehasonlítások és vizualizációk a regressziók felismerését szolgálják, mielőtt azok eljutnának a felhasználókhoz.

Autonóm kísérletezés a megbízhatóbb ügynökökért

A W&B Skills és az MCP-szerver a CoreWeave leírása szerint olyan eszközöket ad az általános célú kódoló ügynököknek, amelyekkel kísérleteket futtathatnak, modelleket kezelhetnek, nyomkövetést és értékelést végezhetnek, valamint monitorozhatják a rendszereket. A vállalat szerint egy kódoló ügynök így akár több ezer kísérletet is futtathat éjjel-nappal, és hamarabb érheti el a produkciós megbízhatóságot.

A bejelentés alapján a felhasználók egy olyan infrastruktúrát kapnak, amely a fejlesztést, az éles futtatást, a megfigyelést és az újabb tanítást egyetlen ciklusba kapcsolja. A CoreWeave szerint ez lehetővé teszi, hogy az ügynökök a valós használatból származó jelek alapján folyamatosan javuljanak.