A CoreWeave Forge egy helyre köti az AI-fejlesztési ciklust

A termelési bevezetés csak a kezdet

A CoreWeave a Fully Connected 2026 rendezvényen jelentette be a Forge-ot. A cég szerint az AI-rendszerek első éles bevezetése ma már csak a fejlesztési folyamat kezdete. A csapatoknak ezt követően folyamatosan ellenőrizniük kell a válaszok pontosságát, a felhasználói elégedettséget és a működtetés költségeit.

Az AI-mérnökök, az alkalmazásokat üzemeltető vagy SRE-csapatok, a kutatók és az üzleti vezetők gyakran külön rendszereket használnak. A termelési megfigyelési felületek elsősorban az üzemidőről tájékoztatják az ügyeletes mérnököket, miközben kevés információt adnak a válaszok minőségéről vagy a felhasználói visszajelzésekről. Eközben az értékelési készletek elavulhatnak, ha nem frissítik őket a változó felhasználói viselkedéshez és forgalomhoz.

A CoreWeave szerint az ilyen széttagoltság miatt a csapatok sok időt töltenek eszközök karbantartásával és az átadások összehangolásával. A vállalat a problémát elsősorban nem a szakértelem vagy az infrastruktúra hiányában, hanem a kapcsolat nélküli fejlesztési ciklusban látja.

Öt lépésben köti össze az AI-fejlesztést

A Forge a CoreWeave leírása szerint egy ismétlődő ciklusban kapcsolja össze a termelési futtatást, a megfigyelést, az adatgondozást, a fejlesztést és az értékelést. A modell vagy ügynök először éles környezetben fut, majd a rendszer rögzíti a működésből származó jeleket. Ezekből adatkészletek és folyamatosan frissített értékelési készletek készülhetnek.

• Futtatás: modellek és ügynökök telepítése termelési környezetben, valós jelek gyűjtésével.
• Megfigyelés: nyomkövetések, mérőszámok, eszközhasználat és viselkedési visszajelzések rögzítése.
• Adatgondozás: termelési jelek átalakítása értékes adatkészletekké, mesterséges intelligenciával támogatott és ember által ellenőrzött folyamatokkal.
• Fejlesztés: ügynökök, modellek és munkafolyamatok javítása többek között megerősítéses tanulással, felügyelt finomhangolással és modelllepárlással.
• Értékelés: új modellek és ügynökök mérése ismételhető minőségi szabványok alapján a telepítés előtt, közben és után.

A CoreWeave szerint a szorosan összekapcsolt ciklus minden ismétléssel rövidítheti a termelési hibáktól az ellenőrzött javításokig vezető időt. A Forge használatát a cég szerint már a MasterClass és a Canva is megkezdte.

Új és általánosan elérhető szolgáltatások

A bejelentés része a CoreWeave Agent Lens, amely a termelési ügynökök megfigyelését folyamatos fejlesztési folyamattá alakítja. A szolgáltatás az ügynök minden lépését, döntését és eszközhívását végigköveti, az élő forgalmat pedig emberi felügyelet és adatgondozás mellett pontozza. A CoreWeave állítása szerint az Agent Lens 20 százalékkal javítja a hibák felismerését, és feleakkora költséggel teszi lehetővé a problémák javítását.

A CoreWeave ARIA mostantól általánosan elérhető. A szolgáltatás futásokat elemez, kísérleteket javasol, kódmódosításokat ajánl, ezeket GitHubban tárolja, majd bizonyítékokat hoz vissza az eredményekről. Szintén általánosan elérhetővé vált a CoreWeave Sandboxes, amely ügynökök, eszközhívások, megerősítéses tanulás és értékelések futtatását teszi lehetővé elkülönített CPU- vagy GPU-környezetekben.

Az új szolgáltatások között szerepel a Model Distillation, amely egy nagyobb modell kimenetei alapján kisebb, nyílt súlyú modellt tanít egy már termelésben bizonyított feladatra. A CoreWeave Notebooks menedzselt Python-jegyzetfüzeteket kínál kísérletezéshez és együttműködéshez. A csomag része továbbá az Inference, a Weights & Biases Models, a Post-Training, a Serverless SFT, a Serverless RL és a CoreWeave Registry is.

A felhasználóknak egy összekapcsolt fejlesztési környezetet ígér

A Forge a CoreWeave szerint tartós nyilvántartást biztosít az AI-fejlesztéshez. Az adatkészletek, értékelések, modellverziók, nyomkövetések és telepítések összekapcsolva maradnak, így a csapatok követhetik, mi változott, miért változott, és javultak-e az eredmények.

Az infrastruktúra kiválasztásában a CoreWeave Inference több lehetőséget kínál. A Serverless Inference nyílt forráskódú modellek katalógusához biztosít hozzáférést úgy, hogy az infrastruktúrát a CoreWeave kezeli. A Dedicated Inference elkülönített számítási kapacitáson futtatja a modelleket, és ellenőrzést ad a modell súlyai, a telepítési beállítások és a környezet felett.

A vállalat célja, hogy a csapatok a termelési visszajelzésekből gyorsabban jussanak el a javított, értékelt és újra telepíthető AI-alkalmazásokig. A Forge így egyetlen környezetben kezeli a fejlesztési ciklus egymásra épülő szakaszait.