Elérhető a Fireworks Ember-1 modellje a Vercel AI Gateway-en
A Fireworks Ember-1 modellje megérkezett a Vercel AI Gateway-re. A Kimi K3-ra épülő, kutatási előzetesként kiadott modell kódolási és ügynökalapú munkafolyamatokat céloz, és a Fireworks szerint hasonló minőség mellett kevesebb tokent generál.
- A Fireworks Ember-1 elérhető a Vercel AI Gateway-en.
- A modell a Kimi K3-ra épül, és kódolási, valamint ügynökalapú munkafolyamatokat céloz.
- A Fireworks szerint körülbelül 40 százalékkal kevesebb tokent generál hasonló minőség mellett.
- Támogatja az 1 millió tokenes kontextusablakot, a képi bemenetet és az eszközhívást.
- Kutatási előzetesként, kezdetben kéthetes időablakban érhető el.
Kódolásra és ügynökalapú feladatokra készült
A Vercel szeptember 27-i bejelentése szerint az Ember-1 a Fireworks kutatási előzetesként elérhető következtetési modellje. A modell a Kimi K3-ra épül, és elsősorban kódolási, valamint ügynökalapú munkafolyamatokhoz készült.
A Fireworks saját értékelései alapján az Ember-1 körülbelül 40 százalékkal kevesebb tokent generál, mint a Kimi K3, hasonló minőség mellett. A rövidebb gondolkodási nyomok olyan kódolási ügynököknél lehetnek fontosak, amelyek ismételten meghívják a modellt. A forrás szerint ez csökkentheti a kimenetek költségét, valamint a későbbi lépésekbe továbbvitt kontextus mennyiségét.
Nagy kontextusablak és többféle képesség
Az Ember-1 támogatja az 1 millió tokenes kontextusablakot, a szöveges és képi bemeneteket, az eszközhívást, valamint az implicit promptgyorsítótárazást. A Fireworks végpontja támogatja a Zero Data Retention, vagyis az adatok megőrzésének mellőzését, továbbá a No Prompt Training beállítást is.
A modell a Vercel AI Gateway-en keresztül használható. A szolgáltatás egységes API-t biztosít a modellek meghívásához, emellett beépített használat- és költségkövetést, API-kulcsokhoz tartozó költségkereteket, valamint útválasztási szabályokat kínál.
Így lehet kipróbálni
Az Ember-1 modellneve az API-kban és a kódolási ügynökökben fireworks/ember-1. Az AI SDK használatakor ezt a nevet kell megadni a modell mezőben. A Vercel példája egy olyan kérést mutat, amely egy exponenciális visszalépést alkalmazó újrapróbálkozási segédprogram megírására utasítja a modellt.
Kódolási ügynök használatához először a Vercel CLI legfrissebb változatát kell telepíteni az npm i -g vercel@latest paranccsal, majd futtatni a vercel ai-gateway setup parancsot. A beállító folyamat felismeri a telepített ügynököket, létrehoz vagy újra felhasznál egy AI Gateway API-kulcsot, és konfigurálja az ügynökök kapcsolatát a gatewayhez. Ezután az ügynök modellkonfigurációjában a fireworks/ember-1 modellt kell kiválasztani.
Az Ember-1 kezdetben kéthetes időablakban, kutatási előzetesként érhető el. A modell a Vercel modelljátszóterén is kipróbálható.
Vercel: Ember-1 from Fireworks now available on AI Gateway
