Az open-weight modellek vitték az AI Gateway tokenforgalmának többségét

Az open-weight modellek nyolc hónap alatt többségbe kerültek

A Vercel szeptember 17-én közzétett AI Gateway Production Indexe az augusztus végéig gyűjtött adatokat vizsgálja. Az AI Gateway produkciós alkalmazások és AI-laborok között továbbított forgalma havonta több tízmilliárd tokenből áll, a jelentés pedig anonimizált, összesített adatokat használ.

Az open-weight modellek augusztusban az összes token 56 százalékát dolgozták fel. Ez az első hónap, amikor a nyílt súlyú modellek együttes forgalma meghaladta a zárt súlyú modellekét. Decemberben még a tokenek kevesebb mint tizede futott ilyen modelleken, április és augusztus között pedig 13 százalékról 56 százalékra emelkedett a részesedésük.

A költésben továbbra is a csúcskategóriás modellek vezettek, az open-weight modellek a gateway kiadásainak 14 százalékát adták. A Vercel szerint a növekvő használat hozzájárult ahhoz, hogy augusztusban 23,2 százalékkal essen az átlagos tokenár. Ez volt a harmadik egymást követő havi csökkenés. Azoknál a csapatoknál, amelyek mindkét vizsgált hónapban több mint 10 millió tokent futtattak, a medián költség 7,6 százalékkal lett alacsonyabb.

Az Anthropic olcsóbb modellje magához vonzotta a költést

Az Anthropic modelljei az AI Gateway kiadásainak 64 százalékát szerezték meg augusztusban. A vállalat legdrágább és legnagyobb képességű modellje, a Fable 5 részesedése júliusban még 13,2 százalék volt, augusztusra azonban 4,9 százalékra esett.

Ezzel párhuzamosan az egy szinttel alacsonyabb és nagyjából feleannyiba kerülő Opus 5 részesedése 22,5 százalékra nőtt. A Fable-t használó csapatok kilenctizede csökkentette a használatot, és több csapat váltott Opus 5-re, mint bármely másik modellre. A Vercel értelmezése szerint a feladatokhoz elegendő képességű, olcsóbb modell több esetben jobb választásnak bizonyult.

Az Anthropic legalább 61 százalékát birtokolta az AI Gateway költésének minden hónapban december óta. A két legnagyobb kiadási részesedéssel rendelkező helyet is Anthropic-modellek foglalták el minden hónapban, miközben a konkrét modellek változtak.

Az Astra gyorsan megszerezte az OpenAI költésének harmadát

Az OpenAI szeptember 3-án indította el a GPT-6 Astra modellt az AI Gatewayen. Az Astra ára megegyezett a két nappal korábban megjelent Fable 5.1-ével, és a GPT-5.6 Sol árának két és félszerese volt. Két nappal a rajt után az Astra az OpenAI-modellekre fordított gateway-költés egyharmadát adta.

Szeptember 4. és 16. között az Astra és a Sol együtt az OpenAI tokenjeinek 27 százalékát dolgozta fel, a vállalathoz kapcsolódó költés 71 százalékát viszont ez a két modell szerezte meg. Az olcsóbb Luna és Nano több mint kétszer ennyi tokent dolgozott fel körülbelül az egykilencednyi kiadásért.

Az első tizenkét nap alapján az Astra az AI Gateway teljes költésének 7,7 százalékát vitte el, szemben a Fable 5.1 3,7 százalékával. Az Astra kétszer annyi csapatnál jelent meg, a kumulált gateway-költésben pedig a negyedik napon megelőzte a Fable 5.1-et.

A felhasználók az árhoz és a modell képességeihez igazítják a választást

A Vercel adatai szerint a modellváltások sok esetben jobban követik az adott modell árát és képességprofilját, mint a labor márkáját. A Z.ai GLM-5.3-Flash modellje a megjelenése utáni napon megelőzte a GLM-5.2-t, öt napon belül pedig háromszoros napi forgalmat ért el. Augusztus 31-én a Z.ai tokenforgalmának kétharmadát adta.

A Google nehezebben tartotta meg a Gemini 3 Flash felhasználóit. A modell május óta tokenforgalmi részesedésének 95 százalékát elveszítette, és az elvesztett forgalom több mint háromnegyede más laborok modelljeihez került. A Google részesedése az AI Gateway tokenforgalmából 30 százalékról 5 százalékra csökkent, ebből 25 százalékpontnyi esés a Gemini 3 Flashhez kapcsolódott.

A Vercel szerint az open-weight modellek gyors terjedése több produkciós feladat áthelyezését jelzi, miközben az alacsonyabb tokenárak ugyanabból a keretből több következtetést tesznek lehetővé. A jelentés készítői ugyanakkor jelzik, hogy a költési adatok a laborok közzétett listaáraiból becsültek, ezért eltérhetnek a tényleges számláktól.