A Jev három nap alatt több mint ezermilliárd tokent dolgozott fel
A TypeSafe AI Jev nevű modellje a nyilvános indulást követő három nap alatt több mint ezermilliárd tokent dolgozott fel a Modal infrastruktúráján. A modell strukturált döntéseket hoz, és a hagyományos nyelvi modellektől eltérő módon nem szöveget generál.
- A Jev három nap alatt több mint 1 ezermilliárd tokent kezelt a Modalon.
- A modell strukturált értékeket és valószínűségeket ad vissza.
- A Jev nem autoregresszív, és nem generál szöveget.
- Az OpenRouter 1K és 10K token közötti kontextusokra vonatkozó ranglistáján 15,1 százalékos részesedést ért el.
- A TypeSafe AI új architektúrát, párhuzamos mintavételezést és RLCD-t használ.
A Jev döntéseket ad vissza strukturált formában
A Modal 2026. október 5-én közzétett esettanulmánya szerint a TypeSafe AI első modellje, a Jev, gyors és strukturált döntésekre készült. A vállalat saját meghatározása szerint a Jev System One Model, vagyis a gyors, intuitív gondolkodásra összpontosító modell.
A Jev nem nagy nyelvi modell, és nem szöveget állít elő. Bemenetként állapotot és kérdéseket fogad, majd típusos, strukturált értékeket, valamint azok valószínűségeit adja vissza. Egy ügyfélszolgálati bejelentés alapján például kiválaszthatja, hogy a billing, technical vagy sales csapat foglalkozzon az üggyel.
A forrásban szereplő példában a Jev a technikai csapatot választotta, 0,78-as konfidenciával. A válaszban a technical lehetőséghez 0,85-ös, a saleshez 0,0-s, a billinghez pedig 0,15-ös valószínűség tartozott.
Párhuzamos feldolgozás és saját tanítási módszer
A TypeSafe AI a Jevhez teljes egészében automatizálásra épülő technológiai rendszert készített. Ehhez új modellarchitektúrát, a hatékonyság növelését célzó párhuzamos mintavételezőt és egy Reinforcement Learning for Calibrated Decisions, röviden RLCD nevű tanítási módszert használt.
A Jev a nyelvi modellektől eltérően nem autoregresszív, vagyis nem egymás után állítja elő a kimeneti elemeket. A párhuzamos működés a Modal szerint alacsony késleltetésű válaszokat tesz lehetővé olyan feladatoknál, mint a nagy léptékű automatizálás, a gyors böngészőhasználat és a generatív felhasználói felületek.
A Modal beszámolója szerint a Jev a System One feladatokon a határmodellnek számító nyelvi modellekhez hasonló intelligenciaszintet ér el, miközben a célja a döntéshozatal, nem az általános intelligencia.
A nyilvános indulás után megugrott a forgalom
A Jev egy csütörtöki napon vált nyilvánosan elérhetővé. Egy héttel később az OpenRouter 1K és 10K token közötti kontextusokra vonatkozó ranglistájának élére került, ahol a kérések 15,1 százalékát kezelte. A TypeSafe AI a teljes keresletet már több ezermilliárd tokenben méri.
A vállalatnak az ingadozó és nagy terhelés mellett a hálózati működés, az útválasztás és az automatikus skálázás felett is teljes ellenőrzésre volt szüksége. Ezt saját infrastruktúra üzemeltetése nélkül akarta megoldani.
A Modal közlése szerint a Jev a platformján három napon belül 1 ezermilliárd tokent szolgált ki. Erik Gafni, a TypeSafe AI technológiai igazgatója azt mondta: „A Modal három napon belül 1 ezermilliárd tokent szolgált ki a Jev számára az indulást követően. A csapatuk proaktív és együttműködő volt, miközben a példátlan kereslethez igazodva skáláztunk, így az infrastruktúra kezelése helyett a szállításra összpontosíthattunk.”
A hír a felhasználók számára azt jelenti, hogy a Jev döntési és osztályozási feladatokra, alacsony késleltetésű válaszokra és nagy léptékű automatizálásra használható. A Modal szerint a platform bursty, nagy párhuzamosságú terhelésekhez készült, így a TypeSafe AI a saját állítása szerint az infrastruktúra üzemeltetése helyett a modell kiadására összpontosíthatott.
