A Vercel AI Gatewayre érkezett a TypeSafe AI Jev modellje
A TypeSafe AI Jev modellje már használható a Vercel AI Gatewayen. A probabilisztikus döntési modell strukturált válaszokat ad útválasztáshoz, tartalomjelöléshez és prioritások pontozásához.
- A TypeSafe AI Jev modellje elérhető a Vercel AI Gatewayen.
- A Jev Choice, Score és Boolean típusos válaszokat ad.
- A modell párhuzamosan értékeli ki az előre megadott kérdéseket.
- Az AI SDK 7.0.105 vagy újabb verzió támogatja az evaluate API-t.
- A Jev támogatja a Zero Data Retention és No Training beállításokat.
Típusos válaszokat ad a Jev
A Vercel 2026. szeptember 16-i bejelentése szerint a TypeSafe AI Jev modellje elérhetővé vált az AI Gatewayen. A Jev szoftverekhez készült probabilisztikus döntési modell: állapotot kap bemenetként, majd típusos Choice, Score és Boolean válaszokat ad.
A hagyományos nyelvi modellek tokenenként szöveget generálnak, amelyet az alkalmazásnak később kell értelmeznie és ellenőriznie. A Jev ezzel szemben az összes előre megadott kérdést párhuzamosan értékeli ki, és közvetlenül típusos válaszokat, valamint valószínűségeket ad vissza. Ez lehetővé teszi az egyértelmű esetek automatizálását, a bizonytalan döntések pedig felülvizsgálatra irányíthatók.
A Choice egy lehetőséget választ ki, a Score egy rendezett értékelési skálán pontoz, a Boolean pedig a „true” érték valószínűségét becsüli.
Ügynökfolyamatokban és ellenőrzésekben használható
A Vercel által bemutatott felhasználási esetek közé tartozik a következő eszköz vagy alügynök kiválasztása egy ügynöki ciklusban. A modell abban is segíthet, hogy egy folyamat folytatódjon, újrapróbálkozzon, kérdést tegyen fel a felhasználónak vagy leálljon.
A Jevvel egy művelet előtt pontozható a sürgősség vagy a kockázat, továbbá ellenőrizhetők a modellek kimenetei és kikényszeríthetők a védelmi szabályok. A TypeSafe jelentése szerint a Jev a saját munkafolyamat-értékeléseikben akár 193,6-szer gyorsabb és 444,6-szer olcsóbb volt a nyelvi modelleknél. Ezek a számok a TypeSafe közlésén alapulnak.
Az AI SDK 7 a Jevet a kísérleti evaluate API-n keresztül teszi elérhetővé. Az AI SDK 7.0.105 vagy újabb verzió támogatja ezt az API-t, telepítéséhez a Vercel dokumentációja a pnpm add ai@latest parancsot mutatja.
Egy kérésben több döntés is megadható
Az értékelés minden alkalommal megad egy modellt, egy állapotot és a végrehajtandó döntések térképét. Az állapot lehet megosztott szöveg, objektum vagy tömb, a kérdések pedig névvel ellátott döntésekből állnak. A Jev modell a typesafe-ai/jev azonosítóval hívható meg.
A Vercel példájában egy támogatási esetből készül sorba rendezési, prioritási és visszatérítés-felülvizsgálati döntés. A bizonytalan útválasztás manuális ellenőrzésre kerülhet. Az eredmény megőrzi a kérdésazonosítókat és a Choice kulcsait, a Choice és Score döntések megbízhatósági adatai pedig a result.providerMetadata.typesafe.confidence mezőben jelennek meg.
A TypeSafe azt javasolja, hogy a valószínűségeket és a megbízhatósági értékeket a munkafolyamatból származó címkézett példák alapján kalibrálják. A Jev támogatja a Zero Data Retention és a No Training beállításokat, amelyek kérésenként engedélyezhetők.
Az AI Gateway meglévő funkciói is használhatók
Az értékelési hívások megjelennek a naplókban és az egyedi riportokban, beleszámítanak a költségkeretekbe, és az AI Gateway további szolgáltatói beállításait is elfogadják ugyanabban a providerOptions.gateway objektumban.
Ez a fejlesztők számára egyetlen integrációs felületet adhat olyan döntési pontokhoz, ahol strukturált válaszokra, valószínűségekre és bizonytalan esetek elkülönítésére van szükség. A Vercel az AI Gateway értékelési modelljeiről külön dokumentációt, a Jev gyakorlati használatáról pedig további anyagokat kínál.
Vercel: TypeSafe AI's Jev now available on AI Gateway
