Jev: gyors, strukturált döntésekre szánt AI-modellt mutatott be az Amii

A Jev más feladatra készült, mint egy nyelvi modell

Az Alberta Machine Intelligence Institute, vagyis Amii 2026. november 2-án közzétett ismertetője szerint sok munkafolyamatban a Claude-hoz vagy a ChatGPT-hez hasonló nagy nyelvi modelleket kis döntések ismételt meghozatalára használnak. Ilyen lehet annak eldöntése, hogy egy e-mail kéretlen levél-e, szükséges-e rá válaszolni, melyik csapathoz kell továbbítani, vagy melyik eszközt használja következőként egy ügynök.

Az Amii hasonlata szerint egy nagy nyelvi modell használata minden ilyen apró döntéshez olyan, mintha valakit egy villanykörte kicserélésére alkalmaznánk, aki ehhez képest jóval nagyobb képességekkel rendelkezik. A Jev ezzel szemben gyors, fókuszált és automatikus, lényegében igen vagy nem típusú döntéseket hoz. Nem emberhez hasonló érvelést próbál utánozni, hanem a bemenet alapján strukturált döntést ad.

Strukturált értékek, párhuzamos kiértékelés

Az Amii összevetése szerint a Jev a kapott kontextusból strukturált értékeket állít elő, míg a hagyományos LLM-ek szöveget generálnak. A bemutatott adatok alapján a Jev válaszideje 70 és 500 milliszekundum között van, az LLM-eké 3 és 329 másodperc között. A táblázat a bemeneti tokenek költségét a Jevnél 0,042 dollárban, az LLM-eknél 0,20 és 10 dollár között adja meg.

A Jev párhuzamos mintavételezéssel egyetlen lekérdezésben állítja elő az összes kimenetet. A leírás szerint az LLM-ek ezzel szemben egymás után, tokenenként generálnak. A Jev fejlesztésénél a Reinforcement Learning for Calibrated Decisions, vagyis a kalibrált döntésekhez használt megerősítéses tanulás szerepel, míg az LLM-ek összevetésében a Reinforcement Learning with Human Feedback, az emberi visszajelzéssel végzett megerősítéses tanulás jelenik meg.

Három döntési primitív és valószínűségi kimenet

A Jev három döntési primitívet támogat. A Choice ismert lehetőségek közül választ, például egy beérkező üzenethez csapatot rendel. A Score rendezett skálán helyezi el a bemenetet, például alacsony, közepes vagy magas kategóriába. A Noul egy igen vagy nem típusú feltételt értékel, és azt mutatja meg, mekkora valószínűséggel igaz az állítás.

A kimenetek közvetlenül felhasználhatók információk osztályozására, a munka rangsorolására vagy a következő művelet kiválasztására. A valószínűségek lehetővé teszik, hogy egy alkalmazás erős bizonyíték esetén automatikusan lépjen, bizonytalanabb esetben pedig további információt kérjen egy embertől vagy egy másik modelltől. A kalibráció azt jelenti, hogy például a 80 százalékos valószínűséggel jelzett előrejelzések hosszú távon hozzávetőleg az esetek 80 százalékában következnek be. Az Amii hangsúlyozza, hogy ez nem garantálja minden egyes döntés helyességét.

Az előre meghatározott lehetőségek korlátai

Az Amii e-mail-osztályozási példájában a Jev négy kategória közül választhat: meeting, request, FYI vagy spam. Egy bemutatott üzenetet 78 százalékos valószínűséggel meetingként, 14 százalékkal requestként, 8 százalékkal spamként sorolt be, az FYI kategóriához pedig 0 százalékot rendelt. A sürgősségnél a This week érték 80 százalékot, a Today 12 százalékot, az Ignore 8 százalékot kapott, a válasz szükségességét pedig 70 százalékos igen valószínűséggel jelezte.

Az Amii szerint a Jev egyik állítása, hogy nem képes hallucinálni. Ennek oka, hogy a kimeneti lehetőségeket előre meghatározzák, így a modell nem hozhat létre ötödik e-mail-kategóriát. Ez azonban nem jelenti azt, hogy mindig helyesen dönt. A modell érvényes, előre megadott választ adhat, miközben tévesen sorolhat egy meetinghez kapcsolódó üzenetet például a spam kategóriába.

A leírás alapján a megközelítés ügyfélszolgálati kérések osztályozására és továbbítására, projektvisszajelzések rangsorolására, oktatási kérdések témák szerinti rendezésére, valamint szoftveres ügynökök következő eszközének kiválasztására lehet hasznos. A konkrét alkalmazhatóság az adott munkahelytől és szerepkörtől függ.