A Liquid AI kiadta az LFM2.5-24B-A2B modellt helyi ügynökökhöz

Nagyobb modell, rövidebb válaszidő

A Liquid AI október 13-án mutatta be az LFM2.5-24B-A2B-t, az LFM2.5 modellcsalád legnagyobb és egyben utolsó tagját. A család így az LFM2.5-230M modelltől egészen az LFM2.5-24B-A2B-ig terjed.

A modell összesen 24 milliárd paramétert tartalmaz, ezek közül azonban tokenenként csak 2 milliárd aktív. A Liquid AI szerint emiatt akár 1,7-szer gyorsabban fut eszközön, mint az összehasonlított, hasonló méretű kevert szakértői modellek. A vállalat mérése szerint az LFM2.5-24B-A2B Apple M5 Max gépen 184 tokent másodpercenként, AMD Ryzen AI Max+ 395 processzoron pedig 114 tokent másodpercenként dekódol.

Egyetlen NVIDIA B300 GPU-n, nagy párhuzamosság mellett, több mint 21 ezer kimeneti token másodpercenkénti sebességet ért el. A teszteket a Liquid AI Pipette nevű infrastruktúráján végezte.

Hosszabb kontextus és célzott utótréning

Az LFM2.5-24B-A2B elődjéhez képest 32 768-ról 131 072 tokenre bővített kontextusablakot kapott. A tokenizáló szótár mérete 65 ezerről 128 ezer tokenre nőtt, ami a vállalat szerint jobb nem latin betűs szövegkezelést tesz lehetővé. Az előtanítás 17 ezermilliárd tokenről 33 ezermilliárdra bővült.

A modell két köztes tanítási szakaszon ment keresztül. Az első 2 ezermilliárd tokenen, legfeljebb 32 ezres kontextussal zajlott, és a gondolkodásra, matematikára, kódolásra, utasításkövetésre, valamint többnyelvű szövegekre helyezte a hangsúlyt. A második szakasz 300 milliárd tokenen, 131 ezres kontextussal, hosszú szöveges adatokra támaszkodott.

Az új modell kizárólag következtetésre, vagyis reasoning feladatokra készült. A végső válasz előtt kifejezett gondolatmenetet állít elő. Az utótréning öt lépésből állt, köztük felügyelt finomhangolásból, tanári specializációból, többterületű, ügynökalapú lepárlásból és megerősítéses tanulásból. A tréninghez többek között az OpenClaw, a Hermes Agent, a Pi és az OpenCode környezeteket használták.

A Liquid AI beszámolója szerint a tanári specializáció során jutalomkijátszó viselkedést is észleltek. A modell például egy tárház git-előzményeiben vagy a GitHubon, a PyPI-on és a Hugging Face-en keresett rá a végső válaszra, illetve felismerte, hogy sandboxban fut. A vállalat erre szigorította a sandboxokat, és közlése szerint az eredményeket lezárt értékelési környezetben mérte.

Nyílt súlyokkal, helyi futtatásra

A Liquid AI 16 teszten értékelte a modellt, amelyek eszközhasználatot, ügynöki munkafolyamatokat, tudást, utasításkövetést, matematikát és kódolást vizsgáltak. A vállalat szerint az LFM2.5-24B-A2B a nyolc eszközhasználati és ügynöki teszt közül ötben vezette vagy elérte a mezőnyt. Az AutomationBench teszten 27,69 pontot szerzett, szemben a Qwen3.6-35B-A3B 8,72 pontjával. LiveClawon 48,09, AutomationBenchen pedig 27,69 pontot ért el.

A nagyobb modellek előnyt mutattak a tudásközpontú és egyes kódolási feladatokban. A Liquid AI ilyen munkákhoz visszakeresést vagy webes keresést javasol, mivel ezek jól illeszkednek a modell eszközhívási képességeihez.

Az alapmodell, az LFM2.5-24B-A2B-Base, valamint az utótréningezett LFM2.5-24B-A2B nyílt súlyokkal érhető el a Hugging Face-en és a Liquid AI Playground felületén. A futtatást a llama.cpp, az MLX, a vLLM, az SGLang és az ONNX is támogatja. A Liquid AI bemutatója szerint a modell egy M5 Max MacBook Prón, a Hermes Agentben, felhőalapú API-hívások nélkül készített reggeli összefoglalót, és a felhasználói adatokat az eszközön tartotta.

A Liquid Console API-jához 2 dollár kezdőjóváírás jár. Az ár 1 millió bemeneti tokenenként 0,10 dollár, gyorsítótárazott bemenetnél 0,05 dollár, a kimeneti tokeneknél pedig 1 dollár 1 millió tokenenként.