A Mozilla AI Otarijában elérhetővé vált a Mistral Large 4

1,05 billió paraméter, 49 milliárd aktivált paraméter tokenenként

A Mistral Large 4 a Mistral eddigi legnagyobb modellje. A vállalat Le Chonk néven is hivatkozik rá. A modell 1,05 billió paraméteres, natívan multimodális Mixture of Experts architektúrát használ, és tokenenként 49 milliárd paramétert aktivál.

A Mozilla AI közlése szerint ez egy billió paraméteres modell kapacitását kínálhatja egy közepes méretű, sűrű modellhez hasonló következtetési költség mellett. A Mistral saját, publikált értékeléseire hivatkozva azt állítja, hogy a Large 4 összesített benchmarkeredményekben vezet az amerikai és európai nyílt súlyú modellek között. A cég emellett kiberbiztonsági, pénzügyi és gyártási vállalati feladatokon is állami szintű eredményekről, továbbá erős kódolási és ügynöki teljesítményről számol be.

A modell multimodális képességei összetett dokumentumok, mérnöki rajzok és műholdfelvételek vizsgálatát is célozzák. A forrás szerint a Large 4 képes értelmezni a látottakat, következtetéseket levonni belőlük, majd egy ügynöki munkafolyamatban cselekedni. A Mistral a modellt és a mögötte álló infrastruktúrát Európában építi, egy szélesebb, nyílt és szuverén európai mesterségesintelligencia-infrastruktúrára irányuló törekvés részeként.

Az Otari egy rétegben kezeli a modelleket és a szabályokat

A Mozilla AI szerint egy új modell éles rendszerbe illesztése gyakran új SDK-t, API-kulcsokat, sebességkorlátokat, válaszformátumokat és számlázási folyamatokat jelent. Ügynöki rendszereknél a modellcsere a használt eszközöket és a működés módját is megváltoztathatja, miközben a szolgáltatói platformhoz kötött védelmi szabályok nem feltétlenül vihetők át automatikusan.

Az Otari az alkalmazások és ügynökök, valamint az általuk hívott modellek és eszközök közötti kapcsolódási pontként működik. A forrás szerint az útválasztás, a szabályozás és a megfigyelhetőség egyetlen rétegben található, ezért az új modell kapcsolódhat a már használt infrastruktúrához. A Mistral Large 4 az Otariban a többi Mistral-modellel és más szolgáltatók modelljeivel együtt futtatható.

A platform központilag kezeli a szolgáltatói kulcsokat, és átjáróként intelligens útválasztást, valamint szolgáltatói tartalékmegoldást kínál. A szabályok az Otariban maradnak, így a Large 4-re irányított forgalomra is érvényesek. Ezek között lehetnek egyértelmű, rögzített bizonyítékokra épülő ellenőrzések, például annak vizsgálata, hogy módosult-e védett fájl vagy lefutottak-e a szükséges tesztek. Az úgynevezett LLM-as-a-judge ellenőrzések olyan kérdéseket értékelnek, mint az architektúrához való illeszkedés vagy az elfogadási feltételek teljesítése.

A felhasználók saját forgalmukon hasonlíthatják össze a modellt

A Mozilla AI szerint a Mistral Large 4 kipróbálható az otari.ai hosztolt platformján. Ehhez API-token létrehozása, az Otari Python SDK telepítése, majd az OTARI_API_KEY környezeti változó beállítása szükséges. A modellek szolgáltató és modell azonosítójával választhatók ki, így a váltás egyetlen karakterlánc módosításával megoldható.

Az OpenAI SDK-t használó fejlesztők megtarthatják meglévő kódjukat, és az Otari API-végpontját állíthatják be alap URL-ként. A Mistral Large 4 és a többi modell ugyanabban a rendszerben kezelhető, miközben a hívások, az ügynöki műveletek és a szabályozási döntések közös előzményekben jelennek meg. A naplók időbélyegeket és kérésenkénti költséget is tartalmaznak.

Ez lehetőséget ad arra, hogy a csapatok saját munkaterhelésükön vessék össze a Large 4-et a jelenlegi modelljükkel késleltetés, költség és szabályozási eredmények alapján. A Mozilla AI külön kiemeli, hogy az Otari nyílt forráskódú és szolgáltatófüggetlen. A platform önállóan hosztolható a nyílt forrású tárolóból, vagy használható a kezelt szolgáltatásként. A Mistral Large 4 és a teljes Mistral-modellcsalád a közlemény szerint 2026. október 8-án már elérhető volt az Otariban.