Új modellek és Sandbox-funkciók érkeztek a Modalhoz
A Modal négy új, nyílt súlyú modell támogatását, több Sandbox-fejlesztést és költségkezelési eszközt jelentett be. A frissítések között nyilvános alfában elérhető Sidecars és VM Sandboxes, valamint új SDK-verziók is szerepelnek.
- A Modal négy új modellt támogat az Auto Endpoints szolgáltatásban.
- Nyilvános alfába lépett a Sandbox Sidecars, bétába a VM Sandboxes.
- Környezetenkénti számítási költségkeretek váltak elérhetővé.
- A széles régióválasztás felára 1,5-szeresről 1,15-szeresre csökkent.
- Megújult az irányítópult, és frissült a Python, JavaScript és Go SDK.
Négy új modell érkezett az Auto Endpointsre
A Modal közlése szerint az augusztusi frissítések részeként day-zero támogatást kapott a Kimi K3, a Qwen 3.8, a GLM 5.3 és a GLM 5.3 Flash. A négy nyílt súlyú, élvonalbeli modell a Modal Auto Endpoints szolgáltatásán használható. Mindegyik elérhető Shared Endpointként tokenalapú árazással, illetve Dedicated Endpointként, GPU-másodperc alapján történő számlázással.
A Moonshot 2,8 billió paraméteres, natív látásértéssel rendelkező multimodális modellje, a Kimi K3, 1 millió tokenes kontextusablakkal érkezik. A Modal a Moonshottal és a vLLM-mel együttműködve készítette el a támogatást. A cég saját közlése szerint egy egyedi DFlash spekulátor ügynöki munkafolyamatokban másodpercenként 460 tokenes sebességet ért el.
A Qwen3.8-2.4T-A95B egy 2,4 billió paraméteres, szövegalapú Mixture-of-Experts modell, amely tokenenként 95 milliárd paramétert aktivál. A Modal ezt kódolási, kutatási és hosszú munkafolyamatokat kezelő ügynöki feladatokra szánja. A GLM-5.3 753 milliárd paraméteres, tokenenként 40 milliárd paramétert aktiváló modell, szintén 1 millió tokenes kontextusablakkal. A GLM-5.3-Flash multimodális, 320 milliárd paraméteres modell, amely tokenenként 18 milliárd paramétert aktivál, és vizuális értelmezést hoz a kódolási és ügynöki munkafolyamatokba.
Új költségkeretek és regionális beállítások
A Team és Enterprise munkaterületek minden felhasználója számára elérhetővé váltak a környezetenkénti költségkeretek. A tulajdonosok és a menedzserek környezetenként állíthatnak be számítási felhasználási limitet, majd követhetik az aktuális ciklus felhasználását. Így a csapatok külön munkaterületek létrehozása nélkül is saját korlátokat kaphatnak.
Megújult a használati limitek felülete is. A küszöbértékes számlázás és a használati limitek egységes elnevezéseket és áttekinthetőbb számokat kaptak. A széles régióválasztás felára 1,5-szeresről 1,15-szeresre csökkent. A Modal példaként az Egyesült Államokat, az Európai Uniót és az APAC-régiót említi, amelyek közelebb tarthatják a munkafolyamatokat a felhasználókhoz vagy az adatokhoz, miközben nagyobb kapacitáskészlet marad elérhető.
A Restricted Environment környezetekhez alapértelmezett szerepkör is beállítható. A No Access alapértelmezés mellett csak a kijelölt tagok kaphatnak Viewer vagy Contributor hozzáférést. A Workspace Owner és Manager szerepkörök továbbra is Contributor hozzáféréssel rendelkeznek.
Bővültek a Sandboxok lehetőségei
A Sandbox Sidecars nyilvános alfába lépett. A Sidecarok a fő Sandbox mellett, ugyanazon a gépen futó további konténerek, amelyeket alacsony késleltetésű belső hálózat kapcsol össze. A Modal szerint használhatók egyedi hálózati proxykhoz, többkonténeres munkafolyamatokhoz, illetve az ügynöki vezérlőréteg és az eszközvégrehajtás elkülönítéséhez.
A VM Sandboxes szintén nyilvános bétába került. Ezek valódi Linux-kernelt futtatnak, ezért olyan munkafolyamatokat is támogathatnak, amelyek Docker-konténereket futtatnak a Sandboxon belül, vagy eBPF-et, systemd-t, cgroups-t és egyedi fájlrendszer-csatolásokat igényelnek. A Modal szerint ez általában jobb fájlrendszer-teljesítményt eredményez az intenzív bemeneti és kimeneti műveleteknél.
Általánosan elérhetővé váltak a Sandbox-könyvtár pillanatképei és az új Sandbox-fájlrendszer API. A pillanatképek kijelölt könyvtárakról készíthetők a teljes konténer-fájlrendszer helyett. Az új API a Modal szerint megbízhatósági és teljesítménybeli javulást hoz a kis fájlok kezelésében. Új grafikonok segítik a CPU- és memóriaigények beállítását is, a Sandboxok különböző fogyasztási percentiliseinek megjelenítésével.
Frissült az irányítópult és az SDK
A Modal új navigációt, frissített színrendszert és világos megjelenítési módot adott az irányítópulthoz. A világos mód béta állapotban minden felhasználó számára elérhető, a többi változás fokozatosan jelenik meg.
A regionális proxyk beállításakor mostantól régió is választható a munkaterületi beállításokban. A proxyk statikus kimenő IP-címet biztosítanak a Functionök és a Sandboxok számára, így használhatók IP-alapú engedélyezési listával védett erőforrások elérésére. Megjelent a Python SDK 1.5.5-ös, valamint a JavaScript- és Go SDK 0.10.0-s verziója is. A kiadások új naplózási API-kat, gyorsabb Sandbox-fájlrendszer-írást JavaScriptben és Goban, továbbá pontosabb autoskálázási konfigurációs jelentést tartalmaznak.
A fejlesztések a Modal felhasználóinak a modellválasztástól a Sandboxok elkülönítésén át a költségek és az erőforrásigények követéséig több területen adnak új beállításokat. A Sidecars és a VM Sandboxes jelenleg alfában, illetve bétában érhető el, ezért ezek használata a közlések szerint még a nyilvános tesztelési szakasz része.
