MLX
A Hugging Face-hez csatlakozik Jun Kim, az oMLX fejlesztője
Jun Kim, az oMLX készítője és karbantartója a Hugging Face csapatához csatlakozik, hogy főállásban támogassa az MLX körüli fejlesztéseket. A lépés a helyben futó…
vllm-metal érkezett az Apple chipes gépek párhuzamos kiszolgálására
A vLLM bejelentette a vllm-metal projektet, amely az Apple Silicon gépekre hozza a vLLM ütemezőjét, lapozott KV-gyorsítótárát és OpenAI-kompatibilis szerverét. A…
Elérhető a Meta Superintelligence Labs első nyílt modellje, a Muse Glimmer
Az Ollama elérhetővé tette a Meta Superintelligence Labs első kiadott modelljét, a Muse Glimmert. A 30 milliárd paraméteres, multimodális modell helyi ügynökalapú…
A CUDA optimalizációs tudást vinné át Apple chipekre a K-Search
A Berkeley kutatói a K-Search nevű keresi és optimalizálja GPU-kernelfejlesztő rendszert MLX-támogatással bővítették. A cél, hogy a CUDA ökoszisztémában felhalmozott…