PyTorch
A Helion gyorsíthatja a vLLM LLM-inferenciáját NVIDIA GPU-kon
A PyTorch Helion-alapú lineáris backendet integrált a vLLM-be, hogy automatikus hangolással javítsa a nagy nyelvi modellek következtetési teljesítményét. Az NVIDIA…
FejlesztőknekÚj tanulási útvonalon készülhetnek a PyTorch-minősítésre
A PyTorch új, strukturált tanulási útvonalat indított a PyTorch Certified Associate, vagyis PTCA-minősítéshez. A Linux Foundation Education rendszerén elérhető program…
KutatásA PyTorch szerint a TLX gyorsabb lett a Blackwell Jagged Flash Attentionjénél
A PyTorch csapata olyan Jagged Flash Attention kernelt mutatott be NVIDIA Blackwell B200 GPU-kra, amely a vállalat mérései szerint a GEM munkaterhelésén gyorsabb volt a…
A Modal mindenki számára elérhetővé tette a többgépes GPU-klasztereket
A Modal általánosan elérhetővé tette a Modal Clusters szolgáltatást, amely több számítási csomópontot kapcsol össze nagy léptékű modelltréninghez és következtetéshez. A…
NVIDIA: akár 5,93-szor kisebb késleltetés HSTU ajánlóknál KV cache-sel
Az NVIDIA új, végponttól végpontig használható HSTU inferenciafolyamatot mutatott be generatív ajánlórendszerekhez a recsys-examples tárolóban. A megoldás Dynamo-Triton…
FejlesztőknekA PyTorch új CI-rendszere az egyedi gyorsítók tesztelését segíti
A PyTorch Cross-Repository CI Relay rendszere egységesebb kapcsolatot kínál a PyTorch és a külső fejlesztésű gyorsítók között. A Torch Spyre erre építve olyan tesztelési…
FejlesztőknekHardverfüggetlen rétegekkel alakítja át a vLLM-et a PyTorch
A vLLM új, hardverfüggetlen rétegeket kap, hogy a projekt a legújabb GPU-kra szabott optimalizációk mellett továbbra is támogassa a régebbi GPU-kat és a külső…
FejlesztőknekA Shopify napi tanulási hurkot épített PyTorchszal és vLLM-mel
A Shopify olyan folyamatos tanulási hurkot épített PyTorch és vLLM használatával, amely a termelési hibákat naponta modellfrissítésekké alakítja. A PyTorch…
FejlesztőknekA TinyTorch saját kezűleg tanítja meg felépíteni a PyTorch alapjait
A TinyTorch egy ingyenes, nyílt forráskódú tananyag, amelyben a résztvevők a tenzoroktól a transzformerekig saját maguk építenek fel egy működő gépi tanulási…
KutatásA PyTorch MXFP8-támogatást épített a FlashAttention-4-be Blackwellhez
A PyTorch kiterjesztette a FlashAttention-4-et az MXFP8 formátumra, a forward és backward számításokban egyaránt. A Blackwell GPU-kra készült megoldás nagy nyelvi…
Az Axelera AI saját modellek futtatását teszi lehetővé új nyelvével
Az Axelera AI bemutatta az AxScript nevű, Python-alapú programozási nyelvet, amellyel a fejlesztők saját mesterségesintelligencia-modelljeiket is közvetlenül az Axelera…
FejlesztőknekA Hugging Face Kernels projekt már a Helion keretrendszert is támogatja
A Hugging Face Kernels projekt már támogatja a Heliont, így a fejlesztők hordozható, nagy teljesítményű gépi tanulási kerneleket készíthetnek, hangolhatnak és…
FejlesztőknekA PyTorch Kínában mutatta be az összekapcsolt nyílt AI-vermet
A PyTorch közössége szeptember 8-án és 9-én Sanghajban vitatta meg a nyílt forráskódú mesterségesintelligencia-verem fejlesztését. A PyTorch Foundation három új tagot…
Cégek és üzletA Cambricon platina tagként csatlakozott a PyTorch Foundationhöz
A Cambricon platina tagként csatlakozott a PyTorch Foundationhöz, amely a Linux Foundation keretében működő, nyílt forráskódú mesterségesintelligencia-projekteket…
Az NVIDIA szerint AI kódoló ügynökök segíthetik az anyagszimulációt
Az NVIDIA Developer 2026. augusztus 18-án közzétett bejegyzése szerint az NVIDIA ALCHEMI Toolkit AI kódoló ügynökökkel kombinálva természetes nyelvű leírásokból képes…