TorchTPU
A TorchTPU címke a PyTorch és a tenzorprocesszor-egységek, vagyis TPU-k kapcsolatával foglalkozó fejlesztéseket gyűjti. A témában a Google és a Meta natív PyTorch-hátteret, illetve nagyméretű modellek TPU-s tréningjét érintő megoldásokat mutatott be.
A TPU-k támogatása azért fontos az MI világában, mert a fejlesztők így a PyTorch ökoszisztémáját különböző gyorsítókkal használhatják. Itt olvashatók a Google natív PyTorch-motorjáról, a vLLM és az SGLang TPU-s használatáról, továbbá a Hugging Face támogatásáról szóló hírek.
A Google és a Meta bemutatta a PyTorch natív TPU-hátterét
A TorchTPU nyílt forráskódú együttműködés a Google és a Meta között, amely natív PyTorch-hátteret biztosít a Google TPU-khoz. A projekt célja, hogy a PyTorch-modellek…
A Google natív PyTorch-motort indít a vLLM és az SGLang mellé TPU-khoz
A Google natív PyTorch-backendet indított a vLLM és az SGLang következtetési motorokhoz TPU-kra. A fejlesztés célja, hogy a PyTorch-közösség az ismert eszközeivel…
A Google és a Meta TPU-kra vitte a PyTorch nagymodell-tréningjét
A Google és a Meta elérhetővé tette a TorchTitan TPU-változatát, amely a PyTorch nagy modelljeinek Google Cloud TPU-kon történő betanítását célozza. A megoldás a…
A Hugging Face natív PyTorch-támogatást hoz a TPU-kra
A Hugging Face bemutatta a TorchTPU-t, a PyTorch új, natív TPU-hátterét. A fejlesztés révén a Transformers, a Diffusers és a Kernels könyvtárak közvetlenül futtathatók…
A vLLM mostantól Google Cloud TPU-kon is futtatható
Megjelent a vLLM TorchTPU, a vLLM új háttérrendszere Google Cloud TPU-khoz. A megoldás a vLLM-ben már elérhető modellkódot használja, így a legtöbb támogatott modell…