Tenstorrent
A vLLM Tenstorrent-támogatást kapott, a GPU-któl eltérő működéssel
A vLLM új pluginje Tenstorrent gyorsítókat kapcsol be a nagy nyelvi modellek kiszolgálásába. A fejlesztés megtartja a vLLM OpenAI-kompatibilis felületét, miközben a…
Az SK hynix és a SanDisk bemutatta a HBF első szabványát
Az SK hynix és a SanDisk bemutatta a High Bandwidth Flash, vagyis a HBF első szabványos specifikációját. A technológia a HBM és az SSD-k közé kerülő memóriarétegként…