Amazon EKS
Az AWS két GPU-csomóponton futtatná a nagy nyelvi modellek inferenciáját
Az AWS új Ray LLM Deep Learning Container megoldása egyetlen nagy nyelvi modellt futtat két GPU-csomóponton, Amazon EKS környezetben. A rendszer az előfeldolgozást és a…
Az AWS a SageMaker Studio felületére hozza a HyperPod Spaces kezelését
Az AWS új funkcióval egészítette ki a SageMaker Studio felületét, így a felhasználók közvetlenül kezelhetik az Amazon SageMaker HyperPod EKS-fürtökön futó fejlesztői…