Trainium2
Az AWS Trainium2 a vállalat mesterséges intelligenciához fejlesztett saját gyorsítóinak egyike, amely nagy nyelvi modellek és más gépi tanulási feladatok futtatását szolgálja. A címke az AWS hardveres és szoftveres fejlesztéseit követi, különösen a Trainiumra épülő megoldásokat.
Itt gyűjtjük azokat a híreket, amelyek a PyTorch natív támogatásáról, az AWS TorchNeuron eszközéről, valamint a Trainiumra optimalizált nyelvi modellek kereséséről szólnak. A téma azért fontos, mert a speciális MI gyorsítók és a fejlesztői keretrendszerek együtt határozzák meg, mennyire könnyen és hatékonyan használhatók a modern modellek felhős környezetben.
Az i14 Laplace 3B modellje fix memóriával fut AWS Trainium2-n
Az i14 Laplace 3B modellje a hagyományos transzformeres figyelem helyett lineáris figyelmet használ, ezért a következtetés során a rekurrens állapot mérete nem nő a…
A PyTorch natív Trainium-támogatást kap az AWS TorchNeuron révén
A PyTorch natív hátteret kap az AWS Trainium AI-chipjeihez. A TorchNeuron a meglévő PyTorch-kód, könyvtárak és fejlesztői eszközök használatát ígéri Trainium2 és…
Az AWS Trainiumra optimalizált nyelvi modelleket keres az Amazon
Az Amazon olyan versenyt indít, amelyben a résztvevők nyelvi modelleket tanítanak be az AWS saját Trainium2 chipjein. A cél annak feltárása, milyen modellarchitektúrák…