adatközpontok
Meta louisianai adatközpontja ösztöndíjakat és helyi növekedést hoz
A Meta több mint 50 milliárd dolláros louisianai adatközponti beruházása tanári bónuszokat, új helyi vállalkozásokat és képzési ösztöndíjakat támogat Richland Parish…
A JAX host offloadinggal enyhíthető a GPU-memória szűkössége
A JAX host offloading a kiválasztott aktivációkat a GPU nagy sávszélességű memóriája helyett a processzor rögzített host memóriájában tárolja. Az NVIDIA mérései szerint…
Az NVIDIA szerint a hardverhez igazított LLM-ek gyorsabban skálázhatók
Az LLM-ek modellmérete és rétegszerkezete közvetlenül befolyásolja a GPU-k kihasználtságát, a válaszidőt és a nagyüzemi skálázhatóságot. Az NVIDIA új fejlesztői anyaga…
A Cohere dinamikus spekulatív dekódolással gyorsítaná az LLM-eket
A Cohere olyan dinamikus spekulatív dekódolási módszert mutatott be, amely a hardver terheléséhez igazítja, hány tokent készítsen elő egy kisebb modell. A vállalat…
Chipek és infrastruktúraA Microsoft szerint nőtt a kibocsátása az AI-infrastruktúra miatt
A Microsoft teljes kibocsátása 25 százalékkal nőtt a 2025-ös pénzügyi évben, elsősorban az adatközponti infrastruktúra bővítése miatt. A vállalat szerint közben több…
RTX 5080-as szerverrel bővül Torontóban a GeForce NOW
Új, GeForce RTX 5080 teljesítményére épülő szerverrel bővíti kanadai jelenlétét a GeForce NOW Torontóban. A felhős játékplatformon ezen a héten három új játék jelenik…
A Meta megkezdte első kanadai adatközpontjának építését
A Meta megkezdte első kanadai adatközpontjának építését az Alberta tartománybeli Sturgeon Countyban. Az 1 GW teljesítményű létesítmény a vállalat globális…
Az NVIDIA szerint GPU-kkal akár 8,2-szer gyorsabb lehet a Presto
Az NVIDIA GPU-gyorsított Presto megoldása a vállalat méréseiben akár 8,2-szer rövidebb lekérdezési időt ért el egy nyolc csomópontos Intel Xeon klaszterhez képest. A…
A Samsung megkezdte a PM1763, PCIe 6.0-s SSD tömeggyártását
Megkezdte a PM1763 tömeggyártását a Samsung, amely a PCIe 6.0 szabványra épülő vállalati SSD-t a következő generációs AI- és HPC-szerverekhez optimalizálta. A 16…
Az NVIDIA Vera CPU gyorsítja az ügynöki AI-folyamatokat
Az NVIDIA bemutatta, hogyan gyorsítja Vera CPU-ja az ügynöki mesterségesintelligencia-rendszerek processzoroldali feladatait. A vállalat szerint a processzor akár 85…
Az NVIDIA Vera az ügynöki AI gyorsabb CPU-s végrehajtására épül
Az NVIDIA bemutatta a Vera CPU-t, amelyet az ügynöki mesterséges intelligencia folyamatos, párhuzamos feladatvégzéséhez tervezett. A vállalat szerint a processzor minden…
A Hugging Face és a SkyPilot felhőfüggetlen AI-munkafolyamatokat ígér
A Hugging Face új blogbejegyzése a SkyPilottal közös megoldást mutatja be, amelynek címe szerint bármely felhőben futtathatók AI-munkafolyamatok, miközben az adatok a…
Az NVIDIA új módszerrel tartaná egyenletesen az LLM-ek tanítási teljesítményét
Az NVIDIA olyan kísérleti módszert mutatott be, amely átmeneti GPU-kiesések esetén dinamikusan módosítja a tenzorpárhuzamosítás mértékét. A Nonuniform Tensor Parallelism…