Az AMD és a Meta gigawattos AI-infrastruktúrát épít együtt

A Helios rendszerek már a Metánál futnak

Az AMD október 27-i közleménye szerint a vállalat Helios rackscale megoldásainak első példányait a Meta telepítette, és jelenleg teszteli. A két cég egy későbbi, szélesebb körű bevezetés felé halad. Az AMD meghatározása szerint a rackscale megoldások több számítási, hálózati és rendszerkomponenst egységként kezelő infrastruktúrát jelentenek.

A közlemény alapján a Helios a Meta vezető, úgynevezett frontier modelljeit és szolgáltatásait támogatja majd. Az AMD és a Meta szerint a vállalatok a jövőbeli termékútiterveket és mérnöki döntéseket is összehangolják, hogy a Meta jelenlegi és későbbi munkaterheléseire szabott, integrált AI-rendszereket építsenek és telepítsenek gigawattos léptékben.

EPYC processzorok és Instinct GPU-k a Meta infrastruktúrájában

Az AMD EPYC processzorai támogatják a Meta Muse személyes AI-ügynöke mögötti dedikált számítási környezeteket. A Meta több generáción keresztül több millió EPYC processzort telepített, és az AMD szerint a 6. generációs EPYC CPU-k kiemelt ügyfele. A vállalatok a jövőbeli generációkon, köztük a „Verano” kódnevű fejlesztésen is együtt dolgoznak.

Az AMD Instinct GPU-k a Meta éles infrastruktúrájában vesznek részt a modellek tanításában, valamint a rangsorolási és ajánlórendszerek működtetésében. A Meta korai definiáló ügyfele volt az AMD Instinct MI450 architektúrának, és egy saját munkaterheléseire optimalizált Instinct GPU-t is telepít majd. Az együttműködés az AMD jövőbeli platformjaira, köztük az Instinct MI500 sorozatra és a következő generációs rackscale rendszerekre is hatással van.

A szoftveres támogatás a fejlesztőkhöz is elér

A két vállalat a ROCm AI-infrastruktúrát a PyTorch keretrendszeren keresztül fejleszti tovább, hogy a fejlesztők közvetlenül használhassák az AMD GPU-kat. Az AMD közlése szerint a Meta Muse Spark Open modelljeihez Day-0 támogatást biztosított az Instinct GPU-kon, a Muse Glimmerhez pedig Ryzen AI PC-ken és Radeon GPU-kon.

A szoftveres együttműködés kiterjed a nagyléptékű AI-tanításra is. A cégek AMD Instinct MI350X GPU-kon optimalizálják az ajánlórendszerek modelljeit, és fejlesztésekkel járulnak hozzá a PyTorch, a Triton és a ROCm működéséhez. Ezeket a javításokat más fejlesztők is használhatják.

Az AMD 1 milliárd dollárt fektet a Meta részvénykibocsátásába

Lisa Su, az AMD igazgatótanácsának elnöke és vezérigazgatója szerint a Helios Metánál történő futtatásával az együttműködés új léptékbe kerül. Mark Zuckerberg, a Meta alapítója és vezérigazgatója úgy fogalmazott, hogy az AMD fontos partner a frontier modellek számítási kapacitásának kiépítésében.

Az AMD emellett 1 milliárd dollárt fektet a Meta részvénykibocsátásába. A bejelentés a Meta felhasználóit közvetlenül egyelőre azzal érinti, hogy a vállalat AI-szolgáltatásai mögötti hardveres és szoftveres alapokhoz egyre szorosabban kapcsolódnak az AMD termékei. A szélesebb Helios-bevezetést és a jövőbeli chipek használatát az AMD várható együttműködésként írta le, ezek eredményei későbbi fejlesztésektől és telepítésektől függenek.