Az NVIDIA szerint három tényezőn múlik az AI-gyárak megtérülése
Az AI-gyárak megtérülését az NVIDIA szerint a megawattonkénti teljesítmény, a hardver hasznos élettartama és a kiszolgálható kereslet együtt határozza meg. A vállalat a produktív, tartós és sokoldalú infrastruktúrát tartja a befektetés megtérülésének alapjának.
- Egy megawattos AI-gyár költsége az NVIDIA szerint nagyjából 60 millió dollár.
- A megtérülést a teljesítmény, a hasznos élettartam és a kereslet együtt alakítja.
- A Vera Rubin NVL72 az NVIDIA által idézett adatok szerint több mint 30-szor nagyobb megawattankénti áteresztőképességet kínál a GB300 NVL72-nél.
- Az A100 GPU 2020-as megjelenése után hat évvel is kereskedelmi szolgálatban áll.
- A CUDA-X több mint 1000 könyvtárat kínál, több mint 10 millió fejlesztő használatával.
A megawattos beruházásoknál a megtérülés a tét
Az AI-gyárakat már megawattos, sőt gigawattos léptékben építik. Az NVIDIA közlése szerint egy megawatt kapacitású gyár nagyjából 60 millió dollárba kerül, ezért az üzemeltetők csak akkor kötelezik el magukat ekkora tőke mellett, ha világos képet kapnak a várható megtérülésről.
A vállalat három fő tényezőt emel ki. Az első a keresőképesség, vagyis hogy a gyár egy év alatt mennyi bevételt termelhetne, ha az összes előállítható tokent értékesítené. A második a hasznos élettartam, amely azt mutatja meg, hogy az AI-hardver meddig képes bevételt termelni. A harmadik a kereslet, vagyis hogy mennyire van szükség az előállított tokenekre.
Az NVIDIA érvelése szerint egyik tényező sem képes teljesen ellensúlyozni a másik gyengeségét. A magas teljesítmény kevés, ha a gyár csak a kapacitása egy részét tudja értékesíteni. A nagy kereslet sem elegendő, ha az infrastruktúra rövid idő után már nem képes teljes kapacitáson működni.
A Rubin rendszerek teljesítményelőnyt ígérnek
Az NVIDIA produktív AI-gyár alatt olyan rendszert ért, amely nagy áteresztőképességet biztosít megawattanként, miközben alacsonyan tartja az egy tokenre jutó költséget. A vállalat szerint az AI-gyárak legfontosabb korlátja az energia, ezért a másodpercenként, megawattonként előállított tokenek száma közvetlenül befolyásolja a keresőképességet.
Az NVIDIA által idézett SemiAnalysis AgentX-adatok szerint a Vera Rubin NVL72 rendszerek több mint 30-szor nagyobb megawattankénti áteresztőképességet biztosítanak, mint a GB300 NVL72. A DeepSeek V4 Pro modellen az egy millió tokenre jutó költség akár 45 százalékkal is alacsonyabb lehet. A vállalat szerint az eredmény a teljes technológiai lánc összehangolt tervezéséből származik, amely a modellektől és a munkaterhelésektől a szoftveren, a számítási kapacitáson, a hálózaton és a memórián át minden elemet együtt optimalizál.
Az NVIDIA szerint a hatékonyabb token-előállítás nem feltétlenül csökkenti a számítási kapacitás iránti igényt. Az olcsóbb tokenek új felhasználási területeket tehetnek gazdaságossá, ezek pedig több tokent fogyaszthatnak annál, amennyit a hatékonyságjavulás megtakarít.
A régebbi GPU-k is bevételt termelhetnek
A tartósság azt jelenti, hogy az új generáció megjelenése után a korábbi hardverek is használatban maradhatnak. Az NVIDIA szerint nem minden munkaterhelés igényli a legújabb rendszert, ezért a régebbi generációk továbbra is megfelelőek lehetnek bizonyos feladatokra.
Az A100 GPU 2020-ban jelent meg, és az NVIDIA szerint hat évvel később is kereskedelmi szolgálatban áll. A CoreWeave a vállalat közlése alapján 2020-ban bevezetett egységekre 2029-ig meghosszabbította a foglalásokat. A Microsoft NVIDIA V100-flottája 8,4 évig működött, miközben a könyv szerinti élettartam hat év volt.
A Barkr egy nyolc GPU-s H100 rendszer hasznos élettartamát öt-hat évre, a GB300 NVL72 rendszerét pedig kilenc-tíz évre teszi a viszonteladási érték alapján. A Silicon Data szerint egy hatéves A100 GPU még az eredeti árának negyedét éri, az Ornn Data pedig azt találta, hogy a piac ötéves szerződésben a havi bérleti díj 80 százalékát fizeti ki egy A100 GPU-ért.
Az NVIDIA szerint a CUDA több generáción át működik, így az új architektúra megjelenése nem teszi használhatatlanná a már meglévő hardvert. A folyamatos szoftver- és kerneloptimalizálás tovább javíthatja a régebbi rendszerek teljesítményét.
A sokféle munkaterhelés szélesebb keresletet jelent
Az NVIDIA harmadik szempontja a sokoldalúság. A vállalat szerint egyetlen munkatípusra épített gyár kockázata, hogy a kereslet változásával elveszíti a feladatait. A többféle AI-munkaterhelést és hagyományos számítási feladatot futtató infrastruktúra ezzel szemben több helyzetben használható.
Az NVIDIA platformja nyílt és saját fejlesztésű modelleket is futtat nyelvi, képi, biológiai, fizikai és robotikai területen. Alkalmas adatfeldolgozásra, előtanításra, utóhangolásra és következtetésre, valamint hiperskálázott és AI-felhős rendszerekben, szuverén programokban, vállalati adatközpontokban és a peremhálózaton is.
A CUDA-X több mint 1000 kész könyvtárat kínál, többek között neurális hálózatokhoz, számítógépes litográfiához, kvantumáramkör-szimulációhoz, vektorkereséshez és klímamodellezéshez. Az NVIDIA szerint több mint 10 millió fejlesztő épít ezekre. A platform ugyanazon infrastruktúrán teszi lehetővé a gépi tanulást, a tudományos számításokat, a szimulációt és a grafikai feladatokat.
Az NVIDIA ügyfélpéldái között szerepel a Lilly, amely 1016 GPU-s helyszíni klaszteren fehérje-, kis molekulás és genomikai modelleket futtat. A Pinterest 14 ezer GPU-n, Blackwell, Hopper és korábbi architektúrákon hangol és szolgál ki egy látás-nyelvi modellt. A Texas A&M University 26 projektben és hét intézmény számára 95-98 százalékos kihasználtsággal végez molekuláris szimulációt és AI-alapú gyógyszerkutatást.
Az NVIDIA állítása szerint a produktivitás, a tartósság és a sokoldalúság együtt hosszabb használati időt, több felhasználási lehetőséget és magasabb megtérülési esélyt ad az AI-gyárak üzemeltetőinek.
