A Vultr csatlakozik a frontier AI számítási kapacitását bővítő konzorciumhoz
A Vultr alapító konzorciumi tagként csatlakozik a National Compute kezdeményezéshez, amely több szolgáltató és chiparchitektúra kapacitását egy közös rendszerben kapcsolná össze. A cél, hogy startupok, egyetemek és kormányzati laborok rugalmasabban férjenek hozzá a nagy teljesítményű AI-infrastruktúrához.
- A Vultr alapító tagként csatlakozik a National Compute konzorciumhoz.
- A Grid Exchange több felhő, helyszín és chiparchitektúra kapacitását kapcsolja össze.
- A National Compute 2030-ra 2 GW összesített kapacitást céloz.
- A rendszer a befejezett, megszakítás nélküli munkát, vagyis a goodputot helyezi középpontba.
- A közös kapacitás startupok, egyetemek és kormányzati laborok hozzáférését bővítheti.
Közös kapacitás több felhőből és chipből
A Vultr október 7-i közleménye szerint a National Compute több felhőből, helyszínről és chiparchitektúrából gyűjt számítási kapacitást, majd egy közös vezérlési rétegen keresztül teszi elérhetővé. Az így létrejövő rendszer neve Grid Exchange.
A Grid Exchange-ben kutatócsoportok akkor foglalhatnak számítási erőforrást, amikor szükségük van rá. A megközelítés a hosszú távú infrastruktúra-lekötések alternatíváját kínálja, amelyek a forrás szerint különösen megnehezíthetik a frontier szintű AI-kísérletezést a kisebb startupok, az akadémiai kutatók és a kormányzati laborok számára.
A National Compute hosszú távú célja, hogy 2030-ra 2 GW összesített kapacitást építsen ki. A tervezett infrastruktúra többféle szilíciumplatformot foglalna magában, köztük NVIDIA, AMD és TPU architektúrákat.
A rendszer a befejezett munkát helyezi előtérbe
A kezdeményezés a számítási kapacitás kihasználását is más szemszögből közelíti meg. A hagyományos felhőszolgáltatások gyakran a felhasznált infrastruktúra mennyisége, például a GPU-órák alapján áraznak. A Grid modellje ehelyett a „goodput”, vagyis a befejezett és megszakítás nélkül elvégzett munka köré épül.
Ez azért fontos, mert egy lefoglalt, de tétlenül várakozó, más erőforrásra váró vagy egy munkafolyamat közben megszakadó GPU nem nyújt azonos értéket egy olyan kapacitással, amely folyamatosan segíti a feladat teljesítését. A modell a National Compute szerint azokat az infrastruktúraszolgáltatókat ösztönzi, amelyek magas rendelkezésre állást és hatékony kihasználtságot biztosítanak.
A közlemény a Google flottáján fejlesztett rendszerek tapasztalatára is hivatkozik. Ezek hasonló megközelítésekkel gigawattos léptékben körülbelül 65 százalékról 99 százalékra növelte a kihasználtságot.
Rugalmasabb hozzáférés a kutatási kapacitáshoz
A National Compute szerint a közös erőforráskészlet gazdasági előnye a statisztikai multiplexelésből is származhat. Ennek lényege, hogy eltérő munkaterhelések egy nagyobb kapacitásállományon osztoznak, így kevesebb erőforrást kell előre üresen fenntartani a kiszámíthatatlan igények kezelésére.
A konzorcium állítása szerint 10 különböző résztvevő nagyjából háromszorosára csökkentheti a FLOP-onkénti pazarlást, míg 100 résztvevő körülbelül tízszeres csökkentést tehet lehetővé. A hálózat értéke a közlemény szerint tovább nőhet, ahogy új infrastruktúraszolgáltatók, munkaterhelések, modalitások és földrajzi régiók csatlakoznak.
A Vultr részvétele további nagy teljesítményű kapacitást ad a több architektúrát és szolgáltatót összekapcsoló ökoszisztémához. A vállalat szerint ez összhangban áll azzal a céllal, hogy a kutatók kevesebb időt töltsenek az infrastruktúra biztosításával, és többet az AI-kutatás előmozdításával. A kezdeményezés az amerikai AI Action Plan versenyképes AI-számítási piacra vonatkozó prioritásaihoz, valamint a Genesis Mission tudományos felfedezéseket gyorsító céljához is kapcsolódik.
