A Google Cloud jövő hónapban elérhetővé teszi az NVIDIA Vera Rubin infrastruktúrát

Egy rendszerben a számítás, a hálózat és a hűtés

Az A5X példányok az NVIDIA Vera Rubin NVL72 rendszert, az NVIDIA ConnectX-9 SuperNIC hálózati vezérlőket, a Google Cloud Virgo Network hálózatát és a Google Cloud negyedik generációs, fejlett folyadékhűtési technológiáját egyesítik. Az NVIDIA szerint az infrastruktúrát nagy léptékű, ügynökalapú következtetéshez és megerősítéses tanulási feladatokhoz tervezték.

Az A5X a Vera Rubint a Google Cloud AI Hypercomputer platformjába illeszti. A megközelítés célja, hogy a számítási kapacitás, a hálózat és a tárhely közös rendszerként támogassa a tapasztalatokon alapuló tanulást. A Google Cloud tervei szerint a Vera Rubin alapú infrastruktúra több helyszínen akár 960 000 Rubin GPU-ig bővülhet.

Az első ügyfél nagy léptékű megerősítéses tanulást fejleszt

Az A5X első ügyfele a londoni Ineffable Intelligence volt. A céget David Silver, az AlphaGo megalkotója alapította, és a vállalat a platformot nagy léptékű megerősítéses tanulás fejlesztésére használja.

Az Ineffable Intelligence úgynevezett „szuper tanuló” rendszereken dolgozik, amelyek folyamatosan, saját tapasztalataikból fejlődnek. Az ilyen tanulás során a rendszer tapasztalatokat generál, kiértékeli az eredményeket, majd frissíti a modelleket. David Silver, a vállalat alapítója és vezérigazgatója szerint ehhez jelentős számítási kapacitásra és szoros kapcsolatra van szükség a tapasztalatok létrehozása és a rájuk épülő tanítás között.

Az NVIDIA közlése szerint a Vera CPU és a Rubin GPU-k közötti, valamint a racken belüli Rubin GPU-k közötti nagy sávszélességű kapcsolat segíti az Ineffable kutatásának nagyobb léptékű folytatását.

Kreatív ügynökök és védett vállalati adatok

A londoni WPP szintén bemutatta kreatív ügynöki referencia-architektúráját NVIDIA Vera Rubin alapú A5X példányokon. A rendszer NVIDIA Nemotron modelleket és az NVIDIA OpenShellt használja, amely az NVIDIA OpenShell Reference Architecture for safe AI agents része.

Az ügynökök a beszélgetésben megfogalmazott kéréseket több lépésből álló kreatív munkafolyamatokká alakítják. Ilyen feladat lehet a videógenerálás, a felbontás növelése vagy az újrastílusozás. A végrehajtás előtt emberi jóváhagyásra van szükség. Az OpenShell szabályozott, elkülönített környezeteket biztosít az ügynökök futtatásához, így segít korlátozni a hozzáférést az érzékeny márkaeszközökhöz és kreatív eszközökhöz.

A WPP első tesztjeiben olyan munkaterhelések is egyetlen A5X példányon futottak, amelyekhez korábban több csomópontból álló fürtre volt szükség.

Bizalmas számítás és energiahatékonyabb bővítés

A Google Cloud a közlemény szerint az elsők között kínál majd rack szintű NVIDIA Confidential Computing megoldást bare metal példányokon. Ide tartoznak az NVIDIA GB300 NVL72-re épülő A4X Max példányok. A Google Cloud emellett általánosan elérhetővé teszi a Confidential Computingot az NVIDIA RTX PRO 6000 Blackwell Server Edition GPU-kat használó G4 virtuális gépeken.

A szolgáltatásokat a Vertebrae, a Polaris Cloud és a Confidential Core AI is használja. A közlemény szerint ezeknél a felhasználási területek a beszélgetések adatvédelme, az ellenőrizhető ügynökvégrehajtás és a szabályozott vállalati intelligencia.

Az energiahatékony, nagy léptékű telepítés támogatására a Google Cloud és az NVIDIA az NVIDIA DSX MaxLPS képességeit is vizsgálja a Vera Rubin alapú infrastruktúrán. A cél a teljesítmény wattonkénti optimalizálása és a kapacitás bővítése a rendelkezésre álló adatközponti energiakereteken belül. Az A5X példányok általános elérhetősége jövő hónapban várható, a hozzáférés később Európára is kiterjedhet.