Európai technológiai cégek az NVIDIA Vera CPU-ra építenek
A Nebius és az Nscale is NVIDIA Vera CPU-kra építve fejleszti következő generációs infrastruktúráját. A vállalat szerint a processzor az AI-ügynökök összetett feladatainak gyors végrehajtását és az adatközpontok kapacitásának hatékonyabb kihasználását támogatja.
- A Nebius és az Nscale NVIDIA Vera CPU-kra épít infrastruktúrát.
- A Vera az AI-ügynökök adatfeldolgozását, kódvégrehajtását és eszközhasználatát gyorsítja.
- A processzor önálló CPU-szerverekben és NVIDIA GPU-k mellett is használható.
- Több adatfeldolgozó és fejlesztői platform korai tesztelésben vizsgálta a Verát.
- A Vera az AI-ügynökök számára biztosított felhőalapú homokozók működését is támogatja.
Az AI-ügynököknek gyors CPU-feldolgozásra van szükségük
Az NVIDIA október 20-i közlése szerint a Nebius és az Nscale azon globális technológiai partnerek közé tartozik, amelyek a Vera CPU-val építik infrastruktúrájuk következő generációját. A vállalat ezt az AI-ügynöki számítástechnika fejlődésével hozza összefüggésbe.
Az AI-ügynökök a válaszok előállításán túl információkat keresnek meg, szoftveres eszközöket futtatnak, kódot hajtanak végre, majd értékelik az eredményeket. Az NVIDIA szerint ezeknek a lépéseknek mindegyike gyors CPU-feldolgozást igényel. A Vera ezt a munkát gyorsítja, így az ügynökök gyorsabban válaszolhatnak, az adatközpontok pedig jobban kihasználhatják a rendelkezésre álló számítási kapacitást.
A processzort úgy tervezték, hogy akkor is fenntartsa ezt a sebességet, amikor egyszerre több ezer feladat fut. Az NVIDIA szerint ez lehetővé teheti a szolgáltatások bővítését a válaszidő romlása nélkül.
AI-felhőszolgáltatók és szuverén infrastruktúra
A Nebius, az Nscale és a Verda Vera processzorokra építve támogatja a vállalatok és fejlesztők növekvő adatfeldolgozási igényeit. A nagy teljesítményű, energiahatékony CPU-k az adatok feldolgozását és a szolgáltatások mögött futó szoftverek végrehajtását segítik, a modelleket futtató GPU-k mellett.
Az NVIDIA által ismertetett szuverén AI-ökoszisztémában az Aleria is szerepel. A szuverén AI-infrastruktúra- és platformszolgáltató olyan infrastruktúra iránti igényt támogat, amelynél az ügyfelek ellenőrzésük alatt tarthatják az adatokat és a működést.
A Vera önálló CPU-szerverekben is használható, illetve NVIDIA GPU-k mellett, gyorsított rendszerekben is működhet. A Bull, a Dell Technologies, a HPE, a Lenovo és a Supermicro Vera-alapú rendszereket épít, így többféle telepítési lehetőség állhat az ügyfelek rendelkezésére.
Adatfeldolgozás, fejlesztői környezetek és biztonságos homokozók
A ClickHouse, a Cloudera, a Duck Labs, az Elastic, a Polars, a Redpanda, az SAP és a Starburst korai tesztelésben kedvező eredményeket látott a Verán elemzési, adatkinyerési, átalakítási és betöltési, valamint szemantikus keresési feladatoknál. Az NVIDIA a processzor magonkénti teljesítményét, LPDDR5X memória-sávszélességét és Scalable Coherency Fabric technológiáját emeli ki a teljesítménynövekedés tényezőjeként.
Az Atlassian, az Inherent és a Nous Research olyan környezetekhez alkalmazza a Verát, ahol AI-ügynökök dolgoznak együtt fejlesztőkkel és kutatókkal. Az Atlassian a szemantikus keresési indexek felépítéséhez szükséges adatfeldolgozást gyorsítaná, az Inherent tudományos kutatási környezetekben tesztelte a processzort, a Nous Research pedig az ügynökazonosítás és az egyes műveletek végrehajtás előtti ellenőrzése céljából használja.
A Baseten-Blaxel, a Daytona, az E2B, a Modal, a Prime Intellect és a Vercel felhőalapú homokozókat biztosítanak az AI-ügynökök számára. Ezek elkülönített számítógépes környezetként szolgálnak kód futtatásához, eszközök használatához és az eredmények teszteléséhez. Az NVIDIA szerint a homokozókat naponta több millió alkalommal indítják el, ezért az egyes indítások sebessége nagy léptékben összeadódik. A Vera teljesítménye és nagy memória-sávszélessége ezt a működési mintát támogatja.
