Az NVIDIA európai felhőpartnerei a szuverén AI-infrastruktúrát bővítik
Az NVIDIA európai és a környező régiókban működő felhőpartnerei bővítik az AI-modellek betanításához és futtatásához szükséges infrastruktúrát. A vállalat szerint a fejlesztők így közelebb dolgozhatnak adataikhoz, nyílt modelleket használhatnak, és szigorúbb korlátokat állíthatnak az AI-ügynökök működéséhez.
- Az NVIDIA partnerei Európában és a környező régiókban bővítik az AI-felhőkapacitást.
- Az Nscale tesztjeiben a DSX MaxLPS 37 százalékkal több GPU-t és közel 50 százalékkal nagyobb átvitelt ért el azonos energia-keretben.
- A Nebius, a Baseten, a Fireworks és a Mistral nyílt modellekre és célzott AI-szolgáltatásokra épít.
- Az OpenShell Reference Architecture az AI-ügynökök hozzáféréseinek és műveleteinek korlátozását szolgálja.
- Az NVIDIA Vera Rubin infrastruktúrájának egyes telepítéseit 2027-re tervezik.
Regionális kapacitás az európai AI-fejlesztéshez
Az NVIDIA október 21-i közlése szerint felhőpartnerei Európában, az északi országokban, Afrikában és Közép-Ázsiában is növelik a számítási kapacitást. A cél a modellbetanítás és a következtetés, vagyis a betanított modellek válaszgenerálásának támogatása. Az infrastruktúrával fejlesztők AI-ügynököket és fizikai AI-alkalmazásokat építhetnek.
Az NVIDIA szerint a regionális AI-felhők az adatokat és a munkaterheléseket közelebb tarthatják a fejlesztőkhöz, miközben nagyobb kontrollt adnak azok elhelyezése felett. Az energiafelhasználás is korlátot jelent, ezért az NVIDIA DSX Platform a teljesítményigényhez igazítja az energiaelosztást.
Az Nscale NVIDIA GB300 NVL72 rendszerekkel végzett tesztjeiben az NVIDIA állítása szerint a DSX MaxLPS ugyanazon rendelkezésre álló energia mellett 37 százalékkal több GPU használatát és közel 50 százalékkal nagyobb összesített következtetési teljesítményt tette lehetővé. Az Nscale öt európai piacon tervezi az NVIDIA Vera Rubin infrastruktúra telepítését.
A Crusoe folyadékhűtéses, moduláris AI-gyárakat fejleszt a Vera Rubin platformhoz, hogy alacsony késleltetésű következtetési kapacitást biztosítson. Az NVIDIA felsorolása szerint Aleria, Cassava Technologies, Firebird, G42, Radiant, SWI Compute és Vultr szintén NVIDIA-alapú infrastruktúrát épít vagy bővít a régiókban.
Nyílt modellek és célzott szolgáltatások
A bővülő kapacitás modellbetanításra, finomhangolásra és nagy léptékű következtetésre használható, akár peremhálózati telepítésekben is. A Nebius az NVIDIA Groq 3 LPX rendszert és Spectrum-X Ethernet hálózatot alkalmazza a Vera Rubin NVL72 infrastruktúrával együtt. A vállalat szerint ez gyorsabb token-generálást támogathat késleltetésérzékeny alkalmazásoknál és AI-ügynököknél.
A Nebius fizikai AI-munkakörnyezetet is kínál robotikai cégeknek, köztük a Rhoda AI, a RoboForce és a Sereact számára. Emellett három, kiskereskedelmi AI-ügynökökhöz készült mintamegoldást tett korai hozzáférésben elérhetővé. Ezek a készletkezelést, az üzletműködést és a finomhangolást fedik le.
A Baseten a CodeRabbit számára fejlesztett kódellenőrzési útválasztó modellt a Nemotron 3.5 Lightning használatával. Az NVIDIA által közölt eredmények szerint a felügyelt finomhangolás és a megerősítéses tanulás 75,8 százalékról 80,7 százalékra javította az útválasztási egyezést, miközben a vizsgált munkaterhelés becsült következtetési költsége 50 százalékkal csökkent.
A Fireworks és az Era4 brit és európai vállalatoknak kínálna nyílt modellekre épülő megoldásokat pénzügyi, biztosítási és élettudományi területen. A Mistral közben bővíti NVIDIA-alapú infrastruktúráját, amelyhez 2027-re tervezett Vera Rubin rendszerek is tartoznak. A vállalat közlése szerint a Mistral Large 4 betanítása 3800 NVIDIA Grace Blackwell GPU-n, európai adatközpontokban történt.
Korlátok az AI-ügynökök számára
Az NVIDIA a GTC Berlin rendezvényen mutatta be az OpenShell Reference Architecture nevű referenciaarchitektúrát, amelyhez több AI-felhőszolgáltató is támogatást ad. A megoldás az NVIDIA OpenShell biztonságos futtatókörnyezetére épül, és a vállalat szerint teljes infrastruktúraszintű kontrollt biztosíthat az AI-ügynökök telepítéséhez.
Az architektúra három fő elemet kapcsol össze: a modellkövetkeztetéshez használt NVIDIA Vera Rubin NVL72-t, az ügynökök vezérlését és eszközhasználatát kezelő OpenShell-lel működő NVIDIA Vera CPU-kat, valamint a szilíciumszintű szabályérvényesítést végző NVIDIA BlueField-4 DPU-kat és az NVIDIA Sentryt. A cél annak meghatározása, hogy az ügynökök milyen adatokhoz, eszközökhöz és üzleti rendszerekhez férhetnek hozzá, illetve milyen műveleteket hajthatnak végre.
Az NVIDIA szerint az Aleria, a Baseten, a Cassava, a CoreWeave, a Crusoe, a DigitalOcean, a Firebird, a Fireworks, a Firmus, a G42, a GMI Cloud, az IREN, a Lambda, a Lightning AI, a Nebius, az Nscale, a Radiant, a Verda és a Vultr is támogatja a referenciaarchitektúrát.
A fejlesztők számára a bejelentés három területet kapcsol össze: több regionális helyet a munkaterhelések futtatására, szolgáltatásokat a modellek használatához és testreszabásához, valamint ellenőrzési lehetőségeket az éles környezetbe kerülő AI-ügynökök számára. Az NVIDIA ezeket az elemeket szuverén számítástechnikai szolgáltatások és európai gazdasági növekedés támogatásának részeként mutatja be.
NVIDIA: NVIDIA Cloud Partners Scale Across Europe — Sovereign, Open and Built for Safe AI Agents
