A Lambda négy fronton fejleszt az NVIDIA-val az AI-infrastruktúráért

Bizalmas bare metal környezet a modellfejlesztőknek

A Lambda október 21-i bejelentése szerint támogatja a Confidential Bare Metal megoldást, amely az NVIDIA Confidential Computing kiterjesztése dedikált, külső szolgáltató által üzemeltetett infrastruktúrára. A vállalat szerint a modellfejlesztők egyre gyakrabban használnak felhőszolgáltatókat a modellek nagy léptékű betanítására és kiszolgálására, miközben sokan a bare metal hozzáférést részesítik előnyben, mert így könnyebben dolgozhatnak több szolgáltató infrastruktúráján.

A megoldás hardveres alapú elkülönítést és kriptográfiai tanúsítást használ. Ezek a Lambda szerint futás közben védik a modelleket és az adatokat, valamint lehetővé teszik annak ellenőrzését, hogy megbízható számítási környezetben fut-e a munkafolyamat. A Confidential Containers és a Confidential Virtual Machines mellett ez a megközelítés bare metal példányokon is lehetővé teszi a szoftververem telepítését a modellfejlesztők által meghatározott bizalmi és működési követelmények szerint.

Az NVIDIA Confidential Computing közben az NVIDIA Grace Blackwell és az NVIDIA Vera Rubin rendszerekre is kiterjed.

Szabályozott ügynökök és intelligensebb infrastruktúra-felügyelet

A Lambda támogatja az NVIDIA OpenShell Reference Architecture referenciamodellt is. Ez az NVIDIA OpenShell biztonságos futtatókörnyezetére épül, és azt teljes veremű, ipari léptékű infrastruktúrával egészíti ki az AI-ügynökök fejlesztéséhez és üzemeltetéséhez.

A vállalat a NVIDIA Vera Rubinba fektetett fejlesztéseire építve egyesíti a modellfuttatáshoz szükséges számítási kapacitást, a szabályozott ügynök-végrehajtást és a független biztonsági ellenőrzést. Mivel az ellenőrzés az ügynök saját végrehajtási környezetén kívül történik, a Lambda szerint a csapatok több jogosultságot adhatnak az ügynököknek úgy, hogy közben kézben tarthatják az elérhető eszközöket, adatokat és rendszereket.

A vállalat emellett tervezi az NVIDIA Minerva telepítését. Az AI-alapú IT-üzemeltetési platform a GPU-k, a hálózat, a tárhely, az ütemezők és az AI-munkafolyamatok telemetriáját kapcsolja össze. Dinamikus tudásgráfja az infrastruktúra elemeit a futó feladatokhoz rendeli, az erre épülő modellek pedig rendellenességeket keresnek, előre jelezhetik a kialakuló hibákat, és az összetartozó riasztások alapján azonosíthatják a valószínű okokat.

Több token azonos teljesítménykeret mellett

A Lambda egy NVIDIA HGX rendszereken végzett koncepcióteszt eredményeit is ismertette. Az NVIDIA DSX MaxLPS szoftverével a vállalat 19 csomópontot futtatott ugyanabban az összesített teljesítménykeretben, amelyben a kiindulási összehasonlítás 16 csomópontot használt.

A Lambda közlése szerint ebben a tesztben a teljes klaszterre vetített tokenátbocsátás körülbelül 24 százalékkal, a wattonkénti teljesítmény pedig körülbelül 23 százalékkal nőtt. A vállalat az eredmények részleteihez az NVIDIA esettanulmányára hivatkozik.

A bejelentés szerint a fejlesztések közös célja, hogy az AI-csapatok jobban védhessék munkafolyamataikat, kontroll alatt tarthassák az ügynököket, és hatékonyabban használhassák a számítási infrastruktúrát. A Lambda a GTC Berlin 2026 teljes hetében a 7022-es standnál mutatja be az NVIDIA Nemotron és OpenShell működését, valamint kapacitásról, telepítésről és éles üzemre való felkészültségről egyeztet a látogatókkal.