Az NVIDIA digitális ikrekkel tesztelné az AI-gyárak módosításait

A DSX Air az AI-gyár digitális mását modellezi

Az NVIDIA Developer október 7-i bejegyzése szerint az AI-gyárak összetett rendszerek, amelyekben GPU-k, CPU-k, kapcsolók, DPU-k és SuperNIC-ek működnek együtt ütemezőkkel, vezérlési szolgáltatásokkal, biztonsági megoldásokkal és gyorsan változó szoftverkörnyezettel. Az infrastruktúra és a szoftverek összehangolásának ellenőrzése ezért önálló kihívást jelent.

Az NVIDIA DSX Air csomópontalapú digitális ikert biztosít ehhez. Ez az AI-gyár infrastruktúrájának és működési interfészeinek nagy hűségű, végrehajtható reprezentációja. A platformon a csapatok modellezhetik a hardver topológiáját és a szoftveres környezetet, változtatásokat próbálhatnak ki, megfigyelhetik a működést, és még az éles módosítások előtt ellenőrizhetik az eredményeket.

A vállalat szerint a DSX Air integrálható a folyamatos integrációs és szállítási folyamatokba, így a támogatott konfiguráció- és szoftvermódosítások automatikusan ellenőrizhetők a bevezetés előtt. A megközelítés a tervezésből folyamatosan elérhető működési képességet alakít ki.

Az ügynökök ellenőrzik a változtatásokat

Az AI-ügynökök lekérdezhetik a digitális ikret, ellenőrzéseket futtathatnak, összevethetik az eredményeket, működési környezetet kereshetnek vissza, és további munkafolyamatokat indíthatnak. Az NVIDIA ezt szabályozott automatizálási modellként írja le.

Egy tipikus folyamatban a javasolt infrastruktúra- vagy szoftvermódosítás bekerül a CI/CD- vagy változáskezelési rendszerbe. Az ügynök kiválasztja vagy beállítja a megfelelő logikai ikret, beleértve a topológiát, a bérlői szabályokat, a munkaterhelés profilját és a működési korlátokat. Ezután támogatott konfigurációs, biztonsági, megfelelőségi és infrastruktúra-állapot-ellenőrzéseket futtat.

Az ügynök az eredményeket szervezeti szabályzatokkal és jóváhagyott dokumentációból származó ismeretekkel veti össze. Végül bizonyítékokra épülő jelentést készít, bevezetést javasolhat, javítási feladatot nyithat, vagy emberi jóváhagyásra továbbíthatja az ügyet. Az NVIDIA hangsúlyozza, hogy ez nem korlátlan éles hozzáférést jelent az ügynökök számára. A digitális iker biztonságos környezetet ad a próbákhoz, a termelési hatást pedig emberi ellenőrzési pontok és szabályzatok korlátozzák.

A Brev GPU-erőforrásokat kapcsol a szimulációhoz

Az NVIDIA Brev az NVIDIA szerint kiegészíti a DSX Air környezetét azzal, hogy igény szerint elérhető GPU-erőforrásokat biztosít a fejlesztőknek és a munkafolyamatoknak. A DSX Airben a felhasználó kapcsolódhat a Brevhez, kiválaszthat egy GPU-alapú indítható erőforrást, és elérhetővé teheti azt a logikai iker munkafolyamata számára.

Így a csapatok elindíthatják a kísérlethez vagy munkafolyamathoz szükséges AI-szolgáltatást, összekapcsolhatják azt egy reprezentatív AI-gyár környezetével, majd az ügynökökkel ellenőrzött feladatokat hajtathatnak végre a szimulációban. Az NVIDIA szerint ezzel az elszigetelt AI-bemutatóktól ismételhető, AI-gyárhoz kapcsolódó munkafolyamatok felé lehet továbblépni.

A vállalat a Video Search and Summarization nevű NVIDIA AI Blueprintet is példaként említi arra, hogyan kapcsolható össze a videóelemzés, a visszakereséssel kiegészített tudás és az ügynöki vezérlés a digitális ikerben. A leírás alapján a modell használható a tervezés, a bevezetés és az üzemeltetés különböző szakaszaiban, miközben a szimulációs eredmények és az azokhoz kapcsolódó bizonyítékok bekerülhetnek a szállítási és működési folyamatokba.

A felhasználóknak kevesebbet kell várniuk a fizikai infrastruktúrára

Az NVIDIA által bemutatott megközelítés legfontosabb ígérete, hogy a csapatok a támogatott konfigurációkat, hálózati beállításokat és szoftverintegrációkat már a teljes fizikai rendszer megérkezése előtt vizsgálhatják. A digitális iker csökkentheti a fizikai labor felépítéséhez, a szoftverek üzembe helyezéséhez és a több-bérlős környezet ellenőrzéséhez szükséges munkát.

A DSX Air nem minden szimulációs módszer helyettesítésére szolgál. Az NVIDIA különválasztja a csomópontalapú szimulációt a kapacitás- és erőforrás-tervezéshez használt teljesítmény-, energia- és memóriamodellektől. Előbbi az infrastruktúra, az API-k, a szabályzatok és a vezérlők együttműködését ellenőrzi, míg a többi modell a saját érvényesítési körén belül adhat becsléseket.

A vállalat szerint ugyanaz a modell használható a Day 0 tervezés, a Day 1 bevezetés és a Day 2 üzemeltetés során. A változtatások így még az éles környezet előtt vizsgálhatók, miközben az emberi jóváhagyás és a szervezeti szabályzatok megmaradnak a termelést érintő döntések ellenőrzési pontjaként.