Az NVIDIA közös leírást adna a Kubernetes AI-munkafolyamataihoz
Az NVIDIA bemutatta a Workload Mapet, amely közös leírást ad a Kubernetesen futó elosztott AI-munkafolyamatok szerkezetéhez. A cél, hogy az ütemezőknek és platformoknak ne kelljen minden támogatott keretrendszerhez külön értelmező kódot fenntartaniuk.
- A Workload Map közös Kubernetes-leírást ad az elosztott AI-munkafolyamatokhoz.
- A projekt előre elkészített definíciókat kínál többek között a JobSet, PyTorchJob és Ray munkafolyamatokhoz.
- A KAI Scheduler és az NVIDIA Run:ai ugyanazokat a leírásokat használhatja.
- Egy JobSet-példában a vezető és két dolgozó Job összesen 12 GPU-t igényel.
- Új munkafolyamat-típusok YAML-definícióval adhatók hozzá.
Külön adapter kell minden munkafolyamat-típushoz
Az NVIDIA 2026. november 2-án közzétett bejegyzése szerint egy Kubernetesen futó elosztott tanítási feladat vagy több csomópontos következtetési szolgáltatás általában több erőforrásból áll. A podok szerepek szerint csoportosulnak, saját replikaszámmal, pod-sablonnal és állapotinformációval.
Ez nehézséget okoz azoknak a fejlesztőknek, akik ütemezőt, vezérlőt, irányítópultot vagy költségkezelő eszközt készítenek több munkafolyamat-típushoz. Minden új egyéni erőforrás-definícióhöz meg kell határozniuk, hogyan épül fel az adott munkafolyamat, miként olvasható ki az állapota, és hogyan módosítható a pod specifikációja.
Az NVIDIA példája egy JobSet, amely egy vezető Jobot és két dolgozó Jobot tartalmaz. Mindhárom Job egy podot futtat, podonként négy GPU-val, így a teljes igény 12 GPU. A Kubernetes parancssori eszköze ezeket külön erőforrásként jeleníti meg, ezért a platformnak külön JobSet-ismeretre van szüksége a szerepek és az összesített erőforrásigény értelmezéséhez.
A Workload Map közös szerkezeti nézetet biztosít
A Workload Map, amely korábban Karta néven futott, Kubernetes-beli egyéni erőforrás-definícióként és Go-könyvtárként érhető el. A projektben a CRD erőforrástípusa továbbra is Karta. Az egyes definíciók megadják, hol találhatók az adott munkafolyamat pod-sablonjai, replikaszámai és állapotmezői.
Az így létrehozott közös leírásból az ütemezők és platformok egységes szerkezeti képet kaphatnak. A Go-könyvtár egy élő Kubernetes-objektumot egységes nézetté alakít, amelyből kiolvashatók a pod-sablonok, a replikaszámok, az állapotok és a metaadatok. Emellett a pod specifikációi, címkéi és annotációi minden példányon módosíthatók.
A JobSet-definíció például leírja a munkafolyamat gyökerét, a replikált Jobokat és az azokhoz tartozó podokat. Az állapotleképezés a JobSet saját mezőit közös kategóriákra fordítja le. A futó állapotot egy jq-kifejezés vezeti le a replikált Jobok állapotából, míg a befejezett és hibás állapotot a natív Completed és Failed feltételek alapján azonosítja.
Több AI-keretrendszerhez előre elkészített definíciók
Az NVIDIA közlése szerint a Workload Map előre elkészített és tesztelt definíciókat tartalmaz többek között a JobSet, PyTorchJob, RayCluster, RayJob, RayService, KServe, Knative, MPIJob, NVIDIA NIM, LeaderWorkerSet, Milvus, Grove PodCliqueSet és NVIDIA Dynamo munkafolyamataihoz.
A KAI Scheduler ezekkel a definíciókkal értelmezheti a podok csoportosítását és a gang schedulinget, vagyis azt az ütemezési modellt, amelyben egy összetartozó munkafolyamat erőforrásait együtt kell kezelni. Az NVIDIA Run:ai a munkafolyamatok kezeléséhez és láthatóságához használja a leírásokat. Az NVIDIA szerint egyetlen JobSet-definíció így több fogyasztóban is újrahasznosítható.
A katalógus új munkafolyamat-típusokkal is bővíthető. Ehhez YAML-definícióban kell leírni az adott erőforrás szerkezetét és állapotát. A Workload Map ezt a tudást a lefordított, keretrendszer-specifikus adapterekből olyan adatformátumba helyezi át, amelyet a fejlesztők megírhatnak, átnézhetnek, majd manifestként alkalmazhatnak a fürtön. Az NVIDIA a felhasználókat a munkafolyamat-katalógus áttekintésére és az NVIDIA DSX AI Factory Slack-munkaterületén való egyeztetésre hívja.
NVIDIA Developer: Support New AI Frameworks Faster Using NVIDIA Workload Map
