NVIDIA és Palantir AI-val kódolja a beszállítói döntések szakértői tudását

A probléma: a wafer-outtól az első tokenig tartó út

Az NVIDIA 2026. szeptember 10-én közzétett fejlesztői blogbejegyzése szerint a vállalat ellátási láncának teljesítményét a wafer-out állapottól az első tokenig méri. Ez két részből áll: a time-to-rack a szilícium gyárból való kikerülésétől addig tart, amíg az összeszerelt rendszer megérkezik az adatközpontba, a time-to-token pedig az ezt követő lépéseket fedi le, beleértve az áramellátást, a hűtést, a hálózatot és a szoftveres környezetet.

A bejegyzés szerint az NVIDIA Grace Blackwell NVL72 platformok milliónyi alkatrészre és világszerte több ezer beszállítóra támaszkodnak, a végső rendszereket pedig több tucat OEM és ODM építi. Egyetlen számítási tálca, amelyből egy rackben tizennyolc van, két NVIDIA Grace CPU-t, négy NVIDIA Blackwell GPU-t és harminckét HBM3e stacket igényel. A Vera Rubin számára létrehozott ellátási lánc az NVIDIA szerint kétszer akkora, mint a Grace Blackwellé.

A gyártók csak akkor tudják elkezdeni az összeszerelést, ha minden szükséges komponens beérkezett. Ezek három forrásból érkezhetnek: közvetlenül az NVIDIA-tól, az NVIDIA által konszignációban készletezett alkatrészekből, illetve beszállítóktól. Ha egy elem korábban érkezik, várnia kell a későkre. Az NVIDIA ezt az időt Time of Ownership, röviden TOO mutatóval méri, attól a pillanattól, hogy egy gyártóhely megkapja az anyagot, addig, amíg az részegység vagy termék részeként távozik.

Palantir Foundry mint ellátásilánc-parancsközpont

Az NVIDIA ellátásilánc-műveleti csapata a Palantirral közösen hozta létre a Digital Supply Chain Intelligence nevű parancsközpontot. A cél az volt, hogy egy helyen jelenjenek meg azok a kockázatok, akadályok és egyéb jelek, amelyek befolyásolják az anyagallokációs döntéseket, de korábban széttagolt adatforrásokban maradhattak.

A Palantir Foundry adja az operatív környezetet. A forrás szerint az Ontology nevű réteg anyagokat, gyártóhelyeket, vállalásokat, kapacitásokat, allokációkat, termelési kimeneteket és strukturálatlan, minőségi jeleket kapcsol össze egy irányított adatrétegben. Ez objektumokra és kapcsolatokra épül, és az NVIDIA szerint teljesebb képet ad a működési valóságról, mint a különálló táblázatok.

Erre építve a tervezők különböző forgatókönyveket szimulálhatnak és elemezhetnek. A vállalat célja, hogy az új döntésekből és azok eredményeiből visszacsatolás jöjjön létre, amely később javíthatja a rendszert és újrahasznosíthatóvá teszi a felhalmozott intézményi tudást.

cuOpt számolja ki a heti allokációt, de nem lát mindent

Az anyagok gyártóhelyek közötti elosztása az NVIDIA leírása szerint először kvantitatív optimalizálási feladat. A kérdés az, hogy a korlátozottan elérhető anyagokból mennyi kerüljön melyik gyártóhelyre és mikor. A modell figyelembe veszi, mely gyártók képesek egy adott Blackwell részegység gyártására, mekkora kapacitást tudnak befogadni, valamint azt is, hogy egy számítási tálcát a legritkább szükséges bemenet blokkol, nem pedig az átlagos alkatrészhelyzet.

A heti allokációt az NVIDIA cuOpt oldja meg. A blog szerint a cuOpt egy nyílt forrású, GPU-gyorsított döntésoptimalizálási könyvtár, amely az Ontologyból kapja a bemeneteket, majd az eredményt allokációs döntésként írja vissza. A feladatot vegyes egészértékű lineáris programként fogalmazzák meg, a célfüggvény pedig a Time of Ownership minimalizálása.

A cuOpt nemcsak az allokációt adja vissza, hanem azt is jelzi, mely korlátok bizonyultak kötőnek. Így a tervező láthatja például, ha egy adott héten a tajvani kapacitás, és nem a memóriaellátás fogta vissza az eredményt. A gyors megoldás miatt a tervezők alternatívákat is vizsgálhatnak, például mi történik tíz százalékkal kevesebb memóriával az adott időszakban, vagy hogyan változik a helyzet, ha új gyártóhely kapcsolódik be.

Az NVIDIA és a Palantir ugyanakkor történeti döntéseket vetett össze a tényleges kimenetekkel, és azt találta, hogy az emberi tervezők következetesen jobban teljesítettek a kvantitatív modellnél. A forrás szerint ennek oka az volt, hogy a szakértők olyan információkat is használtak, amelyeket a solver nem látott: partneri e-maileket, időjárás-előrejelzéseket, geopolitikai eseményeket, beszállítói egyeztetések átiratait és több év tapasztalatát.

Nemotron modell tanulta meg a szakértői döntések logikáját

Az NVIDIA és a Palantir ezért olyan munkafolyamatot épített, amely rögzíti az allokációs döntést, annak indoklását, a várt eredményt és a tényleges kimenetet. A forrás megfogalmazása szerint az intézményi tudás így áttekinthető döntési logikává válik, amely az Ontologyban él, és alapot adhat egy nagy nyelvi modell szakértői ítéletre való tanításához.

Az NVIDIA a bejegyzés szerint nyílt súlyú LLM-et utótanított, hogy hasonló érvelést alkalmazzon és ajánlást adjon. A Nemotron nyílt modellek értékelése után a vállalat a Nemotron 3.5 Lightning modellt választotta. A közölt összefoglaló szerint a poszttréning a rögzített allokációs döntésekre, indoklásokra és eredményekre épült, a NeMo Anonymizer, a Data Designer és az AutoModel használatával, egy irányított Palantir Autopilot életcikluson belül.

Az NVIDIA állítása szerint a specializált 30B modell 86,7 százalékos allokációs döntési pontosságot ért el a fejlesztési benchmarkon. Ez 31,2 százalékponttal haladta meg a nagyobb Nemotron 3 Ultra eredményét, és 69,2 ponttal a saját alapmodelljét.

A rendszerben az elfogadott, szerkesztett és felülbírált ajánlások visszakerülnek az Ontologyba. A vállalat szerint ez későbbi, irányított újratanítási futásokat tehet lehetővé, amelyek tovább építik az intézményi tudást és rövidíthetik a betanulást.

Mit jelent ez a felhasználóknak és a piacnak?

A bejelentés közvetlenül nem fogyasztói termékindításról szól, hanem arról, hogyan próbálja az NVIDIA csökkenteni a time-to-rack időt a saját, rendkívül összetett gyártási láncában. A forrás alapján a megközelítés lényege, hogy a matematikai optimalizálás és az emberi szakértői tudás egy irányított adatrétegben találkozik.

Ez a piac számára azért lényeges, mert az AI-infrastruktúra építése nemcsak chipeken múlik, hanem azon is, hogy CPU-k, GPU-k, memóriák, részegységek, gyártóhelyek és kapacitások megfelelő időben álljanak össze. Az NVIDIA példája azt mutatja, hogy a vállalat a beszállítói döntéshozatalban is agentikus és generatív AI-eszközöket használ, miközben a végső cél a szűk keresztmetszetek gyorsabb felismerése és a döntések mögötti tudás megőrzése.