Az NVIDIA gyorsabb helyi AI-t és RTX Spark Windows PC-ket jelentett be az IFA 2026-on

Egyszerűbb helyi ügynökbeállítás Windows alatt

Az NVIDIA szerint a helyi AI-ügynökök elindítása eddig több kézi lépést igényelt: modellt kellett választani, kompatibilis inferenciaszervert keresni, kvantálási beállításokat hangolni és a rendszert naprakészen tartani. A cég bejelentése alapján ez a folyamat egyszerűsödik RTX és DGX rendszereken.

Három széles körben használt ügynökalkalmazás kap egyszerűsített helyi modellbeállítást Windowson: a Hermes Agent, az OpenClaw és a Perplexity Portable Computer. Mindhárom megoldás a llama.cpp-re épít, és az NVIDIA legújabb inferenciaoptimalizációit használja.

A Perplexity Portable Computer korábban Linux rendszereken, például NVIDIA DGX Sparkon adott egyszerű módot a Perplexity helyi futtatására. A forrás szerint a megoldás NVIDIA RTX GPU-kon érhető el Linux alatt, legalább 24 GB VRAM-mal, a Windows-támogatás pedig hamarosan érkezik. A felhasználók teljes munkafolyamatokat futtathatnak helyben kreditek felhasználása nélkül, és szükség esetén a feladat egyes részeit több mint 15 felhőben futó frontier modellre emelhetik át. A Portable Computer engedélyt kér, mielőtt tartalmat küldene a felhőbe.

A Nous Research által fejlesztett Hermes Agent általános célú ügynök, amely az NVIDIA közlése szerint milliók által használt eszköz. Windowson egykattintásos helyi modellbeállítást kap RTX és DGX rendszereken: az alkalmazás automatikusan felismeri az NVIDIA GPU-t, kiválaszt egy megfelelő modellt és konfigurációt, majd az integrált llama.cpp-n keresztül futtatja azt az NVIDIA optimalizációival. Linux-támogatás hamarosan érkezik.

Az OpenClaw esetében az NVIDIA, a Microsoft és az OpenClaw azon dolgozott, hogy Windowson egyszerűbb legyen egy optimalizált helyi modell beállítása. Az OpenClaw Windows App bármely, legalább 24 GB VRAM-mal rendelkező RTX GPU-n egyszerűsíti ezt a folyamatot. A forrás szerint az OpenClaw a GitHub legnagyobb AI-projektje, több mint 380 ezer csillaggal.

Gyorsabb inferencia llama.cpp és vLLM alatt

Az NVIDIA közlése szerint az inferenciateljesítmény kulcsfontosságú ahhoz, hogy a helyben futó ügynökök gyorsan reagáljanak. A cég tovább dolgozik a nyílt forrású llama.cpp és vLLM közösségekkel az ügynökszerű munkaterhelések gyorsításán helyi NVIDIA platformokon.

A llama.cpp a bejelentés szerint akár 1,9-szer nagyobb áteresztőképességet ad GeForce RTX 5090-en kerneloptimalizációkkal, továbbfejlesztett spekulatív dekódolással és gyorsabb prefill lépéssel. A vLLM RTX PRO 6000 Blackwell Workstation Edition rendszeren 1,2-szeres, két DGX Spark klaszteren pedig akár 1,4-szeres gyorsulást kínál. Az NVIDIA szerint az új XQA attention kernelek a FlashInferben, valamint a háttérrendszer-optimalizációk gyorsítják az inferenciát mindkét platformon.

Ezek a javulások közvetlenül a llama.cpp és vLLM inferencia-háttérrendszerekben érhetők el. A felhasználók az LM Studio és az Ollama alkalmazásokon keresztül is használhatják őket.

PAIR: helyi hálózaton osztja szét az AI-feladatokat

Az NVIDIA bemutatta a NVIDIA PAIR, teljes nevén Personal AI Router nevű eszközt is. Ez egy ingyenes, nyílt forrású szoftver, amely a felhasználó helyi hálózatán lévő gépek között osztja szét az AI-inferenciafeladatokat.

A forrás szerint az amerikai háztartások több mint felében két vagy több PC található, és ezek számítási kapacitásának jelentős része napközben kihasználatlan. A PAIR automatikusan felismeri a kompatibilis PC-ket a helyi hálózaton, majd a független inferenciakéréseket arra a rendszerre irányítja, amelynek van szabad kapacitása. Az eszköz Ollamával és LM Studióval működik, és képes alkalmazkodni ahhoz, ha eszközök csatlakoznak a hálózathoz vagy lekapcsolódnak róla.

Az NVIDIA példája szerint egy felhasználó megkérheti a Hermest egy „Sunday Reset” terv elkészítésére, amely átnézi a zsúfolt beérkező leveleket, és rangsorolja, mi igényel azonnali figyelmet, mi várhat, és mi hagyható figyelmen kívül. A Hermes több alügynökre bonthatja a munkát, a PAIR pedig eloszthatja ezeket a feladatokat az elérhető PC-k között, ahelyett hogy minden egyetlen GPU-ra várna.

A NVIDIA PAIR béta Windows, macOS és Linux alatt érhető el grafikus és terminálos felületen. A támogatott hardverek között szerepelnek a NVIDIA GeForce RTX 20 Series és újabb GPU-k, a NVIDIA RTX PRO munkaállomás-GPU-k Turing architektúrától, a NVIDIA DGX Spark, valamint az Apple M4 vagy újabb silicon.

RTX Spark Windows PC-k és új helyi modellek

Az NVIDIA közölte, hogy októberben új, kompakt NVIDIA RTX Spark Windows PC-k érkeznek a Lenovótól és az Acertől. A vállalat szerint ezek az AI-rajongóknak, fejlesztőknek és alkotóknak adnak több lehetőséget arra, hogy helyben és biztonságosan futtassanak képességes ügynököket. A játékos oldalról az Electronic Arts, az Embark és a Ubisoft is a legújabb kiadók és fejlesztők között van, amelyek nagy címeiket elhozzák NVIDIA RTX Sparkra.

Az NVIDIA azt is jelezte, hogy augusztus sűrű hónap volt a helyi AI szempontjából. Megjelent a Nemotron 3.5 Lightning, egy 30 milliárd paraméteres modell, amely NVIDIA RTX PC-ken, RTX PRO munkaállomásokon, DGX Sparkon és Jetsonon is futtatható. A Z.ai GLM-5.3-Flash modellje multimodális mixture-of-experts, vagyis MoE modell, amely agentikus AI-t hoz DGX Stationre.

A Qwen kiadta a Qwen3.8-Flash-Next nyílt súlyú, multimodális MoE modellt, amely helyben futtatható DGX Sparkon és DGX Stationön, valamint a Qwen3.8-27B-t, egy 27 milliárd paraméteres nyílt modellt, amelyet helyi agentikus és kódolási munkaterhelésekre optimalizáltak NVIDIA GPU-kon. Az LTX 2.5 nyílt világú videógeneráló modell NVIDIA RTX GPU-kra, DGX Sparkra és DGX Stationre optimalizált, új NVFP4, FastVideo és ComfyUI fejlesztésekkel a gyorsabb és memóriahatékonyabb helyi generáláshoz.

A MiniMax-H3 nyílt súlyú videógeneráló modell szinkronizált hanggal, és ComfyUI-n keresztül futtatható helyben NVIDIA GPU-kon. A FastVideo az NVIDIA kutatóival együtt kiadta a FastH3-at, egy nyílt súlyú, négylépéses desztillált verziót, amely 7-szeres teljesítményjavulást hoz. Optimalizált FastVideo receptek NVIDIA RTX GPU-khoz és DGX Sparkhoz hamarosan érkeznek. A Meta Muse Glimmer 30 milliárd paraméteres nyílt súlyú modell kódolási és agentikus munkaterhelésekhez, amely helyben futtatható GeForce RTX PC-ken, DGX Sparkon, DGX Stationön és Jetsonon. A DeepSeek v4 Flash 284 milliárd paraméteres MoE modell, 13 milliárd aktív paraméterrel, és 2x DGX Spark klaszteren, illetve DGX Stationön futtatható helyben.

Mit jelent ez a felhasználóknak és a helyi AI piacának

A bejelentés fő iránya, hogy az NVIDIA a helyi AI-t kevésbé kézi beállításokra épülő, könnyebben használható PC-s és munkaállomásos élménnyé tenné. A Hermes Agent, az OpenClaw és a Perplexity Portable Computer esetében a cél a helyi modellek gyorsabb beüzemelése Windowson, miközben bizonyos munkafolyamatok érzékeny adatai a felhasználó gépén maradhatnak.

A gyorsabb llama.cpp és vLLM háttérrendszerek azokra a felhasználókra hathatnak közvetlenül, akik LM Studiót, Ollamát vagy ezekre épülő helyi ügynököket futtatnak. A PAIR pedig azoknál lehet hasznos, akik több kompatibilis géppel rendelkeznek, mert az AI-munkát a helyi hálózaton lévő szabad kapacitásra irányíthatja.

Az RTX Spark Windows PC-k októberi érkezése, valamint a felsorolt nyílt súlyú és helyben futtatható modellek azt mutatják, hogy az NVIDIA a helyi inferenciát a fejlesztők, alkotók, AI-rajongók és egyes játékos felhasználási esetek felé is szélesíti.