A mesterséges intelligencia egyre inkább a helyi hardverre költözik: az IFA 2026-on az NVIDIA, a Microsoft és partnereik olyan eszközöket és optimalizációkat jelentettek be, amelyek a lokális AI-inferenciát gyorsabbá, egyszerűbbé és hozzáférhetőbbé teszik. Kompakt RTX Spark Windows PC-k érkeznek októberben, miközben az inferencia teljesítménye akár 1,9-szeres sebességre nőtt, és egy teljesen új, ingyenes hálózati eszköz – a NVIDIA PAIR – teszi lehetővé, hogy az otthoni gépek együtt dolgozzanak a helyi AI-feladatokon.
RTX Spark Windows PC-k és kibővülő modellkínálat
Az NVIDIA megerősítette, hogy az RTX Spark chip alapú kompakt Windows asztali számítógépek októberben kerülnek piacra, méghozzá Lenovo és Acer gyártmányban. Az eszközök AI-rajongóknak, fejlesztőknek és alkotóknak szólnak, akik helyi, biztonságos környezetben szeretnének nagyteljesítményű ügynökalapú (agentic) munkafolyamatokat futtatni. A gaming hardverek terén is egyre erősebb az AI-integráció, és az RTX Spark platform játékipari támogatása is bővül: az Electronic Arts, az Embark és az Ubisoft is bejelentette, hogy AAA-játékaikat az RTX Spark rendszerre optimalizálják.
A modellkínálat az elmúlt hónapban is jelentősen bővült. A legfontosabb újdonságok:
- Nemotron 3.5 Lightning – 30 milliárd paraméteres modell, futtatható RTX PC-ken, RTX PRO munkaállomásokon, DGX Sparkon és Jetsonen.
- Z.ai GLM-5.3-Flash – multimodális mixture-of-experts (MoE) modell, DGX Station célplatformmal.
- Qwen3.8-Flash-Next és Qwen3.8-27B – nyílt súlyú MoE és 27 milliárd paraméteres modellek, helyi agentic és kódolási feladatokra optimalizálva NVIDIA GPU-kon.
- LTX 2.5 – nyílt videógenerációs modell RTX GPU-kra, DGX Sparkra és DGX Stationre optimalizálva, NVFP4, FastVideo és ComfyUI támogatással.
- MiniMax-H3 és FastH3 – szinkronizált hangot is generáló, nyílt súlyú videómodell, a FastH3 desztillált változat 7-szeres teljesítménynövekedést hoz.
- Meta Muse Glimmer – 30 milliárd paraméteres, kódolásra és agentic feladatokra szánt nyílt modell GeForce RTX PC-kre, DGX Sparkra, DGX Stationre és Jetsonen.
- DeepSeek v4 Flash – 284 milliárd paraméteres MoE modell, 13 milliárd aktív paraméterrel, 2x DGX Spark klaszteren vagy DGX Stationön futtatható.
Egyszerűbb lokális AI-ügynök-indítás: Hermes, OpenClaw és Perplexity
A helyi AI-ügynökök beállítása eddig sok manuális munkát igényelt: modellválasztás, inferencia-szerver konfigurálása, kvantálási beállítások. Ez a súrlódás most szűnőben van. Három széles körben használt ügynökalkalmazás kap egyszerűsített helyi modellbeállítást Windows rendszeren, mindhárom a llama.cpp alapjaira épül, és tartalmazza az NVIDIA legújabb inferencia-optimalizációit.
- Perplexity Portable Computer: Eddig Linuxon (például NVIDIA DGX Sparkon) volt elérhető, legalább 24 GB VRAM szükséges hozzá. Windows-támogatás hamarosan érkezik. A felhasználó helyben futtathat teljes munkafolyamatokat kreditfelhasználás nélkül, és csak akkor delegál feladatot a felhőbe (15+ frontier modell közül választva), ha arra explicit engedélyt kap. Tipikus felhasználási területek: GitHub PR-ok szortírozása, befektetési kimutatások elemzése, konverziós tölcsér auditálása.
- Hermes Agent (Nous Research): Milliókat kiszolgáló általános célú ügynök, amely modell- és szolgáltatófüggetlen. Windows rendszeren egy kattintással beállítható a helyi modell: az alkalmazás automatikusan felismeri az NVIDIA GPU-t, kiválaszt egy megfelelő modellt, és az integrált llama.cpp-n keresztül futtatja. Linux-támogatás hamarosan érkezik. A Hermes feladatok között megőrzi a kontextust, munkamenetek között tárol információt, és idővel újrafelhasználható készségeket épít fel.
- OpenClaw: A GitHub legnagyobb AI-projektje, több mint 380 ezer csillaggal. Az NVIDIA, a Microsoft és az OpenClaw csapata együttműködve egyszerűsítette a Windows-os telepítési folyamatot. Az OpenClaw Windows App legalább 24 GB VRAM-mal rendelkező RTX GPU-n optimalizált helyi modellt állít be minimális kézi konfiguráció mellett.
NVIDIA lokális AI inferencia: 1,9x-es gyorsulás és a PAIR hálózati router
Az inferencia sebessége kulcsfontosságú a helyi ügynökök reszponzivitásához. Az NVIDIA a nyílt forráskódú llama.cpp és vLLM közösségekkel együttműködve jelentős teljesítménynövekedést ért el:
- llama.cpp: GeForce RTX 5090-en akár 1,9x nagyobb áteresztőképesség kernel-optimalizációknak, fejlettebb spekulatív dekódolásnak és gyorsabb prefill-nek köszönhetően.
- vLLM: RTX PRO 6000 Blackwell Workstation Edition esetén 1,2x, két DGX Spark klaszteren akár 1,4x gyorsulás. Az új XQA figyelmi kernelek (FlashInfer) és háttér-optimalizációk mindkét platformon javítják a teljesítményt.
Ezek a nyereségek közvetlenül elérhetők az llama.cpp és vLLM backendeken, illetve az LM Studio és Ollama alkalmazásokon keresztül is.
Az egyik legizgalmasabb bejelentés az NVIDIA PAIR (Personal AI Router): egy ingyenes, nyílt forráskódú szoftver, amely az otthoni hálózaton lévő több PC közösen hasznosítható GPU-kapacitását összefogja. Az Egyesült Államokban a háztartások több mint fele rendelkezik legalább két PC-vel, amelyek napközben többnyire tétlenül állnak. A PAIR automatikusan felismeri a hálózaton lévő kompatibilis gépeket, és az independens inferenciakéréseket ahhoz a rendszerhez irányítja, amelyiknek van szabad kapacitása. Az eszköz Ollama-val és LM Studio-val is együttműködik, és alkalmazkodik a dinamikusan változó hálózati összetételhez.
Így például a Hermes Agent képes egy komplex feladatot – mondjuk a beérkező levelek szortírozását és priorizálását – több részfeladatra bontani, ezeket párhuzamosan futtatni különböző ügynökökön, miközben a PAIR elosztja a terhelést a hálózati gépek között, és a főgépen közben zavartalanul játszhat vagy alkothat a felhasználó. A kompakt AI-képes mini PC-k világa az IFA 2026-on egyébként is nagy figyelmet kapott.
A NVIDIA PAIR béta verzió Windows, macOS és Linux rendszeren egyaránt elérhető, grafikus és terminálfelületen keresztül. Kompatibilis hardverek:
- NVIDIA GeForce RTX 20-as sorozat és újabb
- NVIDIA RTX PRO munkaállomás GPU-k (Turing architektúra és újabb)
- NVIDIA DGX Spark
- Apple M4 vagy újabb szilícium
Az IFA 2026-on az Intel is bemutatta saját AI-infrastruktúra-vízióját, így az év második felére egyértelműen a helyi és elosztott AI-számítástechnika vált a technológiai ipar egyik legfőbb frontjává.
Gyakori kérdések
Mikor érkeznek az NVIDIA RTX Spark alapú Windows PC-k?
Az NVIDIA megerősítette, hogy az RTX Spark chipet tartalmazó kompakt Windows asztali számítógépek októberben kerülnek piacra Lenovo és Acer gyártmányban.
Mi az NVIDIA PAIR, és ki használhatja?
Az NVIDIA PAIR (Personal AI Router) egy ingyenes, nyílt forráskódú szoftver, amely az otthoni hálózaton lévő PC-k GPU-kapacitását összefogva osztja el a helyi AI-feladatokat. Elérhető Windows, macOS és Linux rendszeren, és kompatibilis a GeForce RTX 20-as sorozattól kezdődő NVIDIA GPU-kkal, RTX PRO munkaállomásokkal, DGX Sparkkal, valamint Apple M4 vagy újabb szilíciummal.
Mekkora gyorsulást hoz az új llama.cpp optimalizáció?
A legújabb llama.cpp kernel-optimalizációk GeForce RTX 5090-en akár 1,9x-es áteresztőképesség-növekedést érnek el. A vLLM két DGX Spark klaszteren akár 1,4x gyorsulást biztosít. Ezek az eredmények az LM Studio és az Ollama alkalmazásokon keresztül is elérhetők.
Milyen VRAM szükséges az OpenClaw és a Perplexity Portable Computer helyi futtatásához?
Mindkét alkalmazás legalább 24 GB VRAM-mal rendelkező NVIDIA RTX GPU-t igényel a helyi modell futtatásához. A Perplexity Portable Computer jelenleg Linuxon érhető el, Windows-támogatás hamarosan érkezik; az OpenClaw Windows App már most elérhető.
Forrás: NVIDIA Blog
