Egy forró augusztusi este a californiai Santa Clarában a Silicon Valley Power áramszolgáltató jelzést küldött egy AI-adatközpontnak, hogy csökkentse energiafogyasztását. Néhány percen belül – emberi beavatkozás nélkül – a létesítmény teljesítményfelvétele négy megawattról háromra esett vissza, miközben az összes kiemelt prioritású AI-munkaterhelés tovább futott zavartalanul. Ez nem jövőkép: ez az NVIDIA DSX platform éles termelési körülmények közötti bizonyítéka, és a technológia messze nagyobb szabású változást vetít előre az AI-gyárak energiagazdálkodásában.
Megawattokból tokenek – az NVIDIA DSX AI gyár hatékonysági platform
Az NVIDIA az AI Infra Summit rendezvényen tette közzé a DSX platform eddigi legfontosabb eredményeit. Ian Buck, az NVIDIA alelnöke (hyperscale és nagy teljesítményű számítástechnika) az infrastruktúra-kulcselőadás középpontjába az AI-gyárak hatékonyságát állította. Az ugyanazon a napon publikált, Lambda felhőszolgáltatótól származó validációs eredmények konkrét számokkal támasztják alá az ígéreteket.
A Lambda – amely több mint 10 000 ügyfelet, AI-natív startupoktól hiperszkeláris vállalatokig lát el GPU-felhőszolgáltatással – egy ötállványos, 19 csomópontos klaszteren futtatta a DSX MaxLPS szoftvert NVIDIA HGX B200 GPU-szervereken. Az eredmény: ugyanolyan teljesítményköltségvetésen belül, amelyre korábban 16 csomópont működött, most 19 csomópont futott – és az egész klaszter token-átbocsátása 24%-kal nőtt, nagyjából másodpercenként 4 millió tokenről 5 millióra. A teljesítmény/watt mutató 23%-kal javult.
„A proof of concept alapján úgy véljük, túllépünk a rögzített teljesítménykeretek korlátain” – mondta Dave Ward, a Lambda felhőszolgáltatások elnöke. „Az NVIDIA DSX MaxLPS megnyitja az utat az elszalasztott kapacitás visszaszerzéséhez és valódi felhasználássá alakításához, lényegesen nagyobb számítási sűrűséggel ugyanakkora alapterületen.”
Az NVIDIA előrejelzései szerint a DSX MaxLPS a következő generációs Vera Rubin NVL72 AI-gyárakban – megfelelő telepítési körülmények között – akár 40%-kal több GPU-kapacitást tesz lehetővé ugyanolyan megawattos teljesítménykereten belül.
DSX platform: moduláris eszközkészlet az egész AI-gyárhoz
Az NVIDIA DSX-et 2025 májusán, a GTC Taipei konferencián mutatták be, és több egymást kiegészítő komponensből áll:
- DSX MaxLPS: Dinamikus teljesítmény-allokációs szoftver, amely valós időben figyeli a GPU- és állvány-szintű fogyasztást, és a munkaterhelés típusától függően újraosztja a rendelkezésre álló kapacitást. A tanítási és az inferencia-munkák eltérően fogyasztanak áramot; a MaxLPS mindkettőre optimalizálja az elosztást.
- DSX Flex: Fogadja a hálózati jelzéseket (terheléscsökkentés, keresleti igény, árazási események), és ezekre reagálva igazítja a munkaterhelések prioritásait – a kiemelt feladatok folytatódnak, az összfogyasztás csökken.
- DSX OS: Nyílt forráskódú, moduláris szoftver az AI-gyár életciklus-kezeléséhez, futásidejű konzisztenciájához, egészség-automatizálásához és rugalmasságához.
- DSX Sim: Szimulációs eszközök, amelyek lehetővé teszik az üzemeltetőknek, hogy a gyártervet a fizikai telepítés előtt modellezzék és validálják, még azelőtt azonosítva a szűk keresztmetszeteket, hogy a tőke lekötésre kerülne.
- DSX Reference Designs: Generációspecifikus, validált architektúrák, amelyek lefedik a számítást, a hálózatot, a tárolást és a létesítményeket, és az NVIDIA ökoszisztéma-partnereivel közösen tervezték őket.
A d-Matrix NVLink Fusion megoldáshoz hasonlóan a DSX is azt mutatja, hogy az NVIDIA egyre inkább a teljes AI-gyár szintjén gondolkodik, nem csupán az egyedi GPU-k teljesítményére fókuszál.
Éles bizonyíték: hálózati rugalmasság valódi termelési környezetben
A santa clarai történet középpontjában az NVIDIA saját Eos AI-gyára áll, amely az Emerald AI Conductor platformját futtatja résztvevőként a Silicon Valley Power Flexible Load Interconnect Program nevű programjában. Ez az első kereskedelmi villamosenergia-hálózati program, amelyet kifejezetten arra terveztek, hogy az AI-gyárakat szabályozható erőforrásként kezelje.
Az Emerald AI vezérigazgatója, Varun Sivaram és csapata San Franciscóból, Zoomon keresztül figyelték az eseményt, amikor a Silicon Valley Power kiadta a jelzést. A Conductor platform a jelzés beérkezésétől számított egy percen belül reagált: az alacsony prioritású munkákat lelassította vagy átütemezte, a kiemelt inferencia-feladatok zavartalanul folytatódtak, és a teljesítményfelvétel automatikusan csökkent négy megawattról háromra.
„Visszafojtott lélegzettel figyeltük” – mondta Sivaram. „Ez volt az első alkalom, hogy ezrek számú NVIDIA GPU-ra telepítettük.” Termékfejlesztési vezetője, Mansi Shah így fogalmazott: „Ez olyan, mintha egy SpaceX-rakéta indítását néznénk.” A Silicon Valley Power azóta több mint 200 keresleti jelzést küldött az AI-gyárnak – és minden egyes alkalommal sikeresen végrehajtódott az automatikus kiigazítás.
A DSX Flex első dedikált kereskedelmi telepítése a virginiai Manassas városában épülő létesítmény lesz: egy 96 megawattos Vera Rubin AI-gyár, amely az NVIDIA AI Factory Research Centerének részét képezi, és öt korábbi demonstráció tapasztalataira épít két kontinensen.
A következő réteg: 800 V DC tápellátási architektúra
A jelenlegi AI-gyárakban elérhető hatékonysági nyereségek azonnali megvalósíthatók, de az NVIDIA nem áll meg itt. A sűrűbb gyorsított számítástechnikai állványok tápellátásának korszerűsítésére az NVIDIA 800 V DC tápellátási architektúrát dolgozott ki, amelyet a DSX referencia-tervekbe is beépít. A hagyományos, alacsonyabb feszültségű megoldásoknál ez az architektúra csökkenti az átalakítási komplexitást, javítja a teljesítmény-elosztás hatékonyságát, és támogatja a sűrűbb állványokat.
Az energiahatékonyság kérdése az egész AI-infrastruktúrát áthatja. A lokális AI inferencia területén is hasonló irányban zajlik a fejlesztés: minél több hasznos munkát elvégezni egységnyi energiából. Jensen Huang, az NVIDIA alapítója és vezérigazgatója korábban így fogalmazott: „Egy egigawattos gyár soha nem lesz kétgigawattos gyár.” Éppen ezért a DSX az egész rendszer optimalizálására törekszik, nem csupán az egyes komponensekére.
Érdemes megjegyezni, hogy miközben az NVIDIA saját platformját erősíti, az AI-chip-piacon új kihívók is megjelennek, amelyek alternatív megközelítésekkel próbálnak teret nyerni az adatközponti AI-piacokon.
Gyakori kérdések
Mit jelent a 24%-os token-átbocsátás növekedés a gyakorlatban?
A Lambda felhőszolgáltató mérései szerint ugyanolyan teljesítményköltségvetésen belül, amelyre korábban 16 csomópont üzemelt, a DSX MaxLPS segítségével 19 csomópont futott – és a klaszter egészének másodpercenkénti token-kibocsátása nagyjából 4 millióról 5 millióra nőtt. Ez azt jelenti, hogy ugyanannyi elektromos áramból lényegesen több AI-számítás végezhető el.
Hogyan működik az automatikus hálózati terheléscsökkentés az AI-gyárban?
A DSX Flex (illetve a pilot esetében az Emerald AI Conductor) fogadja az áramszolgáltató által küldött jelzést, majd egy előre meghatározott munkaterhelés-hierarchia alapján cselekszik: az alacsony prioritású feladatokat lelassítja vagy átütemezi, míg a kiemelt inferencia-munkák zavartalanul futnak tovább. Az egész folyamat automatizált, emberi beavatkozás nélkül, jellemzően egy percen belül végrehajtódik.
Mikor és hol telepítik először kereskedelmi formában a DSX Flex-et?
Az első dedikált DSX Flex kereskedelmi telepítés a virginiai Manassas városában épülő létesítmény lesz: egy 96 megawattos Vera Rubin AI-gyár az NVIDIA AI Factory Research Centerének részeként.
Mi az NVIDIA 800 V DC architektúra célja?
A hagyományos alacsonyabb feszültségű tápellátási megoldásokhoz képest az 800 V DC architektúra csökkenti az átalakítási komplexitást, javítja a teljesítmény-elosztás hatékonyságát, és lehetővé teszi a sűrűbb gyorsított számítástechnikai állványok kiszolgálását. Az NVIDIA ezt az architektúrát beépíti a DSX referencia-tervekbe.
Forrás: NVIDIA Blog
