Az AI-gyárak a megawattos nagyságrendből a gigawattosba nőnek, és az építésükhöz már nem elég a gyors számítási kapacitás. Az NVIDIA a San Joseban tartott Open Compute Project (OCP) Global Summiton bejelentette, hogy a Vera Rubin rack- és compute tray-terveit az MGX nyitott architektúrán keresztül átadja az OCP-nek. A cél egy közös alap a rendszergyártóknak a következő generációs AI-infrastruktúrához.
A bejelentések három szintet fednek le: magát az AI-gyárat, az áramellátást biztosító hálózatot és a rack-méretű architektúrát. Az NVIDIA a Vera Rubin és DSX köré épülő stratégiájában a nyitott szabványoktól a gyorsabb, hatékonyabb és megbízhatóbb telepítést várja.
Mit jelentettek be az OCP eseményen?
- Az NVIDIA és hyperscale partnerei nyitott szabványokat tettek közzé az AI-gyárak tervezéséhez és a hálózati ellenálláshoz.
- Az NVIDIA új nyílt forráskódú komponenseket indított a DSX AI Factoryhoz.
- A Meta és az NVIDIA a Spectrum-X Ethernet SuperNIC és a Spectrum-6 újításaival vitte előre a nyitott AI-hálózatokat.
- A Visionbay 800 V egyenáramú AI-gyártervet mutatott be a Vera Rubin-korszakra.
- Az NVIDIA és a Cisco bemutatta az Ultra-Dense Small Form Factor Pluggable (USFP) szabványt, az iparág első modulját 400 Gb/s-os hálózati fabricekhez.
- Az NVIDIA és a Google Falcon Transport támogatást jelentett be a jövőbeli ConnectX-10 SuperNIC-ekre és BlueField DPU-kra.
Ian Buck, az NVIDIA hyperscale és nagyteljesítményű számítástechnikai alelnöke szerint a nyitott infrastruktúra kulcsfontosságú az AI-gyárak világméretű skálázásához.
MGX 1.2: a Vera Rubin rackek nyitott alapja
Az NVIDIA a harmadik generációs MGX AI-adatközponti referenciaterv kidolgozásához az OCP Open DC Initiative keretében járult hozzá. A nyitott folyadékhűtési technológiákkal (MQD, MQDB) együtt ez a bevált terveket iparági szabvánnyá alakítja.
A frissített MGX 1.2 specifikáció a következőket hozza:
- rack-méretű, vakon csatlakoztatható (blind-mate) folyadékhűtés;
- együttműködő rack-szintű összeköttetések;
- folyadékhűtéses, 5000 A-es busbar a nagyobb teljesítményű rendszerekhez;
- natív 19 hüvelykes eszköztámogatás és sűrűbb rackek;
- konfigurálható I/O-bayek és ventilátor nélküli, folyadékhűtéses compute tray-ek;
- szabványos áram- és hűtési interfészek.
Az architektúra legfeljebb 250 kW-os rackeket támogat, és gyorsítja az összeszerelést, a tesztelést és a szervizelést.
Vera CPU rack az ágensalapú AI-hoz
A Vera CPU rack specifikáció az MGX-et a gyorsított számítástechnikán túlra is kiterjeszti. Míg a Vera Rubin NVL72 a nagy léptékű tanítást és inferenciát szolgálja, a CPU-rack az eszközhívást, az orkesztrációt és a sandboxolt futtatást célozza, hogy az AI-ágensek valós időben érjék el az alkalmazásokat és adatokat. A processzorról részletesebben a Vera CPU cikkünkben írtunk.
DSX OS: új nyílt forráskódú komponensek
A DSX AI Factory platform egyetlen rendszerként kezeli a számítást, hálózatot, áramellátást, hűtést, létesítményeket és szoftvert. Középpontjában a DSX OS áll, amelyet az NVIDIA négy nyílt komponenssel bővített:
- Config Manager: nagy léptékben automatizálja a switch-konfigurációkat, minimális vagy nulla kézi beavatkozással.
- Cluster Readiness Engine: valós terhelést szimulálva teszteli a GPU-klasztereket a tanítás előtt, hogy elkerülhetők legyenek a költséges összeomlások.
- Rack Management Service: hardvertrakciót nyújt, a rackeket önálló egységként kezelve a firmware-menedzsmenthez.
- Cluster API Provider for NVIDIA Infrastructure Controller: a bare-metal telepítést gyorsítja, napok helyett órák alatt készít éles klasztert.
A komponensek az NVIDIA DGX Cloud üzemeltetési tapasztalataiból születtek, és a DSX AI Factory GitHub-oldalán érhetők el.
Nyitott szabványok az adatközpontokhoz és a hálózathoz
Az NVIDIA az AMD-vel, a Google-lel és a Mettával közösen publikálta az Open Data Center Specification v0.7-et, amely az AI-gyárak létesítménytervezésének egységes tervrajza az áramellátástól a hűtésen át a fizikai elrendezésig. Az OCP Grid Resilience Specification (Google, Meta, Microsoft, NVIDIA) azt rögzíti, hogyan viselkedjen a nagy AI-infrastruktúra hálózati zavarnál: maradjon csatlakozva, reagáljon automatikusan, és két másodpercen belül álljon vissza közel teljes terhelésre.
A gyártók így nem kell, hogy egyedi ügyféli specifikációkra várjanak. A DSX referenciatervvel kompatibilis megoldások mindkét specifikációt validált módon valósítják meg.
Visionbay K-1: 800 V DC
A Visionbay K-1 nevű AI-gyárplatformja az NVIDIA 800 VDC referenciaarchitektúrájára épül, a Vertiv áram- és hűtéstechnológiáival. A növekvő rack-teljesítménysűrűség mellett az alacsony feszültségű elosztáshoz egyre több réz, kábel és átalakító kell. A K-1 fürtszintű teljesítményközpontokkal központosítja az AC–DC átalakítást, az 800 V egyenáramot pedig közelebb viszi a számítási erőforrásokhoz. Az 800 VDC fokozatosan vezethető be, ott, ahol a legtöbbet hozza, így nincs szükség teljes létesítmény-átalakításra.
Gyakori kérdések
Mi az MGX 1.2?
Az NVIDIA nyitott MGX architektúrájának frissített specifikációja a Vera Rubin AI-gyárakhoz. Folyadékhűtést, 5000 A-es busbart, 19 hüvelykes támogatást és legfeljebb 250 kW-os rackeket kínál.
Mit tud a Grid Resilience Specification?
Meghatározza, hogyan viselkedjen a nagy AI-infrastruktúra a hálózati zavarok alatt. Csatlakozva marad, automatikusan reagál, és két másodpercen belül közel teljes terhelésre áll vissza.
Hol érhetők el a DSX OS nyílt komponensei?
A fejlesztők a DSX AI Factory GitHub-oldalán fedezhetik fel és fejleszthetik tovább az új és a meglévő nyílt forráskódú elemeket.
Mi az USFP?
Az NVIDIA és a Cisco által bejelentett Ultra-Dense Small Form Factor Pluggable szabvány, amely az iparág első modulja 400 Gb/s-alapú hálózati fabricekhez.
Forrás: NVIDIA Blog
