Az NVIDIA és a Microsoft kiterjeszti együttműködését az Azure felhős infrastruktúrájától az ipari rendszereken át a Windows PC-kig. A Microsoft Ignite rendezvényen a két cég bejelentette, hogy bővül az NVIDIA Vera Rubin NVL72 rendszerekre épülő Azure virtuális gépek elérhetősége, a Microsoft Foundryn pedig nyílt modellek és testreszabási lehetőségek érkeznek az ügyfelekhez.
Vera Rubin NVL72 az Azure adatközpontjaiban
Az NVIDIA Vera Rubin NVL72 rendszerek már futnak az Azure adatközpontjaiban. Az infrastruktúrát igényes következtetési (reasoning) feladatokra, ágens-alapú alkalmazásokra, valamint nagyléptékű modellbetanításra és -futtatásra szánják.
A két vállalat a bizalmas számítási környezetet (confidential computing) is kiterjeszti a bare-metal és rack-szintű AI-infrastruktúrára. Ez segít megvédeni az érzékeny modelleket és adatokat feldolgozás közben, ami fontos a védett vagy szabályozott információkkal dolgozó szervezeteknek. Az NVIDIA Confidential Computing és az attesztáció lehetővé teszi, hogy az ügyfelek ellenőrizzék a környezetet, mielőtt érzékeny modelleket, adatokat vagy kulcsokat adnak át.
Az energiahatékonyságon az NVIDIA MaxLPS segítségével dolgoznak közösen, hogy az adatközpontok a rendelkezésre álló teljesítményből több munkát nyerjenek ki.
MLPerf-eredmények
- MLPerf Training v6.1: az Azure 10 240 NVIDIA GPU-ig skálázott GB200 NVL72 rendszerekkel a DeepSeek-V3 modellen, ez volt a legnagyobb méret a körben.
- MLPerf Inference v6.1: az Azure GB300 NVL72 rendszerei a Signal65 szerint több mint 10%-kal vezették a felhős beadásokat a DeepSeek-R1 interaktív átviteli teljesítményében.
Nyílt modellek testreszabása a Foundryban
A Microsoft szerver nélküli Programmed Training szolgáltatása a betanítás utáni munkafolyamatok feletti kontrollt adja a fejlesztőknek, az infrastruktúrát a Foundry kezeli. A Foundry Managed Compute pedig támogatja az egyedi modellsúlyok telepítését.
Az EY a Programmed Training segítségével igazította az NVIDIA Nemotron nyílt modelljeit vállalati beszerzési rekordok osztályozására. A saját kiértékelő adathalmazán 55%-kal javult a pontosság, a költség pedig 15-ször alacsonyabb lett a zárt, élvonalbeli modellekhez képest.
A Foundry Managed Compute-on bővülő Nemotron 3.5 választék:
- Nemotron 3.5 Super: hosszan futó ágensekhez kódolásban, kutatásban és üzleti folyamatokban.
- Lightning: gyors válaszokat és eszközhasználatot igénylő alkalmazásokhoz.
- Embed és Rerank: releváns információ keresése.
- Parse: strukturált adatok kinyerése dokumentumokból.
- Content Safety: káros tartalom felismerése.
A nagy átviteli sebességű, alacsony késleltetésű Nemotron 3.5 Bolt és a beszédfelismerő Transcribe hamarosan érkezik.
AI az adatok közelében és a Windows PC-ken
A Foundry Local bővülő Nemotron 3.5 támogatása az Azure Local környezetekbe hozza a következtetési, kódolási és eszközhasználó ágensek képességeit. Az Azure Local a hardverpartnerektől származó NVIDIA RTX PRO 6000 Blackwell GPU-kat is támogatni fogja, valamint kiterjed a Jetson Thor és Jetson Orin éleszközökre gépi látás, robotika és autonóm működés céljából. Az NVIDIA fizikai AI modelljei, köztük a Cosmos, szintén megjelennek a Foundry Localban.
Az Ignite-on az NVIDIA RTX Spark hajtotta Windows PC-ken helyi nyelvimodell-élményeket mutatnak be. Erről bővebben itt olvashat: NVIDIA RTX Spark és DGX Station: AI a Windows PC-ken.
A GPU-gyorsított Windows 365 Cloud PC-k megkapják a Direct Stream képességeket: legfeljebb két 4K, 60 fps-es folyam alacsony késleltetéssel, nehéz hálózaton is. Korlátozott előzetesre lehet jelentkezni, a nyilvános előzetes 2027 elejére várható.
Tudományos AI és a Microsoft saját szolgáltatásai
Az NVIDIA BioNeMo Agent Toolkit és ALCHEMI Toolkit bekerül a Microsoft Discovery katalógusba az élettudományi, gyógyszerkutatási, anyag- és vegyészeti modellekkel. Az első integráció az RFD4-Proteina modellt használja, amelyet a University of Washington Institute for Protein Design intézetével közösen fejlesztettek, fehérjeszerkezetek és aminosav-szekvenciák generálására.
A Microsoft saját fejlesztéseiben is NVIDIA technológiát használ: a Microsoft AI az NVIDIA Dynamót alkalmazza a megerősítéses tanulás rollout-következtetéséhez a betanítás utáni fázisban, a Bing keresési modelljei pedig NVIDIA RTX PRO 6000 Blackwell GPU-kat használnak.
Gyakori kérdések
Mi fut már az Azure-ban a Vera Rubin rendszerekből?
Az NVIDIA Vera Rubin NVL72 rendszerek már működnek az Azure adatközpontjaiban, a virtuálisgép-elérés pedig bővül.
Mikor lesz elérhető a Direct Stream a Windows 365 Cloud PC-khez?
Korlátozott előzetesre már lehet jelentkezni, a nyilvános előzetest 2027 elejére tervezik.
Mit ért el az EY a Nemotron modellekkel?
Beszerzési rekordok osztályozásában 55%-os pontosságjavulást és 15-ször alacsonyabb költséget ért el a zárt modellekhez képest.
Forrás: NVIDIA Blog













