A Marvell Photonic Fabric memóriamodulja kézzelfogható hardvert ad az AI-infrastruktúra egyik legmerészebb ötletének: rézvezeték helyett fénnyel kötné össze a processzorokat egy külön dobozban lévő, nagy kapacitású memóriával. A cég videót mutatott a modulról, amely szerinte az első optikai összeköttetésű, nagy kapacitású és nagy sávszélességű memória. A megoldás ugyanakkor egyelőre szilícium előtti fázisban van, az ügyfélmintákat 2027-re célozzák.
Mit tud a Photonic Fabric memóriamodul?
A felvétel az X-en jelent meg, korábban pedig egy theCUBE-interjúban is szerepelt, amelyet a Marvell október 6-i befektetői napja körül vettek fel. Az elképzelés lényege, hogy a memória külön egységben, akár több szekrénynyire a processzoroktól is elhelyezkedhet, és egyszerre sok processzor osztozhat rajta. Ez a gyakorlatban a közös memória széles körű elterjedését alapozhatná meg több AI-szerver között.
Fontos pontosítás, hogy a 32 TB nem egyetlen modulra vonatkozik. Azt a Photonic Fabric Memory Appliance adja, amely 16 modult fog össze, és a készletet legfeljebb 16 gazdagép használhatja. Ezek lehetnek teljes szerverek vagy különálló gyorsítók is.
- Egy modul 72 GB HBM3e memóriát, legfeljebb nyolc DDR5 DIMM-foglalatot, egy Photonic Fabric ASIC-et és 7,2 Tbps optikai I/O-t kapcsol össze (a Marvell 2026 augusztusi Hot Interconnects előadása szerint).
- A 2 TB modulonként akkor jön ki, ha mind a nyolc foglalatot 256 GB-os RDIMM-mel töltik fel.
- Tizenhat modul passzív, mindenki-mindenkivel optikai kapcsolással, elektromos switch nélkül 32 TB DDR5-öt és 1152 GB HBM3e-t ad.
- A HBM-et a Marvell nagyjából 1 TB-nak veszi, és gyorsabb, write-through gyorsítótárként használja a DRAM előtt.
Miért számít a KV-cache és a CAPEX?
A HBM nagyjából 1,5 milliméterre ül a processzortól, ugyanabban a tokozásban. Ezért több HBM-hez csak több processzor vásárlásával lehet jutni, ami nagyon drága. Dave Lazovsky szerint a GPU így lényegében „a világ legdrágább memóriavezérlője”.
A célzott feladat a KV-cache, vagyis az a munkamemória, amelyet egy nagy nyelvi modell beszélgetésenként tart fenn. Hosszú kontextusnál és ágens-alapú munkamenetekben ez erősen megnő. Ha kinövi a helyi HBM-et és a gazdagép DRAM-ját, a szerverek vagy eldobják és újraszámolják, vagy lassabb tárolóból töltik be. Ravi Mahatme, a Photonic Fabric egység termékmenedzsere szerint a közös szint legnagyobb haszna a node-ok közötti KV-cache: az egyik gyorsító újrahasznosíthatja a másik által már kiszámolt kontextust.
Will Chu, a Marvell egyedi felhőmegoldásokért felelős alelnöke szerint a memóriának az AI skálázódásával a számítástól függetlenebbül kell nőnie. Ha az üzemeltetők külön vehetnek memóriát, nem kell GPU-kat vásárolniuk pusztán a kapacitás miatt. A Marvell azonban egyelőre nem közölt számot a megtakarításra. A cég 2026. májusi blogja alacsonyabb gigabájtonkénti memóriaköltségről és olcsóbb inferenciáról beszél, számok nélkül.
Az időzítés sem ideális: a 128 DIMM-foglalat ugyanabból a DDR5-ből merítene, amelyet a jelenlegi memóriahiány sújt. A szerver-RDIMM-ek ára gyorsabban emelkedett a fogyasztói memóriákénál, az USA-ban a válság előtti ár kb. 5,5-szeresén állnak. Az architektúra egyébként nem teljesen új: a Celestial AI ugyanezt, 16 modullal, 32 TB DDR-rel és körülbelül 1 TB HBM-mel 2025 augusztusában mutatta be. Most a Marvell neve, egy fizikai modul és egy mintavételi dátum a újdonság.
Az Nvidia sem tétlenkedik
Az Nvidia 2026 márciusában 2 milliárd dollárt fektetett a Marvellbe, az NVLink Fusion és a szilícium-fotonika területén. Minden NVLink Fusion platformnak tartalmaznia kell legalább egy Nvidia-terméket, így a cég akkor is keres, ha egyedi szilícium nyeri a foglalatot. Közben saját válaszokat is épít ugyanarra a memóriaproblémára:
- egyetlen Vera Rubin NVL72 rack 54 TB LPDDR5X-et hordoz, többet, mint a Marvell teljes appliance-e;
- a BlueField-4 STX flash-alapú kontextusmemória-szint KV-cache-hez, amely a CPU-alapú tárolóhoz képest akár ötszörös tokenátviteli sebességet ígér, a partnerrendszerek 2026 második felében várhatók;
- az Nvidia a jelentések szerint 900 millió dollárnál is többet költött az Enfabricára, amelynek EMFASYS rendszere akár 18 TB memóriát poolozott GPU-fürtöknek;
- az optikában 4 milliárd dollárt fektetett a Lumentumba és a Coherentbe, és a Feynman-generációs, 2028-ra várt rendszereknél co-packaged optics lesz NVLink-opció.
Jensen Huang a réz és az optika közötti választásról azt mondta: „mindkettőt csináljuk”. A Marvellre még sok munka vár: működő szilícium, megnevezett ügyfél, memóriapartner és valódi hardveren mért teljesítmény. Addig az appliance egy jól érvelt tervrajz, a CAPEX-megtakarítás pedig érv, nem szám. Az AMD Helion rack mutatja, hogy a rack-szintű AI-versenyben más szereplők is komoly lépéseket tesznek.
Gyakori kérdések
Mikor érkezhet a Marvell optikai memóriamodulja?
A Marvell az ügyfélminták kiadását 2027-re célozza. A termék jelenleg szilícium előtti fázisban van.
Valóban 32 TB-os egyetlen modul?
Nem, egy modul legfeljebb 2 TB-ot kezel. A 32 TB a 16 modulból álló appliance együttes DDR5-kapacitása.
Milyen problémát old meg a közös memória?
A memória a GPU-któl függetlenül bővíthető lenne, így nem kell processzorokat venni pusztán kapacitásért. Emellett a KV-cache megosztható a gyorsítók között.
Hogyan reagál az Nvidia?
Befektetett a Marvellbe, emellett saját megoldásai vannak, például a BlueField-4 STX. Fejleszt továbbá optikai és memória-poolozó technológiákat is.
Forrás: TechRadar
