A Google a nyolcadik generációs TPU-család két új rendszerével bővült, és a bizalmas TPU-nak szánt TPU 8tx gazdaprocesszora nem a cég saját fejlesztésű Axion chipje, hanem az 5. generációs AMD Epyc, vagyis a „Turin”. A Google Cloud blogbejegyzése a kétchipes TPU 8i Max mellett mutatta be az újdonságot, az AMD pedig közölte: ez az első felhős TPU-rendszer hardveresen kikényszerített bizalmas számítással.
Mit tud a TPU 8tx?
A Google 2026 áprilisában a nyolcadik generációt a tanításra szánt TPU 8t-re és a következtetésre (inferencia) szánt TPU 8i-re bontotta. A cég szerint most először vezetett be egy éven belül négy TPU-rendszert. A ServeTheHome megjegyzése szerint viszont a két újdonság nem új lapka, hanem a meglévő chipekre épülő rendszerkonfiguráció.
A tajvani INSIDE beszámolója alapján a 8tx a 8t 12,6 petaflopsos FP4-teljesítményét és 216 GB HBM-memóriáját örökli. A különbség, hogy a 8i-nél használt, alacsonyabb késleltetésű Boardfly hálózatot kapja. A Google szerint a késleltetés akár kétszer alacsonyabb a TPU 8t-hez képest, közel nulla teljesítménybüntetéssel. A rendszert szabályozott iparágaknak és kormányzati ügyfeleknek szánják, akik privát adatokon szeretnének finomhangolni, desztillálni és ágenseket tanítani anélkül, hogy az adatot klaszterek között kellene mozgatniuk. A témáról korábban is írtunk: Google TPU 8tx: AMD EPYC Turin és bizalmas számítás.
Hogyan működik a védelem?
Az AMD szerint az Epyc végzi az orkesztrációt, az adat-előkészítést és a gyorsítók felé vezető nagy áteresztőképességű kapcsolatot. A Secure Encrypted Virtualization (SEV) a TPU-val együtt kiterjeszti a védett környezetet a gyorsítókra is. Minden gyorsító azonosságát és biztonsági konfigurációját ellenőrzi, mielőtt közvetlen hozzáférést adna a védett memóriához.
- a promptok, a modellsúlyok és a köztes adatok titkosítva maradnak a gazdamemóriában és átvitel közben is;
- a TPU futása alatt hardveres izoláció működik;
- a Google megfogalmazása szerint az érzékeny adatok és a modellsúlyok használat közben is védettek és elszigeteltek maradnak.
Miért nem az Axiont választotta a Google?
A Google közvetlenül nem indokolta, miért hagyta ki a 2024-ben bemutatott, Neoverse V2 alapú Axiont. A dokumentációja azonban árulkodó: a támogatott Confidential VM konfigurációk kizárólag AMD SEV- és Intel TDX-gépekre épülnek, Axion-alapú C4A vagy N4A példány nincs közöttük. A dokumentáció szerint TPU-t jelenleg egyáltalán nem lehet Confidential VM-hez csatolni.
Az AMD közleménye hozzáteszi, hogy a Google biztonsági szakértői mélyen átvizsgálták az AMD biztonsági processzorának firmware-ét. A SEV már most a Google Confidential VM-jeinek, a Confidential GKE-nek, a Confidential Space-nek, valamint a bizalmas Spark- és Dataflow-szolgáltatásoknak az alapja. A bizalmas számítás hitelességét az adja, hogy mennyi ideig próbálták feltörni, a Google auditált bizalmi lánca pedig egyelőre x86-on fut. Axion-alapú megoldás esetén új hardvert kellene minősíteni egy olyan termék előtt, amelynek éppen a bizalom az értékesítési érve.
Az sem az AMD legújabb szilíciumának győzelme: a ServeTheHome szerint a Turin a TPU 8t PCIe Gen5 x16 felületéhez illeszkedik, egy Gen6-os gazda, például a Venice pedig nem adna hozzá gyorsítósávszélességet. A döntést a Google 2027-es minősítési ütemtervéhez kötik. A Venice az AMD 2 nm-es zászlóshajója, a 8tx viszont a 2024 októberében indult processzorcsaládra épül. A Venice-ről lásd: AMD EPYC 9006 Venice: 256 mag és 5,3 GHz a startnál.
Mit jelent ez az AMD-nek és a piacnak?
Mark Lohmeyer, a Google Cloud AI- és számítási infrastruktúráért felelős vezetője elmondta, hogy válogatott ügyfelek a saját adatközpontjukban is üzembe helyezhetik a 8tx-et, írta a Data Center Knowledge. Az Oracle a közelmúltban jelezte, hogy TPU-kat kínál majd a felhőjében. Az INSIDE idézte Lohmeyert, aki szerint a technológia csökkenti annak kockázatát, hogy fizikai üzemeltetők hozzáférjenek az érzékeny adatokhoz, harmadik fél létesítményeiben is. Ha a TPU-k kikerülnek a Google saját telephelyeiről, a hardveres attesztáció teszi lehetővé, hogy a modell tulajdonosa idegen üzemeltetésű gépre tegye a súlyokat. Ezzel az AMD a Google telephelyen kívüli bizalmi ajánlatainak gyökerébe kerül. A TPU-k terjedéséről szól az OpenAI Google TPU vásárlás: távolodás az Nvidiától és a Repedezik az Nvidia trónja? című cikkünk is.
Egy augusztusi pletyka szerint a Google az AMD-vel dolgozhat egy v10-es generációs TPU-projekten, akár ugyanazon a tokozáson lévő CPU-magokkal. A SemiAnalysis ügyfélértesítőjét a Tom’s Hardware idézte. A 8tx ezt nem erősíti meg, mert az Epyc külön foglalatban ül, és november 9-én semmi nem utalt az AMD gyorsítótervezési szerepére. A lehetséges jövőbeli együttműködést viszont hihetőbbé teszi.
Az AMD árfolyama november 9-én 508,58 dolláron zárt, 13,26%-os emelkedéssel. A napi csúcs 515,18 dollár volt, a forgalom pedig több mint kétszerese az átlagosnak. Ezt nem lehet teljes egészében a bejelentésnek tulajdonítani: az Oppenheimer elemzője, Rick Schafer ugyanazon a napon Outperform besorolásra emelte az AMD-t 600 dolláros célárral, és a szerver- és adatközponti sikert „tagadhatatlannak” nevezte. A TPU 8tx egyik napról a másikra nem tesz az Epycből komoly TPU-üzletágat, és a Google sok biztonsági részletet nem publikált, így az állításokat érdemes lesz ellenőrizni, ha az ügyfelek már kipróbálhatják.
Gyakori kérdések
Mi az a TPU 8tx?
A TPU 8t lapkájára épülő rendszer, amely a 8i-nél használt Boardfly hálózatot kapja, és bizalmas AI-munkafolyamatokra készült. Gazdaprocesszora az 5. generációs AMD Epyc.
Miért nem Axion CPU-t használ a Google?
A Google ezt nem indokolta. A dokumentációja szerint azonban a Confidential VM konfigurációi csak AMD SEV- és Intel TDX-gépeken futnak, Axion-példányokon nem.
Használhatják az ügyfelek saját adatközpontban?
Igen, Mark Lohmeyer szerint válogatott ügyfelek a saját adatközpontjukban is üzembe helyezhetik a 8tx-et.
Miért nem a Venice a gazdaprocesszor?
A ServeTheHome szerint a TPU 8t PCIe Gen5 x16 felületet használ, így a Gen6-os gazda nem növelne gyorsítósávszélességet. A döntést a Google 2027-es minősítési ütemtervéhez is kötik.
Forrás: TechRadar













