Uz poslužiteljske procesore temeljene na arhitekturama ZEN 6 i ZEN 6c, AMD je na događaju Advancing AI skinuo veo i s još jedne važne novosti, a to je Instinct MI455X, koji je ispao doista impresivan, nudi veću snagu nego ikad i obećava biti dovoljno konkurentan čak i u odnosu na Nvidijine akceleratore nove generacije.
Instinct MI455X nadmašuje Nvidijine nadolazeće modele Rubin i po kapacitetu memorije i po propusnosti memorije, a letvicu postavlja visoko i u sirovoj računalnoj snazi. Doduše, ne treba zaboraviti da će na kraju dana ionako biti važno koliki dio teorijske maksimalne računalne snage pojedini softveri mogu iskoristiti, odnosno koliko će biti dobro optimizirani – dakle, utakmica još nije ni izbliza odlučena.
Cijeli MI455X GPU može se smatrati izrazito masivnim čipom, koji koristi napredne tehnologije slaganja čipova u slojeve i pakiranja, a na raspolaganju može imati ukupno 320 milijardi tranzistora. Osnovu čipa čini ukupno osam Accelerator Complex Die (XCD) čipova, koji su po četiri smješteni na dva Fabric and Cache Die (FCD) čipa, i to složeni jedan na drugi tehnologijom Hybrid Bonding.
Na svaki od dva FCD čipa zatim se spaja po šest HBM4 memorijskih "sendviča" i dva I/O čipa – dakle ukupno je na raspolaganju 12 HBM memorijskih sendviča i četiri I/O čipa – a same FCD čipove povezuje TSMC-ova tehnologija CoWoS-L. XCD čipovi izrađuju se TSMC-ovom najmodernijom proizvodnom tehnologijom, procesom 2N klase od 2 nm, jer mnogo profitiraju od prednosti koje ona nudi, dok za FCD i I/O čipove primjena procesa N2 ne bi donijela toliku prednost koliko bi koštala više, pa se kod njih koristi TSMC-ova proizvodna tehnologija N3P.
Na XCD čipovima nalaze se računalni blokovi temeljeni na arhitekturi CDNA 5, koji se ovaj put zovu Work Group Processor umjesto Compute Unit. Građa XCD-a ostala je uglavnom slična prijašnjoj, kad je riječ o glavnom konceptu, no na vrlo mnogo područja uvedene su promjene koje pomažu učinkovitijem radu i postizanju veće računalne snage.
Iako je broj WGP-ova ostao isti, 256, kao što je bio broj CU blokova kod modela M355X, lavlji dio ubrzanja ipak dugujemo promjenama arhitekture CDNA 5, kojih ima napretek. WGP-ovi odsad rade u 32-wide, a ne u 64-wide načinu, što prema AMD-u smanjuje pritisak na registre, a istodobno se ubrzava i izvršavanje instrukcija, a arhitektura postaje fleksibilnija pa se bolje snalazi i s različitim veličinama Tensor Tile. Zanimljivo je da se na RDNA strani ta 32-wide građa primjenjuje od samog početka, kad je riječ o izvornoj veličini WaveFronta – dolaskom arhitekture CDNA 5 to će postati zadano i u segmentu AI akceleratora, barem unutar AMD-ove ponude.
Zahvaljujući promjenama, vršna računalna snaga mogla bi se udvostručiti u odnosu na razinu koju predstavlja CDNA 4, a mjestimice čak i učetverostručiti – potonje se može dogoditi uglavnom kod formata OCP MXFP4 niže preciznosti. To znači da je kod modela MI355X računalna snaga u načinu OCP MXFP4 iznosila 10 PetaFLOP/s, dok kod MI455X može iznositi čak 40,26 PFLOP/s, a kod ostalih formata uglavnom dolazi do udvostručenja. MI455X će većinom nadmašiti i računalnu snagu nadolazećeg Nvidijinog GPU-a Rubin.
GPU modela MI455X dobio je potpuno preoblikovan podsustav predmemorije, u kojem više nema Infinity Cachea velikog kapaciteta, a njegovo je mjesto preuzeo L2 Cache manjeg kapaciteta, ali veće propusnosti. Ukupni kapacitet L2 Cachea iznosi 192 MB, odnosno na svakom FCD-u nalazi se 96 MB L2 Cachea, dok je kod modela MI355X temeljenog na CDNA 4 uz 32 MB L2 Cachea bilo spojeno 256 MB Infinity Cachea. Prema AMD-u, nova građa donosi da na pojedini FCD otpada jedan i pol put veća propusnost nego kod CDNA 4, gdje je teret nosio Infinity Cache, to jest u odnosu na MI355X model MI455X može iskoristiti tri puta veću propusnost kad je riječ o L2 Cacheu. Predmemorije su se promijenile i kod WGP-ova, i po kapacitetu, i po brzini, i po fleksibilnosti, što pridonosi znatnom povećanju brzine u odnosu na arhitekturu CDNA 4.
Važna novost kod CDNA 5 je nova verzija Tensor Data Movera, koja pomaže da sustav brzo i učinkovito premješta podatke iz DRAM-a u domenu WGP-ova, pritom ne opterećujući procesom GPU-ove WGP motore. Nova verzija podatke iz DRAM-a može premještati izravno u WGP-ovu LDS predmemoriju, bez korištenja međurazina predmemorije, čime se ubrzava pravodobna dostupnost podataka.
Novi AI akcelerator sada koristi ugrađenu memoriju standarda HBM4, i to u obliku ukupno 12 memorijskih sendviča, zahvaljujući kojima je dostupno najviše 432 GB ugrađene memorije, dok propusnost memorije iznosi 23,3 TB/s. To je golema prednost u odnosu na Nvidijin Rubin, jer potonji "samo" raspolaže s 288 GB ugrađene memorije, također na temelju HBM4, a propusnost memorije iznosi mu 22 TB/s.
AMD-u golemu prednost donosi i to što s modelom MI455X može ponuditi i rackove opremljene sa 72 GPU-a, pa se zahvaljujući sustavu Helios, za koji se zanima sve više velikih igrača u industriji, a vodstvu AMD-a već su uspjeli sklopiti i veće poslove, može učinkovito nadmetati s Nvidijinim dizajnom NVL72. Iako teorijska maksimalna računalna snaga modela MI455X na papiru doista izgleda dobro, presudno će biti koliko će je pojedini softveri u praksi moći iskoristiti, jer će na kraju to odlučiti čiji je proizvod bolji. To se, naravno, može razlikovati i po vrsti zadatka, a softverska optimizacija svakako će mnogo značiti.
Kod rackova AMD je u prednosti, jer rack sa 72 GPU-a ukupno sadrži 31,1 TB ugrađene memorije HBM4, pa različiti radni procesi raspolažu s 50% više memorije nego kod Nvidijina rack-a Rubin NVL72, koji može imati "samo" 20,7 TB ugrađene memorije. Na AMD-ovoj strani tu se ugrađenoj memoriji k tome može pristupiti kroz jednu koherentnu domenu, što kod zadataka zaključivanja može biti golema prednost.
Helios rackovi temeljeni na MI455X stižu doista impresivni, ali ne treba podcijeniti ni Nvidijine Rubin rackove NVL72. U drugoj polovici godine između AMD-a i Nvidije mogla bi započeti dosad najžešća utrka, kad budu počeli isporučivati rješenja nove generacije igračima u industriji. Tada će se otkriti i u kojim je zadacima čiji proizvod bolji.
