U Nvidijinu taboru došlo je do promjena kod platforme Vera Rubin koje će utjecati na maksimalne performanse novih AI akceleratora, a u pogledu konkurentnosti predstavljaju i korak unatrag u odnosu na izvorne planove – na veliko zadovoljstvo AMD-a.
Prema službenoj tablici specifikacija, u posljednje je vrijeme izmijenjeno nekoliko stvari: HBM4 memorijski složaji rade na nižem taktu, a malo je smanjena i maksimalna propusnost veze NVLink. Te su promjene vjerojatno bile potrebne jer se s trenutačnom implementacijom izvorno planirane brzine nisu mogle održati, sustav nije bio dovoljno stabilan, a trpjela je i pouzdanost. Nove vrijednosti vraćaju red, ali se zauzvrat treba odreći dijela performansi.
Jedna od važnih promjena jest da se pri najavi platforme Vera Rubin za HBM4 memorijske složaje računalo s brzinom od 11,7 Gbps po pinu, a sada se računa samo s 9,6 Gbps. Kod NVL72 racka temeljenog na platformi Vera Rubin to u praksi znači da efektivna ukupna memorijska propusnost pada s planiranih 1580 TB/s na 1400 TB/s. To će svakako smanjiti maksimalne performanse dostupne u pojedinim zadacima, ali točan opseg mogli bi pokazati tek neovisni testovi, a stvarni učinak smanjenja propusnosti uvelike bi ovisio i o vrsti radnog opterećenja.
Sljedeća važna izmjena odnosi se na vezu NVLink, koja prema novim planovima po GPU-u može nuditi manju propusnost nego što se očekivalo. Izvorno se planirala propusnost od 18 TB/s, no ona je morala biti smanjena na 1,5 TB/s, zbog čega propusnost dvosmjerne veze od 3,6 TB/s pada na 3 TB/s. Smanjenje bi moglo služiti poboljšanju integriteta signala i stabilnosti veze, a u pozadini je smanjenje Nyquistova takta veze NVLink s 56 GHz na 47 GHz. Zbog nižeg takta manje je opterećenje na pojedinim komponentama, primjerice kabelima, SerDes komponentama i ostalim sastavnicama, što pomaže u povećanju učinkovitosti proizvodnje i stabilnosti rada. Žrtvovanjem dijela performansi u korist stabilnosti kupci u svakom slučaju dobro prolaze, jer je bolje da AI poslužitelj bude stabilan i pouzdan nego malo brži, ali povremeno nestabilan.
Što sve to znači u odnosu na konkurenciju? U osnovi to da bi AMD-ov rack Helios mogao djelovati još privlačnije, barem na papiru – točan odnos snaga pokazat će neovisni testovi. Sigurno je da AMD Instinct MI455X raspolaže znatno većom količinom memorije velike propusnosti od Nvidije Vera Rubin: AMD-ovo rješenje koristi 432 GB HBM4 memorije na čipu uz memorijsku propusnost od 23,3 TB/s, dok Vera Rubin raspolaže sa samo 288 GB memorije uz propusnost od 19,2 TB/s.
Kod racka sa 72 GPU-a to kod AMD-a daje 31 TB HBM4 memorije i ukupnu memorijsku propusnost od 1,67 PB/s, dok se Nvidijina platforma Vera Rubin može pohvaliti sa samo 20,7 TB memorije i 1,4 PB/s memorijske propusnosti. Budući da je smanjena i propusnost veze NVLink, AMD je u prednosti i na tom polju: uz UALoE po GPU-u dobiva se 3,6 TB/s dvosmjerne propusnosti, što daje 260 TB/s kombinirane propusnosti, dok je na Nvidijinoj strani na snazi samo 3 TB/s dvosmjerne propusnosti, pa je i kombinirana propusnost tek 216 TB/s.
Na temelju navedenog, AMD-ova platforma Helios u prednosti je pred Nvidijinom platformom Vera Rubin i po kapacitetu memorije, i po memorijskoj propusnosti, i po propusnosti međusobnog povezivanja. Hoće li prednost na papiru biti dovoljna u stvarnim uvjetima i koliko će kupaca na kraju biti privučeno platformi Helios? Odgovori na ta pitanja mogli bi stići kasnije.
