AMD je proteklih dana predstavio novi, specijalizirani AI akcelerator iz serije MI350, i to u obliku PCI Express proširenja dugog 10,5 inča i dvoslotne konstrukcije, koje može naći mjesto u rackovima klasičnih zračno hlađenih poslužitelja. Novi AI akcelerator može angažirati 128 aktivnih CU nizova, naravno temeljenih na arhitekturi CDNA4, a kao ugrađenu memoriju koristi 144 GB HBM3E memorijskih čipova složenih u slojeve, uz memorijsku propusnost od 4 TB/s.
Novi AI akcelerator dolazi s pasivnim hlađenjem, bez ventilatora, i ima TDP od 600 W, no po želji može raditi i s TDP-om od 450 W kako bi bio kompatibilan s još više zračno hlađenih poslužitelja. Dovoljnu količinu svježeg zraka u svakom slučaju osiguravaju sistemski ventilatori dotičnog racka; u pasivnom načinu proizvod se ne može koristiti.
Zahvaljujući 128 CU nizova na raspolaganju je ukupno 8192 jezgre, uz koje dolazi i 512 matričnih jezgri, dok maksimalni takt GPU-a doseže vrhunac na 2,2 GHz. GPU ima i 128 MB predmemorije posljednje razine (LLC), a ulogu ugrađene memorije preuzima spomenutih 144 GB HBM3E čipova. Do osam ovakvih AI akceleratora može stati u jedan sustav, uz podršku za MXFP4 i MXFP6, koji omogućuju učinkovito ubrzavanje raznih AI zadataka.
Prema AMD-u, MI350P je trenutačno najbrže rješenje dostupno na tržištu među modelima koji se mogu umetnuti u klasični PCI Express utor, jer nudi računsku snagu od 2299 FLOP/s u MXFP4 operacijama, dok vrhunac njegove računske snage u MXFP4 iznosi 4600 TFLOP/s, kao što se vidi na jednom od donjih slajdova.
Dosad je ovim tržišnim segmentom dominirao Nvidijin H200 NVL, no AMD MI350P podiže ljestvicu, jer u FP64 operacijama nudi prednost od 20%, u FP16 operacijama 43%, a u FP8 operacijama 39% u odnosu na konkurenta, kad je riječ o usporedbi teoretskih maksimalnih vrijednosti.
Na Nvidijinoj strani od najmodernijih modela B200 temeljenih na Blackwellu zasad još nije stiglo izdanje za PCI Express utor koje koristi slojeve HBM memorijskih čipova, pa zasad AMD nudi najbrže rješenje. Protiv tlačeće dominacije ekosustava CUDA AMD se ipak teško bori, no budući da se softversko okruženje ROCm neprestano razvija, mogli bi postati sve konkurentniji, što bi prije ili kasnije moglo donijeti rast tržišnog udjela.
Naravno, ni Nvidijin tim ne sjedi na lovorikama, nastoje osigurati da tvrtka i dalje samouvjereno dominira tržištem.
