Prema informacijama Bloomberga, Nvidia se priprema za prilično snažno poskupljenje u segmentu AI poslužitelja, gdje već poskupljenje od nekoliko posto kupcima znači velik dodatni trošak, a ovdje se ne radi o nekoliko posto, nego mjestimice o poskupljenju većem od 15%, barem su tako izvijestili informatori koji su zatražili da ostanu anonimni. Poskupljenje za sada još nije javno, o njemu su obaviještene samo najveće mušterije tvrtke.
Spomenuto poskupljenje prema planovima pogađa sustave temeljene na Grace Blackwellu i Vera Rubinu, a točan iznos u biti će ovisiti o tome o kojoj je generaciji riječ i koliko su točno memorije kupci zatražili u pojedinom poslužitelju. Poskupljenje je potrebno zbog memorijske krize, jer cijene memorijskih čipova i dalje rastu tako snažno da sadašnje cijene ne mogu pratiti taj tempo, pa je korekcija cijena neizbježna; Nvidia, naime, ne guta dodatne troškove, nego ih prebacuje na kupce.
Sličan se proces nedavno odvio i na potrošačkom tržištu, gdje je tvrtka provela znatno poskupljenje u segmentu grafičkih kartica serije GeForce RTX 50, a više cijene već su stupile na snagu – na veliku žalost gamera. Poskupljenje je nažalost bilo očekivano, jer su analitičari ranije izvijestili da će ugovorne cijene klasičnih DRAM čipova tijekom drugog tromjesečja na tromjesečnoj razini rasti između 58 i 63%, a prije toga u prvom tromjesečju godine dogodilo se poskupljenje od 90-95%, dakle ukupno je riječ o golemom porastu cijena koji će se nažalost nastaviti i dalje. Istodobno su ograničeni i kapaciteti proizvođača memorije, koji ni izdaleka ne mogu proizvesti onoliko memorijskih čipova koliko treba tržištu, a to cijene, koje su ionako ekstremno visoke, podiže još više.
U AI poslužiteljima k tome stoji golema količina memorije: ako gledamo samo HBM4 memorijske sendviče, uz svaki Nvidia Rubin GPU može doći čak 288 GB memorije, a u poslužitelju NVL72 smješteno je 72 GPU-a, pa HBM4 memorijski kapacitet iznosi više od 20 TB; istodobno je uz Vera CPU potrebna i sistemska memorija, ali ona je standarda LPDDR. Gledajući troškove nabave AI poslužitelja, cijena memorijskih čipova zauzima sve veći udio, pa je u skladu s tim i poskupljenje brzo, jer proizvođači poslužitelja moraju pratiti kretanja na tržištu DRAM-a kako bi zadržali svoju dobit.
Osim segmenta poslužitelja, olujna vremena proživljava i tržište memorijskih modula za gamere: dok se prije godinu dana paket memorije DDR5-6000 MHz od 32 GB prodavao po cijeni između 110 i 140 dolara, danas za njega traže 392 dolara, a prema trenutačnom stanju stvari poskupljenje će se ove godine nastaviti, dok analitičari za iduću godinu predviđaju da će situacija u segmentu DRAM-a postati još teža, odnosno da cijene mogu porasti još više.
Kod AI poslužitelja, koji su obično stavka od milijun dolara, poskupljenje veće od 15% znači dodatni trošak od nekoliko stotina tisuća dolara po poslužitelju za kupce, a kod većeg AI podatkovnog centra poskupljenje je još vidljivije. Istodobno ni TSMC ne može proizvesti onoliko GPU-ova koliko je potrebno u segmentu AI akceleratora, a i to na tržište djeluje poskupljujuće, dodatno pogoršavajući položaj i mogućnosti kupaca.
Zbog poskupljenja Nvidijinih AI poslužitelja hiperskaleri bi mogli potražiti alternativne izvore, primjerice mogu odabrati AMD-ove AI akceleratore i AI poslužitelje, ali se mogu osloniti i na čipove vlastitog razvoja kako bi ublažili nestašicu. Iako bi to bili prohodni putovi, svaki od njih zahtijeva golemu količinu memorije, koje nema dovoljno, pa se ni alternativnih AI akceleratora ne može proizvoditi neograničeno, što dodatno ograničava prostor kupaca za manevar.
