AMD je ovih dana objavio da preuzima obećavajući startup koji će usred AI groznice i memorijske krize biti vrlo koristan, jer pomaže AI podatkovnim centrima da učinkovitije koriste raspoloživu radnu memoriju, čime se smanjuju ukupni troškovi vlasništva, a pomiču se i ograničenja koja su ranije vrijedila zbog kapaciteta DRAM-a.
MEXT je u biti razvio algoritam za optimizaciju korištenja memorije temeljen na umjetnoj inteligenciji, čiji je zadatak da sustav učinkovito koristi podatke i da u memoriji budu samo oni sadržaji koji će vjerojatno doista zatrebati, dok ostale podatke, za koje se predviđa da neće trebati u trenutnom ciklusu radnog procesa, algoritam premješta. Koji će podaci zatrebati poslužitelju koji izvodi AI model ili bilo koji drugi zadatak, pokušava odrediti Predictive Memory Engine koji je razvio MEXT, i to tako da neprestano uči obrasce pristupa memoriji, a na temelju njih premješta sadržaje koji vjerojatno neće trebati.
Kamo se oni premještaju? Budući da je memorijski kapacitet vrijedan i izuzetno skup, a uz to prilično ograničen u odnosu na potrebe, razvojni programeri startupa smislili su da će podatke koji trenutačno ne trebaju pomoću AI-a izmjestiti na NAND Flash pohranu, a na njihovo mjesto mogu doći sadržaji koji su stvarno potrebni. To je važan korak jer se u današnjoj modernoj AI infrastrukturi memorijski kapacitet obično koristi prilično rasipno, pa mogućnosti obično ne ograničavaju CPU ili GPU resursi, nego memorijski limit, koji je usred aktualne memorijske krize još bolniji nego ranije.
Prediktivni algoritam pomoću AI modela može na vrijeme kopirati u memoriju podatke koji će uskoro zatrebati, tako da im softver može odmah pristupiti kao da su od početka bili u memoriji. Podatke koji su završili na NAND Flash pohrani aplikacija koja je u tijeku također može „vidjeti”, jer Predictive Memory Engine radi transparentno: NAND Flash pohrana rezervirana za rasterećenje DRAM-a softverima se prikazuje kao da je dio radne memorije sustava.
Prema AMD-ovim planovima, tehnologija će se primjenjivati u njihovu vlastitom portfelju podatkovnih centara te dalje razvijati kako bi se moglo pratiti sve veće skupove podataka AI modela, a istodobno smanjiti operativne troškove i brže staviti u rad velike skupove podataka. Novost ukupno poboljšava učinkovitost iskorištenja resursa sustava, osobito kad je riječ o korištenju memorije. Optimalno upravljanje memorijom može povećati i ukupne performanse sustava, ali koliko točno, ovisit će o konkretnoj izvedbi i složenosti zadatka koji je u tijeku, kao i o tome koliko učinkovito AI modeli mogu „predvidjeti” koji će podaci trebati u sljedećem radnom procesu.
Specijalna tehnologija pomaže da AMD-ov portfelj proizvoda postane konkurentniji te da se optimiziraju performanse AI podatkovnih centara, dakle i proizvođač i partneri imaju koristi od nje – barem je to cilj.
