Nvidijin razvojni tim radi na zanimljivom AI alatu koji bi olakšao posao programerima: razvojni programer prirodnim bi jezikom mogao zadati upit zašto određeni radni proces ili softver radi sporije nego što bi se očekivalo, a istragu bi zatim provodio sam AI asistent, provjeravajući različite parametre sustava te po potrebi izrađujući i pokrećući razne skripte. Glavni je cilj da se što učinkovitije otkriju temeljni uzroci problema s performansama.
Sam AI asistent bio bi chatbot izgrađen oko specijaliziranog velikog jezičnog modela, koji bi imao pristup raznim alatima za analizu performansi kako bi mogao proučiti rad sustava i prikupiti potrebne podatke. Asistent bi mogao provjeravati podatke o performansama GPU-a, analizirati izvješća o performansama te po potrebi pomoću skripti izvući podatke potrebne za daljnju analizu. Na kraju analize programeru bi predočio sažetak koji pokazuje na kojim je točkama i zbog kojih je komponenti ili softverskih elemenata određeni radni proces spor.
Alat ne bi koristili samo razvojni programeri igara, nego i programeri i istraživači koji GPU koriste za paralelne računalne zadatke, a koristi bi mogli imati i stručnjaci koji pokreću druge radne procese temeljene na GPU-u. Kao dodatak, AI asistent mogao bi i smisleno usporediti dvije verzije softvera: u tu bi svrhu nabavio pripadajuću dokumentaciju, izradio skripte za izvlačenje potrebnih podataka, a uz analizu podataka o GPU-u korisniku bi predočio i završni zaključak koji obuhvaća sva bitna područja i sve čimbenike koji utječu na rezultat.
Pri radu bi se LLM oslanjao na vanjske alate, odnosno ne bi radio isključivo na temelju informacija iz vlastite baze znanja, nego bi poput stvarnog testera koristio konkretne aplikacije za mjerenje performansi i analizu softvera. Važno je da Nvidijin patent upućuje na to da bi AI asistent samo utvrđivao moguće uzroke problema s performansama, a potrebne softverske izmjene ne bi provodio, nego bi programeru samo predočio usko grlo i eventualne pogreške.
Ako bude dovršen, to neće biti prvi sličan AI asistent u Nvidijinu repertoaru, jer je Project G-Assist već neko vrijeme dostupan gamerima, a funkcionalnošću je dosta sličan spomenutom alatu. Može primati upute tekstom ili govorom i odgovarati na njih, bilo da je riječ o preporuci postavki ili o njihovu podešavanju, a može i očitavati različite parametre sustava i prikazivati ih gameru, primjerice radne takte, iskorištenost GPU-a, temperature ili potrošnju – i još mnogo toga. AI asistent namijenjen programerima nastaje po sličnom konceptu, ali obavlja drukčije zadatke: moći će analizirati kod i podatke o performansama, analizirati radne procese koji se izvode na GPU-u te otkrivati probleme povezane s performansama.
O tome kada će se novi AI asistent točno pojaviti i kako će se zvati zasad nema vijesti, ali za njega već postoji patent – iz njega se doznalo na čemu radi Nvidijin razvojni tim, zahvaljujući pozornim suradnicima portala RespawnFirst.
