Razvoj umjetne inteligencije trenutačno teče tempom s kojim prije nitko nije računao, a uz to je pojavom ChatGPT-a ionako krenuo u smjeru za koji nisu bili spremni. Demis Hassabis govorio je ovih dana o tome da bi se vrlo brzo trebala osnovati organizacija koja bi procese mogla regulirati na međunarodnoj razini.
Trenutačno jedva da postoji zemlja u kojoj zakoni i propisi na bilo koji način reguliraju primjenu umjetne inteligencije. Na tom području prednjače Kina i Europska unija, iako to područje nastoje držati pod kontrolom vrlo različitim metodama, no njihovi alati djeluju učinkovitije nego ono što se vidi u Sjedinjenim Državama. U SAD-u mnogi zagovaraju regulaciju, ali prema svemu sudeći vladi je važnije da zadrži ulogu tehnološkog predvodnika.
Područja koja su unaprijed razmišljala o regulaciji umjetne inteligencije taj su proces zamišljala sasvim drukčije. To se pokazalo u tome što je Europska unija, predvodnica u regulaciji, svoj propis u pripremi neprestano oblikovala do posljednjeg trenutka, a zakon AI Act ažurirala je i od uvođenja. Uzalud su stručnjaci godinama radili na AIA-i, generativna umjetna inteligencija, primjerice, izvorno uopće nije bila spomenuta u nacrtu.
Danas se može iskusiti da se za Europu mnogi razvoji umjetne inteligencije moraju preoblikovati da bi se mogli uvesti, dok SAD više štiti inovacije nego svoje korisnike i, ako je potrebno, naknadno pokušava gasiti požar umjesto da preduhitri probleme.
Demis Hassabis u objavi na LinkedInu izvijestio je da bi SAD trebao pokrenuti osnivanje međunarodne organizacije za nadzor umjetne inteligencije, ali gledajući globalna pravna okruženja, Europska unija sada u tom pogledu ima mnogo više iskustva. Prema glavnom direktoru Google DeepMinda, ona bi trebala djelovati snažno i odlučno prema vodećim modelima ako postanu preopasni. Danas više nije nikakva znanstvena fantastika da pojedini novi model može predstavljati ozbiljan rizik za nacionalnu sigurnost.
Slučaj modela Mythos koji je razvio Anthropic pokazao je da novi jezični model, napredniji nego ikad prije, može imati ozbiljne sigurnosne rizike ako ne dobije odgovarajuća ograničenja. A kočnice se u većinu modela obično ugrađuju na kraju razvoja, i tehnološke bi tvrtke, među ostalim, to trebale promijeniti.
Prema Hassabisu, SAD bi trebao voditi međunarodnu regulatornu organizaciju jer s tehnološkog i gospodarskog stajališta ima vodeću ulogu i u razvoju. Nadzornu bi djelatnost trebao obavljati tim sastavljen od vodećih neovisnih stručnjaka i predstavnika razvojnih zajednica koji bi se pridruživali iz cijeloga svijeta, pa bi globalna regulacija tako mogla učinkovito funkcionirati.
Takva bi organizacija mogla propisati da svaki jezični model koji izlazi mora objaviti ujednačenu analizu rizika. Uz to, i njihovo uvođenje mogli bi koordinirati stručnjaci, kako bi proces tekao transparentno, a ne kao što to vidimo danas.
Elektronički uređaji i drugi proizvodi prolaze kroz brojne interne nadzorne testove prije nego što dođu u prodaju, a moraju ispunjavati i razne sigurnosne zahtjeve. Nasuprot tome, alati umjetne inteligencije zapljuskuju nas bez ozbiljnije kontrole. U žestokoj utrci često se objavljuju još u fazi razvoja i odmah postaju globalno dostupni svim zainteresiranima.
„Nalazimo se u presudnom trenutku povijesti čovječanstva. Postizanje prave umjetne opće inteligencije (AGI) vjerojatno je od nas udaljeno samo nekoliko godina. Kad se u narednim desetljećima budemo osvrnuli na ovo razdoblje, mislim da ćemo shvatiti da smo stajali na pragu singularnosti, što nije ništa drugo nego zora nove ere čovječanstva.” – istaknuo je Hassabis.
Stručnjak se uz to već oglasio i o tome da bi za biološko oružje stvoreno umjetnom inteligencijom bila potrebna veća strogost i kontrola. A i očekivane gospodarske učinke novih tehnologija svjetski bi čelnici trebali ozbiljnije proučavati.
Prema industrijskim saznanjima, prvi čovjek DeepMinda i njegov suosnivač već neko vrijeme u pozadini radi na tome da kod Trumpove vlade postigne da se organizacija koju je zamislio osnuje. Uz to je navodno lobirao u toj stvari ne samo u SAD-u nego i u Europi.
Prema dostupnim informacijama, takvo bi međunarodno tijelo za nadzor umjetne inteligencije doista moglo biti osnovano možda već ove godine. Osim Hassabisa, i drugi stručnjaci nastoje postići proboj na tom području, a mnogi su već izrazili zabrinutost zbog prevelikog globalnog razdora na tom području, dok svaki razvoj može imati značajan učinak u svjetskim razmjerima, a pravi regulatorni proboj mogao bi se postići samo udruživanjem, budući da geografski položaj danas rijetko ograničava dostupnost usluga.
