Mnogi su strahovali što će biti kad umjetna inteligencija dospije u krive ruke, no čini se da zapravo nije potrebno ni da je koriste kriminalci. Sve upućuje na to da ni najveća svjetska tvrtka za UI nije u stanju kako valja držati pod kontrolom alate koje sama razvija, što izaziva ozbiljnu zabrinutost.
OpenAI-jevi agenti umjetne inteligencije provalili su na jedno web-mjesto australske vlade, a pokušali su se probiti i u brojne druge državne i sveučilišne baze podataka.
Tvrtka koja stoji iza ChatGPT-ja jako voli nastupati kao svjetski prvak u razvoju, pa sada može upisati još jedno prvenstvo: dosad nije bilo nijednog dokumentiranog slučaja u kojem bi samostalno djelujući UI agenti provalili na državno web-mjesto. Povrh toga, slučaj se dogodio još u lipnju, ali je OpenAI o tome nadležne obavijestio tek nedavno, i to u javnom, običnom e-mailu.
Ovaj slučaj samo je ulje na vatru, jer je atmosfera među razvijačima umjetne inteligencije ionako dovoljno užarena. Sve se više ljudi javlja i traži da tehnološke tvrtke uspore razvoj. Većina tržišnih igrača danas nije protiv toga, barem na riječima, jer djela zasad ne pokazuju takvo što.
O napadu na australski portal izvijestio je nitko drugi nego premijer te zemlje, na konferenciji za novinare održanoj u New Yorku. Anthony Albanese u Sjedinjenim Državama nastojao je naglasiti da je američka tvrtka za umjetnu inteligenciju postupila protuzakonito kad je jednom od svojih agenata omogućila da provali u državnu bazu podataka. Kako se ispostavilo, jedan OpenAI-jev model uspio se probiti iza australskog portala zdravstvene statistike.
Prema informacijama kojima raspolažemo, UI agent se uspio „ugraditi“ u sustav web-mjesta Medicare, odakle je imao pristup javnim i nejavnim datotekama. Prema priopćenju, Medicare je opći program zdravstvenog osiguranja Australije, a područje u koje je alat koji je razvio OpenAI provalio tijekom hakerskog napada nije sadržavalo posebno osjetljive podatke. No istraga u tom slučaju još traje.
„Ova je situacija očito neprihvatljiva“, rekao je Albanese. Premijer je dodao da su stupili u kontakt s OpenAI-jem i da su imali priliku razgovarati i sa Samom Altmanom, kojem je rekao da ga je obuzela duboka zabrinutost kad je saznao da se tako nešto moglo dogoditi. Naglasio je i da osjetljivi osobni podaci nisu dospjeli u krive ruke, ali to nipošto ne oslobađa OpenAI odgovornosti za njegove postupke.
Šlag na torti je to kako je OpenAI postupio u tom slučaju. Operatere web-mjesta tvrtka je o incidentu obavijestila tek početkom rujna, a on se prema sigurnosnim zapisnicima i prema priopćenju OpenAI-ja dogodio još u lipnju. Uz to, od tvrtke vrijedne bilijun dolara nije prihvatljivo ni da o napadu stranu koja ga je pretrpjela obavijesti javnim e-mailom.
Tvrtka se brani time da UI agent nije imao pristup osobnim podacima pacijenata, pa slučaj nisu smatrali ozbiljnim. „Među dostupnim informacijama bila su zbirna zdravstvena statistika i nazivi internih datoteka“, izjavio je novinarima na upit OpenAI-jev glasnogovornik Oscar Haines. Haines je dodao i da su nadležnima dali sve informacije o slučaju kako bi mogli ispraviti sigurnosne propuste. Iznimno velikodušno od OpenAI-ja.
Osim toga, istraživački laboratorij Transluce ovih je dana izvijestio i o tri dodatne protuzakonite aktivnosti umjetne inteligencije povezane s OpenAI-jevim agentima.
Skupina specijalizirana za javni nadzor aktivnosti UI alata objavila je da je pronašla dokaze da su OpenAI-jevi alati pokušali provaliti i na web-mjesta Državnog sveučilišta Novog Meksika, Australskog instituta za zdravlje i socijalnu skrb te Data USA – platforme koja prikuplja podatke iz američkih državnih izvora – samo što u tim slučajevima nisu uspjeli.
Ti su slučajevi dijelom bili povezani s već poznatim slučajevima kibersigurnosti, a OpenAI-jev glasnogovornik potvrdio je da je riječ o stvarnim napadima. Navodno su u tim slučajevima napadnuti portali već obaviješteni. A zašto se može dogoditi da se žrtve obavijeste tjednima ili mjesecima poslije? „U našim sveobuhvatnim istragama i dalje prioritet dajemo najtežim slučajevima“, rekao je glasnogovornik, dodavši da agentima koji spamaju web-mjesta ne pridaju veliku važnost.
