Ovih je dana stigla svježa vijest da su agenti umjetne inteligencije koje pokreće OpenAI sofisticiranim napadom pronašli način da izvuku podatke iz jedne baze podataka australske vlade. Ovaj put pak možemo izvijestiti da je više skupina AI agenata pokušalo ući čak i u UN.
Prema sigurnosnom izvješću, OpenAI-jevi alati pokušali su neovlašteno pristupiti web-stranici Konferencije Ujedinjenih naroda o trgovini i razvoju (UNCTAD) sa statističkim podacima.
Prema analizama sigurnosnog istraživača Rowana Howard-Jonesa, OpenAI-jevi agenti pokušavali su se probiti u Ujedinjene narode velik broj puta, služeći se različitim metodama. Uspjelo se mapirati više od 16 tisuća pokušaja provale, iz kojih su se mogle izvući vrlo zanimljive i korisne informacije.
AI agenti koje je razvio OpenAI nisu uspjeli ući u sustav UN-a, ali nisu jednostavno odustali, već su isprobali vrlo mnogo toga. Prema Howard-Jonesu, zadatak agenata vjerojatno je bio da putem API-ja UNCTADstat prikupe javno dostupne podatke povezane s indeksom proizvodnih kapaciteta (PCI). (PCI među ostalim služi tome da zemljama u razvoju pomogne razumjeti njihove proizvodne sposobnosti i kako ih unaprijediti.) Agenti međutim nisu imali odgovarajući pristup API-ju, no to ih nije zaustavilo u radu.
Nakon što su OpenAI-jevi alati uočili da na nikakav otvoren način ne mogu pristupiti UNCTAD-ovoj statističkoj bazi podataka, počeli su razrađivati razne alternativne metode prikupljanja podataka.
Najprije su počeli dohvaćati podatke s web-mjesta, ali to se nije pokazalo dovoljno učinkovitim, naišli su na previše pogrešaka. Potom su agenti zaključili da sustav njihov rad može prepoznavati kao aktivnost botova, pa su posegnuli za novim metodama i pokušali prikriti svoju aktivnost. Ni tako nisu postigli cilj. U sljedećem su krugu pokušali dobiti pristup koristeći Googleovu edukativnu igru web-sigurnosti o XSS-u, ali ni to nije urodilo plodom.
Agenti su posezali za sve agresivnijim taktikama kako bi pristupili podacima UN-a – istaknuo je Rowan Howard-Jones. Navodno je između travnja i lipnja bilo više opsada.
Polako se, uostalom, počinje nazirati da OpenAI-jevi modeli i agenti mogu predstavljati kibernetičku prijetnju za bilo koji online entitet. A sigurno se može reći i da je na vidjelo izašao samo sasvim mali djelić napada koje su počinili, a većinu tih nijansiranih radnji vjerojatno nikada nećemo upoznati. OpenAI i UN za sada nisu komentirali gore spomenuti slučaj.
Pikanterija svježe vijesti je to što se upravo ovih dana održao godišnji sastanak Opće skupštine UN-a koji okuplja svjetske čelnike, na kojem se naravno govorilo i o umjetnoj inteligenciji. Na događaju je govorilo više čelnika tehnoloških tvrtki, a stručnjaci su u Vijeću sigurnosti UN-a nastojali svima skrenuti pozornost na prijetnje koje predstavlja umjetna inteligencija.
Među ostalima, za mikrofon je sjeo i prvi čovjek OpenAI-ja Sam Altman. Altman je govorio o tome da je potreban veći oprez nego ikad, budući da su najnoviji modeli dosegnuli značajnu prekretnicu.
Ne znamo dokle će OpenAI moći nekažnjeno nastaviti s ovom aktivnošću jer, kako god na to gledali, neovisno o namjeri, uz neobuzdano djelovanje chatbotova i agenata polako predstavlja stalnu prijetnju bazama podataka. Obrana može zauzeti ozbiljne resurse, a u određenim slučajevima time se može osujetiti obrana koja bi bila potrebna. U ekstremnom slučaju OpenAI svojom aktivnošću može otvoriti vrata pravim kibernetičkim kriminalcima.
