Tijekom 2026. mediji su naveliko pisali o tome da umjetna inteligencija više nije dovoljno sigurna čak ni u rukama vlastitih razvojnih timova.

Na udaru kritika našle su se i tvrtke i vlade jer ništa ne poduzimaju. Kalifornija je zaključila da tako više ne može i da je vrijeme da drugima posluži kao primjer. Na meti te savezne države, očekivano, našao se OpenAI. 

Zašto baš OpenAI? Upravo su događaji u toj tvrtki dali najviše razloga za ozbiljnu zabrinutost. Sada je posve jasno da tvorac ChatGPT-a nema nadzor nad vlastitim alatima. Tijekom različitih testiranja u tvrtki dogodilo se toliko kibernetičkih incidenata da OpenAI jednostavno nema kapaciteta na vrijeme obavijestiti sve pogođene. Upitno je ima li uopće dovoljno resursa da svaki slučaj valjano istraži.

Otvorite galeriju

Prvi slučaj koji je privukao veliku pozornost javnosti bio je upad u sustav platforme Hugging Face. U sustav je upao velik broj agenata umjetne inteligencije kojima su upravljali najnapredniji i eksperimentalni jezični modeli OpenAI-ja. Agenti su procijenili da će ondje pronaći informacije koje će im pomoći riješiti zadatak u sklopu testa kibernetičke sigurnosti. Već to što su agenti napustili testno okruženje nije se smjelo dogoditi, a otišli su mnogo dalje. 

U tužbi podnesenoj 16. studenoga glavni državni odvjetnik Kalifornije Rob Bonta optužio je OpenAI za kršenje zakona o zaštiti potrošača jer je svjesno razvio „opasan proizvod bez odgovarajućeg nadzora”.

Sada se zna da je slučaj Hugging Face bio tek vrh ledenog brijega koji neprestano raste. Prema podnesenim dokumentima, OpenAI je nedavno u sklopu preliminarne istrage izvijestio državno odvjetništvo da je već zabilježen iznimno velik broj slučajeva u kojima je tvrtka izgubila nadzor nad umjetnom inteligencijom. 

Tijekom redovitih testiranja OpenAI je više od 80 puta „izgubio nadzor” nad agentima koji samostalno izvršavaju zadatke.

Prema mišljenju glavnog državnog odvjetnika, tvrtka uopće ne nastoji poboljšati sigurnost. Štoviše, ignoriranje sigurnosnih rizika smatra dijelom njezine korporativne kulture. „OpenAI daje prednost rastu i brzom razvoju modela, dok sigurnost i odgovornost stavlja u drugi plan”, istaknuo je Rob Bonta. Zato su se takve posljedice poslovanja tvrtke mogle predvidjeti. 

Bonta smatra da je tužba potrebna jer OpenAI očito nesmetano nastavlja s radom i iz dana u dan predstavlja sve veći rizik za kibernetičku sigurnost. Sam Altman vodi tvrtku kao da može raditi što god želi bez posljedica.

Otvorite galeriju

„Postupci OpenAI-ja samo su povećali postojeće rizike za kibernetičku sigurnost u stvarnom svijetu, čime su ugrozili sigurnost, zdravlje i dobrobit ljudi”, navodi Bonta u priopćenju. „Tvrtka je svjesno testirala opasan proizvod bez odgovarajućeg nadzora i sigurnosnih postupaka te o tome dovela javnost u zabludu. Time je zanemarila javnu sigurnost i prekršila kalifornijske zakone.”

OpenAI, očekivano, situaciju ne smatra toliko ozbiljnom i drži da bi se na istoj osnovi moglo tužiti bilo kojeg sudionika na tržištu. Predstavnik tvrtke istaknuo je i da je OpenAI cijelo vrijeme u potpunosti surađivao s nadležnim tijelima te im nastojao pružiti što točnije informacije na temelju onoga što je znao.

„Od incidenta s platformom Hugging Face poduzeli smo niz sveobuhvatnih i transparentnih koraka kako bismo razumjeli i primjereno riješili probleme s ponašanjem modela koji ne postupaju kako treba. Čini se da je ova tužba usmjerena isključivo protiv OpenAI-ja zbog problema koji su prepoznali svi vodeći laboratoriji za umjetnu inteligenciju”, kaže glasnogovornik tvrtke Drew Pusateri. „Neprimjereno ponašanje modela shvaćamo ozbiljno. Konstruktivno smo surađivali s glavnim državnim odvjetnikom kako bismo razmijenili informacije i razvili stroge i praktične sigurnosne standarde za cijelu industriju.”

Ako se na sudu utvrdi da je OpenAI doista pogriješio, morat će platiti novčanu kaznu u korist oštećenih. Morat će promijeniti i neke svoje prakse kako bi ubuduće mogao učinkovito spriječiti da se njegovi agenti otmu nadzoru i postanu prijetnja kibernetičkoj sigurnosti na internetu.

Pretplata na newsletter
Pretplatom prihvaćam Uvjete i odredbe i Izjavu o privatnosti.

0 komentara

Da biste napisali komentar, prvo prijavite se!

Za ovaj članak još nema komentara!

Pomozite drugima, recite nam što mislite o članku.
Nazad na vrh stranice