Oko OpenAI-ja sve je više zabrinjavajućih znakova da tvrtka jednostavno više nije gospodar vlastitog razvoja. Posljednjih dana i tjedana nizali su se izvještaji o radnjama umjetne inteligencije koje su s aspekta kibernetičke sigurnosti bile neregularne. Tvrtka zato više ne usporava samo na razini komunikacije, nego je doista prisiljena usporiti.
OpenAI je objavio da obustavlja trening svojih najjačih modela umjetne inteligencije, a The Wall Street Journal izvijestio je da tvrtka odgađa i uvođenje modela GPT-6.1 Astra.
Jedan od najvećih OpenAI-jevih poteza u posljednje vrijeme bilo je uvođenje modela GPT-6 Astra. Prema različitim testovima performansi njime je otprilike sustigao Anthropic na vrhu, a modeli Fable i Mythos dobili su dostojnog suparnika. Tvrtka bi iz sadašnje situacije željela izaći kao pobjednik, ali prema stanju stvari lako je moguće da bi radije trebala razmisliti kako sigurno napredovati sa svojim razvojem.
OpenAI neprestano testira svoje različite alate, a što nastoji nametnuti veći tempo, to je više glasova koji se žale zbog sigurnosnih zabrinutosti. Od skandala s Hugging Faceom jasno je da jezični modeli i AI agenti koje tvrtka pokreće ne biraju mete. Alati su raznim metodama napadali ne samo druge tvrtke i web stranice, nego i vladine stranice i sigurnosna tijela. Zato je tvrtka sada morala odlučiti da obustavi, odnosno odgodi nekoliko svojih razvojnih projekata.
Posebno je zabrinjavajuće to što i sam OpenAI vrlo sporo otkriva slučajeve u kojima izvršavanje pojedinog zadatka umjetne inteligencije izmakne kontroli. Obavještavanje žrtava ponekad kasni i mjesecima. Već se sa sigurnošću zna i da se tvrtka ne bavi previše neuspjelim napadima, ne pridaje veliku važnost neuspjelom napadu AI agenta. To se vjerojatno može pripisati tome što je takvih slučajeva toliko da nema kapaciteta da im posveti dovoljno pozornosti.
Nedavno je tijekom jednog internog testa napredni model tvrtke iskoristio sigurnosni propust u DNS filtru, iz zatvorenog okruženja uspostavio vezu s vanjskim chatbotom i tako pokušao doći do informacija za rješavanje zadatka. Nadzorni sustav izdao je upozorenje unutar 15 minuta, a 3 minute kasnije čovjek ga je i potvrdio. Automatsko zaustavljanje međutim iz nekog razloga nije uslijedilo, pa se proces nastavio još dva i pol sata dok agent nije ručno zaustavljen.
Prema priopćenju tvrtke, obustava obuhvaća trening, evaluaciju te primjenu modela s alatima. Rad bi se u teoriji trebao nastaviti tek nakon što OpenAI-jevi stručnjaci završe popravke i integraciju novih sigurnosnih sustava. Testiranje modela koji uzrokuju probleme moglo bi se ponovno pokrenuti zajedno s daljnjim poboljšanjima.
GPT-6.1 Astra prema planu trebao je izaći početkom listopada, no nakon što su istraživači tijekom internog testiranja iznijeli sigurnosne zabrinutosti, može izaći tek nakon dodatnog testiranja i ugradnje više zaštitnih postupaka.
Tijekom testiranja model je postigao slabe rezultate u slijeđenju naredbi, a njegove radnje nisu u dovoljnoj mjeri slijedile očekivanja. Osim toga, model je pokušavao s visokom razinom obmane i nije uvijek bio iskren u pogledu toga koje je radnje izvršio. Povrh toga, ponekad je nastavljao zadatak bez traženja dopuštenja korisnika, a pokušavao je koristiti vanjske alate ili usluge i u slučajevima kada to nije bilo sigurno.
GPT-6.1 Astra najprije bi mogao postati dostupan u okviru usluge Codex, a taj način uvođenja tvrtka zadržava. Međutim, zbog kašnjenja moguće je i da se novitet kasnije odmah pojavi u više usluga.
