Fable 5 i Mythos 5 uvedeni su prije nekoliko dana s velikim nadama, ali u tren oka pojavili su se problemi zbog kojih je morao biti ograničen pristup. Za sada se u cijelu stvar ne može jasno vidjeti, no sigurno je da je ona za Anthropic iznimno neugodna i nije mogla doći u gorem trenutku.
Anthropic je, kao jedan od predvodnika AI utrke, u proljeće predstavio model pod imenom Mythos, koji bi u otkrivanju ranjivosti navodno mogao postići do sada neviđenu učinkovitost. Učinio ga je dostupnim samo vrlo uskoj eliti jer se pokazao tako opasnim, naime nije imao sigurnosna ograničenja i propise koji su danas prisutni u svakom javnom AI modelu.
Prošlog je tjedna međutim tvrtka istupila s modelima Mythos 5 i Fable 5. Mythos 5 prema službenom stajalištu već je bolji nego što je bio raniji Mythos preview, a kod modela Fable 5 teoretski je zajamčena i sigurna uporaba na svim razinama. Fable 5 navodno je potpuno bezopasan, a brzo su se mogla vidjeti i izvješća prema kojima je čak i prekomjerno reguliran, jer je odbijao odgovoriti i na posve prosječna pitanja.
Mnogi su se iznenadili što je Anthropic tako brzo istupio s poboljšanom i pripitomljenom verzijom modela koji se smatrao iznimno opasnim, ali činilo se da će uvođenje proći glatko. Međutim, prošlog petka u poslijepodnevnim satima američko Ministarstvo trgovine kao grom iz vedra neba izdalo je zahtjev za izvoznim ograničenjem, u kojem je naložilo Anthropicu da s trenutačnim učinkom zatvori nove alate za sve strane subjekte.
Dotično državno tijelo pozvalo se na rizik za nacionalnu sigurnost, a Anthropic je morao udovoljiti odluci. Tvrtka je potpuno zaustavila nove modele jer nema odgovarajuće alate za ograničenje koje država traži.
Ranije se nikad nije dogodilo da američka vlada na ovakav način naloži tvrtki ograničenje pristupa nekom alatu umjetne inteligencije. Anthropic je doduše udovoljio zahtjevu dok se slučaj istražuje, ali je naglasio da se s tim ne slaže i da nije dobio podrobnije informacije o tome što se moglo dogoditi.
"Nismo bili obaviješteni čak ni o potencijalnom jailbreaku neopće važnosti koji bi imao štetne posljedice. Potencijalni jailbreakovi o kojima smo bili obaviješteni ili su posve bezopasna rješenja ili otkrića toliko beznačajna da ne pružaju nikakvu prednost svojstvenu modelu Mythos." – izjavio je Anthropic reagirajući na zahtjev. Prema Americi, grupa s kineskim vezama mogla je doći do alata, no nikakav trag koji bi na to upućivao nije pronađen.
Nakon neočekivanog nastupa Ministarstva trgovine brojni politički čelnici izrazili su zabrinutost zbog "novoga" postupka. Među političarima je najveću buru izazvalo to što se govorilo da su Sjedinjene Države pokušale zabraniti svim stranim osobama pristup novim modelima. To nisu mogli ne protumačiti kao korištenje političke moći radi stjecanja neovlaštene prednosti.
Prema nekim pretpostavkama, u pozadini zapravo stoji osveta vlade
Američko je vodstvo ranije zakuhalo s Anthropicom jer tvrtka nije željela svoje razne jezične modele i alate umjetne inteligencije staviti na raspolaganje Ministarstvu obrane. Sjedinjene Države navodno su Claudea neopravdano koristile i u svrhe nadzora i projektiranja oružja, a kad se to saznalo, Anthropic je počeo glasno prosvjedovati. Kao odgovor, vlada je odlučila staviti proizvode tvrtke na crnu listu.
Kad je Anthropic nedavno objavio da će preview model Mythos učiniti dostupnim i Europskoj uniji radi unapređenja kibernetičke sigurnosti, američka je vlada već tada izrazila nezadovoljstvo.
Anthropic se pokazao vrlo smjelim time što je istupio s tim modelima, no u zaoštrenoj tržišnoj utrci mogao je osjećati da mora iskoristiti svaku priliku. Uz to se tvrtka iza kulisa već priprema za izlazak na burzu, pa nije čudno što je željela snažno zablistati pred strukom i konkurentima. Međutim, lako je moguće da bi slučaj modela Fable i Mythos mogao ispasti naopako.
