Početkom travnja Anthropic je objavio pokretanje projekta Project Glasswing, sigurnosne inicijative organizirane oko modela Claude Mythos. U nju je tvrtka uključila isključivo pouzdane partnere, vrh tehnološkog sektora, primjerice OpenAI, Nvidiju i druge, uz Amazon. Ovih je dana, međutim, otkriveno da su zatvorenom i strogo čuvanom modelu mogle pristupiti i neovlaštene osobe.
Osoba koja je željela ostati anonimna obratila se Bloombergu tvrdeći da je postojala „manja neovlaštena skupina korisnika” koja je imala mogućnost pristupiti alatu za kibernetičku sigurnost za koji Anthropic sam priznaje da može skrivati takve opasnosti da ga uopće ne namjerava otvoriti.
To je iznimno ozbiljna tvrdnja, ali dotična je osoba mogla predočiti i dokaze da je kao vanjski korisnik uspjela pristupiti specijalnom modelu. Listu je predala više snimaka zaslona kako bi potkrijepila svoje tvrdnje. Osoba koja je obavijestila Bloomberg pozvala se na to da je jedan od Anthropicovih podizvođača i rekla je listu da je skupina organizirana na Discordu uspjela steći neovlašteni pristup. (Barem je to ono što je za sada poznato.)
„Članovi su do modela Mythos došli kombinacijom različitih metoda, iskorištavajući ovlasti pristupa svojih podizvođača i jednostavne internetske alate za istraživanje”, stoji u izvješću. Neovlašteni su pristup navodno stekli 7. travnja, upravo na dan kad je tvrtka objavila pokretanje projekta Project Glasswing s vrlo ograničenim krugom partnera.
Navodno je riječ o Discord skupini čiji članovi prikupljaju informacije o modelima koji su u razvoju prije njihove objave. Prema izvješću, otkako je otkrivena mogućnost neovlaštenog pristupa, model Claude Mythos redovito su koristili. Osim toga, teoretski su došli i do drugih modela u razvoju pod okriljem Anthropica – ovdje možemo misliti na druge varijante Claudea.
Claude Mythos trenutačno radi samo u pretpregledu, pa je tvrtka zato nastojala izrazito snažno ograničiti krug onih koji s njim službeno mogu raditi. To je model opće namjene koji u mnogim testovima pokazuje znatno bolje rezultate od današnjih „potrošačkih” alata. Njegova je primarna svrha pronaći ranjivosti i predložiti rješenja za njih. Anthropic je partnerima pokazao učinkovitost alata otkrivši sigurnosne propuste koji su desetljećima bili skriveni u široko korištenim sustavima.
Bloomberg je stupio u kontakt s Anthropicom, a tvrtka je dala informaciju da nije svjesna nikakve zlouporabe i da nisu otkrili neovlašteni pristup. „Istražujemo prijavu prema kojoj su nepoznate osobe preko sustava jednog od naših vanjskih dobavljača pristupile pretpregledu modela Claude Mythos.” – dodala je tvrtka.
Svakako može izazvati zabrinutost ako najveće svjetske tehnološke tvrtke, predvodnici razvoja umjetne inteligencije, počine sigurnosni propust te razine.
Treba uvidjeti da s modelom Claude Mythos hakeri ne samo da mogu otkrivati sigurnosne propuste stavljajući u prvi plan vlastite interese, nego to može imati i mnogo ozbiljnije opasnosti. Budući da je riječ o alatu za kibernetičku sigurnost koji radi samo kao pretpregled u zatvorenom i kontroliranom okruženju, vrlo je vjerojatno da u njemu nema sigurnosnih ograničenja – ili su ona mnogo blaža nego uobičajeno. To pak ovaj slučaj čini još težim.
