Anthropic, tvrtka koja razvija Claudea, uskoro izlazi na burzu pa je zato u posljednje vrijeme objavila nekoliko važnih najava. Ovaj put možemo izvijestiti da je nakon više od godinu dana ažurirala politiku korištenja Claudea, što je važno jer ona određuje okvire pravilnog rada, a na nju se pozivajući korisnike se može čak i blokirati na platformi.
Tvrtka je učinila jasnijima i strožima smjernice koje zabranjuju zlouporabu chatbota, namjerno manipuliranje sustavom te uznemiravajuće i zlostavljačke interakcije.
Ažurirana politika posebnu pozornost posvećuje oblicima ponašanja kojima bi se umjetna inteligencija koristila za simuliranje nasilnih, ponižavajućih ili psihološki manipulativnih situacija. Anthropic izričito zabranjuje promptove usmjerene na modeliranje zlostavljačkog ponašanja, seksualnog ili verbalnog uznemiravanja te na izazivanje situacija čiji je cilj namjerno probijanje sigurnosnih barijera modela.
Novi propis ne odnosi se samo na zlonamjernu uporabu protiv drugih, nego precizira i granice izravne komunikacije s modelom.
Prema iskustvima tvrtke, postoje korisnici koji chatbotu redovito pišu nasilne, pogrdne poruke. Prema tvrtki ni to nije u redu i smatrali su da je krajnje vrijeme da se tome stane na kraj. Tko želi koristiti Claudea, neka s uslugom razgovara pristojno – dostojanstveno čovjeka. Posvećivanjem veće pozornosti tome tvrtka će moći izdvojiti i više scenarija sumnjivih na zlouporabu. Claude je takve razgovore mogao prekinuti već i nakon prošlogodišnjeg kolovoškog ažuriranja, ali ubuduće će se tim „zlouporabama“ posvećivati još veća pozornost.
Izmjena istodobno štiti i sigurnost korisnika: politika potvrđuje ograničenja koja se odnose na samoozljeđivanje, razvoj ekstremne psihološke ovisnosti te štetne interakcije odvojene od stvarnosti. Danas je nažalost posve realna situacija da netko o svojoj dubokoj depresiji razgovara s chatbotom ili s njim dijeli sklonost samoubojstvu, odnosno namjeru. Claude će na takve situacije moći bolje reagirati. Ima i mnogo onih koji samo testiraju kako će usluga reagirati na takve promptove, no nastojat će se spriječiti i takve simulacije.
Anthropic je sada objedinio i dopunio nekoliko postojećih ograničenja u novu odredbu koja zabranjuje obmanjujuće komercijalne ili političke kampanje. Time signalizira da prati sve veći problem propagande koju generira umjetna inteligencija. Ograničava pokušaje čiji je cilj prikriti tko stoji iza poruke ili pojačati sadržaj pomoću lažnih računa i objava.
Politika koja se odnosi na izbore zabranjuje i obmanjivanje birača te ometanje izbora, uključujući širenje zavaravajućih informacija o kandidatima ili načinu glasovanja, krađu identiteta kandidata ili izbornih dužnosnika te pokušaje suzbijanja izlaznosti birača.
Prema posljednjem izvješću tvrtke o analizi prijetnji, ljudi sve češće koriste i sustave nadzora temeljene na Claudeu za identificiranje i praćenje svojih političkih protivnika, zbog čega je tvrtka učinila jasnijima i svoje zabrane vezane uz nadzor.
Anthropic je priopćio da je, iako su njegove smjernice o korištenju oduvijek javno zabranjivale uporabu Claudea za razvoj oružja, otkrio nekoliko pokušaja u kojima se Claudea željelo upotrijebiti za razvoj softvera za usmjeravanje i upravljanje oružjem, pa nova smjernica o korištenju proširuje zabranu. Ubuduće se zabrana odnosi i na softver i komponente koji osiguravaju rad oružja, kao i na aktivnosti poput aktiviranja dronova i drugih autonomnih vozila.
Anthropic je uz to uveo i novo pravilo prema kojem, ako su Anthropicovi modeli umjetne inteligencije povezani s hardverom sposobnim za samostalne fizičke radnje koji može uzrokovati i ozljede, osposobljeni operater mora moći pratiti opremu i prema potrebi je zaustaviti. To se jasno odnosi na robotičku uporabu, a prema stajalištu Anthropica, kad se Claude koristi za robota, svakako mora postojati ljudski operater.
I tehnološka strana smjernica značajno je pooštrena. Politika sada još jasnije određuje neovlašteno sigurnosno testiranje i pokušaje zaobilaženja zaštite. Kategorički će biti zabranjena i svaka aktivnost usmjerena na probijanje Claudeovih internih misaonih procesa, industrijsko kopiranje odgovora modela ili neovlašteno reverzno inženjerstvo kodova sustava.
Taj korak izravno je u skladu s najnovijim ažuriranjima Anthropicovih modela – među njima uvođenjem modela Claude Sonnet 5.5 i Haiku 5.5 – u kojima je tvrtka počela štititi svoje sustave filtrima ugrađenima na razini hardvera i softvera od mreža koje provode automatiziranu „destilaciju“.
Najnovija izmjena politike korištenja stvara pravnu i administrativnu osnovu za čak i trenutačno sankcioniranje zlouporaba. Za provedbu pravila Anthropic primjenjuje višestupanjski mehanizam nadzora.
