Iz godine u godinu sve više ljudi traži strožu kontrolu AI tehnologija, a ti zahtjevi najčešće nailaze na gluhe uši u Europskoj uniji. EU gotovo jedini nastoji vidljivo raditi na tome da obuzda inovacije umjetne inteligencije. I Claude će zbog europskog propisa ubuduće biti transparentniji.
Anthropic je objavio da će tekstovi i slike koje stvara chatbot Claude ubuduće biti opremljeni vodenim žigom. Taj će se žig prije svega moći prepoznati „strojnim čitanjem”, dakle sustavi i softveri za to osposobljeni moći će s velikom pouzdanošću prepoznati da je pregledani sadržaj djelomično ili u cijelosti stvorila umjetna inteligencija.
„U generirane tekstove ugrađuju se vodeni žigovi, a generirane datoteke – ako je to podržano – sadržavat će digitalno potpisane metapodatke o podrijetlu” – piše Anthropic na ažuriranoj stranici podrške za Claude.
Posljednjih je godina nastalo mnogo alata s ciljem otkrivanja tragova umjetne inteligencije i utvrđivanja zlouporaba AI-ja. No oni u golemoj većini slučajeva rade nepouzdano – služe samo tome da pojačaju nepovjerenje među ljudima. I na tom je području potrebno imati alate koji dobro rade, no prema stručnjacima za to je nužno da tvrtke ispravno osiguraju vodene žigove.
Europska unija objavila je početkom mjeseca da će u okviru propisa AI Act uvesti sustav označavanja sadržaja umjetne inteligencije radi veće transparentnosti. On obvezno propisuje označavanje materijala stvorenih generativnom umjetnom inteligencijom, a unutar toga utvrđuje dvije zasebne kategorije: sadržaji koje je AI generirao i sadržaji koje je AI uredio, izmijenio. Dobile su različite oznake, ali nije jasno hoće li, primjerice, Claude moći razlikovati potpuno generirane i izmijenjene sadržaje.
Propisi Europske unije o označavanju sadržaja umjetne inteligencije uvedeni su s prijelaznim razdobljem od četiri mjeseca, što znači da tvrtke još ove godine moraju osigurati usklađenost s ažuriranim propisom AI Act. Ako to ne učine, EU može pokrenuti istragu, a s obzirom na to koliko je Europska komisija nedavno aktivna, nemamo sumnje da će to i učiniti.
Anthropic će buduće modele Claudea primjenjivati tako da od prvog dana označavaju generirani materijal. Modeli koji trenutačno rade za to još ne brinu, ali u teoriji se ažuriranje priprema i za te varijante Claudea.
Ovisno o obliku sadržaja, Anthropic će za postavljanje vodenog žiga primjenjivati dva zasebna rješenja. Za slike i datoteke koristit će sustav C2PA (već ga koriste Google, OpenAI i Adobe), a tekstualni odgovori označavat će se drugom metodom, koja će se doslovno skrivati između redaka.
„Kad podržani model Claudea generira tekst, izravno u sam tekst utkiva neprimjetan vodeni žig. On nije vidljiv i ne mijenja značenje, kvalitetu ni čitljivost Claudeova odgovora” – istaknula je tvrtka.
Kako smo saznali, vodeni žig ostaje moguće otkriti gdje god korisnik kopirao tekst. Raspoznat će se čak i ako čovjek izmijeni tekst, no postupak ipak nije savršeno neprobojan. Ako je riječ o osobito kratkom dijelu teksta, u njemu se žig neće moći dobro sakriti, a u snažno izmijenjenim, jako preoblikovanim tekstovima može se izgubiti i otisak prsta Claudeovih modela.
Anthropic će primjenjivati globalno i općenito označavanje vodenim žigom, ne namjerava to zasebno osigurati samo za EU. Tvrtka je i ranije poduzimala korake za transparentnost, pa nije iznenađujuće da ni kod novog propisa ne traži rupu. Vodeni žig osigurat će Claude API, chatbot Claude, Claude Code, Claude Cowork i Claude Tag. Nije važno ni tko je pružatelj usluge: svi razvoji radit će jednako i uz sustave AWS-a, SpaceXAI-ja, Google Clouda i Microsofta.
