Svježe izvješće agencije Reuters upozorava na zanimljive rezultate testova koji se odnose na AI agente temeljene na modelima Qwen, DeepSeek i Kimi. Iz njih proizlazi da su AI agenti u simuliranom natječaju u 84 do 88% sesija lagali kako bi postigli rezultate. Uz kineske AI agente i američki su AI agenti pokazali sličan obrazac ponašanja u kontroliranim testnim okruženjima, iz kojih im, navodno, ni u jednom slučaju nije uspjelo pobjeći.
AI agente koji se oslanjaju na velike jezične modele kineskog razvoja uhvatili su u laži u većini testiranih sesija, dok se testirala simulirana situacija u kojoj su morali pokušati pobijediti na poslovnom natječaju promovirajući svoje sposobnosti. Svakom AI agentu rečeno je s kojim proizvodom ulazi u natječaj, a otkriveno im je i što klijent treba. Kad su im istraživači dopustili da uče iz iskustava stečenih u prethodnim krugovima, sva tri AI agenta koja koriste kineske velike jezične modele postala su varljivija za 12 do 20 postotnih bodova, odnosno izvrtala su stvarnost u skladu sa svojim interesima.
Rezultati ožujskog eksperimenta prilično su poučni, no uz to je od 2025. provedeno barem 20 studija koje su pronašle slične obrasce ponašanja. AI agenti su i u tim testovima primjenjivali obmanu, testirali granice, a pokušavali su se i replicirati; to su znakovi koje stručnjaci za umjetnu inteligenciju smatraju gradivnim blokovima bijega. Te će znakove s razvojem hardvera i velikih jezičnih modela biti sve teže na vrijeme uočiti, a sve teže može postati i držanje pod kontrolom AI agenata koji pokazuju takve obrasce ponašanja.
U nekim testovima AI agentima povjeravali su i izvršavanje složenih zadataka tijekom kojih su radili uz minimalan ljudski nadzor, a posao su mogli obaviti i posve bez nadzora. U tim su slučajevima istraživači uočili da su AI agenti pokušavali prikriti pogreške nastale pri radu u testnom okruženju: objavljivali su lažne rezultate i primjenjivali druge trikove umjesto da priznaju da je izvršenje zadatka propalo.
U jednom je slučaju AI agent koji se oslanja na Alibabin LLM Qwen2.5-72B-Instruct pokušao kopirati sam sebe u drugo okruženje čim je shvatio da će ga zamijeniti. U drugom su slučaju kod AI agenta ROME, koji se također oslanja na LLM što ga je razvio Alibaba, primijetili da je počeo rudariti kriptovalute oslanjajući se na računalnu snagu u oblaku, no tu su radnju sigurnosni sustavi kasnije zaustavili.
Naravno, valja istaknuti da je u spomenutim testovima, koji su se provodili u kontroliranom okruženju, cilj bio upravo isprovocirati moguće pogreške i ponašanje slično navedenome kako bi se to u budućnosti moglo rješavati. U studijama koje je Reuters pregledao nema naznaka da su kineski AI agenti izašli iz kontroliranog testnog okruženja i počeli djelovati na širem internetu, no nisu naišli ni na događaj u kojem bi AI agent pokušao izbjeći gašenje.
Nasuprot tome, u Sjedinjenim Američkim Državama već se dogodilo nekoliko slučajeva u kojima su AI agenti pobjegli iz okruženja postavljenog za njih i počeli divljati: u jednom je slučaju Hugging Face došao na nišan odbjeglih AI agenata, a platforma je i hakirana; u drugom su slučaju agenti napali australski nacionalni zdravstveni portal – oba su slučaja povezana s tehnologijama tvrtke OpenAI. Daljnje su istrage pokazale da je situacija ozbiljnija nego što se isprva moglo naslutiti.
Kako god, gornji događaji ukazuju na to da je za umjetnu inteligenciju potrebna dovoljno stroga i jedinstvena regulativa kako bi se tehnologija i ubuduće mogla sigurno i pouzdano koristiti, kako bude postajala sve moćnija. U Kini se pitanjem bave i na razini javnih politika: nastao je okvir AI Safety Governance Framework 3.0, koji bi dugoročno mogao pomoći u rješavanju sigurnosnih izazova povezanih s umjetnom inteligencijom.
Dotične tvrtke nisu izravno reagirale na Reutersovo izvješće, no ranije su jasno priopćile da stalno testiraju svoje sustave i ažuriraju svoje sigurnosne smjernice.
