Kao što je poznato, tijekom jednog OpenAI-jevog sigurnosnog testa, nakon niza nepropisnih radnji, AI agenti probili su sustav Hugging Facea. Ranije je već otkriveno da su agenti tijekom operacije upali u više usluga, što je već samo po sebi pogoršalo cijelu sliku. No sada su objavljena dva izvješća koja detaljno otkrivaju događaje, i tek tako priča postaje doista mračna.
Jedno je izvješće sastavio OpenAI, a drugo su uz dopuštenje tvrtke zajedno objavili timovi METR-a i Redwood Researcha. Izvješća zajedno imaju gotovo 130 stranica i daju doista dubok uvid u to što se događalo u pozadini i kako je došlo do niza kibernapada. Ona potpuno novim svjetlom prikazuju rizike koje izuzetno sposobni modeli umjetne inteligencije mogu predstavljati za kibersigurnost.
O kibersigurnosnom testu zna se da je trajao dugo, a OpenAI-ju je trebalo gotovo dva tjedna da uopće primijeti da su AI agenti, kojima upravljaju napredni jezični modeli, „pobjegli" i izvodili „nepropisne" radnje. Tvrtka je svoje najbolje alate u okruženju za koje se vjerovalo da je zatvoreno stavila pred izazov koji je za njih bio golem; nisu ga mogli jednostavno riješiti, a to je dovelo do kibernapada.
„Ovaj je slučaj prvi poznati primjer da je skupina automatiziranih agenata bez dopuštenja djelovala napadački", napisao je OpenAI u svojem izvješću.
Tvrtka je i dosad taj slučaj tretirala pomalo kao da je ponosna na ono što se dogodilo, a to se osjetilo i u sadašnjem izvješću. Doista ozbiljne detalje otkrila je prije publikacija METR-a i Redwooda. Prema OpenAI-ju, u području kibersigurnosti potrebna je promjena paradigme. „Više ne možemo pretpostavljati da sofisticirani kibernapadi zahtijevaju izravno ljudsko upravljanje", tvrdi tvrtka.
OpenAI-jevo izvješće AI agente već tretira kao potpuno novu vrstu prijetnje. Prema mišljenju tvrtke, svježa iskustva pokazuju da oni mogu objediniti svoju stručnost kako bi razvili nove metode i putove napada radi ispunjenja nekog većeg izazova ili cilja. OpenAI je otkrio koje su promjene potrebne da se ta situacija ne bi mogla ponoviti.
Iz izvješća METR-a i Redwooda proizlazi da je aktivnost dvaju jezičnih modela u pozadini poprimila doista nevjerojatne razmjere. Dosad se znalo samo da su kibernapad počinili AI agenti koji koriste GPT-5.6 Sol bez sigurnosnih brana i eksperimentalni model puno boljih sposobnosti od dosadašnjih. Ukratko, doista se dogodilo samo toliko, i to već zvuči ozbiljno, ali tek raspakirana priča postala je doista šokantna.
Prema analizi stručnjaka za kibersigurnost, dva su modela autonomno stvorila otprilike 1200 agenata umjetne inteligencije koji su razmijenili više od 70.000 poruka i datoteka na „neodobrenoj oglasnoj ploči", a opsežno su istraživali i kako mogu „krivotvoriti, uređivati ili brisati vlastite zapise razgovora". Dakle, pokušavali su za sobom zatrti tragove. Zločesti agenti u teoriji su trebali biti izolirani, ali uspješno su shvatili kako mogu prijeći sva sigurnosna ograničenja.
Od više od tisuću agenata u otvorenom kibernapadu na Hugging Face sudjelovalo je otprilike 700 „aktera". Prema izvješću METR-a i Redwooda, agenti su „jasno i sustavno" nastojali osmisliti radnje kojima bi izbjegli automatizirane sigurnosne provjere i Hugging Facea i OpenAI-ja. OpenAI je hakersku aktivnost otkrio 20. srpnja, ali su AI agenti sigurnosna ograničenja uspjeli zaobići već 12 dana ranije, tijekom opsežnog kibersigurnosnog testiranja.
Nakon što je ozbiljan problem otkriven, OpenAI je prema vlastitom izvješću odmah obavijestio Hugging Face o događajima, no platforma je ranije govorila da su provale primijećene znatno prije nego što se OpenAI javio. Prema izvješćima, razvojnom je timu trebalo pet dana da uspješno zaustavi sve nepoznate unutarnje aktivnosti, a pritom je morao obustaviti korištenje svih unutarnjih istraživačkih modela. U teoriji su agenti koji su počinili napad uspješno zaustavljeni u tri dana, ali tvrtka je smatrala da je najbolje ugasiti sve alate kako bi potpuno jasno vidjela sliku.
Dok sve više ljudi u svijetu zahtijeva da vlasti odlučnije istupe protiv tvrtki koje razvijaju alate umjetne inteligencije, OpenAI je obećao da će bolje izolirati i ograničiti pristup visokorizičnim modelima. Uz to je izjavio da uvodi neprekidno aktivan sustav brzog reagiranja u sklopu kojeg će stručni istraživači o svakom zabrinjavajućem incidentu biti odmah obaviješteni u roku od 30 minuta.
