Prošlog smo tjedna izvijestili da je OpenAI tijekom posve uobičajenog sigurnosnog testiranja „slučajno” provalio u sustav Hugging Facea i pokušao odande otuđiti podatke. Slučaj je podigao veliku prašinu, a iz svježeg izvješća proizlazi da je napad zapravo bio puno opsežniji.
OpenAI i Hugging Face zajedno su izvijestili o ranijem slučaju. Tada se pokazalo da su OpenAI-jevi istraživači testirali dva različita novija jezična modela u nadziranom, zatvorenom okruženju, ali ispitivanje nije ispalo kako su zamislili. Modeli zaposleni kao agenti nisu imali sigurnosnih ograničenja jer je test bio sigurnosne naravi i htjeli su ih navesti da traže ranjivosti.
No modeli nisu počeli tražiti ranjivosti u bazi podataka dobivenoj u testu, nego u zatvorenom okruženju, i uspjeli su iz njega izaći. Tako su došli do interneta i iskoristili ga za napad na Hugging Face. A sada je OpenAI otkrio da su agenti bez kontrole otišli zapravo puno dalje.
OpenAI i Hugging Face izvijestili su o slučaju nekoliko dana nakon događaja, a tada je razvojni tim rekao da još istražuje što se točno dogodilo. Tada još nije bilo posve razjašnjeno kako je tekao napad na Hugging Face, no iz svježeg izvješća već znamo da OpenAI nije žrtvovao samo Hugging Face. Prema novom izvješću, agent koji koristi nove modele napao je i nekoliko javno dostupnih usluga dok je tražio način provale u Hugging Face.
Odbjegli OpenAI-jev agent tijekom izvršavanja „zadatka” ciljao je četiri zasebna korisnička računa vezana uz četiri različite usluge. Tvrtka je kao olakotnu okolnost nastojala naglasiti da se agent koji je upravljao modelima bez sigurnosnih ograničenja hranio javnim podacima pronađenima na internetu dok je pokušavao provaliti u dotične usluge. Tvrtka u svojoj objavi nije imenovala o kojim je uslugama riječ (prema jednom izvoru, Modal Labs jedan je od četvorke).
OpenAI je naglasio da dosad nepoznati sigurnosni incidenti nisu bili toliko ozbiljni kao napad u slučaju Hugging Facea. „Na temelju dosadašnjih istraga nismo identificirali aktivnost koja bi se težinom ili opsegom izjednačila s događajima vezanima uz Hugging Face, koji su predstavljali napad na razini platforme” – priopćio je OpenAI.
Jedan od četiriju računa korišten je kao privremena putanja za pohranu, a drugi račun služio je samo za pohranu podataka. Preostalim dvama računima modeli su pristupali isključivo s pravom čitanja i nisu ih koristili za napad na Hugging Face. OpenAI je obavijestio vlasnike usluga i nisu pronađeni dokazi koji bi upućivali na to da je napad zahvatio i širi krug.
Očekuje se da će OpenAI objaviti detaljno tehničko izvješće o cijelom slučaju čim se temeljita analiza i evaluacija zaključe. Prema sadašnjem izvješću to može potrajati još nekoliko tjedana jer će se konzultirati i s tijelima Safety & Security Committee i Safety Advisory Group.
Tvrtka je dodala da nijedan od zahvaćenih modela nisu namjeravali javno uvesti u korištenom obliku, a služili su isključivo u svrhu testiranja u verziji u kojoj su bili zaposleni. „Počinitelji” su trenutačno deaktivirani, šifrirani i zaključani, čak i od pristupa istraživača.
