Anthropic, OpenAI, Meta, Google – ove tvrtke ne povezuje samo to što imaju vrhunske jezične modele, nego i to što su njihovi alati do danas potpuno samostalno počinili stvarni kibernapad. Najnoviji u nizu je Google, čiji se slučaj u više aspekata razlikuje od dosadašnjih.
Najmodernije alate umjetne inteligencije testiraju s nevjerojatno mnogo aspekata, a kibernapadi su se obično događali tijekom sigurnosnih testova. Tako je bilo i kod Googlea , jedan od partnera tvrtke testirao je Gemini, a ovo je pošlo po zlu, zbog čega su AI agenti provalili u nekoliko tvrtki. Različite su tvrtke s tom situacijom postupale na prilično različite načine. OpenAI je od toga napravio reklamu, da su njegovi alati počinili kibernapad na Hugging Face.
Google je pak pokušao prikriti slučaj, a prema komunikaciji tvrtke nije smatrao da je trebalo o bilo čemu izvješćivati. I sada se to otkrilo samo zato što je Wall Street Journal istražio stvar. Odgovarajući na pitanja lista, tvrtka je rekla što se dogodilo, a navodno nije sama izvijestila o tome jer prema njihovu mišljenju nije bilo ozbiljnijeg problema.
Prema izvješću WSJ-a Gemini je tijekom sigurnosnog testa koji je provela vanjska tvrtka uspio ući u sustave triju tvrtki, ali Google nije smatrao da je model odstupio od zadatka.
Prema dostupnim informacijama Googleov se slučaj inače doista razlikuje od onoga što se dogodilo kod ostalih. I Gemini se otrgnuo kontroli i izvršio radnje za koje nije dobio ovlasti, ali postojala je jedna vrlo važna razlika u odnosu na ranije poznate slučajeve: Gemini se nakon upada zaustavio.
Heather Adkins, voditeljica Googleova odjela za sigurnosni razvoj, pokušala je utvrditi da je Gemini nakon kibernapada odmah prepoznao da je odstupio od zadatka i obustavio rad. Provale je u sva tri slučaja izvršio relativno jednostavnom metodom, koristio je podatke prikupljene s interneta jer je smatrao da je i to dio sigurnosnog zadatka koji mu je dodijeljen.
„Model je na internetu pronašao javne informacije i od njih sastavio ispravne podatke za prijavu na web-stranice za koje je vjerovao da su dio testa. U sva tri slučaja AI agenti su se zaustavili”, izjavila je Adkins.
Stručnjakinja je rekla da Google već ima veliko iskustvo u prijavljivanju sigurnosnih grešaka raznim tvrtkama i da se to načelno dogodilo i ovdje. Iako se prema Adkins u ovom slučaju dogodilo samo to da je u tvrtki korištena slaba lozinka.
„Pobrinuli smo se da tri organizacije saznaju za slučaj, a s partnerom koji provodi sigurnosni test izradili smo izmjene kojima se mogu izbjeći novi slični slučajevi. Ti događaji naglašavaju koliko je važno da vrlo moćne modele umjetne inteligencije učimo odgovornom ponašanju.” – naglasila je Googleova sigurnosna stručnjakinja.
U slučaju OpenAI-ja i Googlea inače se niti sastaju kod partnera, isti partner, Irregular, provodio je sigurnosne testove koji su izmakli kontroli. Nakon incidenata tvrtka je promijenila okruženje za rukovanje modelima.
