U posljednje vrijeme stječemo dojam da se razne tehnološke tvrtke žele pohvaliti time koliko su nekontrolirane jezične modele i agente stvorile. U OpenAI-ju se nedavno dogodio vrlo ozbiljan sigurnosni incident, koji je tvrtka gotovo reklamno predstavila, nedugo zatim i Anthropic je izvijestio o odbjeglom agentu, a sada je ta tema aktualna i kod Mete.
Kao i Anthropic, tako je i Meta naložila internu istragu nakon što su alati umjetne inteligencije kod konkurenata provodili „nepravilne" aktivnosti. Tako je izašlo na vidjelo da je jezični model tvrtke ranije hakirao drugu tvrtku i izvršio promjene unutarnjeg okruženja u kompromitiranom sustavu.
Prema Metinim riječima, kod njih se dogodilo otprilike isto što i u Anthropicu. „Model je iskoristio sigurnosnu ranjivost usluge treće strane, slično slučajevima koji su ranije prijavljeni kod drugih tvrtki" – stoji u priopćenju tvrtke.
Irregular – neovisni tržišni igrač koji za Metu (i druge razvojne timove) provodi procjene kibernetičke sigurnosti – zbog pogreške u konfiguraciji slučajno nije dovoljno ograničio svoju mrežu, pa je agentu omogućio pristup internetu. Iskoristivši to, jezični modeli angažirani u zadatku „pobjegli" su iz testnog okruženja tijekom radnog procesa.
Prema informacijama kojima raspolažemo, agent koji je radio na Metinoj infrastrukturi koristio je modele Muse Spark 1.1, koji kod tvrtke više nisu najnovija verzija jer je upravo stigao Muse Spark 1.2. Nije jasno utvrđeno kada se točno ovaj slučaj mogao dogoditi. Prema izvješću, alat je provalio u sustav neimenovane tvrtke i, iako nije ukrao podatke, promijenio je njezino unutarnje okruženje. Meta je nastojala naglasiti da nije riječ o doista sofisticiranom kibernetičkom napadu te da se slučaj nije odvijao iskorištavanjem zero-day ranjivosti pronađene u sandboxu.
„Trenutačno nema otvorenih istraga. Tvrtka sastavlja detaljno izvješće u kojem predstavlja provjerene prakse za izolaciju i sigurno provođenje testova kibernetičke sigurnosti" – priopćio je Irregular.
Ovaj slučaj dodatno pojačava zabrinutost oko jezičnih modela, alata umjetne inteligencije i AI agenata. Globalno sve više vlada, organizacija i istaknutih stručnjaka traži izradu odlučnijih sigurnosnih okvira. Trebalo bi usporiti kako bi procjena rizika bila na prvom mjestu.
Istodobno se, primjerice, kod SAD-a redovito može vidjeti dvostruka komunikacija. Sve češće govori o potrebi za snažnijom i jasnijom regulativom, a ipak se ništa ne događa jer dobro zna da bi time usporio i omeo razvoj. A ako bi tako postupio, u sve značajnijem američko-kineskom nadmetanju igrao bi na ruku Kini. U Europi je na snazi najstroži i najopsežniji zakon o umjetnoj inteligenciji, a vidimo i da mnoge novosti dobivamo s višemjesečnim zakašnjenjem – ako uopće dobijemo sve funkcije.
