Microsoftov razvojni tim ponovno upozorava da korištenje AI agenata nosi rizike i da im se ne može bezuvjetno vjerovati, pa je potrebno poduzeti određene mjere opreza. Tvrtka ipak aktivno razvija i širi sve novije funkcije, a Copilot već može izvoditi razne radnje na računalu pojedinog korisnika, naravno samo uz odgovarajuće odobrenje. Najnoviji službeni post upravo govori o tome da Frontier modeli i AI agenti koji na njima rade sami po sebi nisu pouzdani.
Što onda učiniti ako se odlučimo za AI agente, a k tome im damo posebne ovlasti koje predstavljaju rizik? Prema Microsoftu treba primijeniti agente čuvare (Guardian Agents) koji djeluju kao zaštitari, ponajprije na razini poslovanja. Oni imaju uvid u rad pojedinih AI agenata i mogu provjeriti svaki korak svakog agenta prije nego što izvrši određene radnje. Praćenje aktivnih AI agenata i jamčenje njihova sigurnog rada zahtijeva stalan nadzor, a treba se na pouzdan način pobrinuti i za odgovarajuće ovlasti, sigurnost krajnjih točaka, mrežu, oblak i izvršno okruženje.
U tu je svrhu nastao Project Perception, objavljen još u srpnju ove godine. Njegov je zadatak držati pojedine AI agente pod kontrolom, i to ovlastima i kontejnerima, jasnim skupom pravila te pridruživanjem identiteta. Tijekom rada agenata potrebna je i dinamička analiza rizika, a nadzor ne obavlja jedan, nego čitav tim Guardian Agenata koji u stvarnom vremenu mogu osiguravati siguran i očekivan rad.
U okviru Project Perceptiona AI agente je moguće usmjeravati u stvarnom vremenu, a moguće je i naknadno pregledati što je koji agent radio. Tako se može doznati na temelju čega je pojedina radnja ocijenjena rizičnom, nakon čega se sigurnosna pravila mogu ažurirati. Nadzor u stvarnom vremenu omogućuje brzu reakciju na sigurnosne incidente, a stručnjaci mogu izvući prave zaključke i rad učiniti sigurnijim. Potrebno je i da rad pojedinih modela bude transparentniji, odnosno da se ne nadziru samo ulazni i izlazni tokeni nego i „razmišljanje”, to jest lanac tokena razmišljanja.
Na taj se način doista može razumjeti je li namjera modela bila usklađena s ciljem agenta. Transparentnost ne zamjenjuje ograničenja, nego je njezina zadaća da rad učini učinkovitijim i pametnijim unutar tih ograničenja, a izvršavanje zadataka sigurnijim. Ta je praksa važna i sa stajališta sljedivosti i odgovornosti, a trebala bi biti sljedeći korak u upravljanju rizicima samostalno djelujućih internih AI agenata i u sigurnijem radu.
Tvrtka unatoč svemu navedenom nastavlja razvijati i implementirati AI funkcije. Doduše, upravo je neki dan objavljeno da se kontekstni izbornik za OneDrive malo skraćuje kako bi bio pregledniji i upotrebljiviji, pa se iz njega uklanja osam AI funkcija, no te mogućnosti ne nestaju, ostaju dostupne s drugog mjesta. Nadamo se da će Microsoft i kod AI agenata integriranih u vlastiti operacijski sustav postupati jednako promišljeno kao kod Project Perceptiona. Ne trebaju nam sve nove AI funkcije i svestrani AI agenti, nego je u prvom redu potrebno stvoriti sigurne uvjete rada, a tek nakon toga mogle bi doći razne rizične funkcije, kada im se već može „staviti uzica”. Napredak je naravno potreban, ali unutar razumnih i sigurnih okvira.
