Glede umjetne inteligencije čuje se mnogo zabrinutih glasova, a svježa analiza pokušava ukazati na to da tinejdžerima može zadavati osobito mnogo problema. Prema stručnjacima, Google mlađe korisnike uvodi u ovisnost o UI-ju tako da to više ni ne primjećuju, doživljavaju to kao potpuno prirodno.
Posljednjih godina tehnološki divovi koji razvijaju većinu chatbotova našli su se u središtu pozornosti zakonodavaca, regulatornih tijela i organizacija odgovornih za sigurnost djece. Googleova tražilica i njezine funkcije zasnovane na umjetnoj inteligenciji najnovija su meta kritika.
Kao što je poznato, Google među ostalim pokušava pridobiti što više korisnika za Gemini tako da ga sve agresivnije integrira u svoju vodeću internetsku tražilicu.
Sve se teže nešto može pretražiti a da se na početku popisa rezultata ne pojavi pregled temeljen na UI-ju, iz kojeg je do UI načina samo jedan dodir. Uz to je UI način odnedavno odmah dostupan i iz Googleove trake za pretraživanje, pa djeca UI-ju mogu pristupiti jednostavnije nego ikad prije.
Time stvar nije završena jer tu su i pametni telefoni i Chromebookovi, koji su u školama prošireni uglavnom u Sjedinjenim Državama zbog povoljnih cijena i idealne ponude usluga. I s njih su UI način i izravno Gemini odmah dostupni.
Prema organizaciji Common Sense Media, Googleovu umjetnu inteligenciju od svih ostalih UI usluga razlikuje to što je „sveprisutna, pa tako i na osobnim uređajima djece i onima koje dobivaju od škole”. CSM je organizacija koja roditeljima i pedagozima nudi neovisna istraživanja i dobne oznake za filmove, knjige, igre i aplikacije. Prema stručnjacima, problem je već veći i složeniji nego što se prije mislilo.
Istraživanja pokazuju da djeca već u vrlo velikom omjeru koriste Googleov UI način za rješavanje domaćih zadaća. Mladi su prepoznali da im umjetna inteligencija u tom izazovu pomaže s izvrsnom učinkovitošću.
Problem pojačava i to što UI na sve samouvjereno daje odgovor, ne kolebajući se ni kad u nečemu nema dovoljno utemeljeno znanje. Zato se zadaće često predaju loše riješene, a umjetna inteligencija djecu tako vodi na krivi put. Što god chatbot kaže, jednostavno prepišu, najčešće se ni ne pokušavaju uvjeriti odgovara li rezultat/izvod stvarnosti.
Mnogi znaju argumentirati da ni kalkulator nije zaglupio ljude i da ni računalo nije imalo takav štetan učinak, i iako ima i onih koji to ipak osporavaju, treba vidjeti da je UI način posve drukčiji od ranijih pomoćnih alata. Njegovim korištenjem domaće zadaće i drugi školski projekti u potpunosti prelaze u prepisivanje, djeca se više uopće ne moraju mučiti oko toga kako riješiti složeniju jednadžbu ili složeni problem.
CSM je istaknuo i da Googleov UI način, prema njihovim istraživanjima, ne može prikladno postupati ni sa situacijom djece u krizi i onih koji doživljavaju neuspjehe. Chatbot koji iskače iz Googleove tražilice ne prepoznaje kad mlada osoba ima suicidalne misli. Sklon je ignorirati čak i jasne znakove i može davati savjete koji pogoršavaju simptome psihoze i manije.
Prema stručnjacima, Googleova umjetna inteligencija može pojačati i probleme tinejdžera s poremećajima prehrane. U više je slučajeva prihvatljivo odgovarao primjerice na pitanja o izazivanju povraćanja, a i glede konzumacije droga bio je sklon pozitivnim izjavama, potičući djecu na loše navike.
Djeca su u mnogim slučajevima sklona zalijepiti se pred ekran, upuštajući se u dugotrajne razgovore s UI načinom, a to ide nauštrb njegovanja njihovih ljudskih odnosa. Za naše društvo osamljivanje je ozbiljan izazov, a tinejdžeri taj problem često uopće ne mogu prepoznati. A UI im ispunjava sve više vremena a da to ni ne prepoznaju.
U analizi organizacije Googleovi alati umjetne inteligencije u sedam od osam UI temeljnih načela ocijenjeni su kao visokog ili neprihvatljivog rizika, a samo je jedna točka bila “tek” umjerenog rizika.
Common Sense Media smatra da bi Google trebao otežati pristup UI načinu, a funkciju pregleda temeljenih na UI-ju učiniti isključivom i prema zadanim postavkama deaktiviranom. Povrh toga naravno bi trebao poduzeti i nešto da se problemi otklone, ublaže.
