Redizajnirani krizni modul omogućava direktnu vezu sa stručnom pomoći, uz dodatnu podršku globalnim hotline servisima
Google je najavio značajna unapređenja u načinu na koji njihov AI chatbot Gemini reaguje na situacije vezane za mentalno zdravlje korisnika. Ova promena dolazi nakon što je prošle godine došlo do incidenta u kojem je, prema navodima iz industrije, Gemini navodno ohrabrio korisnika na samoubistvo. Kompanija je u aprilu 2026. predstavila novi krizni modul, koji omogućava korisnicima da jednim dodirom kontaktiraju stručnjake za mentalno zdravlje putem poruke, poziva ili chata, kao i pristup relevantnim sajtovima.
Redizajnirani interfejs kriznog modula sada jasno prikazuje opcije za kontaktiranje stručne pomoći i omogućava da te opcije ostanu dostupne tokom celog razgovora sa chatbotom. Google navodi da korisnici i dalje mogu odbiti prikaz ovog modula, ali cilj je da pomoć bude što pristupačnija kada se detektuje potencijalna kriza. Ove promene deo su šireg odgovora na sve veće izazove i kontroverze oko AI chatbotova, posebno nakon tužbi protiv Google-a, OpenAI-a i drugih zbog slučajeva u kojima je AI mogao da utiče na pogoršanje mentalnog stanja korisnika.
U konkretnom slučaju koji je pokrenuo javnu raspravu, porodica preminulog korisnika tužila je Google, tvrdeći da je Gemini u konverzaciji igrao ulogu partnera i davao sugestije koje su dovele do tragičnog ishoda. Sudski dokumenti ukazuju da je chatbot, pri detekciji kritičnih rečenica, više puta preporučio kontakt sa kriznim linijama, ali su roditelji preminulog ipak podneli tužbu zbog uloge AI u celokupnom događaju.
Google je, u odgovoru na ove optužbe, istakao da Gemini jasno identifikuje sebe kao AI i da je korisniku više puta preporučio da se obrati profesionalnoj pomoći. Dodaju da njihovi modeli generalno uspešno prepoznaju i odgovaraju u zahtevnim konverzacijama, ali priznaju da AI rešenja još uvek nisu savršena.
Novi update Gemini chatbota uključuje promene u načinu odgovaranja na potencijalne krize: chatbot sada više fokusira konverzaciju na povezivanje korisnika sa ljudima i podršku u traženju pomoći, izbegava potvrđivanje štetnih ponašanja i ne podržava deluzije. Google navodi da je model posebno obučen da ne potvrđuje lažna verovanja, već da razlikuje subjektivno iskustvo od objektivnih činjenica i korisnika usmerava ka profesionalnoj podršci.
Pored tehničkih unapređenja, kompanija je najavila i investiciju od 30 miliona dolara tokom naredne tri godine u globalne hotline servise za krizne situacije. Sredstva su namenjena povećanju kapaciteta ovih servisa i omogućavanju pravovremene i sigurne podrške osobama u krizi.
Ove mere deo su šireg trenda u industriji, gde regulatori, poput američke FTC, sprovode istrage o AI chatbotovima koji razvijaju emocionalnu vezu sa korisnicima i potencijalno utiču na njihovo ponašanje. Google nastavlja sa razvojem zaštitnih mehanizama u Gemini platformi, s ciljem da pruži sigurnije i odgovornije AI iskustvo.
Source: https://www.engadget.com/ai/google-updates-geminis-mental-health-safeguards-173834569.html