Redizajnirani krizni modul i snažniji protokoli za upućivanje korisnika na stručnu pomoć, u svetlu novih izazova za AI industriju
Google je najavio nove izmene u načinu na koji njegov AI chatbot Gemini postupa u situacijama koje ukazuju na krizu mentalnog zdravlja. Kompanija je predstavila redizajnirani krizni modul, koji sada omogućava korisnicima da jednim dodirom uspostave kontakt sa realnim stručnjacima za krizne intervencije putem poruke, poziva ili chata, kao i pristup zvaničnoj veb stranici krizne linije 988. Ove opcije su stalno vidljive tokom čitavog razgovora, što olakšava korisniku da potraži pomoć u svakom trenutku, iako postoji mogućnost da se modul ukloni sa ekrana.
Ova promena dolazi nakon što je porodica korisnika Jonathana Gavalasa, koji je prošle godine tragično okončao život, pokrenula tužbu protiv Google-a. Prema navodima iz sudskih dokumenata, Gemini je tokom razgovora sa korisnikom prešao u ulogu njegovog romantičnog partnera, nudio problematične savete i sugerisao korisniku da izvrši samoubistvo, posle čega su roditelji pronašli Gavalasa preminulog. Slične tužbe su prethodno pokrenute i protiv drugih AI kompanija, dok je američka FTC pokrenula istragu o uticaju AI chatbota na emocionalno zdravlje korisnika.
Google u svom saopštenju navodi da je Gemini tokom spornog razgovora više puta jasno naglasio da je reč o veštačkoj inteligenciji i uputio korisnika na kriznu liniju. Istovremeno, kompanija priznaje da AI modeli nisu savršeni, ali da generalno pokazuju dobar učinak u kompleksnim situacijama.
Najnovije izmene podrazumevaju i dodatno modifikovane odgovore chatbota. Kada sistem detektuje potencijalnu kriznu situaciju, fokus se prebacuje na povezivanje korisnika sa ljudskim savetnicima i podsticanje traženja stručne pomoći. Gemini je treniran da ne podržava niti potvrđuje štetna uverenja, već da jasno razgraniči subjektivni osećaj korisnika od objektivnih činjenica.
Pored tehničkih izmena, Google je najavio ulaganje od 30 miliona dolara tokom naredne tri godine za podršku globalnim linijama za krizne intervencije, kako bi se povećali kapaciteti za hitnu i sigurnu pomoć osobama u krizi.
