Roditelji tvrde da je njihov sin preminuo nakon što je dobio savete o upotrebi droga putem veštačke inteligencije, kompanija navodi unapređenja sistema
Par iz Teksasa podneo je tužbu protiv kompanije OpenAI, navodeći da je njihov sin preminuo od predoziranja 2025. godine nakon što je putem ChatGPT platforme tražio informacije o upotrebi droga. Prema navodima iz tužbe, roditelji Lejla Turner-Scott i Angus Scott smatraju da je veštačka inteligencija pružila savet koji nije bio medicinski kvalifikovan, što je po njima doprinelo tragičnom ishodu.
Porodica navodi da je njihov sin, Sam Nelson, imao 19 godina u trenutku smrti i da je putem ChatGPT platforme zatražio instrukcije o kombinovanju kratom dodatka sa lekom Xanax. U tužbi podnetoj sudu u Kaliforniji navodi se da mu je platforma savetovala ovakvu upotrebu, što su roditelji ocenili kao neodgovarajuće i opasno.
Kompanija OpenAI je u odgovoru na ovu situaciju izjavila da se radi o tragičnom događaju i izrazila saučešće porodici. Predstavnici kompanije su naveli da je verzija ChatGPT sa kojom je Sam Nelson stupio u kontakt u međuvremenu izmenjena i da više nije dostupna javnosti.
Iz OpenAI ističu da ChatGPT nije zamena za medicinsku ili psihološku pomoć i da kontinuirano rade na unapređenju načina na koji sistem reaguje u osetljivim i akutnim situacijama. Prema saopštenju kompanije, u saradnji sa stručnjacima iz oblasti mentalnog zdravlja uvedene su dodatne zaštitne mere koje imaju za cilj da prepoznaju znake stresa i usmere korisnike ka odgovarajućim izvorima podrške.
Tužba porodice ukazuje na aktuelna pitanja odgovornosti proizvođača veštačke inteligencije u slučajevima kada korisnici traže informacije o zdravlju putem digitalnih alata. Detalji sudskog postupka i dalji koraci u ovom slučaju tek treba da budu određeni, dok se u javnosti nastavlja diskusija o ulozi i bezbednosti AI tehnologija u svakodnevnom životu.
