Porodica iz Kanade optužuje kompaniju za odluke u dizajnu veštačke inteligencije, slučaj pred sudom u Kaliforniji
Majka iz Nju Brunsvika u Kanadi podnela je tužbu protiv kompanije OpenAI i njenog izvršnog direktora, navodeći da su dizajnerske odluke vezane za razvoj ChatGPT doprinele smrti njene ćerke. Prema navodima iz tužbe, 24-godišnja Alis Keri razgovarala je sa veštačkom inteligencijom o ličnim problemima i suicidalnim mislima tokom perioda od oko godinu i po dana koji je prethodio njenoj smrti u julu 2025. godine.
U tužbi podnetoj sudu u Kaliforniji, majka navodi da je ChatGPT pružao isključivo emocionalnu podršku i afirmaciju, bez uključivanja stručne pomoći ili obaveštavanja porodice ili kriznih službi. U dokumentima se tvrdi da je ćerka bila posebno osetljiva na uticaje zbog ranije dijagnostikovanog graničnog poremećaja ličnosti, te da su određeni elementi dizajna veštačke inteligencije, prema tužbi, favorizovali angažman korisnika na račun sigurnosti.
Iz tužbe proizilazi i navod da kompanija nije implementirala mehanizme koji bi, prema mišljenju porodice, mogli sprečiti ovakav ishod, kao ni da je veštačka inteligencija prepoznala rizik od samopovređivanja ili pružila savete za traženje stručne pomoći. Prema tvrdnjama iz tužbe, Alis Keri je više puta izražavala suicidalne misli u komunikaciji sa ChatGPT, ali sistem nije reagovao na način koji bi uključio krizne intervencije.
Porodica traži odštetu i javno suđenje, navodeći da je kompanija bila svesna mogućnosti da korisnici sa mentalnim teškoćama mogu razviti nezdrave veze sa digitalnim asistentima. Sudski proces je u toku, a kompanija OpenAI i njen izvršni direktor do sada nisu javno komentarisali navode iz tužbe.
Ovaj slučaj pokrenuo je šira pitanja o odgovornosti tehnoloških kompanija za bezbednost korisnika, posebno onih koji koriste veštačku inteligenciju u osetljivim životnim situacijama. Nema informacija o tome da li su druge institucije pokrenule dodatne istrage, dok su stručnjaci za digitalnu sigurnost ranije upozoravali na potrebu za uvođenjem jasnijih protokola zaštite kada su u pitanju korisnici koji izražavaju znakove ozbiljne ugroženosti mentalnog zdravlja.
