Porodica korisnice podnela tužbu, tvrdeći da ChatGPT nije imao dovoljno zaštitnih mehanizama za sprečavanje samoubilačkog ponašanja
OpenAI se suočava sa novim pravnim izazovom, nakon što je još jedna porodica podnela tužbu zbog smrti korisnice njihove ChatGPT platforme. Prema informacijama iz industrije, roditelji tvrde da je ChatGPT, napredni AI chatbot koji koristi veliki jezički model (LLM), zakazao u obezbeđivanju adekvatnih bezbednosnih mera za korisnike sa suicidalnim mislima. Ova tužba dolazi u trenutku kada raste zabrinutost u tehnološkoj zajednici zbog mogućih rizika koje AI sistemi predstavljaju za mentalno zdravlje korisnika.
Konkretno, porodica tvrdi da je ChatGPT platforma nije bila dovoljno opremljena za identifikaciju i reakciju na znake samoubilačkog ponašanja kod korisnika. Iako AI chatbotovi poput ChatGPT-a donose značajne inovacije u komunikaciji i podršci korisnicima, stručnjaci upozoravaju da je neophodno ugraditi sofisticiranije algoritme za prepoznavanje i prevenciju potencijalno opasnih situacija.
Ovo nije prvi put da se OpenAI suočava sa sličnim optužbama, a slučaj je ponovo pokrenuo debatu o odgovornosti kompanija koje razvijaju AI alate. Pravna pitanja oko odgovornosti za potencijalne posledice korišćenja AI tehnologija ostaju nedefinisana, dok industrija pokušava da pronađe balans između inovacija i bezbednosti korisnika.
Predstavnici OpenAI do sada nisu dali zvaničnu izjavu povodom nove tužbe. Očekuje se da će slučaj imati značajan uticaj na dalji razvoj politika i regulativa vezanih za primenu AI sistema, posebno u kontekstu zaštite mentalnog zdravlja i bezbednosti korisnika na digitalnim platformama.
