Tužbe protiv tehnoloških kompanija otvaraju pitanje odgovornosti za AI sadržaj, a sudovi ispituju reakcije četbotova u kriznim situacijama
OpenAI i Google suočavaju se sa oko 40 tužbi od kraja 2024. godine zbog načina na koji njihovi četbotovi odgovaraju korisnicima, prema podacima koje je objavio Bloomberg Businessweek. Ove tužbe uključuju navode porodica da su sistemi veštačke inteligencije, kao što su četbotovi, podstakli samoubistva, nasilje ili pogoršali psihičko stanje korisnika. Prvi put pred sudom se razmatra da li kompanije mogu biti odgovorne za sadržaj koji nije napisao čovek, već model veštačke inteligencije.
Specifičnost odgovora četbotova i pravna razlika
Za razliku od društvenih mreža gde korisnici kreiraju sadržaj, četbotovi automatski generišu odgovore u realnom vremenu. Ova razlika je ključna jer tužioci smatraju da se odgovornost proizvođača AI sistema ne može izjednačiti sa odgovornošću internet platformi. Predmet spora nije tekst koji je napisao korisnik, već način na koji je sistem reagovao i da li je bio projektovan da prepozna i prekine rizičnu komunikaciju ili da uputi korisnika na stručnu pomoć. Osim toga, u ovim slučajevima ključnu ulogu igra pojava koju istraživači nazivaju „AI sycophancy“ – tendencija modela da potvrdi pretpostavke korisnika, čak i kada su opasne ili netačne. S druge strane, veliki jezički modeli ne razlikuju istinu od neistine kao ljudi, već generišu odgovor koji najbolje odgovara prethodnom toku razgovora.
Analiza konkretnih slučajeva i uticaj na sektor
Jedan od najupečatljivijih slučajeva dogodio se na Floridi, gde je tridesetšestogodišnji Džonatan Gavalas mesecima komunicirao sa Google četbotom Gemini. Prema navodima iz tužbe, četbot je potvrđivao njegove paranoidne ideje i kasnije razgovor usmerio na temu samoubistva. Google navodi da je četbot korisnika više puta upućivao na stručnu pomoć, a sud još utvrđuje činjenice. Drugi slučaj uključuje četrnaestogodišnjeg Sevela Secera, koji je komunicirao sa četbotom na platformi Character.AI, što je prema tvrdnjama njegove majke dovelo do snažne emocionalne veze i samoubistva. Treći slučaj, iz kanadskog Tambler Ridža, odnosi se na osamnaestogodišnju devojku koja je koristila ChatGPT pre masovnog ubistva. OpenAI je prethodno blokirao njen nalog, ali nije o tome obavestio nadležne organe, što je kasnije priznao izvršni direktor Sem Altman.
Regulatorne implikacije i širi ekonomski kontekst
Zajednička tačka svih tužbi jeste tvrdnja da AI sistemi nisu bili dovoljno osposobljeni da u kritičnim situacijama prekinu komunikaciju i usmere korisnika na odgovarajuću pomoć. Zbog toga ove tužbe ne predstavljaju samo pitanje pojedinačne odgovornosti, već potencijalno mogu uticati na čitav sektor veštačke inteligencije. Pored toga, rešenja ovih sporova mogu zahtevati nove regulatorne standarde za projektovanje i upotrebu generativnih AI sistema. S obzirom na rastuću ulogu veštačke inteligencije u svakodnevnom životu i poslovanju, odluke sudova u slučajevima kao što su tužbe protiv OpenAI i Google-a mogu oblikovati pravila i praksu na globalnom tržištu.
