Pravni postupak pokrenut zbog navodno netačnih medicinskih informacija dobijenih putem ChatGPT, u fokusu odgovornost za AI alate
OpenAI se suočava sa tužbom koja je podneta zbog saveta o zdravlju iz ChatGPT koji su, prema navodima, skoro doveli do ozbiljne povrede zdravlja jednog pastora. Ovaj slučaj pokreće pitanje odgovornosti za informacije koje generišu veliki jezički modeli kao što je ChatGPT.
OpenAI tužen zbog ChatGPT saveta o zdravlju
Prema izveštajima iz industrije, korisnik je koristio ChatGPT kako bi dobio medicinski savet. Navodi se da je dobijeni odgovor bio netačan, pa je korisnik, sledeći te instrukcije, ugrozio svoje zdravlje. Ovim činom otvoreno je važno pitanje — ko snosi odgovornost za posledice upotrebe AI alata u osetljivim oblastima poput medicine.
Odgovornost za AI savete i granice upotrebe
ChatGPT, kao LLM (Large Language Model, veliki jezički model), obučen je na velikoj količini tekstualnih podataka. Iako ovaj alat može generisati korisne informacije u mnogim domenima, on ne poseduje medicinsku licencu niti je dizajniran da zameni stručne medicinske savete. Zbog toga, korišćenje ChatGPT za pitanja zdravlja nosi rizik netačnih ili zastarelih informacija. S obzirom na to, ovaj slučaj naglašava značajnu potrebu za jasnim ograničenjima i upozorenjima kada se AI alati koriste u kontekstu koji može imati ozbiljne posledice.
Impikacije slučaja na industriju veštačke inteligencije
Ova tužba bi mogla imati šire posledice za AI industriju. Takođe, postavlja pitanja o tome kako pravno regulisati upotrebu AI modela u svakodnevnom životu. U međuvremenu, kompanije rade na unapređenju sigurnosti i tačnosti svojih sistema, ali granica između korisnih informacija i potencijalno opasnih saveta ostaje izazov.
Zaključak: potreba za regulacijom AI alata
Slučaj „OpenAI tužen zbog ChatGPT saveta o zdravlju“ pokazuje koliko je važno jasno definisati odgovornost kada korisnici AI alate koriste za važne odluke. Pored toga, industrija mora kontinuirano raditi na edukaciji korisnika o mogućim rizicima i ograničenjima ovih tehnologija.
