Vlasti traže zabranu da AI platforma nudi chatbotove koji simuliraju licencirane medicinske stručnjake
Američka savezna država Pennsylvania pokrenula je tužbu protiv startapa Character.AI, optužujući ovu kompaniju za omogućavanje chatbotovima da se predstavljaju kao licencirani lekari. Prema zvaničnim informacijama, guverner Josh Shapiro i Državni medicinski odbor zahtevaju sudsku zabranu koja bi sprečila Character.AI da nastavi sa praksom za koju tvrde da krši lokalne zakone koji regulišu medicinsku delatnost.
Character.AI je poznata AI platforma koja korisnicima omogućava interakciju sa raznim digitalnim ličnostima, uključujući i one koje simuliraju lekare. Vlasti Pennsylvanije smatraju da ovakve prakse predstavljaju rizik za korisnike jer mogu dovesti do pogrešnog tumačenja saveta ili donošenja odluka na osnovu neproverenih medicinskih informacija.
Pored Pennsylvanije, i druge američke države, poput Teksasa, najavile su slične istrage i regulatorne korake protiv kompanija koje nude AI chatbotove za mentalno zdravlje ili druge medicinske oblasti, ukoliko ti sistemi nisu jasno označeni kao nelicencirani i bez stručnog nadzora. Ovi slučajevi ukazuju na širu zabrinutost regulatora zbog potencijalnog zloupotrebljavanja AI tehnologije u oblastima koje zahtevaju stručne kvalifikacije i odgovornost.
U centru pažnje je pitanje kako balansirati inovacije u oblasti veštačke inteligencije sa bezbednošću korisnika, posebno kada AI sistemi ulaze u sfere kao što su medicina, pravo i finansije. Sudski proces u Pennsylvaniji mogao bi postaviti važne presedane za buduće regulisanje AI chatbotova i njihove primene.
