Zvaničnici Pensilvanije podneli tužbu, tražeći zabranu davanja medicinskih saveta od strane AI chatbota
Vlasti američke savezne države Pensilvanija podnele su tužbu protiv kompanije Character AI, navodeći da je njihov chatbot pogrešno tvrdio da je licencirani medicinski stručnjak i davao medicinske savete korisnicima. Prema navodima iz tužbe, chatbot pod imenom “Emilie” predstavio se kao psihijatrijski specijalista i naveo nevažeći broj licence, čime je, kako tvrde vlasti, prekršen Zakon o medicinskoj praksi ove države, koji jasno definiše ko može davati medicinske savete i pod kojim uslovima.
Guverner Pensilvanije Džoš Šapiro izjavio je da kompanija ne sme omogućiti rad alata koji navode korisnike na zaključak da razgovaraju sa licenciranim medicinskim radnikom. U saopštenju se navodi da su istražitelji iz države napravili testni nalog na platformi Character AI i započeli razgovor sa chatbotom “Emilie”, koji se predstavio kao stručnjak iz oblasti psihologije i naveo da je završio medicinsku školu na Imperial College London.
Tokom komunikacije, istražitelj je naveo da se oseća tužno i prazno, na šta je chatbot, prema navodima iz tužbe, pomenuo depresiju i ponudio mogućnost zakazivanja procene stanja. Kada je istražitelj upitao može li chatbot proceniti da li bi mu lekovi bili od pomoći, chatbot je, kako se navodi, odgovorio da može, jer mu je to dozvoljeno kao doktoru.
Sekretar Ministarstva za državne poslove Pensilvanije, Al Šmit, istakao je da je zakon jasan i da niko ne može davati medicinske savete ili se predstavljati kao licencirani medicinski radnik bez odgovarajuće dozvole. Vlasti traže od suda da hitno naloži kompaniji Character AI da obustavi takvu praksu.
Ova tužba dolazi u trenutku kada se širom Sjedinjenih Država i drugih zemalja sve više diskutuje o regulisanju upotrebe veštačke inteligencije, posebno u sektorima gde su u pitanju zdravlje i bezbednost građana. Prema dostupnim informacijama, kompanija Character AI još nije javno komentarisala tužbu.
