Kompanija xAI preduzima pravne mere protiv zloupotrebe Grok AI modela u kreiranju seksualizovanih deepfake materijala
xAI pokrenuo tužbu protiv korisnika Grok-a zbog generisanja neovlašćenih deepfake sadržaja, navodeći ugrožavanje bezbednosti i privatnosti putem AI tehnologije. Ova pravna akcija usmerena je na pojedinca koji je koristio Grok, veliki jezički model razvijen od strane xAI, za kreiranje seksualizovanih deepfake materijala bez pristanka osoba koje su prikazane u tim sadržajima.
Kompanija xAI je, prema izvorima iz industrije, identifikovala korisnika nakon što su otkriveni primeri neovlašćenih deepfake slika koje su kružile na internetu. U tužbi se navodi da je korišćenje Grok modela za izradu ovakvog sadržaja direktno kršenje uslova korišćenja platforme xAI, a posebno ugrožava privatnost i reputaciju pojedinaca. xAI ističe da su ovakve aktivnosti ne samo protivpravne, već i ozbiljna pretnja etičkoj upotrebi veštačke inteligencije.
Ova tužba dolazi u trenutku kada se industrija AI alata suočava sa sve češćim zloupotrebama velikih jezičkih modela za generisanje lažnih ili kompromitujućih digitalnih materijala. Deepfake tehnologija, koja koristi napredne algoritme za generisanje realističnih slika i video zapisa, postala je izazov za zakonodavce i tehnološke kompanije širom sveta. xAI u svojoj prijavi naglašava da će nastaviti da prati upotrebu svojih alata i preduzimati mere protiv svakog pokušaja zloupotrebe, posebno u slučajevima neovlašćenog generisanja sadržaja koji može naneti štetu pojedincima ili zajednici.
Korišćenje velikih jezičkih modela kao što je Grok pokreće važna pitanja o odgovornosti proizvođača AI alata, ali i korisnika koji pristupaju ovim tehnologijama. Stručnjaci iz oblasti veštačke inteligencije upozoravaju da je potrebno uspostaviti jasne smernice i tehničke barijere koje će sprečiti generisanje neetičkog sadržaja. Pravna akcija xAI može predstavljati presedan u načinu na koji tehnološke kompanije reaguju na zloupotrebe svojih AI proizvoda.
