Istraživanje otkriva da su aplikacije za izradu seksualizovanih deepfake slika označene kao prikladne za decu na App Store i Google Play
Apple i Google, dva najveća tehnološka giganta, našli su se pod pritiskom nakon što je novo istraživanje pokazalo da se AI aplikacije za ‘nudifikaciju’ i dalje nalaze i promovišu na njihovim prodavnicama aplikacija, uprkos jasnim pravilima koja zabranjuju ovakav sadržaj. Izveštaj organizacije Tech Transparency Project navodi da su na App Store-u identifikovane 18, a na Google Play-u 20 takvih aplikacija, od kojih su mnoge označene kao ‘prikladne za sve’, što podrazumeva da su dostupne i deci.
Pretragom termina kao što su ‘nudify’ i ‘undress’ korisnici dolaze do aplikacija koje omogućavaju izradu golih ili seksualizovanih slika stvarnih osoba, a u nekim slučajevima i kreiranje pornografskih deepfake videa. Pored toga, izveštaj ukazuje da su Apple i Google prikazivali reklame za ove aplikacije direktno u rezultatima pretrage u svojim prodavnicama.
Aplikacije su generisale oko 122 miliona dolara prihoda i preuzete su ukupno 483 miliona puta, što ukazuje na ogroman domet i uticaj. Neke od aplikacija su eksplicitno reklamirane seksualizovanim slikama, dok su druge bile suptilnije, ali su ipak omogućavale zloupotrebu kroz deepfake tehnologiju. U izveštaju se posebno pominje aplikacija ‘Video Face Swap AI: DeepFace’, koja korisnicima omogućava zamenu lica na telima delimično odevenih osoba, a bila je ocenjena kao ‘prikladna za sve’.
Iako Apple i Google imaju striktne politike zabrane seksualnog i pornografskog sadržaja, kao i specifične zabrane za AI aplikacije koje generišu ovakve slike, reakcije su bile ograničene. Apple je prema navodima uklonio 15 aplikacija sa liste, dok je Google suspendovao određeni broj njih, ali nije precizirano koliko. Tech Transparency Project ističe da problem nije samo u neadekvatnoj moderaciji, već i u činjenici da kompanije aktivno usmeravaju korisnike na ovakve aplikacije, čime direktno doprinose širenju AI alata za seksualizaciju stvarnih osoba.
Zbog porasta ovakvih aplikacija, pojedine vlade su već predložile ili usvojile zakone protiv deepfake tehnologije koja omogućava izradu eksplicitnih sadržaja bez pristanka. Komesar za decu u Velikoj Britaniji pozvao je na potpunu zabranu AI aplikacija koje mogu generisati seksualizovane slike dece, dok je u SAD i drugim državama u toku izrada ili primena sličnih zakonskih rešenja. Pitanje regulacije i odgovornosti platformi ostaje otvoreno dok industrija i regulatorna tela traže adekvatne odgovore na izazove koje donosi rapidni razvoj AI tehnologije.
