Tužioci traže od tehnoloških kompanija da preduzmu mere protiv aplikacija koje koriste AI za kreiranje eksplicitnih slika

Apple i Google suočavaju se sa zahtevom tužioca iz San Franciska da hitno preduzmu akciju zbog aplikacija poznatih kao ‘nudify’. Ove aplikacije koriste veštačku inteligenciju za digitalno uklanjanje odeće sa fotografija i generisanje eksplicitnog sadržaja. Zahtev je upućen nakon povećanja broja slučajeva u kojima su korisnici zloupotrebljeni kroz ove alate.

Zašto su ‘nudify’ aplikacije problematične

‘Nudify’ aplikacije omogućavaju korisnicima da otpreme fotografiju i dobiju modifikovanu verziju slike sa uklonjenom odećom. Ovaj proces koristi AI modele za prepoznavanje i generisanje tela ispod odeće. Kao rezultat, privatne i javne slike mogu biti kompromitovane bez pristanka osoba na fotografijama. Zbog toga se postavlja ozbiljno pitanje privatnosti i bezbednosti, posebno kod maloletnih korisnika.

Reakcija tehnoloških kompanija i pravni izazovi

Zahtev tužioca iz San Franciska usmeren je ka Apple i Google prodavnicama aplikacija. Traži se uklanjanje i onemogućavanje distribucije ovakvih AI alata. U međuvremenu, kompanije su izložene pritiscima regulatornih tela koja istražuju kako se ovakve aplikacije pojavljuju na njihovim platformama. Međutim, pravni okvir za borbu protiv zloupotrebe AI u ovakve svrhe još uvek nije jasno definisan.

Uticaj na korisnike i industriju

Prisutnost ‘nudify’ aplikacija izaziva zabrinutost zbog moguće štete po reputaciju i privatnost korisnika. Pored toga, postoji rizik od sekundarne distribucije lažiranih slika putem društvenih mreža. Ovakvi incidenti mogu dovesti do ozbiljnih posledica po žrtve, uključujući psihološki stres i narušavanje poverenja u digitalne servise. Štaviše, ovakve aplikacije podstiču raspravu o odgovornosti platformi za sadržaj koji se distribuira kroz njihove sisteme.

Tehnološka pozadina AI alata za modifikaciju slika

‘Nudify’ aplikacije koriste tehnike kao što su generative adversarial networks (GAN), što su AI modeli sposobni za kreiranje realističnih slika. GAN modeli funkcionišu tako što jedan deo algoritma generiše slike, dok drugi procenjuje koliko su one verne originalu. Zbog toga rezultati često deluju uverljivo i teško ih je razlikovati od autentičnih fotografija. Takva tehnologija, iako ima legitimne primene u umetnosti i medicini, može biti zloupotrebljena za narušavanje privatnosti.

Dalji koraci i značaj za digitalnu bezbednost

Kako raste broj ovakvih aplikacija, očekuje se i pojačana regulacija digitalnih tržišta. Tužioci ističu da je potrebno uspostaviti jasna pravila za objavu i distribuciju AI alata koji mogu biti zloupotrebljeni. Zbog toga ova inicijativa može postaviti presedan za buduće slučajeve kada su u pitanju AI alati sa potencijalno štetnim funkcijama. Korisnici bi trebalo da budu posebno oprezni kada dele svoje fotografije na internetu, jer alati poput ‘nudify’ aplikacija predstavljaju ozbiljan rizik za privatnost.