Podaci sa profila korisnika OKCupid korišćeni za treniranje AI sistema za prepoznavanje lica, a brisanje je deo nagodbe postignute sa američkom komisijom za trgovinu
Kompanija Clarifai, specijalizovana za veštačku inteligenciju i prepoznavanje lica, zvanično je obrisala oko 3 miliona fotografija korisnika sa platforme za upoznavanje OKCupid, koje su 2014. godine korišćene za treniranje AI modela. Ova odluka dolazi nakon nagodbe sa Federalnom komisijom za trgovinu (FTC) postignute prethodnog meseca, a kompanija je 7. aprila sertifikovala brisanje podataka pred FTC-om i potvrdila da su uklonjeni i svi modeli obučeni na ovom skupu podataka.
Prema navodima iz industrije, Clarifai je 2014. direktno tražio i dobio pristup velikoj bazi fotografija korisnika OKCupid-a, što je predstavljalo kršenje tadašnje politike privatnosti same platforme. Fotografije, prikupljene bez eksplicitnog pristanka korisnika, korišćene su za razvoj sistema prepoznavanja lica koji može automatski proceniti godine, pol i rasu osobe na osnovu slike. Kompanija je američkoj predstavnici Lori Trahan potvrdila da podaci nisu deljeni sa trećim stranama.
Istraga FTC-a pokrenuta je 2019. godine, nakon što su mediji otkrili da je Clarifai koristio fotografije sa OKCupid profila za izgradnju baze podataka za AI treniranje. Istraga je otkrila da je rukovodstvo OKCupid-a odobrilo predaju podataka, iako je to bilo protivno sopstvenoj politici privatnosti. Kao deo nagodbe, FTC je trajno zabranio OKCupid-u da netačno predstavlja načine prikupljanja i zaštite korisničkih podataka, čime je dodatno naglašena obaveza transparentnosti prema korisnicima.
Kompanija Clarifai bila je prethodno kritikovana zbog etičkih dilema u vezi sa korišćenjem podataka prikupljenih bez pristanka, kao i zbog drugih AI projekata, uključujući pristup nesigurnim gradskim kamerama, što je kasnije obustavljeno. Ovaj slučaj ističe značaj stroge regulacije i nadzora nad načinom na koji se korisnički podaci koriste za razvoj naprednih AI sistema, posebno kada su u pitanju osetljive informacije kao što su fotografije lica.
Nakon ovog incidenta, industrija očekuje pojačan nadzor i jasnije smernice za korišćenje ličnih podataka u AI projektima, dok stručnjaci upozoravaju na potrebu izgradnje poverenja između korisnika i tehnoloških kompanija u pogledu privatnosti i sigurnosti.
