Kompanija najavljuje smanjenje broja ljudskih moderatora i širu primenu veštačke inteligencije u moderaciji platformi
Meta, tehnološki gigant i vlasnik platformi kao što su Facebook i Instagram, saopštio je da će u narednim godinama značajno smanjiti ulogu ljudskih moderatora u kontroli sadržaja, prelazeći na AI bazirane sisteme. Ova odluka dolazi godinu dana nakon što je kompanija prestala da koristi nezavisne proveravače činjenica i smanjila proaktivnu moderaciju, a sada planira da još više automatizuje ovaj proces uz pomoć naprednih AI rešenja.
Meta nije precizirala koliko će tačno moderatora biti obuhvaćeno ovim promenama, ali je navela da trenutno zapošljava hiljade spoljnih saradnika koji pregledaju sadržaj označen od strane AI sistema i korisničkih prijava. Kompanija ističe da će ljudi i dalje imati ključnu ulogu u donošenju najvažnijih odluka, posebno u slučaju apela korisnika i prijava ozbiljnih incidenata nadležnim organima, kao i u obuci i evaluaciji AI sistema.
Kako navodi Meta, eksperti će dizajnirati, trenirati i nadgledati rad novih AI alata, a ljudi će biti uključeni u najkompleksnije i najrizičnije slučajeve, kao što su žalbe na deaktivaciju naloga ili prijave koje zahtevaju intervenciju policije. Kompanija već neko vreme testira LLM (Large Language Model) sisteme za moderaciju i tvrdi da su prvi rezultati obećavajući. Dodatni benefit AI pristupa je što može podržati jezike kojima govori čak 98% svetske online populacije, nasuprot trenutnih 80 jezika koje podržava ljudska moderacija.
Meta naglašava da osnovna pravila platforme ostaju nepromenjena, ali da bi ovakav zaokret mogao uticati na način na koji korisnici doživljavaju sprovođenje pravila. Iako su mnogi korisnici do sada smatrali da AI često greši i otežava ljudsku intervenciju prilikom žalbi, kompanija tvrdi da novi sistemi prave manje grešaka u preteranoj moderaciji i bolje detektuju najteže prekršaje.
U skorijem periodu Meta uvodi i AI asistenta za podršku korisnicima, koji je već dostupan u aplikacijama Facebook i Instagram. Ovaj chatbot pomaže u prijavljivanju sadržaja, upravljanju žalbama, resetovanju lozinki i drugim problemima sa nalozima, a najpre će biti dostupan korisnicima u SAD i Kanadi koji su izbačeni sa svojih naloga.
Ove promene deo su strategije kojom Meta nastoji da unapredi efikasnost i skalabilnost moderacije, ali i da smanji troškove, s obzirom na to da će broj ljudskih moderatora biti značajno reduciran.
