Američka kompanija pauzira projekat zbog rizika za maloletnike i reputaciju, uz tehničke izazove u detekciji eksplicitnog sadržaja
Kompanija OpenAI, poznata po razvoju veštačke inteligencije, odložila je lansiranje erotskog četbota za odrasle na neodređeno vreme nakon što su zaposleni i investitori izrazili zabrinutost zbog potencijalnog uticaja seksualizovanih AI sadržaja na društvo. Kako je objavljeno, glavni razlog za odlaganje je rizik od formiranja nezdravih emocionalnih veza korisnika sa AI, ali i strah od toga da bi maloletnici mogli biti izloženi neprikladnom sadržaju.
Prema ekonomskim analizama, dodatni izazov predstavlja činjenica da sistem za proveru uzrasta korisnika pokazuje grešku u više od 10 odsto slučajeva, čime se povećava rizik da će mlađi od 18 godina imati pristup ovakvom sadržaju. Time su uvećani i pravni i reputacioni rizici za kompaniju. Tehničke komplikacije dodatno su usporile razvoj, jer je model trebalo da bude obučen na eksplicitne podatke, istovremeno isključujući sve što je nezakonito.
Iz kompanije OpenAI navode da su pokušali pažljivo da definišu granice i treniraju model da prepoznaje problematične situacije, ali da i dalje postoje poteškoće u pouzdanom određivanju granica eksplicitnog sadržaja. Planirana je i posebna tehnologija za verifikaciju uzrasta, ali greška od preko 10 odsto nije prihvatljiva u ovom kontekstu.
OpenAI se u narednom periodu odlučio da fokus prebaci na svoja ključna produktivna rešenja, kao i na novu aplikaciju koja integriše Chat GPT, pretraživač i alat za kodiranje Kodeks. Projekti koji nisu prioritet, uključujući ranije obustavljeni alat Sora za generisanje video-snimaka, sada su pauzirani, a četbot za odrasle stavljen je na čekanje dok se ne pronađe bezbednije i pouzdanije rešenje.
