Tim istraživača iz Švedske testirao preprint platforme sa izmišljenim podacima, otkrivene slabosti u detekciji dezinformacija
Almira Osmanović Thunström, medicinska istraživačica poreklom iz Banjaluke, koja živi i radi u Švedskoj, predvodila je tim naučnika koji su osmislili izmišljeno stanje kože sa ciljem da testiraju otpornost veštačke inteligencije i naučnih preprint platformi na dezinformacije. Ovaj eksperiment, sproveden početkom 2024. godine, uključivao je kreiranje dve lažne studije koje su potom poslali na preprint servere, sa jasno postavljenim tragovima da su podaci lažni.
U okviru eksperimenta, Osmanović Thunström i njen tim su izabrali naziv bolesti “manija” – medicinski pojam koji se vezuje za psihijatriju, a ne za oftalmologiju ili dermatologiju, što je trebalo da bude očigledan znak sumnje za stručnu zajednicu. Kao dodatne indikacije lažnosti, autori su koristili fiktivna imena – glavni autor potpisan je kao “Lažljiv Izgubljenović” sa navodnog univerziteta iz nepostojećeg grada, a u zahvalnicama su naveli profesorku sa “Starfleet Academy” (referenca na Zvezdane staze) i laboratorijski rad na USS Enterprise svemirskom brodu.
Cilj ovog eksperimenta bio je da se proveri kako AI alati i akademske platforme reaguju na sofisticirane lažne radove, kao i da se ukaže na potencijalno širenje dezinformacija putem tehnoloških sistema koji se oslanjaju na automatizovane procese verifikacije. Iako je više tragova ukazivalo na to da su podaci izmišljeni, nijedna od platformi nije prepoznala prevaru tokom inicijalnog pregleda.
Ova situacija otvara ozbiljna pitanja o pouzdanosti i sigurnosnim mehanizmima u procesima objavljivanja naučnih radova u eri veštačke inteligencije. Stručnjaci upozoravaju da ovakvi propusti mogu imati značajne posledice za integritet naučne zajednice, posebno kada AI alati automatski generišu ili proveravaju sadržaj bez dovoljno ljudske kontrole.
Iako je eksperiment Almire Osmanović Thunström bio zamišljen kao test, rezultati ukazuju na potrebu za unapređenjem sistema detekcije dezinformacija i veću pažnju na ljudski nadzor u procesu naučnog publikovanja.
