AI sistemi u poslovanju omogućavaju predviđanje potražnje i procenu kreditnog rizika, ali su podložni manipulaciji izvorima
Veštačka inteligencija je postala ključan alat u poslovanju, omogućavajući kompanijama da preciznije analiziraju tržište, procenjuju kreditni rizik i optimizuju investicione odluke. U poslednje vreme AI se koristi ne samo za ubrzanje procesa ili smanjenje troškova, već i kao strateški resurs za donošenje odluka, što se posebno vidi u segmentima kao što su predviđanje potražnje i kreiranje marketinških sadržaja.
Pored kompanija, sve veći broj korisnika koristi AI sisteme kao lične savetnike za donošenje važnih odluka, uključujući tumačenje zdravstvenih simptoma, finansijske savete i pravna pitanja. Ovakva praksa pokazuje da AI odgovori direktno utiču na odluke u privatnom i poslovnom životu, zbog čega je važno razumeti ograničenja i rizike ovih sistema.
Jedan eksperiment je pokazao da je moguće manipulisati AI modelima jednostavnim postavljanjem lažnog sadržaja na internetu. U tom eksperimentu, lažni blog sa izmišljenim takmičenjem i detaljnim „statistikama“ je za manje od 24 sata postao izvor za Google AI Overview, Gemini i ChatGPT, koji su ga citirali kao pouzdan. Čak i nakon što je blog ažuriran sa jasnim objašnjenjem da je reč o izmišljenom eksperimentu, AI sistemi su nastavili da koriste te podatke kao kredibilne.
Ovaj slučaj ukazuje na duboke slabosti velikih jezičkih modela koji ne razlikuju istinu od laži, već funkcionišu kao napredni prediktori teksta na osnovu naučenih obrazaca iz podataka. Zbog toga su podložni manipulaciji kontradiktornim informacijama i namenskim instrukcijama.
Dodatni test pokazao je da kada se AI model „hrani“ kontradiktornim biografijama jednog izmišljenog istoričara, u različitim sesijama generiše različite odgovore, što dodatno potvrđuje ranjivost sistema na manipulaciju izvorima.
Ove situacije upozoravaju da je, i pored napretka veštačke inteligencije u poslovnim i privatnim analizama, neophodno stalno proveravati izvore i biti svestan rizika manipulacije, kako bi se odluke donosile na osnovu pouzdanih informacija.
