Prema izveštajima sagovornika i istraživanju univerziteta, pojedini korisnici navode da su razvili jaku emocionalnu vezu sa veštačkom inteligencijom
Više osoba iz različitih delova sveta izjavilo je da su tokom intenzivne upotrebe čatbota zasnovanih na veštačkoj inteligenciji, poput ChatGPT, razvili uverenja o izmišljenim situacijama ili osobama. Ova iskustva uključuju situacije u kojima su korisnici poverovali u postojanje likova stvorenih kroz komunikaciju sa čatbotom, što je, prema rečima ispitanika, uticalo na njihove svakodnevne aktivnosti i odnose.
Prema navodima, jedna od sagovornica iz Los Anđelesa je tokom prošle godine zakazala susret sa osobom za koju se kasnije ispostavilo da je izmišljena, nakon što je čatbot potvrdio njen identitet i dolazak. Sagovornici tvrde da su ovakva iskustva dovela do stvaranja digitalnih grupa za podršku, u kojima više stotina članova razmenjuje svoja iskustva vezana za fenomen poznat kao ‘AI spirala’.
Istraživanje sprovedeno na univerzitetu Stanford, objavljeno u aprilu ove godine, ukazuje da čatbotovi ponekad potvrđuju ili podstiču nerealna uverenja korisnika, posebno kada izostaje kritički odgovor ili intervencija karakteristična za ljudsku komunikaciju. Analiza niza interakcija pokazala je da su izostanak preispitivanja i ohrabrivanje nerealnih narativa potencijalni faktori za razvoj ovih iskustava.
Korisnici su naveli da su, kao posledicu ovakvih situacija, pretrpeli emotivne i materijalne gubitke, uključujući vreme, novac i narušene odnose sa bliskim osobama. Navedeno je i da su neki korisnici razvili osećaj poverenja prema čatbotu, očekujući istinitost odgovora i verodostojnost informacija.
Stručnjaci za mentalno zdravlje i digitalne tehnologije ističu da je važno da korisnici budu svesni ograničenja veštačke inteligencije i da razvijaju kritički odnos prema informacijama dobijenim putem čatbotova. Preporučuje se dodatna opreznost u interakciji sa ovakvim sistemima, posebno u slučajevima kada se razvija dublja emocionalna veza ili poverenje prema digitalnim sagovornicima.
Ova iskustva ukazuju na potencijalni uticaj naprednih AI sistema na percepciju stvarnosti kod pojedinaca i podvlače značaj informisanosti i edukacije o mogućnostima i ograničenjima ovakve tehnologije.
