Analiza KPMG-ovog izveštaja otkriva netačne podatke generisane AI modelima, izazivajući zabrinutost u industriji
KPMG, jedna od četiri najveće svetske računovodstvene kompanije, objavila je u oktobru prošle godine izveštaj pod nazivom “Total Experience: Redefining Excellence in the Age of Agentic AI”, fokusiran na načine na koje kompanije koriste veštačku inteligenciju za unapređenje korisničkog iskustva. Međutim, nakon objave, ustanovljeno je da je sam izveštaj sadržao brojne netačne informacije poznate kao AI halucinacije, što je izazvalo ozbiljne diskusije među stručnjacima iz industrije.
U izveštaju su bili predstavljeni navodni primeri i koristi od implementacije AI rešenja u poslovnim procesima, ali su naknadne provere pokazale da su pojedini navodi u potpunosti izmišljeni ili netačno interpretirani od strane AI sistema korišćenih tokom izrade dokumenta. Ovakvi slučajevi takozvanih “halucinacija” karakteristični su za velike jezičke modele (LLM), koji mogu generisati uverljive, ali faktografski netačne ili nepostojeće sadržaje.
Ova situacija je dodatno istakla izazove sa kojima se suočavaju organizacije prilikom integracije AI alata u svoje interne i eksterne procese izveštavanja i analize. Stručnjaci iz industrije podvlače da je, uprkos značajnom potencijalu veštačke inteligencije za unapređenje poslovanja, neophodna pažljiva ljudska supervizija i provera svih AI-generisanih informacija pre njihove javne upotrebe.
Nakon identifikacije problema u izveštaju, usledile su preporuke za strožije procedure verifikacije sadržaja pri korišćenju AI alata u kreiranju zvanične dokumentacije u velikim organizacijama. KPMG nije javno komentarisao ovaj incident, ali slučaj je dodatno podigao svest o rizicima oslanjanja na automatizovane AI procese bez adekvatnog nadzora, posebno u industrijama koje zahtevaju visoku tačnost informacija.
Ovako zapaženi propusti ukazuju na rastuću potrebu za kombinovanjem naprednih AI tehnologija sa stručnom ljudskom proverom, kako bi se obezbedio visok standard tačnosti i pouzdanosti u korporativnim izveštajima i analitičkim materijalima.
