Analiza KPMG-ovog izveštaja otkriva netačne podatke generisane AI modelima, izazivajući zabrinutost u industriji

KPMG, jedna od četiri najveće svetske računovodstvene kompanije, objavila je u oktobru prošle godine izveštaj pod nazivom “Total Experience: Redefining Excellence in the Age of Agentic AI”, fokusiran na načine na koje kompanije koriste veštačku inteligenciju za unapređenje korisničkog iskustva. Međutim, nakon objave, ustanovljeno je da je sam izveštaj sadržao brojne netačne informacije poznate kao AI halucinacije, što je izazvalo ozbiljne diskusije među stručnjacima iz industrije.

U izveštaju su bili predstavljeni navodni primeri i koristi od implementacije AI rešenja u poslovnim procesima, ali su naknadne provere pokazale da su pojedini navodi u potpunosti izmišljeni ili netačno interpretirani od strane AI sistema korišćenih tokom izrade dokumenta. Ovakvi slučajevi takozvanih “halucinacija” karakteristični su za velike jezičke modele (LLM), koji mogu generisati uverljive, ali faktografski netačne ili nepostojeće sadržaje.

Ova situacija je dodatno istakla izazove sa kojima se suočavaju organizacije prilikom integracije AI alata u svoje interne i eksterne procese izveštavanja i analize. Stručnjaci iz industrije podvlače da je, uprkos značajnom potencijalu veštačke inteligencije za unapređenje poslovanja, neophodna pažljiva ljudska supervizija i provera svih AI-generisanih informacija pre njihove javne upotrebe.

Nakon identifikacije problema u izveštaju, usledile su preporuke za strožije procedure verifikacije sadržaja pri korišćenju AI alata u kreiranju zvanične dokumentacije u velikim organizacijama. KPMG nije javno komentarisao ovaj incident, ali slučaj je dodatno podigao svest o rizicima oslanjanja na automatizovane AI procese bez adekvatnog nadzora, posebno u industrijama koje zahtevaju visoku tačnost informacija.

Ovako zapaženi propusti ukazuju na rastuću potrebu za kombinovanjem naprednih AI tehnologija sa stručnom ljudskom proverom, kako bi se obezbedio visok standard tačnosti i pouzdanosti u korporativnim izveštajima i analitičkim materijalima.

Grupa saveznih tužilaca pokreće istragu o radu OpenAI, kompanija najavljuje saradnju u procesu

OpenAI, poznata AI kompanija iz San Franciska, suočava se sa istragom koju sprovodi koalicija američkih saveznih tužilaca. Ova vest dolazi u trenutku kada se pravni i regulatorni nadzor nad razvojem i primenom veštačke inteligencije intenzivira, posebno zbog potencijalnih posledica AI tehnologije na privatnost i sigurnost korisnika.

Prema informacijama iz industrije, tužioci su pokrenuli koordinisanu istragu kako bi detaljnije ispitali poslovanje i procedure OpenAI-a. Iako detalji o tačnom predmetu istrage nisu javno objavljeni, praksa ovakvih istraga najčešće uključuje procenu načina na koji kompanija koristi podatke, razvija AI modele i komunicira sa korisnicima i partnerima.

OpenAI je kratko reagovao na najave o istrazi, ističući da planira da ‘konstruktivno sarađuje’ sa nadležnim institucijama tokom celog procesa. Iz kompanije nisu izneli dodatne komentare, niti su objavljene informacije o eventualnim konkretnim merama ili promenama u radu.

Ova istraga je deo šireg talasa interesovanja američkih regulatornih tela za kompanije koje razvijaju napredne AI sisteme, uključujući popularne proizvode kao što je ChatGPT. Državni tužioci u SAD često pokreću ovakve istrage kako bi osigurali da su kompanije u skladu sa zakonima o zaštiti privatnosti i o odgovornosti za korišćenje naprednih tehnologija.

Za sada nije poznato koliko će sama istraga trajati niti da li će dovesti do sudskih postupaka ili drugih regulatornih mera. Očekuje se da će razvoj situacije biti pažljivo praćen kako od strane tehnološke industrije, tako i od strane šire javnosti, s obzirom na rastući uticaj veštačke inteligencije na svakodnevni život.

Odluka je doneta u skladu sa vladinom direktivom zbog bezbednosnih razloga, saopštila kompanija

Kompanija Anthropic, poznata po razvoju naprednih AI modela, blokirala je pristup Fable 5 i Mythos 5 za sve svoje korisnike. Ova odluka je doneta kako bi se ispoštovala vladina direktiva kojom se nalaže obustava korišćenja navedenih AI modela zbog zabrinutosti za nacionalnu bezbednost. Prema informacijama iz industrije, blokada je stupila na snagu odmah po objavi i odnosi se na sve korisnike bez izuzetaka.

Fable 5 i Mythos 5 su bili deo Anthropic-ove ponude naprednih AI rešenja, ali nakon što je stiglo zvanično uputstvo od relevantnih državnih organa, kompanija je bila primorana da onemogući pristup ovim modelima. Ova mera pokazuje koliko su regulative i nadzor u oblasti veštačke inteligencije postali ključni faktor, posebno u kontekstu nacionalne bezbednosti i potencijalnih rizika koje sofisticirani AI sistemi mogu predstavljati.

Anthropic je korisnicima poručio da je blokada usklađena sa zahtevima vlasti i da je cilj da se spreče eventualne zloupotrebe ili kompromitovanje bezbednosti. Iako detalji o samoj direktivi nisu javno objavljeni, poznato je da se slične mere primenjuju i u drugim slučajevima kada vladine institucije procene da određeni AI modeli mogu predstavljati rizik po državnu sigurnost ili širu javnost.

Za sada nije poznato kada ili da li će pristup Fable 5 i Mythos 5 biti ponovo omogućen korisnicima, a Anthropic se nije izjašnjavao o mogućim alternativama ili zamenskim rešenjima. Ova odluka dodatno podseća na izazove sa kojima se suočavaju kompanije koje razvijaju i nude napredne AI modele u brzo menjanom regulatornom okruženju.