Connect with us

IT

Izveštaj o prednostima veštačke inteligencije sadržao brojne AI halucinacije

Analiza KPMG-ovog izveštaja otkriva netačne podatke generisane AI modelima, izazivajući zabrinutost u industriji

Published

on

Foto Izvor: Pixabay / Pexels

Analiza KPMG-ovog izveštaja otkriva netačne podatke generisane AI modelima, izazivajući zabrinutost u industriji

KPMG, jedna od četiri najveće svetske računovodstvene kompanije, objavila je u oktobru prošle godine izveštaj pod nazivom “Total Experience: Redefining Excellence in the Age of Agentic AI”, fokusiran na načine na koje kompanije koriste veštačku inteligenciju za unapređenje korisničkog iskustva. Međutim, nakon objave, ustanovljeno je da je sam izveštaj sadržao brojne netačne informacije poznate kao AI halucinacije, što je izazvalo ozbiljne diskusije među stručnjacima iz industrije.

U izveštaju su bili predstavljeni navodni primeri i koristi od implementacije AI rešenja u poslovnim procesima, ali su naknadne provere pokazale da su pojedini navodi u potpunosti izmišljeni ili netačno interpretirani od strane AI sistema korišćenih tokom izrade dokumenta. Ovakvi slučajevi takozvanih “halucinacija” karakteristični su za velike jezičke modele (LLM), koji mogu generisati uverljive, ali faktografski netačne ili nepostojeće sadržaje.

Ova situacija je dodatno istakla izazove sa kojima se suočavaju organizacije prilikom integracije AI alata u svoje interne i eksterne procese izveštavanja i analize. Stručnjaci iz industrije podvlače da je, uprkos značajnom potencijalu veštačke inteligencije za unapređenje poslovanja, neophodna pažljiva ljudska supervizija i provera svih AI-generisanih informacija pre njihove javne upotrebe.

Nakon identifikacije problema u izveštaju, usledile su preporuke za strožije procedure verifikacije sadržaja pri korišćenju AI alata u kreiranju zvanične dokumentacije u velikim organizacijama. KPMG nije javno komentarisao ovaj incident, ali slučaj je dodatno podigao svest o rizicima oslanjanja na automatizovane AI procese bez adekvatnog nadzora, posebno u industrijama koje zahtevaju visoku tačnost informacija.

Ovako zapaženi propusti ukazuju na rastuću potrebu za kombinovanjem naprednih AI tehnologija sa stručnom ljudskom proverom, kako bi se obezbedio visok standard tačnosti i pouzdanosti u korporativnim izveštajima i analitičkim materijalima.

Pročitaj još
Click to comment

Leave a Reply

Your email address will not be published. Required fields are marked *

IT

Zašto su neki USB portovi ljubičasti i zbog čega ih retko viđamo u SAD

Različite boje USB portova zbunjuju korisnike, a ljubičasta se specifično koristi izvan američkog tržišta

Published

on

By

Različite boje USB portova zbunjuju korisnike, a ljubičasta se specifično koristi izvan američkog tržišta

USB portovi na računarima i laptopovima često dolaze u različitim bojama, ali ljubičasti USB portovi izazivaju posebnu pažnju kod korisnika, naročito jer su retko prisutni na tržištu Sjedinjenih Američkih Država. Iako većina korisnika prepoznaje klasične plave, crne ili bele portove, ljubičasti USB portovi su specifični po svojoj nameni i često zbunjuju potrošače jer ne postoji jedinstveni standard za boje.

Boje USB portova su prvobitno uvedene kako bi označavale različite standarde i funkcije, na primer, plavi portovi najčešće signaliziraju USB 3.0, dok crni i beli označavaju USB 2.0 ili starije verzije. Ljubičasti portovi, međutim, nisu deo globalno usvojenog standarda. U određenim slučajevima, proizvođači računara koriste ljubičastu boju za označavanje portova sa specifičnim funkcijama, kao što su podrška za određene tastature ili periferije, ali ova praksa nije široko rasprostranjena, niti prihvaćena u SAD.

Zbog nedostatka univerzalnog standarda, boje USB portova mogu varirati od proizvođača do proizvođača, što dodatno stvara konfuziju među korisnicima, posebno onima koji se oslanjaju na vizuelne oznake pri izboru pravog porta za svoje uređaje. U SAD, ljubičasti portovi su posebno retki, dok su češći na tržištima Azije ili Evrope, gde pojedini proizvođači koriste ovu boju za specifične serije proizvoda.

Industrijski izvori navode da su potrošači često pogrešno informisani kada pokušavaju da prema boji identifikuju brzinu ili mogućnosti USB porta, budući da ne postoji međunarodno telo koje reguliše ovu oznaku. Zato je preporuka korisnicima da uvek provere tehničku dokumentaciju ili oznake pored portova, umesto da se oslanjaju samo na boju.

U zaključku, iako ljubičasti USB portovi mogu ukazivati na određene funkcije ili posebne serije proizvoda, njihova retka upotreba u SAD i nepostojanje globalnog standarda za boje dodatno komplikuju korišćenje i identifikaciju. Stručnjaci preporučuju veću pažnju na tehničke specifikacije i oznake na uređajima kako bi se izbegle greške i konfuzija pri povezivanju perifernih uređaja.

Pročitaj još

IT

OpenAI pod istragom više američkih saveznih tužilaca zbog poslovanja sa veštačkom inteligencijom

Grupa saveznih tužilaca pokreće istragu o radu OpenAI, kompanija najavljuje saradnju u procesu

Published

on

By

Grupa saveznih tužilaca pokreće istragu o radu OpenAI, kompanija najavljuje saradnju u procesu

OpenAI, poznata AI kompanija iz San Franciska, suočava se sa istragom koju sprovodi koalicija američkih saveznih tužilaca. Ova vest dolazi u trenutku kada se pravni i regulatorni nadzor nad razvojem i primenom veštačke inteligencije intenzivira, posebno zbog potencijalnih posledica AI tehnologije na privatnost i sigurnost korisnika.

Prema informacijama iz industrije, tužioci su pokrenuli koordinisanu istragu kako bi detaljnije ispitali poslovanje i procedure OpenAI-a. Iako detalji o tačnom predmetu istrage nisu javno objavljeni, praksa ovakvih istraga najčešće uključuje procenu načina na koji kompanija koristi podatke, razvija AI modele i komunicira sa korisnicima i partnerima.

OpenAI je kratko reagovao na najave o istrazi, ističući da planira da ‘konstruktivno sarađuje’ sa nadležnim institucijama tokom celog procesa. Iz kompanije nisu izneli dodatne komentare, niti su objavljene informacije o eventualnim konkretnim merama ili promenama u radu.

Ova istraga je deo šireg talasa interesovanja američkih regulatornih tela za kompanije koje razvijaju napredne AI sisteme, uključujući popularne proizvode kao što je ChatGPT. Državni tužioci u SAD često pokreću ovakve istrage kako bi osigurali da su kompanije u skladu sa zakonima o zaštiti privatnosti i o odgovornosti za korišćenje naprednih tehnologija.

Za sada nije poznato koliko će sama istraga trajati niti da li će dovesti do sudskih postupaka ili drugih regulatornih mera. Očekuje se da će razvoj situacije biti pažljivo praćen kako od strane tehnološke industrije, tako i od strane šire javnosti, s obzirom na rastući uticaj veštačke inteligencije na svakodnevni život.

Pročitaj još

IT

Anthropic blokirao pristup Fable 5 i Mythos 5 modelima svim korisnicima

Odluka je doneta u skladu sa vladinom direktivom zbog bezbednosnih razloga, saopštila kompanija

Published

on

By

Odluka je doneta u skladu sa vladinom direktivom zbog bezbednosnih razloga, saopštila kompanija

Kompanija Anthropic, poznata po razvoju naprednih AI modela, blokirala je pristup Fable 5 i Mythos 5 za sve svoje korisnike. Ova odluka je doneta kako bi se ispoštovala vladina direktiva kojom se nalaže obustava korišćenja navedenih AI modela zbog zabrinutosti za nacionalnu bezbednost. Prema informacijama iz industrije, blokada je stupila na snagu odmah po objavi i odnosi se na sve korisnike bez izuzetaka.

Fable 5 i Mythos 5 su bili deo Anthropic-ove ponude naprednih AI rešenja, ali nakon što je stiglo zvanično uputstvo od relevantnih državnih organa, kompanija je bila primorana da onemogući pristup ovim modelima. Ova mera pokazuje koliko su regulative i nadzor u oblasti veštačke inteligencije postali ključni faktor, posebno u kontekstu nacionalne bezbednosti i potencijalnih rizika koje sofisticirani AI sistemi mogu predstavljati.

Anthropic je korisnicima poručio da je blokada usklađena sa zahtevima vlasti i da je cilj da se spreče eventualne zloupotrebe ili kompromitovanje bezbednosti. Iako detalji o samoj direktivi nisu javno objavljeni, poznato je da se slične mere primenjuju i u drugim slučajevima kada vladine institucije procene da određeni AI modeli mogu predstavljati rizik po državnu sigurnost ili širu javnost.

Za sada nije poznato kada ili da li će pristup Fable 5 i Mythos 5 biti ponovo omogućen korisnicima, a Anthropic se nije izjašnjavao o mogućim alternativama ili zamenskim rešenjima. Ova odluka dodatno podseća na izazove sa kojima se suočavaju kompanije koje razvijaju i nude napredne AI modele u brzo menjanom regulatornom okruženju.

Pročitaj još

U Trendu