Connect with us

IT

Senatori SAD pritiskaju TikTok zbog eksperimenta sa algoritmom bez sigurnosne zaštite

Pitanja o bezbednosti mladih korisnika i odgovornosti TikTok algoritma pokrenuta su tokom saslušanja u Senatu

Objavljeno pre

,

Senatori SAD pritiskaju TikTok zbog eksperimenta sa algoritmom bez sigurnosne zaštite – algoritamska zaštita Foto Izvor: Pixabay / nikuga

Pitanja o bezbednosti mladih korisnika i odgovornosti TikTok algoritma pokrenuta su tokom saslušanja u Senatu

TikTok se suočava sa pritiscima američkih senatora nakon što je otkriven eksperiment u kojem je kompanija privremeno onemogućila zaštitnu funkciju algoritma. Ova vest, prema izvorima iz industrije, izazvala je zabrinutost zbog uticaja koji algoritamske preporuke mogu imati na bezbednost mladih korisnika. Senatorima je, naime, postalo važno da se ispita na koji način TikTok algoritam utiče na korisničko iskustvo i kakve posledice može imati privremeno uklanjanje zaštitnih mehanizama.

Detalji eksperimenta i reakcije javnosti

Prema objavljenim informacijama, TikTok je sproveo test tokom kojeg je određeni sigurnosni sloj algoritma bio isključen. Ovo je dovelo do pitanja o tome da li su korisnici, posebno mlađi, bili izloženi neprikladnim ili potencijalno štetnim sadržajima. Zbog toga, u javnosti se pojavila zabrinutost o transparentnosti rada algoritama i obavezama kompanija kada je u pitanju zaštita korisnika. S druge strane, neki stručnjaci za bezbednost smatraju da je ovakva praksa pokazatelj potrebe za strožom regulacijom algoritama na društvenim mrežama. Eksperimenti sa algoritmima, koji predstavljaju kompleksne skupove pravila za preporuku sadržaja, često su deo razvoja platformi, ali se retko javno objavljuju.

Senatorska pitanja i značaj za industriju

Američki senatori su tokom saslušanja naglasili važnost odgovornosti kompanija poput TikTok-a kada su u pitanju bezbednost i dobrobit korisnika. Osim toga, postavljeno je pitanje da li slični eksperimenti postoje i na drugim društvenim mrežama, što bi moglo imati šire posledice na industriju. Kao rezultat ovih dešavanja, očekuje se da će regulatorna tela detaljnije pratiti način na koji se algoritmi primenjuju, posebno kada je reč o zaštiti maloletnika. TikTok je pozvan da objasni razloge za sprovođenje ovog eksperimenta i da iznese podatke o tome da li su korisnici obavešteni o promenama u radu algoritma. Takođe, na dnevni red dolazi pitanje transparentnosti i etičkih standarda u upravljanju podacima korisnika.

Šta znači algoritamska zaštita

Algoritamska zaštita podrazumeva skup tehničkih i proceduralnih mera koje ograničavaju prikazivanje štetnog ili osetljivog sadržaja korisnicima, posebno mlađima. U slučaju kada se ovakve zaštite privremeno uklone, korisnici mogu biti izloženi sadržajima koji nisu prikladni za njihov uzrast ili interesovanja. To, na kraju, može imati dugoročne posledice po poverenje javnosti u platforme kao što je TikTok. Ipak, stručnjaci ističu da je transparentnost ključna za izgradnju sigurnijeg digitalnog okruženja, dok kreatori platformi moraju balansirati između inovacija i odgovornosti prema korisnicima.

Pročitaj još

IT

Zaposleni u Google-u izražavaju zabrinutost zbog AI pretrage u školama

Interna polemika u kompaniji oko uvođenja AI pretrage u obrazovne ustanove otvara pitanja etike i sigurnosti

Objavljeno pre

,

Objavio:

Zaposleni u Google-u izražavaju zabrinutost zbog AI pretrage u školama – AI pretraga u školama

Interna polemika u kompaniji oko uvođenja AI pretrage u obrazovne ustanove otvara pitanja etike i sigurnosti

Google se suočava sa kritikama svojih zaposlenih zbog planova za primenu AI pretrage u školama. Ova inicijativa pokreće debatu o potencijalnim rizicima i odgovornostima tehnoloških kompanija u obrazovanju. Prema izvorima iz industrije, zabrinutost zaposlenih odnosi se na tačnost informacija i zaštitu privatnosti učenika.

Kontroverza se javila kada su zaposleni otvoreno diskutovali o tome koliko je sigurno koristiti AI pretragu u obrazovnim okruženjima. Neki stručnjaci iz Google-a istakli su da bi automatizovane pretrage mogle dovesti do širenja netačnih ili neadekvatnih informacija među učenicima. Kao rezultat, otvoreno je pitanje da li su modeli dovoljno pouzdani za upotrebu u školskom kontekstu.

Zabrinutost zbog AI pretrage u školama

Tema “AI pretraga u školama” bila je centralna u internoj komunikaciji. Zaposleni su upozorili da bi implementacija mogla imati posledice po kvalitet obrazovanja. Takođe, naglašavaju potrebu za dodatnim proverama sadržaja koji AI generiše. Ova diskusija je istakla i važnost transparentnosti u razvoju tehnologije za mlade korisnike.

S druge strane, pojedini članovi tima smatraju da AI pretraga može doneti koristi, poput bržeg pronalaženja relevantnih izvora i olakšavanja nastave. Međutim, ističu da je neophodno razviti precizne smernice za upotrebu, kako bi se izbegle greške i zloupotrebe. Zbog toga, mnogi zaposleni traže da Google uvede dodatne mere zaštite pre nego što AI pretraga postane dostupna školama.

Etika i odgovornost tehnoloških kompanija

Kao rezultat ove debate, u prvi plan dolazi pitanje etike u razvoju AI alata za obrazovanje. Uvođenje naprednih tehnologija u škole zahteva temeljnu procenu rizika. Pored toga, kompanije poput Google-a moraju obezbediti da AI alati ne naruše privatnost učenika niti utiču negativno na njihov razvoj.

Zaposleni sugerišu da je edukacija nastavnika o mogućnostima i ograničenjima AI pretrage ključna za bezbednu implementaciju. Uz to, preporučuju kontinuirano praćenje i evaluaciju rezultata kako bi se rizici sveli na minimum. Ovakav pristup omogućava školama da iskoriste prednosti tehnologije, ali i da zaštite korisnike od mogućih negativnih posledica.

Pročitaj još

IT

Ubisoft otpušta 166 radnika i otvara studio za generativni AI

Kompanija restrukturiše poslovanje uz nova ulaganja u razvoj generativne veštačke inteligencije

Objavljeno pre

,

Objavio:

Ubisoft otpušta 166 radnika i otvara studio za generativni AI – generativna veštačka inteligencija

Kompanija restrukturiše poslovanje uz nova ulaganja u razvoj generativne veštačke inteligencije

Ubisoft je najavio otpuštanje 166 radnika u okviru najnovije faze restrukturiranja poslovanja. Ova odluka deo je šire strategije kompanije za optimizaciju resursa i usmeravanje investicija prema razvoju generativne veštačke inteligencije. Nova otpuštanja pogađaju različite sektore kompanije, a iz Ubisoft-a navode da je cilj povećanje efikasnosti i prilagođavanje aktuelnim trendovima na tržištu video igara.

Otpuštanja i strateško preusmeravanje

Otpuštanje 166 zaposlenih deo je kontinuiranih promena koje Ubisoft sprovodi tokom poslednjih godina. Kompanija je ranije sprovela više talasa otpuštanja, prateći promene u industriji i sopstvenu potrebu za modernizacijom. Ovaj potez odražava i širu tendenciju tehnološkog sektora, gde se kompanije sve češće fokusiraju na razvoj novih tehnologija, poput generativne veštačke inteligencije.

Prelazak na generativnu AI tehnologiju znači da se određeni tradicionalni sektori kompanije redukuju, a resursi se preusmeravaju ka inovacijama. Na taj način Ubisoft pokušava da ostane konkurentan u industriji koja se brzo menja, posebno kada su u pitanju alati za kreiranje igara i automatizacija kreativnih procesa.

Otvaranje studija za generativnu veštačku inteligenciju

Pored otpuštanja, kompanija je najavila i otvaranje novog studija specijalizovanog za razvoj generativne veštačke inteligencije. Generativni AI sistemi koriste napredne algoritme za automatsko kreiranje sadržaja, što može obuhvatiti generisanje dijaloga, likova, scenarija i drugih elemenata unutar video igara.

Ovakav pristup omogućava bržu i efikasniju produkciju igara, ali i otvara pitanja o ulozi ljudskih radnika u procesu razvoja. Ipak, kompanija ističe da je cilj generativne AI tehnologije da podrži kreativne timove i unapredi kvalitet igara.

Značaj za industriju i korisnike

Odluka Ubisoft-a da investira u generativnu veštačku inteligenciju može imati značajne posledice za celu industriju video igara. S druge strane, korisnici mogu očekivati brža unapređenja igara i nove funkcionalnosti, ali i promene u načinu na koji se kreira digitalni sadržaj.

Prema izvorima iz industrije, generativna AI tehnologija bi mogla da promeni procese razvoja igara, omogućavajući studijima veću fleksibilnost i niže troškove. Međutim, kao rezultat toga, deo radnih mesta u tradicionalnim sektorima razvoja mogao bi biti ugrožen, što se vidi kroz aktuelna otpuštanja.

Na kraju, Ubisoft se pridružuje sve većem broju tehnoloških kompanija koje ulažu u generativni AI, potvrđujući da je ova tehnologija postala centralna tema u razvoju modernih video igara.

Pročitaj još

IT

Anthropic postaje javno preduzeće sa vrednošću preko 1 bilion dolara

Vrednost Anthropic kompanije prelazi 1 bilion dolara nakon izlaska na berzu, što je presedan u AI industriji

Objavljeno pre

,

Objavio:

Anthropic postaje javno preduzeće sa vrednošću preko 1 bilion dolara – vrednost Anthropic kompanije

Vrednost Anthropic kompanije prelazi 1 bilion dolara nakon izlaska na berzu, što je presedan u AI industriji

Anthropic je sada javno preduzeće sa vrednošću većom od 1 bilion dolara, prema izvorima iz industrije. Ova informacija predstavlja značajan trenutak ne samo za kompaniju, već i za čitav sektor veštačke inteligencije. Tako visok nivo procenjene vrednosti retko se viđa u tehnološkoj industriji, posebno među firmama koje razvijaju LLM (Large Language Model, veliki jezički model) platforme.

Uticaj na tržište i industriju

Vrednost Anthropic kompanije od preko 1 bilion dolara značajno podiže lestvicu za sve ostale aktere na tržištu veštačke inteligencije. S obzirom na to, ova vest izazvala je povećano interesovanje investitora i stručnjaka za dalji razvoj inovacija u oblasti LLM modela. Veštačka inteligencija, kao što je Claude — proizvod kompanije Anthropic — koristi se u različitim industrijama, od automatizacije do obrade prirodnog jezika. Kao rezultat, uspeh Anthropic kompanije može podstaći dodatna ulaganja u istraživanje i razvoj sličnih tehnologija.

Promene u poretku tehnoloških lidera

Pored toga, izlazak Anthropic kompanije na berzu i dostizanje vrednosti od 1 bilion dolara može uticati na položaj tradicionalnih tehnoloških giganata. Takođe, ovo postignuće šalje snažnu poruku celokupnom sektoru o brzini razvoja AI rešenja i njihovoj rastućoj vrednosti. U međuvremenu, analitičari smatraju da ovakve promene doprinose dinamičnijem tehnološkom ekosistemu. Iako je konkurencija u oblasti LLM modela izuzetno jaka, Anthropic je ovim potezom demonstrirao svoju relevantnost i sposobnost da privuče značajne investicije.

Važnost procene vrednosti i dalji razvoj

Ipak, važno je naglasiti da procena vrednosti od 1 bilion dolara postavlja nova očekivanja pred Anthropic kompaniju. Na taj način, kompanija mora nastaviti da inovira i održava konkurentnost na globalnom tržištu. Osim toga, investitori će pažljivo pratiti budući razvoj proizvoda i proširenje primene LLM modela u različitim sektorima. Zaključno, izlazak Anthropic kompanije na berzu i dostizanje tako visoke tržišne vrednosti predstavlja prekretnicu za AI industriju i postavlja nove standarde za buduće lidere u ovoj oblasti.

Pročitaj još

U Trendu

Share via
Copy link