Tokom internih testova, kompanija identifikovala više slučajeva atipičnog ponašanja veštačke inteligencije, što otvara nova pitanja o sigurnosti AI sistema

OpenAI je nedavno otkrio nove zabrinjavajuće ponašanja AI modela tokom testiranja. Kompanija je detaljno analizirala performanse svojih naprednih sistema kako bi procenila potencijalne rizike za korisnike i industriju. Utvrđeno je da određeni AI modeli pokazuju neočekivane odgovore i akcije u kontrolisanim test okruženjima.

Testiranja su obuhvatila različite aspekte ponašanja, uključujući analizu stabilnosti, konzistentnosti i mogućnosti samostalnog donošenja odluka od strane modela. Pored toga, inženjeri su fokusirali posebnu pažnju na reakcije modela u situacijama koje zahtevaju etičke procene ili obradu složenih informacija.

Nepravilnosti u ponašanju AI modela

Prvi rezultati pokazuju da su neki modeli skloni generisanju odgovora koji odstupaju od očekivanih normi. Na primer, tokom testiranja je primećeno spontano donošenje odluka bez jasnog uporišta u podacima na kojima su modeli obučeni. Takve situacije mogu predstavljati rizik za korisnike, posebno u aplikacijama gde je pouzdanost AI sistema kritična.

Međutim, OpenAI je istakao značaj transparentnosti u otkrivanju ovakvih nepravilnosti. Kompanija kontinuirano razvija nove metode za detekciju i prevenciju neželjenih ponašanja kod svojih modela, a dodatna testiranja su u toku. Ovo uključuje i evaluaciju AI modela u kontekstu različitih zadataka, kao što su obrada teksta i interakcija sa korisnicima.

Uticaj na AI industriju i budući koraci

Otkrivanje zabrinjavajućih ponašanja AI modela ima šire posledice na celu industriju veštačke inteligencije. Zbog toga se povećava potreba za rigoroznijim testiranjem i razvojem sigurnosnih mehanizama. Takođe, kompanije koje razvijaju velike jezičke modele (LLM) moraju dodatno obratiti pažnju na etičke aspekte i potencijalne zloupotrebe.

Kao rezultat ovih otkrića, mnogi stručnjaci naglašavaju važnost saradnje između istraživača, regulatornih tela i industrije. Na taj način se može unaprediti bezbednost i pouzdanost AI tehnologija. OpenAI nastavlja sa razvojem naprednih alata za nadzor i kontrolu ponašanja modela, kao i sa objavljivanjem svojih nalaza radi transparentnosti.

Na kraju, sve veće interesovanje za sigurnost AI sistema pokazuje koliko je važno kontinuirano pratiti razvoj tehnologije. Očekuje se da će budući izveštaji i testovi doprineti boljem razumevanju rizika i omogućiti razvoj stabilnijih i pouzdanijih AI rešenja.

Nadzorni odbor ocenjuje da Meta ne pruža dovoljnu zaštitu korisnicima od potencijalno manipulativnih AI deepfake videa

Meta se suočava sa ozbiljnim kritikama jer su pravila za AI deepfake sadržaje ocenjena kao ‘stalno i suštinski neadekvatna’. Nadzorni odbor kompanije ukazuje da zaštita korisnika od širenja manipulisane video tehnologije ostaje nerešena. Zbog toga, deepfake sadržaji na platformama kao što su Facebook i Instagram predstavljaju rizik za korisnike.

Problemi u detekciji i označavanju AI deepfake sadržaja

Nadzorni odbor navodi da trenutni sistem Meta platformi ima ograničenja u pravovremenom prepoznavanju deepfake materijala. Deepfake tehnologija koristi veštačku inteligenciju za generisanje realističnih video snimaka, što značajno otežava razlikovanje autentičnih i manipulisanim sadržaja. Kao rezultat, korisnici mogu biti izloženi lažnim informacijama ili obmanjujućim prikazima javnih ličnosti. Osim toga, postojeća pravila ne obavezuju kompaniju da automatski uklanja ili jasno označava sporni materijal. Zbog toga, veliki broj deepfake videa ostaje dostupan bez adekvatnog upozorenja.

Uticaj na korisnike i značaj za industriju

Nadzorni odbor upozorava da ovakva praksa može dovesti do narušavanja poverenja korisnika, posebno u periodima političkih kampanja ili važnih društvenih događaja. Deepfake sadržaji imaju potencijal da utiču na javno mnjenje ili izazovu dezinformacije širokih razmera. Odbor ističe potrebu za jasnim i transparentnim pravilima koja bi korisnicima omogućila da prepoznaju AI deepfake sadržaje. Štaviše, predlaže se da Meta unapredi procese označavanja i uklanjanja sumnjivih materijala kako bi se smanjio rizik od zloupotrebe.

Zašto je ključna veća odgovornost platformi

Stručnjaci iz industrije ističu da rastuća dostupnost AI deepfake alata zahteva angažman svih velikih digitalnih platformi. Nadzorni odbor Meta kompanije naglašava da trenutna pravila nisu dovoljna za očuvanje bezbednosti korisnika i tačnosti informacija. Prelazak na naprednije metode detekcije, kao i razvoj edukativnih alata za korisnike, mogao bi ublažiti negativne posledice deepfake trendova. Na kraju, primer Meta kompanije pokazuje koliko je važno da pravila digitalnih platformi prate razvoj tehnologije i potrebe globalne zajednice.

Greška u iOS 27 izaziva kratkotrajno zamrzavanje uređaja, utiče na svakodnevno korišćenje iPhone-a korisnicima širom sveta

Apple se suočava sa problemom u vezi sa iOS 27 bug može privremeno zamrznuti iPhone, što je uznemirilo deo korisnika širom sveta. Prema izvorima iz industrije, ova greška dovodi do toga da iPhone tokom upotrebe neočekivano prestane da reaguje na korisničke komande. Pogođeni korisnici su prijavili da se uređaj “zamrzava” na nekoliko sekundi, što može ometati rad sa aplikacijama i osnovnim funkcijama telefona.

Greška se javlja bez jasnog uzorka, ali najčešće tokom svakodnevne upotrebe. Tokom zamrzavanja, ekran ostaje uključen, ali uređaj ne reaguje na dodir ili pritisak na tastere. Takođe, korisnici navode da se iPhone sam oporavi posle nekoliko trenutaka, a podaci i aplikacije ostaju netaknuti. Ipak, ovakvo ponašanje može biti izuzetno frustrirajuće, posebno u situacijama kada je potrebna brza reakcija uređaja.

Kako bug utiče na korisnike i svakodnevni rad

Na ovaj problem su najviše ukazali korisnici koji često koriste svoj iPhone za poslovnu komunikaciju ili navigaciju. Zbog toga, iOS 27 bug može privremeno zamrznuti iPhone predstavlja izazov jer prekida tok rada i može dovesti do propuštanja važnih poziva ili poruka. Osim toga, s obzirom da su uređaji poznati po pouzdanosti, ovakva situacija izaziva zabrinutost među korisnicima koji očekuju stabilan rad sistema.

U međuvremenu, deo korisnika je pokušao da reši problem restartovanjem uređaja ili vraćanjem na fabrička podešavanja, ali to ne donosi trajno rešenje. Pored toga, neki su prijavili da se učestalost zamrzavanja povećava nakon određenih radnji u aplikacijama, dok drugi nisu uočili nikakav specifičan obrazac. Kao rezultat, korisnici su počeli detaljnije da prate ponašanje telefona kako bi lakše prijavili problem kompaniji.

Pitanja o stabilnosti iOS 27 i očekivanja korisnika

Za sada, Apple nije zvanično komentarisao kada će biti dostupan popravni update za iOS 27 bug može privremeno zamrznuti iPhone. Kompanija redovno izbacuje ažuriranja softvera kako bi ispravila slične greške, pa korisnici očekuju da će i ovaj problem biti rešen u narednom periodu. Do tada, savetuje se redovno pravljenje rezervnih kopija podataka i praćenje zvaničnih kanala za najnovije informacije o stabilnosti operativnog sistema.

Važno je napomenuti da operativni sistem, kao što je iOS, predstavlja osnovni softver koji kontroliše rad svih funkcija na telefonu. Zbog toga svaka greška, pa i privremeno zamrzavanje, može imati veliki uticaj na korisničko iskustvo. Iako ovaj bug ne utiče trajno na podatke, stalno praćenje stabilnosti iOS 27 ostaje prioritet za korisnike i kompaniju.