Zvaničnici i tehnološke kompanije upozoreni na potencijalne rizike, model dostupan samo ograničenom broju partnera
Kompanija Anthropic predstavila je najnoviji AI model pod nazivom Mythos, za koji navodi da je u stanju da otkrije ranjivosti u softverima velikog broja operativnih sistema i internet pregledača. Zbog mogućnosti zloupotrebe, kompanija je odlučila da model ne bude javno dostupan, već da ga podele isključivo sa odabranim partnerima iz tehnološkog i finansijskog sektora.
Prema zvaničnim navodima Anthropic-a, Mythos je već identifikovao više hiljada slabih tačaka u softverima koji se koriste globalno, što je izazvalo zabrinutost da bi potencijalni akteri mogli zloupotrebom ovog alata ugroziti bankarski, zdravstveni, vladin i infrastrukturni sektor. Kompanija je pokrenula inicijativu pod nazivom Project Glasswing, u okviru koje Amazon, Apple, Cisco, JPMorgan Chase i Nvidia testiraju model kako bi unapredili sopstvenu sajber odbranu.
Izvori iz industrije navode da je brzina i moć novog AI modela zahtevaju hitne mere zaštite. Direktor kompanije za sajber bezbednost Assail, Alissa Valentina Knight, izjavila je da bi mogućnost upotrebe naprednih AI alata značajno ubrzala napade na računarske mreže, čime bi se odbrana dodatno zakomplikovala. Knight je ocenila trenutnu situaciju kao signal da je izazov već prisutan i da su potrebne nove strategije odbrane.
Pored reakcija iz korporativnog sektora, briga je izražena i na najvišem nivou državnih organa. Prema dostupnim informacijama, američki sekretar za trezor Scott Bessent i predsednik Federalnih rezervi Jerome Powell održali su sastanak sa predstavnicima banaka na temu rizika koje donose AI modeli poput Mythos-a. Anthropic je, kako se navodi, organizovao i brifinge za visoke američke zvaničnike i predstavnike industrije.
U saopštenju objavljenom na zvaničnoj stranici, Anthropic ističe da bi posledice zloupotrebe ovakvih alata mogle biti ozbiljne za ekonomiju, javnu bezbednost i nacionalnu sigurnost. Kompanija nije dala dodatne komentare na upite, ali je u objavi naglasila važnost preduzimanja mera pre nego što ovakvi alati postanu široko dostupni.
Stručnjaci i dalje prate razvoj situacije i naglašavaju potrebu za saradnjom između tehnoloških kompanija, finansijskih institucija i državnih organa kako bi se umanjili potencijalni rizici koje sa sobom nose napredni AI alati.
