Kompanija Anthropic otkrila je zloupotrebu svojih AI modela u potencijalnom razvoju biološkog oružja i preduzela mere.

Detekcija i reakcija kompanije

Kompanija Anthropic je u četvrtak saopštila da je blokirala naučnike koji su koristili njene modele veštačke inteligencije Claude na načine koji bi mogli podržati razvoj biološkog oružja. Ova informacija deo je obimnijeg izveštaja koji takođe obuhvata druge štetne aktivnosti poput nadzora, prevara, razvoja konvencionalnog oružja i propagande. Anthropic je podelio pet slučajeva koji su pokazali potencijal za podršku razvoju biološkog oružja, nazivajući zloupotrebu biologije jednim od najozbiljnijih rizika modela granicne AI.

Povećanje sigurnosnih mera

Prema izveštaju, nedavni napredniji modeli poput Claude Fable 5 sadrže jače sigurnosne mehanizme koji ograničavaju pristup širokom spektru dvostruko upotrebljivih bioloških istraživačkih upita. Kompanija nije identifikovala naučnike uključene u ove aktivnosti, navodeći da ne može tvrditi da su imali nameru da nanose štetu. Kada su detektovane i istražene ove aktivnosti, korisnički nalozi su zabranjeni, a nalazi istrage inkorporirani su u procese sigurnosnih mera, sprovođenja i obaveštajnih pretnji kompanije Anthropic kako bi se u budućnosti bolje sprečile, detektovale i prekinule ove aktivnosti.

Zabrinutost raste dok okvir za testiranje AI modela ostaje nedostupan javnosti

Neobjavljeni okvir za testiranje AI modela

Bela kuća nije javno objavila dobrovoljni okvir za testiranje naprednih AI modela koji je finalizovan u avgustu, bez naznaka kada bi mogao biti dostupan. Ova situacija izaziva sve veću zabrinutost među zaposlenima u kompaniji Anthropic, koji upozoravaju na potencijalne pretnje koje AI može predstavljati za ljude. Anthropic, razvijač AI modela Claude, izvestio je prošlog četvrtka da su obustavili više potencijalnih pokušaja naučnika da koriste Claude u istraživanjima koja bi mogla dovesti do kreiranja biološkog oružja.

Detalji i implikacije nedostupnog okvira

Okvir je finalizovan početkom avgusta, nakon izvršne naredbe koju je potpisao predsednik Trump u junu. Ova naredba je tražila od kompanija poput Anthropic i OpenAI da dobrovoljno omoguće federalnoj vladi pristup njihovim najnaprednijim modelima do 30 dana pre njihovog puštanja, s ciljem poboljšanja sigurnosti modela. Gospodin Trump je odustao od prvobitnog potpisivanja izvršne naredbe jer nije želeo da federalna vlada usporava inovacije.

Policija navodi da je jedan muškarac u kritičnom stanju, dok se istraga povodom incidenta nastavlja.

Četiri muškarca su ranjena u napad nožem u Londonu, koji se dogodio na glavnoj ulici naselja Bromli u jugoistočnom delu grada. Prema navodima policije, napad se desio nešto posle 14 časova po lokalnom vremenu, kada su hitne službe primile pozive o svađi i sukobu na ulici.

Policija je na licu mesta zatekla četiri povređena muškarca, od kojih je jedan u kritičnom stanju. Tri osobe zadobile su povrede koje nisu opasne po život, navodi se u zvaničnom saopštenju Metropoliten policije. Svi ranjeni su prebačeni u bolnicu, nakon što su im pružene prve medicinske intervencije na licu mesta.

Istraga i hapšenja nakon napada nožem u Londonu

Prema rečima portparola policije, sedam muškaraca je uhapšeno i nalaze se u pritvoru. “Policijska istraga se nastavlja i ne veruje se da postoji šira pretnja po javnost”, saopštio je portparol. Osim toga, policija je navela da su pojačane mere bezbednosti u tom delu London zbog ozbiljnosti incidenta.

Londonska služba hitne pomoći potvrdila je da su svi povređeni muškarci najpre zbrinuti na mestu događaja, a potom prevezeni u bolnicu radi daljeg lečenja. Na teren su odmah upućene ekipe hitne pomoći i više policijskih patrola.

Reakcije javnosti i lokalnih vlasti

Piter Forčun, poslanik za Bromli i Bigin Hil, izjavio je da je upoznat sa incidentom i naglasio da razume zabrinutost građana zbog bezbednosti. “Ostaću u bliskom kontaktu sa policijom dok istraga traje”, rekao je Forčun, pružajući podršku lokalnim stanovnicima.

Lokalne vlasti su ocenile da je incident “apsolutno užasna vest” i zahvalile su službama hitne pomoći na njihovom angažovanju u teškim okolnostima. Istaknuto je da će prioritet biti rasvetljavanje svih okolnosti pod kojima se dogodio napad nožem u Londonu, kao i održavanje bezbednosti u zajednici.

U međuvremenu, istraga traje, dok policija poziva građane koji imaju bilo kakve informacije o događaju da se obrate nadležnim organima. Kako su naveli, prisustvo policije na ulicama Bromlija biće pojačano dok se sve činjenice ne utvrde. Takođe, iz policije poručuju da će javnost biti blagovremeno obaveštena o daljem toku istrage.