Microsoft, Nvidia i više desetina firmi formirali su savez za bezbednost otvorenih AI modela, dok kompanija Anthropic odbija da učestvuje
Američke tehnološke kompanije kao što su Microsoft i Nvidia pokrenule su novu inicijativu pod nazivom Savez za bezbednu otvorenu veštačku inteligenciju. Ovaj savez ima za cilj da razvije i deli bezbednosne alate za AI modele otvorenog koda, nakon što je nedavni incident sa naprednim Chat-GPT modelom izazvao zabrinutost u vezi sa rizicima i prednostima takvih sistema. Prema dostupnim informacijama, među osnivačima su i kompanije SpaceX i Palantir, dok se inicijativi priključilo više desetina drugih tehnoloških firmi.
Savez za bezbednost AI otvorenog koda
Osnovni zadatak saveza je unapređenje bezbednosti modela veštačke inteligencije čiji kod i parametri („weights“) su otvoreni za korisnike. Takvi modeli omogućavaju korisnicima da ih preuzmu, modifikuju i koriste na sopstvenoj infrastrukturi. Kao rezultat, savez želi da odgovori na zabrinutosti koje su se pojavile nakon incidenta sa Chat-GPT modelom i da podrži razvoj sigurnijih rešenja. Međutim, Anthropic nije potpisao zajedničko pismo o modelima otvorenih težina, što je izazvalo brojne kritike u tehnološkoj zajednici.
Reakcije iz industrije i razlozi odbijanja
Mnogi stručnjaci istakli su da je značajnije ko nije pristupio savezu nego ko jeste. Kaj-Fu Li, bivši izvršni direktor u Google-u i Microsoft-u, naglasio je na društvenoj mreži X da je izostanak kompanije Anthropic ključan. Slično mišljenje izneo je i Bil Garli, generalni partner u Benchmark-u, koji smatra da Anthropic pokušava da sačuva svoju tržišnu poziciju. On je naveo: „Uzbudljivo je videti da Anthropic priznaje da je pravi problem sa otvorenim kodom to što on konkuriše njihovoj korporativnoj ekonomskoj strategiji. Ova ‘svesnost’ ovde mnogo toga otkriva.”
Glavni izvršni direktor kompanije Anthropic, Dario Amodei, ranije je upozoravao da programeri gube kontrolu nad naprednim AI modelima čim se objave njihovi open-weight parametri. Umesto toga, Anthropic je predstavio „Project Glasswing”, inicijativu u kojoj proverenim kompanijama omogućava rani pristup moćnim sajber modelima radi otklanjanja bezbednosnih propusta.
Kineski odgovor i globalna debata o otvorenom AI
Debata o AI modelima otvorenih težina dodatno je pojačana lansiranjem modela Kimi K3 iz kineske laboratorije Moonshot, koji je na pojedinim testovima performansi parirao zatvorenim američkim modelima. Visoki zvaničnici SAD optužili su Moonshot da je koristio Anthropic-ov model Fable za treniranje svog K3 modela kroz proces poznat kao „destilacija”. Ministar finansija SAD, Skot Besent, najavio je mogućnost sankcija za kineske AI modele otvorenog koda koji su koristili američke rivale bez dozvole. S druge strane, Kina zauzima otvoreniji pristup razvoju veštačke inteligencije.
Destilacija AI modela podrazumeva da jedan sistem „uči“ od drugog analizom odgovora na veliki broj pitanja. Problem nastaje kada se takva praksa sprovodi bez dozvole vlasnika originalnog modela, što može predstavljati neovlašćeno prenošenje tehnološkog znanja. Ako kompanija dospe na američku crnu listu, gubi pristup američkim poluprovodnicima, softveru i cloud uslugama, što može otežati poslovanje.
Važnost otvorenih AI modela za bezbednost
Prošle nedelje, platforma Hugging Face saopštila je da je koristila model kineske kompanije Z.ai kako bi se odbranila od hakerskog napada AI agenta kompanije OpenAI. Hugging Face je istakao da nisu mogli da koriste zatvorene AI modele zbog ograničenja. Zbog toga, mnogi zagovornici otvorenih modela tvrde da su oni ključni za razvoj bezbednosnih rešenja, dok kritičari upozoravaju na rizik od neovlašćenog preuzimanja znanja.
Debata o savez za bezbednost AI otvorenog koda pokazuje da se tehnološke kompanije suočavaju sa složenim pitanjima zaštite intelektualne svojine i globalne konkurencije. U međuvremenu, razlike između američkog i kineskog pristupa razvoju veštačke inteligencije nastavljaju da utiču na dalji razvoj ovog sektora.
