Kompanija upozorava da bi AI sistemi mogli uskoro razvijati svoje naslednike, što donosi velike izazove za industriju
Američki AI startup Anthropic izneo je predlog za globalno usporavanje razvoja veštačke inteligencije, ističući zabrinutost zbog sve bržeg napretka u ovoj oblasti. Prema saopštenju kompanije, trenutni trendovi ukazuju na to da bi napredni AI sistemi u budućnosti mogli biti sposobni da autonomno razvijaju svoje naslednike, što bi predstavljalo značajan izazov za postojeće regulatorne i etičke okvire. Iako Anthropic naglašava da još nismo dostigli tu tačku, smatraju da bi takva mogućnost mogla postati realnost mnogo pre nego što su institucije spremne da adekvatno reaguju.
U objašnjenju, kompanija napominje da bi AI sposobna da unapređuje samu sebe mogla doneti ogromne koristi u oblastima nauke i medicine, ali ujedno i povući ozbiljna pitanja o kontroli, bezbednosti i odgovornosti. Anthropic smatra da je ključno razmotriti globalnu koordinaciju i usporavanje razvoja dok se ne uspostave odgovarajući standardi i mehanizmi nadzora.
Ovakav stav dolazi u trenutku kada industrija veštačke inteligencije beleži izuzetno brz tehnološki napredak, a brojni eksperti i organizacije pozivaju na oprez i odgovorno upravljanje inovacijama. Anthropic naglašava da je potrebno unapred razmišljati o mogućim posledicama, kako bi se sprečile situacije u kojima bi AI sistemi mogli preuzeti inicijativu izvan kontrole njihovih tvoraca.
Predlog Anthropic-a dodatno podstiče diskusiju unutar tehnološke zajednice o potrebi za međunarodnim standardima i saradnjom između kompanija, regulatornih tela i akademskih institucija. Kompanija smatra da je proaktivno usmeravanje razvoja AI jedini način da se izbegnu potencijalni rizici i maksimalno iskoriste koristi koje ovi sistemi mogu doneti društvu.
