Novi zakon predviđa zabranu društvenog rangiranja i predviđanja krivičnih dela, uz usklađenost sa evropskim regulativama
Srbija će uskoro dobiti prvi zakon o veštačkoj inteligenciji, kojim će biti definisani uslovi za bezbednu i odgovornu primenu ove tehnologije, a domaća IT industrija dobiće okvir za dalji razvoj. Prema najavama, novi propis uvodi klasifikaciju modela veštačke inteligencije prema stepenu rizika, izričite zabrane pojedinih upotreba i obavezu da konačnu odluku uvek donosi čovek.
Državna sekretarka u Ministarstvu nauke, tehnološkog razvoja i inovacija Marija Gnjatović istakla je da zakon neće uređivati samu tehnologiju, već rizike koji nastaju njenom primenom. „Ovakav zakon je izuzetno potreban zato što mi sada zapravo veštačku inteligenciju koristimo u svim sektorima. Veštačka inteligencija utiče na način kako pripremamo, recimo, emisije, na način kako radimo, kako istražujemo, kako donosimo određene odluke koje mogu biti i visokog i niskog rizika. I upravo je taj rizik osnovna tema ovog zakona“, navela je Gnjatović.
Modeli će biti razvrstani prema stepenu rizika: visokorizični sistemi, poput onih koji pomažu lekarima u dijagnostici, evidentiraće se u posebnom registru, dok će niskorizični, poput servisa za preporuku filmova, biti izuzeti od te obaveze. Zakon predviđa četiri kategorije rizika: zabranjeni, visok, srednji i minimalni rizik, a mere kontrole i nadzora biće prilagođene svakoj kategoriji.
Jedan od osnovnih principa zakona je da čovek ostaje poslednja instanca u donošenju odluka. „Veoma je važno da procesi budu transparentni i još važnije da odluka uvek zavisi od čoveka, a ne od softvera ili mašine“, naglasila je Gnjatović.
Zakon uvodi i zabrane za određene primene veštačke inteligencije. Savetnik za propise i inspekcije u NALED-u Milan Stefanović naveo je da su zabranjeni sistemi za društveno rangiranje građana, kao i oni koji predviđaju krivična dela ili prepoznaju emocije na radnom mestu, osim u psihoterapeutskim i istraživačkim svrhama gde su svrstani u visokorizične. Sistemi za analizu radnih biografija ili procenu kreditne sposobnosti biće tretirani kao visokorizični i podležu strogim pravilima zbog uticaja na prava i slobode građana.
Srbija je među prvim državama u regionu koje uvode nacionalni pravni okvir za veštačku inteligenciju, što je nastavak dosadašnjih ulaganja u infrastrukturu i podršku startap zajednici. Planirano je da zakon bude usklađen sa aktom Evropske unije o veštačkoj inteligenciji, uz napomenu da ne sme usporiti razvoj domaćeg IT sektora. „Važno nam je da zaštitimo građane koji koriste različite modele veštačke inteligencije, ali i da zakon ni na koji način ne spreči dalji razvoj sektora informacionih tehnologija i veštačke inteligencije. Siguran zakonodavni okvir pomaže i kompanijama koje žele da posluju u Srbiji i našim firmama koje svoje proizvode plasiraju na evropsko tržište“, rekla je Gnjatović.
Za nadzor nad sprovođenjem zakona biće zaduženo Ministarstvo nauke, tehnološkog razvoja i inovacija, kao i druge institucije, među kojima je predviđeno i osnivanje Agencije za veštačku inteligenciju. Ova agencija pratiće primenu zakona i imaće ovlašćenja da obustavi testiranja u slučaju incidenata, uz učešće tržišne inspekcije, Poverenika za informacije od javnog značaja i zaštitu podataka o ličnosti, kao i inspekcije za informacionu bezbednost.
