Zakon o veštačkoj inteligenciji uvodi četiri kategorije rizika i posebna pravila za modele opšte namene

Evropska unija je zvanično usvojila prvi zakon o veštačkoj inteligenciji na globalnom nivou, čime je postavila sveobuhvatni pravni okvir za regulisanje te tehnologije na svom tržištu. Ovaj propis ima za cilj da obezbedi sigurnu, etičku i pouzdanu upotrebu veštačke inteligencije, ali i da podstakne inovacije i investicije u ovoj oblasti, prema saopštenju nadležnih institucija. Prema oceni stručnjaka, zakon o veštačkoj inteligenciji mogao bi postati globalni standard, slično načinu na koji je Opšta uredba o zaštiti podataka oblikovala međunarodna pravila privatnosti.

Četiri kategorije rizika u zakon o veštačkoj inteligenciji

Jedna od ključnih karakteristika novog zakona jeste podela sistema veštačke inteligencije na četiri kategorije rizika, od kojih svaka nosi posebne obaveze za korisnike i proizvođače. Sistemi sa minimalnim ili nepostojećim rizikom, kao što su video-igre ili filteri za neželjenu poštu, mogu se koristiti bez dodatnih ograničenja.

Oni sa ograničenim rizikom, poput četbotova i generatora sadržaja, podležu obavezi transparentnosti. Korisnici moraju znati da komuniciraju sa veštačkom inteligencijom ili da je sadržaj generisan uz pomoć nje, što omogućava donošenje informisanih odluka.

Sistemi viskokog rizika, među kojima su aplikacije za medicinsku dijagnostiku, autonomnu vožnju ili biometrijsku identifikaciju, moraju proći rigorozna testiranja, ispuniti visoke standarde transparentnosti i omogućiti ljudski nadzor pre ulaska na tržište Evropske unije.

Neprihvatljivi rizik podrazumeva zabranu sistema koji ugrožavaju bezbednost, prava ili egzistenciju ljudi. To uključuje manipulaciju ponašanjem, prediktivne policijske aktivnosti, prepoznavanje emocija na radnim mestima i u školama, kao i socijalno bodovanje. Dodatno, zabranjena je upotreba sistema za biometrijsku identifikaciju u realnom vremenu na javnim mestima, osim u izuzetno retkim slučajevima propisanim zakonom.

Pravila za modele opšte namene i upravljanje zakon o veštačkoj inteligenciji

Pored osnovnih kategorija rizika, Evropska unija je u zakon uvela i posebna pravila za modele veštačke inteligencije opšte namene (GPAI). Ovi modeli, koji mogu generisati tekst ili prepoznavati slike, podležu osnovnim zahtevima transparentnosti ako ne predstavljaju sistemski rizik. Za one koji nose sistemske rizike, propisana su stroža pravila nadzora i kontrole.

Radi dosledne primene, formirana je nova upravljačka struktura koju čine Kancelarija za veštačku inteligenciju pri Evropskoj komisiji, naučni panel nezavisnih stručnjaka, odbor sa predstavnicima država članica i savetodavni forum za tehničku ekspertizu. Za kršenje zakona predviđene su visoke novčane kazne, određene u procentima od globalnog prometa kompanije ili kao fiksni iznos, dok su za mala i srednja preduzeća definisane proporcionalno prilagođene sankcije.

Proces usvajanja i poslednje dopune zakon o veštačkoj inteligenciji

Inicijativa za izradu zakona započeta je 2020. godine u okviru Evropskog saveta. Evropska komisija je zvanični predlog predstavila u aprilu 2021, a preliminarni dogovor postignut je u decembru 2023. Savet je dao konačno odobrenje 21. maja 2024, a zakon je stupio na snagu 1. avgusta iste godine.

U sklopu šire agende za pojednostavljenje propisa, Evropska unija je krajem juna 2026. usvojila dodatnu uredbu u okviru paketa „Omnibus VII”. Najnovije dopune izričito zabranjuju upotrebu veštačke inteligencije za generisanje intimnog ili seksualnog sadržaja bez pristanka, kao i materijala koji prikazuje seksualno zlostavljanje dece.

Očekuje se da će zakon o veštačkoj inteligenciji značajno uticati na pravila razvoja i upotrebe veštačke inteligencije, kako u Evropi, tako i širom sveta. Na taj način, Evropska unija nastoji da postavi nove standarde odgovorne primene naprednih tehnologija.