Novi propis uvodi registre za visokorizične AI sisteme i zabranjuje društveno rangiranje, usklađen sa evropskim standardima
Srbija priprema prvi nacionalni zakon o veštačkoj inteligenciji, koji će po prvi put regulisati upotrebu AI sistema kroz klasifikaciju rizika i uvođenje registara za visokorizične modele, potvrđeno je iz Ministarstva nauke, tehnološkog razvoja i inovacija. Zakon predviđa četiri kategorije rizika: zabranjene, visokorizične, srednjerizične i niskorizične AI sisteme, pri čemu će mere nadzora i kontrole biti proporcionalne nivou rizika.
Prema zvaničnim informacijama, visokorizični sistemi, poput onih koji se koriste u medicinskoj dijagnostici ili pri odlučivanju o zapošljavanju i kreditnoj sposobnosti, moraće biti upisani u poseban registar. Niskorizični modeli, kao što su sistemi za preporuku filmova, neće biti predmet obavezne registracije. Ključni princip zakona je da uvek konačnu odluku donosi čovek, a ne softver ili mašina, što je u skladu sa evropskim pristupom regulativi AI tehnologija.
Iz Ministarstva ističu da zakon neće uređivati samu tehnologiju, već rizike koji mogu nastati iz njene primene. Državna sekretarka Marija Gnjatović naglašava da je cilj zaštita građana i transparentnost procesa: „Veoma je važno da procesi budu transparentni i još važnije da odluka uvek zavisi od čoveka, a ne od softvera ili mašine. Ovim zakonom uređujemo nivo rizika koji primena veštačke inteligencije može da stvori.“
Savetnik za propise i inspekciju u NALED-u Milan Stefanović objašnjava da je zakon usklađen sa evropskim rešenjima i predviđa zabranu određenih primena AI, uključujući društveno rangiranje građana i sisteme koji predviđaju izvršenje krivičnih dela. Prepoznavanje emocija na radnom mestu takođe će biti zabranjeno, osim u strogo definisanim slučajevima kao što su psihoterapijske svrhe i psihološka istraživanja.
Nadzor nad primenom zakona sprovodiće Ministarstvo nauke, tehnološkog razvoja i inovacija, uz formiranje nove Agencije za veštačku inteligenciju. Ova agencija imaće ovlašćenja da obustavi testiranja u slučaju incidenata ili na osnovu prijava nadležnih inspekcija. U kontrolu će biti uključeni i tržišna inspekcija, Poverenik za informacije od javnog značaja i zaštitu podataka o ličnosti, kao i inspekcija za informacionu bezbednost.
Srbija se ovim propisom svrstava među prve države u regionu koje uvode nacionalni pravni okvir za oblast veštačke inteligencije, uz napomenu da zakon prati smernice Evropske unije, ali i omogućava dalji razvoj domaće IT industrije. „Bićemo među prvim zemljama koje će imati nacionalni pravni okvir za ovu oblast“, zaključila je Gnjatović.
