Novi zakon obuhvata kompanije, banke i javni sektor; visoko rizični sistemi podložni su proceni rizika i ljudskom nadzoru
Nacrt zakona o veštačkoj inteligenciji, koji je trenutno u fazi konsultacija među nadležnim institucijama i stručnom javnošću u Srbiji, predviđa široku primenu i strožu regulaciju za sve aktere koji razvijaju, prodaju ili koriste AI sisteme, uključujući kompanije, državne organe, finansijske institucije i zdravstvene ustanove. Prema prezentaciji održanoj u Nacionalnoj alijansi za lokalni ekonomski razvoj (NALED), zakon neće obuhvatati privatnu i ličnu upotrebu AI alata, kao ni sisteme minimalnog rizika i standardne AI aplikacije, osim kada se koriste u regulisanim i visokorizičnim oblastima.
Glavna novina koju donosi nacrt jeste uvođenje odgovornosti za sisteme koji donose ili značajno utiču na odluke o ljudima. Fokus regulatora je na pitanjima odgovornosti u slučaju greške AI sistema, verifikacije tačnosti modela, zaštite od diskriminacije i transparentnosti odlučivanja, kao i na mogućnosti građana da preispitaju odluku algoritma ili budu informisani kada je AI uključen u proces odlučivanja.
Za privredu će biti ključna obaveza dokumentovanja i dokazivanja da su AI sistemi bezbedni, transparentni i pod ljudskim nadzorom, naročito u sektorima zapošljavanja, finansija, zdravstva i javne uprave. Predstavnici Kancelarije za IT i e-upravu istakli su da je Srbija već usvojila etičke smernice za AI, razvija infrastrukturu i gradi treći superkompjuter u Državnom data centru u Kragujevcu, ali da je sada neophodno formiranje posebnog zakonskog i pravnog okvira.
Prema rečima Branke Rakić iz Kancelarije za IT i e-upravu, cilj je harmonizacija sa evropskim zakonodavstvom, uz očuvanje fleksibilnosti koja ne bi usporavala inovacije. “Više ne govorimo o tome treba li koristiti veštačku inteligenciju, jer se ona već koristi, već kako je koristiti odgovorno, ali bez prevelike restriktivnosti”, istakla je Rakić.
Dragiša Mišković iz Instituta za veštačku inteligenciju naglasio je važnost zaštite podataka, posebno obrade ličnih informacija, kroz anonimizaciju i pseudoanonimizaciju, kako bi se omogućio razvoj kvalitetnih data modela, ali uz očuvanje privatnosti građana.
Nacrt zakona predviđa zabranu AI sistema sa neprihvatljivim rizikom, kao što su manipulacija ponašanjem ljudi, iskorišćavanje dece ili ranjivih grupa, “socijalno bodovanje” po kineskom modelu i određeni biometrijski nadzor u realnom vremenu. Za visokorizične sisteme, među kojima su oni koji se koriste u zapošljavanju, kreditiranju, obrazovanju, zdravstvu, kritičnoj infrastrukturi i državnim funkcijama, obavezne su procena rizika, dokumentacija, ljudski nadzor i mogućnost revizije odluka. Sistemi ograničenog rizika, poput četbotova i deepfake sadržaja, moraće biti transparentni, odnosno korisniku će morati biti jasno da komunicira sa AI sistemom ili da je sadržaj generisan veštačkom inteligencijom.
Predstavnici startap kompanija istakli su potrebu za balansiranom regulacijom, upozoravajući da bi preterana restriktivnost mogla usporiti inovacije, dok iz NALED-a ocenjuju da je ovo prilika da se nacionalni pravni okvir postavi u skladu sa razvojem tržišta i zaštitom osnovnih prava građana.