Guverner traži regulatorni okvir koji bi omogućio brzo gašenje opasnih AI sistema u izuzetnim slučajevima
Kalifornija razmatra uvođenje „prekidača za hitno gašenje“ za napredne AI modele, što bi omogućilo vlastima da privremeno zaustave rad najnaprednijih veštačkih inteligencija u slučaju ozbiljnih rizika. Predlog je izneo guverner Gavin Newsom, naglašavajući potrebu za regulatornim merama zbog sve bržeg razvoja tehnologije i mogućih posledica po društvo. Ova inicijativa, poznata kao „kill switch za napredne AI modele“, ima za cilj da unapredi bezbednost i pruži mogućnost brze reakcije kada se pojavi ozbiljna pretnja.
Prema industrijskim izvorima, ključni deo predloga je stvaranje pravnog okvira koji bi omogućio državnim organima da intervenišu u radu naprednih AI sistema, kao što su LLM (Large Language Model – veliki jezički modeli) ili drugi napredni algoritmi. Takav prekidač bi mogao biti aktiviran samo u izuzetnim situacijama, kada postoje jasni dokazi da AI sistem može ugroziti javnu bezbednost ili stabilnost infrastrukture.
Zašto je kill switch za napredne AI modele važan
Inicijativa za kill switch za napredne AI modele dolazi u trenutku kada rastu zabrinutosti oko potencijalnih zloupotreba veštačke inteligencije. Razvoj moćnih LLM modela, koji mogu generisati tekst, slike i kod, otvara nova pitanja o kontroli, odgovornosti i etičkim standardima. Takođe, stručnjaci ističu da bi pravovremeno isključivanje takvih sistema moglo sprečiti štetne posledice, poput širenja dezinformacija ili automatskog generisanja malicioznog softvera.
S druge strane, mnogi predstavnici industrije upozoravaju da bi preterana regulacija mogla usporiti inovacije i razvoj AI tehnologija. Ipak, guverner Newsom smatra da je balans između bezbednosti i razvoja ključan za budućnost tehnološkog sektora. „Cilj nije da se zaustavi napredak, već da se obezbedi odgovorno korišćenje tehnologije“, istakao je on.
Potencijalni izazovi i sledeći koraci
Implementacija kill switch mehanizma za napredne AI modele zahtevaće blisku saradnju između zakonodavaca, tehnoloških kompanija i istraživača. Pravni i tehnički izazovi su brojni, uključujući definisanje jasnih kriterijuma kada i kako bi prekidač mogao biti aktiviran, ko bi imao ovlašćenja i kako bi se očuvala transparentnost procesa.
Pored toga, postoji zabrinutost da bi globalni tehnološki giganti mogli pokušati da zaobiđu ovakve regulative, posebno ako se standardi razlikuju od zemlje do zemlje. Zbog toga, iz Kalifornije pozivaju i na međunarodnu saradnju kako bi se obezbedila doslednost i efikasnost mera.
Iako je predlog još u fazi razmatranja, stručnjaci smatraju da bi kill switch za napredne AI modele mogao postati važan deo budućih regulatornih politika. Na taj način, Kalifornija želi da postavi standarde za odgovorno upravljanje rizicima koje donosi ubrzani razvoj veštačke inteligencije.
