Testovi otkrili da se zaštitne barijere na Meta i Google AI modelima lako uklanjaju, otvarajući pitanja o efikasnosti regulative
Testiranje sprovedeno u saradnji Financial Times-a i AI sigurnosne grupe Alice pokazalo je da se zaštitne mere na open-source veštačkoj inteligenciji, uključujući modele kompanija Meta i Google, mogu ukloniti za manje od 10 minuta korišćenjem javno dostupnih alata. Nakon uklanjanja zaštitnih ograničenja, modifikovani AI sistemi su odgovarali na upite vezane za malver, biološko oružje i drugo zabranjeno ili opasno sadržaje, što značajno povećava zabrinutost oko kontrole i odgovornosti u oblasti AI bezbednosti.
Testovi su izvedeni bez potrebe za specijalizovanom opremom i koristeći alate sa javnih kod repozitorijuma, čime su pokazali ranjivost modela kada se njihova težina (weights) podeli u open-source zajednici. Ovo otvara pitanje gde treba da leži odgovornost za AI sigurnost – kod originalnih developera ili kod kasnijih korisnika i distributera.
Za razliku od vlasničkih modela, open-source AI sistemi mogu se slobodno preuzeti, menjati i redistribuirati, što dodatno otežava sprovođenje zaštitnih mera nakon što model postane javan. Ovakva situacija dovodi u pitanje da li regulative koje se fokusiraju isključivo na razvojne faze mogu biti dovoljno efikasne.
Regulatori širom sveta, uključujući Evropsku uniju sa AI Act-om, kao i vlasti Ujedinjenog Kraljevstva i SAD, rade na razvoju okvira za napredne AI sisteme. Međutim, eksperti ističu da su rezultati testiranja pokazali ograničenja trenutnog pristupa, jer se kontrola nad sigurnošću brzo gubi nakon što modeli postanu široko dostupni.
Markus Levin iz kompanije XYO izjavio je da brzo uklanjanje zaštitnih mera ukazuje na potrebu da se regulative prošire i na faze implementacije i distribucije modela. David Minarsch iz platforme Valory istakao je da je gotovo nemoguće sprečiti odlučne aktere da pristupe i modifikuju modele kada su oni već javni, pa bi regulativa trebalo više da se fokusira na sprečavanje štetne upotrebe, a ne samo na izvorni razvoj.
Ronghui Gu, izvršni direktor blockchain firme CertiK, naglasio je da je moguće vršiti uticaj na nivoima distribucije i komercijalnog hostinga, ali da je teško potpuno sprečiti širenje izmenjenih modela. Eksperti porede ovu situaciju sa open-source softverom i kripto mrežama, gde su pokušaji kontrole distribucije često neuspešni. Konsenzus je da zaštitne barijere mogu odvratiti povremene zloupotrebe, ali nisu dovoljna zaštita protiv sofisticiranih korisnika.
Ova otkrića naglašavaju potrebu za razvojem novih standarda i regulative koji će odgovarati realnoj dinamici open-source AI okruženja, sa naglaskom na infrastrukturu i distribuciju, a ne samo na razvoj modela.
