STARI STRAH OD AI DOBIJA NOVU DIMENZIJU
Javno prepucavanje oko bezbednosti veštačke inteligencije ponovo je otvorilo priču staru više od sedam godina. Bivši glavni naučnik kompanije Meta Jan Lekun skrenuo je pažnju na ranija upozorenja Darija Amodeija, danas izvršnog direktora kompanije Anthropic. On je podsetio na period kada je Amodei radio u OpenAI. Povod je Amodeijev novi apel kompanijama koje razvijaju najnaprednije AI modele da uspore tempo razvoja kako bi bezbednosne mere mogle da prate rast njihovih sposobnosti.
U februaru 2019. OpenAI je predstavio GPT-2, tada veoma napredan sistem za generisanje teksta. Mešutim, nije odmah objavio njegovu najmoćniju verziju sa 1,5 milijardi parametara. Kompanija je uvela postepeno objavljivanje kako bi istraživači i javnost imali vremena da procene moguće društvene posledice i rizike zloupotrebe. Među navedenim problemima bila je mogućnost masovnog stvaranja uverljivog lažnog sadržaja.
OD GPT-2 DO DANAŠNJE TRKE
Amodei je u to vreme bio deo OpenAI tima, a kompanija ga je krajem 2020. navela kao svog potpredsednika za istraživanje. GPT-2 je na kraju u potpunosti objavljen u novembru 2019, nakon višemesečnog postepenog pristupa. Sam proces ostao je jedan od ranijih primera situacije u kojoj je velika AI laboratorija procenila da tehnološki napredak mora biti praćen dodatnim razmatranjem mogućih zloupotreba.
Lekun je sada upravo taj period vratio u fokus, navodeći da je svojevremeno ismevao zabrinutost zbog GPT-2. U novoj objavi reagovao je na aktuelne Amodeijeve pozive na oprez i napisao: „Sada bi svi trebalo da ih ismevaju“. Time je otvoreno suprotstavio svoj raniji odnos prema tim upozorenjima današnjoj raspravi o tome koliko brzo kompanije treba da razvijaju takozvane frontier modele.
NOVA RASPRAVA O USPORAVANJU
Amodei je u septembru 2026. predložio trodelni pristup. To uključuje nezavisnih bezbednosnih procenitelja u AI kompanije, koordinaciju vodećih laboratorija oko bezbednosnih standarda i širu međunarodnu saradnju. Reuters navodi da je njegov apel usledio nakon niza slučajeva u kojima su AI sistemi bili povezivani sa hakovanjem, nadzorom i prevarama. Pojedini stručnjaci iz industrije upozoravali su i na potencijalno ozbiljnije buduće rizike.
Rasprava pritom nije jednoglasna. Amodeijev poziv i određene njegove predloge podržali pojedini čelnici tehnoloških kompanija. Drugi smatraju da usporavanje nije pravi odgovor i da bezbednost može da se unapređuje paralelno sa razvojem novih sistema. Associated Press je zabeležio upravo takvu podelu među vodećim AI kompanijama, pokazujući da spor oko tempa razvoja više nije samo teorijska rasprava, već jedno od centralnih pitanja budućnosti industrije.
View this post on Instagram
