Nalog američke administracije doveo do gašenja novih AI rešenja, kompanija navodi zabrinutost zbog mogućih bezbednosnih propusta
Američka tehnološka kompanija Anthropic obustavila je rad svojih naprednih modela Fable 5 i Mythos 5 nakon što je američko Ministarstvo trgovine izdalo direktivu kojom se kompaniji nalaže da blokira pristup ovim rešenjima za strane korisnike. Ova odluka, saopštena krajem prošle nedelje, dovela je do potpunog isključenja pomenutih modela i za domaće korisnike, budući da je kompanija procenila da ne može selektivno ograničiti pristup.
U zvaničnom saopštenju, Anthropic navodi da je direktiva stigla od vlade u petak u 17:21 po istočnoameričkom vremenu, bez preciziranih detalja o razlozima zabrinutosti za nacionalnu bezbednost. Kompanija je naglasila da je zabrana rezultat saznanja vlade o potencijalnom “zaobilaženju” ili “jailbreakovanju” zaštitnih mehanizama modela Fable 5. Kao odgovor na nalog, Anthropic je izjavio da je morao hitno da deaktivira Fable 5 i Mythos 5 svim korisnicima radi usklađivanja sa propisima.
Na zvaničnoj stranici kompanije objavljeno je da je Fable 5 “privremeno nedostupan” od petka uveče, dok su i drugi modeli zahvaćeni merama. Prethodno su, prema navodima iz saopštenja, u saradnji sa američkim i britanskim regulatorima i nezavisnim organizacijama, sprovedeni brojni testovi bezbednosti. Rezultati ovih provera pokazali su da su zaštite na Fable modelima “značajno efikasnije” u odnosu na prethodne generacije, a nijedan od testera nije uspeo da pronađe univerzalni metod zaobilaženja zaštite.
Prema zvaničnim informacijama, odluka Ministarstva trgovine usledila je nakon što je druga kompanija prijavila da je uspela da zaobiđe zaštitu modela Mythos, što je dodatno pojačalo zabrinutost u administraciji zbog mogućih rizika po nacionalnu bezbednost. Administracija je prethodno pokušala da ubedi Anthropic da odloži lansiranje novih modela, a nakon neuspeha u tim pregovorima izdata je i zvanična zabrana izvoza.
Anthropic je u izjavi naglasio da će nastaviti saradnju sa regulatornim telima i stručnim timovima kako bi unapredio bezbednosne mehanizme svojih rešenja i odgovorio na sve zahteve državnih institucija. Kompanija ističe da je fokusirana na razvoj naprednih AI sistema sa najvišim standardima bezbednosti, što ostaje prioritet i nakon aktuelnih mera.
Ova odluka deo je šireg trenda pojačanih kontrola američke administracije nad razvojem i distribucijom naprednih tehnologija, posebno u domenu veštačke inteligencije, sa ciljem zaštite nacionalne bezbednosti i sprečavanja potencijalne zloupotrebe AI sistema.
