Aplikacije za kreiranje seksualizovanih slika dostupne deci, uprkos zvaničnim zabranama u App Store i Google Play
Kompanije Apple i Google našle su se u centru pažnje tehnološke industrije nakon izveštaja koji ukazuje da iOS App Store i Google Play i dalje omogućavaju preuzimanje AI ‘nudify’ aplikacija, iako njihove zvanične politike strogo zabranjuju ovakav sadržaj. Prema najnovijem izveštaju Tech Transparency Project-a (TTP), ove aplikacije ne samo da su dostupne, već su i promovisane kroz pretragu i oglašavanje u prodavnicama aplikacija, a mnoge su čak označene kao pogodne za decu (oznake ‘E’ ili ‘Everyone’).
Kada korisnici u App Store ili Google Play ukucaju termine kao što su “nudify” ili “undress”, lako mogu pronaći aplikacije koje koriste veštačku inteligenciju za kreiranje obnaženih ili seksualizovanih slika stvarnih ljudi, pa čak i za generisanje deepfake pornografskih videa. Izveštaj navodi da su platforme aktivni učesnici u širenju AI alata koji omogućavaju ovakve zloupotrebe. Na primer, detektovano je ukupno 18 ovakvih aplikacija na Apple-ovoj prodavnici i 20 na Google-ovoj, a neke od njih su oglašavane sa eksplicitnim vizualima. Ukupno su ove aplikacije preuzete 483 miliona puta i ostvarile oko 122 miliona dolara prihoda.
Direktorka TTP-a, Katie Paul, izjavila je za Bloomberg da kompanije ne samo da ne uklanjaju ovakve aplikacije, već i aktivno usmeravaju korisnike ka njima, čime dodatno profitiraju. Apple i Google, prema sopstvenim tvrdnjama, imaju jasne smernice protiv pornografskog i seksualizovanog sadržaja, kao i posebne zabrane za AI nudify aplikacije. Apple je saopštio da je uklonio 15 problematičnih aplikacija, dok je Google suspendovao određeni broj njih, ali izveštaj pokazuje da broj ovakvih aplikacija ostaje visok.
Jedan od primera iz izveštaja je aplikacija ‘Video Face Swap AI: DeepFace’, koja omogućava korisnicima da postave lice stvarne osobe na telo parcijalno obnažene žene, a bila je označena kao pogodna za sve uzraste. Ovakav trend izazvao je reakcije i van tehnološke industrije – prošle nedelje britanski Children’s Commissioner zatražio je zabranu AI deepfake aplikacija koje mogu kreirati slike nage dece, dok su u SAD i drugim zemljama već predloženi ili doneti zakoni koji zabranjuju eksplicitne deepfake sadržaje.
Ova situacija otkriva ozbiljan raskorak između zvaničnih politika tehnoloških giganata i realne prakse, ali i naglašava potrebu za bržim i doslednijim reagovanjem u zaštiti korisnika, posebno dece, od zloupotrebe AI alata.