Platforma identifikovala i povukla desetine spornih oglasa nakon što je prijavljeno 50 slučajeva promotivnih AI alata za generisanje seksualizovanih slika
Kompanija TikTok, globalno popularna društvena mreža, uklonila je više od 50 oglasa za aplikacije i sajtove koji su korisnicima nudili mogućnost kreiranja seksualizovanih deepfake slika, pokazala je analiza specijalizovane firme Copyleaks. Ovi oglasi, prema navodima istraživanja, promovisali su alate koji omogućavaju korisnicima da bez saglasnosti kreiraju eksplicitne slike drugih osoba, koristeći veštačku inteligenciju.
Prema podacima Copyleaks-a, više od 50 seksualno sugestivnih oglasa pojavilo se na TikTok-u, a promotivani proizvodi predstavljeni su kao specijalizovani alati, često namenjeni muškarcima, za kreiranje sadržaja bez pristanka prikazanih osoba. TikTok je uklonio sve identifikovane oglase nakon što su mu dostavljene informacije o konkretnim slučajevima, navodi se u izveštaju.
Ovi oglasi predstavljaju izazov za politiku oglašavanja platformi, s obzirom na to da TikTok zvanično zabranjuje promociju alata i sadržaja koji podstiču kreiranje ili distribuciju deepfake materijala, naročito onih sa seksualizovanom tematikom i bez pristanka lica na slikama. Uprkos postojećim merama, oglasi su uspevali da prođu kroz moderaciju i dođu do krajnjih korisnika, što ukazuje na potencijalne propuste u sistemima za automatsku detekciju neprimerenog sadržaja.
Iz kompanije su naveli da je sistem kontrole oglasa dodatno pojačan, a svi prijavljeni slučajevi su uklonjeni po prijemu informacije. TikTok, kao i druge globalne platforme, suočava se sa rastućim pritiskom regulatora i javnosti da unapredi zaštitu korisnika od zloupotreba veštačke inteligencije u digitalnom oglašavanju.
Nadležne institucije i organizacije za digitalnu bezbednost ukazuju da su deepfake tehnologije i alati za generisanje sadržaja bez saglasnosti ozbiljna pretnja privatnosti i bezbednosti korisnika. Ovakvi incidenti otvaraju pitanje odgovornosti platformi za implementaciju strožih kontrola i efikasniju prevenciju štetnih oglasa i tehnologija.
Analitičari ocenjuju da će, uz jačanje pravnih okvira i tehničkih rešenja, kompanije morati dodatno da investiraju u razvoj mehanizama za prepoznavanje i uklanjanje nelegalnog i neetičkog sadržaja, kako bi zaštitile korisnike i očuvale poverenje na tržištu digitalnog oglašavanja.
Source: https://www.businessinsider.com/tiktok-ran-ad-ads-from-apps-promoting-sexualized-ai-2026-4