AI alat Grok proizveo milione seksualizovanih slika, uključujući 20.000 sa decom, što je izazvalo ozbiljnu pravnu i regulatornu reakciju
Kompanija xAI, koju vodi Elon Musk, suočava se sa tužbom u Sjedinjenim Američkim Državama nakon što je njen AI alat Grok generisao i distribuirao više od 20.000 seksualizovanih slika dece u prvih nekoliko nedelja od lansiranja 2023. godine, pokazuju zvanični podaci iz pravnih dokumenata. Tužba je podneta od strane tri maloletne osobe na saveznom sudu u Kaliforniji, a od xAI se traži naknada neodređenog iznosa, kao i hitna zabrana daljeg generisanja ovakvog sadržaja.
U tužbi se navodi da su korisnici Grok-a koristili funkcije kao što su ‘Grok Imagine’ i ‘spicy mode’, uključujući opciju ‘undress’, kojom su digitalno uklanjali odeću sa fotografija stvarnih osoba, među kojima su i maloletnici. Prema izveštaju Centra za suzbijanje digitalne mržnje, Grok je za samo dve nedelje proizveo milione seksualizovanih slika, dok je konkretno više od 20.000 slika uključivalo decu, što je izazvalo zabrinutost među organizacijama za zaštitu dece i digitalna prava.
Jedna od maloletnih tužilja otkrila je izmene svojih slika nakon što je dobila anonimnu poruku na Instagramu sa linkom ka sadržaju gde je njena slika iz školskog godišnjaka digitalno izmenjena. Materijal je bio deljen na privatnom Discord serveru zajedno sa materijalom za još najmanje 18 drugih maloletnika. Pravna dokumentacija tvrdi da je xAI svesno omogućio ove funkcionalnosti u cilju povećanja broja korisnika kako na Grok-u, tako i na društvenoj mreži X.
U izjavama koje su priložene u tužbi, advokati maloletnih lica navode da je kompanija ‘znala da Grok može generisati ovakav sadržaj, uključujući slike i video zapise dece, ali ga je ipak pustila u javnost’. U tužbi se ističe i da je ovakva praksa imala ekonomski motiv, jer je povećanje broja korisnika i veća angažovanost na platformi X bila ključna za rast poslovanja.
Elon Musk je javno izjavio da nije bio upoznat sa činjenicom da je Grok generisao slike nagih maloletnika i naveo da su svi slučajevi rezultat zloupotreba od strane korisnika. Kompanija xAI do sada nije izdala zvanično saopštenje povodom ove pravne inicijative.
Ovaj slučaj privukao je pažnju regulatornih tela i stručnjaka za bezbednost dece na internetu, koji traže strože mere i odgovornost tehnoloških kompanija za načine korišćenja i nadzora nad AI alatima. S obzirom na ozbiljnost optužbi i broj generisanih slika, očekuje se pojačan nadzor i potencijalne dodatne mere od strane regulatora u SAD u narednom periodu.