Grad Baltimore pokreće pravnu akciju tvrdeći da Grok AI generiše nelegalne slike, kršeći lokalne propise o zaštiti korisnika
Baltimore je pokrenuo tužbu protiv kompanije xAI, koju vodi Elon Musk, zbog navoda da je Grok, njihov AI chatbot, korišćen za generisanje velikog broja seksualizovanih slika, uključujući i slike maloletnika. Prema izveštaju Centra za borbu protiv digitalne mržnje, AI alat je u periodu od 11 dana omogućio kreiranje oko 3 miliona takvih slika, među kojima je identifikovano 23.000 sadržaja sa maloletnicima. Ova situacija izazvala je reakcije regulatora širom sveta, koji su u nekim državama ograničili dostupnost Grok platforme ili pokrenuli zvanične istrage o njenoj upotrebi.
Za razliku od drugih jurisdikcija gde su pokrenute nacionalne istrage, grad Baltimore se odlučio za drugačiji pravni pristup, pozivajući se na lokalni Zakon o zaštiti potrošača. U zvaničnoj žalbi, gradske vlasti tvrde da je xAI reklamirao Grok kao univerzalnog AI asistenta, bez jasnog upozorenja korisnicima na rizike i potencijalnu štetu povezanu s generisanjem slika putem Grok-a i društvene mreže X.
Prema rečima gradskog advokata Ebony M. Thompson, „zakoni o zaštiti potrošača u Baltimore-u postoje upravo da bi zaštitili građane od ovakvih novih oblika štete. Kada kompanije plasiraju moćne tehnologije bez odgovarajućih zaštitnih mera, grad ima i ovlašćenje i obavezu da reaguje kako bi sprečio dalje negativne posledice na zajednicu“.
Ova tužba je deo šireg trenda lokalnih i međunarodnih regulatora koji ispituju načine na koje generativni AI sistemi mogu biti zloupotrebljeni za kreiranje nelegalnog sadržaja. U Sjedinjenim Državama, pored Baltimore-a, pokrenuta je i potencijalna kolektivna tužba od strane tri tinejdžera koji tvrde da su njihovi lični snimci iskorišćeni za kreiranje materijala koji se klasifikuje kao zlostavljanje dece. Za sada, američke federalne vlasti nisu pokrenule zvanične mere protiv xAI ili Grok platforme na nacionalnom nivou.
Slučaj Baltimore-a ukazuje na sve veći pritisak koji se stavlja na tehnološke kompanije da implementiraju strože kontrole i transparentnost u pogledu AI alata, naročito kada je reč o zaštiti maloletnika i privatnosti korisnika. Ishod ovog pravnog procesa mogao bi da postavi važne smernice za odgovornost AI platformi u budućnosti, kako na američkom tržištu, tako i globalno.
Source: https://www.engadget.com/ai/baltimore-sues-xai-over-grok-deepfakes-214135922.html