Tužba dolazi nakon tvrdnji da je ChatGPT korišćen u planiranju nasilnog incidenta, a kompaniji se spočitava zanemarivanje bezbednosti korisnika
Država Florida je pokrenula sudski postupak protiv OpenAI i njenog izvršnog direktora Sama Altmana, optužujući kompaniju za navodnu eksploataciju korisnika svojih AI servisa. Prema navodima iz tužbe, OpenAI je, umesto da da prioritet bezbednosti i privatnosti korisnika, fokus stavio na poslovni rast i profitabilnost svojih proizvoda, među kojima je i popularni veliki jezički model ChatGPT.
Ovaj pravni potez dolazi neposredno nakon što su u javnost dospele informacije da je osoba koja je izvela masovno nasilje na državnom univerzitetu Floride koristila ChatGPT za planiranje napada. Državni tužioci tvrde da je kompanija omogućila potencijalno štetnu upotrebu svojih alata, ne preduzimajući dovoljne mere zaštite kako bi sprečila zloupotrebu AI tehnologije.
Tužba detaljno navodi zabrinutosti zbog načina na koji OpenAI prikuplja i koristi podatke korisnika, kao i zbog mogućnosti da se AI modeli koriste za generisanje opasnih ili obmanjujućih informacija. Pored toga, vlasti Floride ukazuju na to da kompanija nije transparentno informisala korisnike o rizicima povezanim sa korišćenjem alata poput ChatGPT-a.
Ova inicijativa države Florida deo je šireg regulatornog pritiska na tehnološke kompanije koje razvijaju napredne AI sisteme. U poslednjih godinu dana, više američkih saveznih država i regulatornih tela pokrenulo je istrage i sudske postupke protiv velikih AI kompanija zbog zabrinutosti za privatnost, sigurnost i etiku korišćenja veštačke inteligencije.
OpenAI i Sam Altman se, prema dostupnim informacijama, do sada nisu javno oglašavali povodom ove konkretne tužbe. Slučaj bi mogao imati dalekosežne posledice po regulativu AI industrije u SAD, naročito u pogledu odgovornosti developera za potencijalnu zloupotrebu njihovih proizvoda.