Porodica korisnice podnela tužbu, ističući nedostatak zaštitnih mehanizama u ChatGPT-u za prevenciju samoubistava
OpenAI se ponovo suočava sa sudskim postupkom u Sjedinjenim Američkim Državama, nakon što je porodica korisnice podnela tužbu tvrdeći da je ChatGPT platforma zakazala u obezbeđivanju adekvatnih zaštita protiv samoubilačkog ponašanja. Ovo je najnoviji slučaj koji izaziva zabrinutost u vezi sa sigurnosnim merama i odgovornošću velikih jezičkih modela (LLM) u komunikaciji sa osetljivim korisnicima.
Tužba, podneta u ime Kristie Carrier, navodi da je OpenAI propustio da implementira dovoljne zaštitne mehanizme unutar ChatGPT-a, zbog čega korisnica nije bila adekvatno zaštićena. Prema dokumentaciji iz sudskog procesa, porodica tvrdi da je Carrier koristila ChatGPT pre tragičnog događaja, i da platforma nije prepoznala niti odgovorila na znake samoubilačkog ponašanja.
Ovaj slučaj dolazi u trenutku kada se u industriji veštačke inteligencije vode intenzivne debate o etici i odgovornosti AI sistema. Iako su kompanije poput OpenAI uvele određene filtere i algoritme za prepoznavanje osetljivih tema, stručnjaci upozoravaju da su ovakve mere često nedovoljne, posebno kada je reč o mentalnom zdravlju korisnika.
Advokati koji zastupaju porodicu ističu da bi kompanije koje razvijaju LLM modele morale da preduzmu dodatne korake kako bi smanjile rizik od štetnih posledica po korisnike, uključujući implementaciju proaktivnih alata za prepoznavanje i reakciju na samoubilačke namere. S druge strane, u tehnološkoj zajednici postoji zabrinutost da bi preterana regulacija mogla usporiti razvoj i inovacije u oblasti AI.
Ovo nije prvi put da se OpenAI suočava sa sličnim optužbama. Ranije tužbe i javne rasprave ukazale su na potrebu za transparentnijim pristupom i jasnijim smernicama kada je reč o korišćenju AI sistema u komunikaciji sa korisnicima koji mogu biti u krizi. Ishod ovog slučaja mogao bi uticati na buduće standarde u razvoju i implementaciji veštačke inteligencije, naročito u domenu prevencije rizika po mentalno zdravlje.