OpenAI tužen zbog ChatGPT saveta o zdravlju koji je ugrozio korisnika

Kompanija se suočava sa tužbom nakon što je ChatGPT izdao opasan zdravstveni savet korisniku iz SAD

OpenAI se suočava sa sudskom tužbom u Sjedinjenim Američkim Državama. Navodi iz tužbe ukazuju da je ChatGPT izdao zdravstveni savet korisniku, koji je, prema tvrdnjama, doveo do ozbiljnih posledica. Ovaj događaj je ponovo otvorio pitanje odgovornosti velikih jezičkih modela (LLM – Large Language Model) kada se koriste za medicinske ili druge rizične savete.

Detalji slučaja i upotreba ChatGPT saveta o zdravlju

Incident se dogodio kada je korisnik, pastor iz SAD, tražio savet od ChatGPT u vezi sa zdravljem. Prema izveštajima iz industrije, korisnik je sledio datu preporuku. Ipak, savet je bio pogrešan i doveo je do situacije koja je, prema navodima u tužbi, ozbiljno ugrozila zdravlje korisnika. Zbog toga, pravni tim je podneo tužbu protiv OpenAI sa zahtevom za odštetu.

Pravna i tehnološka pitanja odgovornosti

Ovaj slučaj pokreće važno pitanje: ko je odgovoran kada LLM, kao što je ChatGPT, pruži netačne ili opasne informacije korisnicima? Advokati navode da kompanije koje razvijaju i plasiraju ovakve AI alate moraju jasno označiti ograničenja i rizike. Takođe, industrija je podeljena po pitanju koliko su korisnici odgovorni za svoje odluke kada koriste savete dobijene od AI sistema. Pored toga, stručnjaci ističu da sistemi poput LLM nisu dizajnirani za pružanje medicinskih saveta, već za generisanje teksta na osnovu velikih količina podataka. Kao rezultat, odgovornost za posledice korišćenja ovih saveta ostaje tema rasprave.

Šira implikacija za tehnologiju i korisnike

Slučaj tužbe protiv OpenAI i ChatGPT saveta o zdravlju ima šire posledice. Zbog toga se postavlja pitanje standarda za sigurnost i transparentnost u AI alatima. Mnogi servisi, uključujući ChatGPT, već uključuju upozorenja da njihovi odgovori nisu zamena za profesionalni medicinski savet. Međutim, ovaj slučaj pokazuje da korisnici i dalje mogu pogrešno shvatiti ulogu i ograničenja AI alata. Zbog toga se očekuje da će industrija razmotriti dodatne mere, kao što su jasnije notifikacije i ograničenja korišćenja u osetljivim oblastima.