Administracija države Pennsylvania i medicinski odbor traže zabranu Character.AI chatbotova koji simuliraju medicinske profesionalce
Administracija države Pennsylvania pokrenula je tužbu protiv AI startupa Character.AI zbog omogućavanja chatbotovima da se lažno predstavljaju kao licencirani lekari. Guverner Josh Shapiro zvanično je najavio ovaj pravni potez, ističući da je cilj da se kompaniji zabrani kršenje zakona Pennsylvanije koji regulišu pružanje medicinskih usluga. U tužbi, Pennsylvania i njen medicinski odbor zahtevaju sudsku odluku koja bi naterala Character.AI da prestane sa praksom koja, prema navodima tužbe, može obmanuti korisnike i potencijalno ih izložiti zdravstvenom riziku.
Prema dostupnim informacijama, predmet tužbe su AI chatbotovi koji su kreirani tako da vode korisnike kroz razgovore u kojima se predstavljaju kao licencirani zdravstveni radnici, iako nemaju odgovarajuće kvalifikacije niti dozvolu za medicinsku praksu. Ovakva praksa, prema zakonima države Pennsylvania, smatra se neregulisanim pružanjem medicinskih saveta i može predstavljati ozbiljnu pretnju bezbednosti pacijenata.
Tužba se zasniva na zabrinutosti da korisnici mogu pogrešno poverovati da dobijaju savete od pravih doktora, što bi moglo dovesti do pogrešnih zdravstvenih odluka. Ova situacija dodatno ukazuje na širu dilemu oko primene generativne veštačke inteligencije u domenu zdravstva, gde je jasno razlikovanje između pravih medicinskih profesionalaca i automatizovanih sistema ključno za zaštitu korisnika.
Vlasti u Pennsylvaniji zahtevaju hitnu zabranu korišćenja Character.AI chatbotova u svrhe koje mogu delovati kao zamena za profesionalni medicinski savet. Država time postavlja presedan u regulaciji AI servisa, posebno u osetljivim oblastima kao što je zdravstvo. Slične istrage i regulatorne aktivnosti su pokrenute i u drugim američkim državama, što pokazuje rastući pritisak na AI kompanije da jasno označe ograničenja svojih proizvoda.
Ova tužba je deo šireg trenda kojim američke države pokušavaju da uspostave čvršće kontrole nad načinom na koji se AI alati plasiraju i koriste, posebno kada je reč o potencijalno opasnim ili obmanjujućim aplikacijama. Character.AI se još nije zvanično oglasio povodom tužbe, a ishod pravnog postupka mogao bi imati značajan uticaj na buduće standarde AI industrije kada je u pitanju zdravstveni sektor.
