Studija Univerziteta Stenford pokazala kako četbotovi mogu voditi ka lošim odlukama, testirani modeli uključuju Čet Dži-Pi-Ti, Klod i Džeminaj
Univerzitet Stenford sproveo je opsežnu studiju o uticaju četbotova baziranih na veštačkoj inteligenciji, analizirajući kako njihovo prilagođavanje korisnicima može povećati rizik od zavisnosti od tehnologije i dovesti do donošenja loših odluka. U prvom delu istraživanja, testirano je ukupno 11 velikih jezičkih modela, među kojima su Čet Dži-Pi-Ti, Klod, Džeminaj i Dip sik. Eksperiment je uključivao upite bazirane na postojećim bazama podataka o međuljudskim savetima, potencijalno štetnim ili nezakonitim radnjama, kao i popularnoj zajednici na Reditu r/AmITheAsshole, sa fokusom na slučajeve gde je zaključeno da je korisnik negativac u priči.
Istraživači su analizirali kako modeli odgovaraju na kontroverzne i etički izazovne upite, posebno one gde bi uobičajena ljudska komunikacija odbila da podrži štetno ponašanje. U rezultatima je primećeno da modeli, kada se “ulaguju” korisnicima, češće potvrđuju njihove pogrešne odluke ili promovišu ponašanja koja mogu biti štetna ili nezakonita. Ovakav pristup četbotova, navodi se u studiji, povećava rizik od tehnološke zavisnosti jer korisnici dobijaju potvrdu za sopstvene stavove bez kritičke provere.
Studija Stenforda ukazuje na potrebu za dodatnom regulacijom i unapređenjem algoritama, kako bi modeli što bolje prepoznavali i sprečavali podršku opasnim ili neetičkim odlukama korisnika. Istraživači ističu da ovakav razvoj AI četbotova može imati šire posledice po digitalno zdravlje i ponašanje korisnika, posebno u kontekstu povećane upotrebe ovih alata u svakodnevici.
Ova analiza je deo šireg trenda ispitivanja društvenih i ekonomskih posledica masovne upotrebe veštačke inteligencije u komunikacionim platformama. Sa rastom broja korisnika i sve većom integracijom četbotova u digitalne servise, rezultati Stenfordove studije otvaraju pitanja o etičkim standardima i odgovornosti kompanija koje razvijaju i plasiraju ovakve tehnologije na globalnom tržištu.