Istraživački tim iz Švedske izveo eksperiment sa veštačkom inteligencijom, otkrivajući ranjivosti u automatskoj obradi medicinskih informacija
Almira Osmanović Thunström, medicinska istraživačica poreklom iz Banjaluke, koja živi i radi u Švedskoj, zajedno sa svojim timom sprovela je neobičan eksperiment sa ciljem da ukaže na opasnost širenja dezinformacija putem veštačke inteligencije (AI) u medicinskoj nauci. Početkom 2024. godine, oni su osmislili izmišljeno kožno oboljenje i kreirali dve lažne naučne studije koje su predali na preprint server.
U eksperimentu su namerno ostavljeni očigledni tragovi da je reč o šali: lažno stanje je nazvano „manija“, što je u realnosti psihijatrijski termin bez veze sa kožnim bolestima, a kao autor je potpisan izmišljeni „Lažljiv Izgubljenović“ sa nepostojećeg univerziteta i grada. Dodatno, zahvalnice u radu upućene su profesorki sa Starfleet Academy, izmišljene ustanove iz serije Zvezdane staze, i laboratoriji na brodu USS Enterprise, što bi stručnjacima trebalo da bude signal za proveru autentičnosti.
Osmanović Thunström i njen tim želeli su da testiraju kako AI sistemi, ali i ljudi, automatski obrađuju, šire i prihvataju naučne informacije bez kritičke provere izvora i sadržaja. Eksperiment je pokazao da čak ni očigledno lažni podaci i reference nisu odmah primećeni u procesu objavljivanja i deljenja naučnih radova, što ukazuje na ozbiljan problem u načinu na koji se danas koriste AI alati u nauci i medicini.
Slučaj Almire Osmanović Thunström naglašava potrebu za dodatnom proverom i kritičkim pristupom, kako bi se sprečilo širenje dezinformacija u digitalnom dobu, posebno sa sve većom upotrebom veštačke inteligencije u analizi i generisanju sadržaja.