AI sistemi u poslovanju mogu ponavljati lažne podatke i reference, što povećava potrebu za proverom izvora informacija
Veštačka inteligencija postaje ključni alat za kompanije koje žele da unaprede procese donošenja odluka, analizu tržišnih trendova i upravljanje rizicima. U poslednje vreme, AI se koristi ne samo za optimizaciju troškova i predviđanje potražnje, već i za procenu kreditnog rizika i kreiranje marketinških sadržaja. Međutim, eksperimenti pokazuju da se AI sistemi mogu lako manipulirati i navoditi na širenje netačnih ili izmišljenih podataka.
Nedavni slučaj pokazao je da je za samo dvadeset minuta moguće kreirati lažni blog-post sa izmišljenim takmičenjem i lažnim statistikama, koji su potom preuzeti kao relevantni izvori od strane naprednih AI modela. Za manje od 24 sata, AI sistemi su ponavljali izmišljene podatke kao verodostojne, uključujući detalje o navodnim svetskim rekordima i imenima stvarnih osoba. Ono što dodatno zabrinjava jeste činjenica da su ti sistemi nastavili da koriste lažni sadržaj čak i nakon što je autor bloga jasno naznačio da je reč o eksperimentu i izmišljotinama.
U poslovnom kontekstu, ovo znači da kompanije i korisnici koji se oslanjaju na AI u donošenju osetljivih odluka – od zdravstvenih do finansijskih – moraju biti svesni ograničenja ovih tehnologija. AI sistemi, zbog načina na koji funkcionišu, prerađuju podatke na osnovu obrazaca i ne razlikuju istinu od laži. Zbog toga su podložni manipulaciji kroz kontradiktorne izvore i namenski kreirane instrukcije.
Analize pokazuju da AI može biti treniran na različitim, čak i suprotstavljenim, biografijama i informacijama, što može rezultirati inkonzistentnim odgovorima u različitim sesijama. Ovo dodatno komplikuje upotrebu veštačke inteligencije u poslovnim procesima i povlači pitanje pouzdanosti izvora na koje se AI modeli oslanjaju.
Stručnjaci upozoravaju da je za bezbednu i odgovornu upotrebu AI sistema neophodno redovno proveravati izvore podataka, jasno identifikovati ograničenja tehnologije i razvijati interne procedure za otkrivanje i sprečavanje manipulacija. Kompanije koje koriste AI kao strateški resurs treba da ulože dodatne napore u verifikaciju podataka, posebno u oblastima kao što su finansijski saveti, procena rizika i donošenje ključnih odluka.
Source: https://bif.rs/2026/03/koliko-je-ai-sklona-manipulaciji-da-li-verujes-meni-ili-mislis-svojom-glavom/
