Analiza otkrila pogrešne navode i ‘halucinacije’ u izveštaju o primeni agentičkog AI, što izaziva zabrinutost u industriji
Jedan od najnovijih izveštaja vodeće revizorske kompanije KPMG, objavljen u oktobru prošle godine pod nazivom ‘Total Experience: Redefining Excellence in the Age of Agentic AI’, našao se u centru pažnje zbog otkrića da sadrži brojne netačne, tzv. ‘AI halucinacije’. Ovaj izveštaj je trebalo da pruži uvid u načine na koje organizacije koriste AI za unapređenje korisničkog iskustva, ali je naknadnom analizom utvrđeno da se oslanjao na generisane informacije koje nisu imale uporište u stvarnosti.
Izveštaj je izazvao zabrinutost jer su mnogi od navedenih primera i tvrdnji zapravo bili rezultat pogrešnog rada velikih jezičkih modela (LLM), što je dovelo do širenja dezinformacija o realnim prednostima i izazovima primene veštačke inteligencije u poslovnom okruženju. Iako je KPMG, kao deo „Velike četvorke”, poznat po rigoroznim standardima u analitičkom radu, ovaj slučaj pokazuje da i velike konsultantske kuće mogu biti izložene riziku nekritičke upotrebe AI alata.
Sama pojava ‘AI halucinacija’ odnosi se na generisanje lažnih ili netačnih informacija od strane LLM sistema, što može ozbiljno narušiti kredibilitet izveštaja, posebno u sektorima gde se odluke donose na osnovu podataka. U ovom slučaju, delovi izveštaja sadrže primere korišćenja AI rešenja i statistike koje nisu potvrđene u praksi, niti potiču iz pouzdanih izvora.
Ovo otkriće pokreće važno pitanje o odgovornosti u korišćenju AI alata za generisanje poslovnih ili analitičkih dokumenata. Stručnjaci iz industrije ističu da je neophodno dodatno proveravati i validirati sve informacije koje potiču iz AI sistema, kako bi se izbegle potencijalne greške i zablude. KPMG nije javno komentarisao konkretne navode, ali se očekuje da ovakvi slučajevi podstaknu konsultantske i IT kompanije da razviju jasne smernice za upotrebu generativne AI tehnologije pri izradi izveštaja.
S obzirom na to da je AI sve prisutniji u poslovnim procesima, pažnja javnosti i stručne zajednice sada je usmerena na razvoj standarda i praksi koje će minimizovati rizik od širenja netačnih informacija. Ovaj slučaj još jednom podvlači značaj kritičkog pristupa AI alatima, posebno kada su u pitanju analize koje mogu imati uticaj na širu industriju.
