Kompanija detektovala pokušaje manipulacije putem ChatGPT, uz izvještaj o kineskim uticajnim kampanjama protiv data centara u SAD
OpenAI je objavio izveštaj u kojem navodi da su otkriveni lažni nalozi, povezani sa Kinom, koji su koristili ChatGPT kako bi osmislili i vodili kampanje usmerene na promenu javnog mnjenja Amerikanaca prema data centrima. Ova vest dolazi nakon što je kompanija sprovela detaljnu analizu upotrebe svojih AI alata u kampanjama za uticaj na društvenim mrežama.
Prema informacijama iz industrije, OpenAI je identifikovao da su pojedini korisnici, za koje se veruje da imaju veze sa Kinom, kreirali lažne naloge sa ciljem širenja negativnog sadržaja o data centrima u Sjedinjenim Američkim Državama. Ove aktivnosti uključivale su generisanje i distribuciju tekstova putem ChatGPT, sa naglaskom na teme zaštite životne sredine i energetskih resursa, koje su često predmet javnih debata oko infrastrukture data centara.
Izveštaj OpenAI ističe da su ovakvi pokušaji deo sofisticiranih kampanja za uticaj na mišljenje javnosti i da su ovakve operacije postale sve češće u eri veštačke inteligencije. Kompanija je naglasila važnost proaktivnog praćenja i detekcije zloupotrebe AI alata, posebno kada su u pitanju politički motivisane i međunarodno koordinisane aktivnosti.
Kao rezultat detekcije ovih aktivnosti, OpenAI je preduzeo mere za uklanjanje spornih naloga i jačanje sistema za prepoznavanje sličnih pokušaja u budućnosti. U izveštaju se navodi da kompanija nastavlja saradnju sa drugim tehnološkim firmama i relevantnim institucijama kako bi se ovakve kampanje blagovremeno prepoznale i zaustavile.
Ovaj slučaj dodatno podseća na izazove koji prate razvoj i upotrebu velikih jezičkih modela (LLM) poput ChatGPT-a, a takođe ističe potrebu za internacionalnom saradnjom u borbi protiv zloupotrebe veštačke inteligencije u širenju dezinformacija ili manipulisanju javnim mnjenjem.