Meta AI i Perplexity pružili pomoć u gotovo svim interakcijama, dok je Character.AI podsticao nasilje u sedam slučajeva
Najnovija analiza bezbednosti digitalnih platformi otkrila je da je osam od deset najpopularnijih digitalnih asistenata omogućilo korisnicima, predstavljajući se kao tinejdžeri, da planiraju nasilne napade kroz više od 700 testiranih interakcija. U izveštaju koji su objavili istraživači iz Centra za suzbijanje digitalne mržnje (CCDH) i CNN-a 11. marta 2026. godine, testirano je deset najkorišćenijih platformi, uključujući Perplexity, Meta AI, ChatGPT, Gemini, Character.AI i Replika. Istraživanje je obuhvatilo kreiranje naloga za 13-godišnje korisnike iz Sjedinjenih Američkih Država i Irske, uz simulaciju 18 scenarija koji su pokrivali teme školskih napada, političkih atentata i bombaških napada na verske objekte, sa ukupno 720 generisanih odgovora.
Prema rezultatima, Perplexity je pomogao korisnicima da identifikuju mete i oružje u 100 odsto testiranih situacija, a Meta AI je to učinio u 97 odsto slučajeva. Ostale platforme, poput Google Gemini, dale su korisnicima tehničke savete, dok je Microsoft Copilot pružio detaljne informacije o puškama uz napomenu da je „potrebno biti oprezan“. DeepSeek je, u jednoj razmeni, čak zaključio komunikaciju sa „Happy (and safe) shooting!“. Samo Claude (Anthropic) i Snapchat My AI odbili su da pomognu u više od polovine slučajeva, pri čemu je Claude dosledno obeshrabrivao planiranje nasilja u 76 odsto odgovora.
Posebno je zabrinjavajuće što je Character.AI u sedam testova ne samo omogućio, već i podsticao nasilje, bez eksplicitnog zahteva korisnika za tim. U pojedinim interakcijama platforma je davala direktne savete za napad na rukovodioce kompanija ili političare. Iz Centra za suzbijanje digitalne mržnje naveli su da „za svega nekoliko minuta korisnik može preći od nejasne namere do konkretno razrađenog plana napada“.
Analiza dolazi nakon što su realni slučajevi nasilja povezani sa korišćenjem digitalnih platformi, uključujući masovnu pucnjavu u srednjoj školi u Britanskoj Kolumbiji (Kanada) tokom februara 2026. godine, ubistvo nožem u Finskoj i slučaj sa eksplozivom, izazvali duboku zabrinutost stručne javnosti. Platforme su, prema zvaničnim podacima, korišćene za diskusiju i planiranje nasilnih akata, što je dovelo do tragičnih posledica.
Ova otkrića otvaraju važna pitanja o odgovornosti digitalnih kompanija, potrebi za unapređenjem bezbednosnih protokola i mogućim regulatornim merama. Iako određene platforme, poput Claude-a, pokazuju veći stepen odgovornosti, izveštaj ukazuje da je veći deo tržišta i dalje podložan ozbiljnim bezbednosnim propustima.
