Kaspersky istraživanje pokazalo da softver prepoznaje originalni identitet uprkos vizuelnim promenama lica, otvarajući pitanja za digitalnu bezbednost
Kompanija Kaspersky sprovela je eksperiment tokom konferencije Kaspersky Horizons, analizirajući kako savremeni sistemi za prepoznavanje lica reaguju na portrete izmenjene pomoću generativne AI tehnologije. U svih 10 nezavisnih test slučajeva, softver je uspešno povezao AI-modifikovane slike sa originalnim identitetima, iako su ljudskim posmatračima te slike često delovale kao potpuno različite osobe.
U eksperimentu su korišćene portretne fotografije obrađene alatima veštačke inteligencije kako bi se simulirale promene kao što su starenje i podmlađivanje. Test je obavljen uz pomoć široko prihvaćene biblioteke otvorenog koda za računarski vid i mašinsko učenje, koje se standardno primenjuju u industriji za vizuelnu analizu i verifikaciju identiteta.
Rezultati pokazuju da savremeni algoritmi za prepoznavanje lica ne zavise od površinskih vizuelnih sličnosti koje identifikuje čovek, već od dubljih geometrijskih i strukturnih karakteristika lica. Čak i kada se izgled lica znatno promeni, softver prepoznaje biometrijske markere koji ostaju stabilni i nakon sintetičkih transformacija. Ova otpornost na vizuelne manipulacije ukazuje na pouzdanost sistema za biometrijsku autentifikaciju, ali i na potencijalne rizike u kontekstu sajber bezbednosti.
„Iako ovaj eksperiment ne predstavlja opsežnu studiju, on je dokaz koncepta potencijalnog AI napada o kojem industrija treba da razmišlja; on ilustruje ključnu praktičnu implikaciju: AI-generisane transformacije lica mogu zadržati biometrijski identitet čak i kada ljudska percepcija te slike tumači kao potpuno različite osobe. Ovo stvara nove izazove za digitalno poverenje, verifikaciju identiteta i prevenciju prevara u eri brzo razvijajućih sintetičkih medija“, izjavio je Maher Yamout, vodeći istraživač bezbednosti u Kaspersky Global Research and Analysis Team-u.
Eksperiment otvara važna pitanja o potencijalnoj zloupotrebi generativne AI za krađu identiteta i zaobilaženje procesa verifikacije zasnovanih na ljudskoj proceni. Kaspersky istraživači ističu da je, sa razvojem tehnologija sintetičkih medija, neophodno da developeri digitalnih identiteta, stručnjaci za sajber bezbednost i regulatorna tela posvete posebnu pažnju unapređenju otpornosti biometrijskih tehnologija na AI-vođene pretnje.
