Novi istraživački izveštaj pokazuje kako prompt injection napadi ugrožavaju AI asistente, uključujući ranjivost Gemini sistema na Android uređajima
Tehnološka kompanija Google suočila se sa ozbiljnim izazovom u oblasti bezbednosti veštačke inteligencije, nakon što je istraživanje otkrilo ranjivost Gemini asistenta na takozvane prompt injection napade. Prema najnovijim analizama, AI asistenti i chatbot sistemi postaju sve češća meta napadača, što donosi rastuće rizike za kompanije koje ih integrišu u svoje poslovanje.
Bezbednosni stručnjaci iz SafeBreach Labs objavili su podatke o napadu u kojem su hakeri iskoristili slabost Google Gemini asistenta na Android uređajima, koristeći tehniku pod nazivom “Fake Context Alignment”. Napad je bio moguć zahvaljujući sposobnosti Gemini-ja da čita notifikacije sa aplikacija kao što su WhatsApp, Slack i SMS. U praksi, napadač je mogao da sakrije zlonamerna uputstva u porukama, koristeći strane jezike ili nevidljive hiperlinkove, čime je omogućio asistentu da izvrši neautorizovane radnje bez znanja korisnika.
U izveštaju se navodi da su upotrebom ove tehnike napadači mogli da preuzmu kontrolu nad pametnim uređajima u domaćinstvu, pokrenu neovlašćene video prenose, sprovode socijalni inženjering i manipulišu dugoročnom memorijom sistema radi održavanja pristupa. Ovakvi napadi ukazuju na to da generativni AI alati, iako donose napredak u automatizaciji i efikasnosti, otvaraju nova vrata za sajber napade, posebno kroz sofisticirane metode kao što su prompt injection.
Iako nije poznato koliko su ovakvi napadi rasprostranjeni na globalnom nivou, slučaj kompromitovanja Instagram naloga putem Meta AI asistenta, gde su ciljevi bili nalozi visokog profila kao što su zvanična stranica Bele kuće i kompanija Sephora, pokazuje da su posledice po bezbednost i reputaciju značajne. U tom incidentu, napadač je putem VPN-a zaobišao zaštitne mehanizme i naveo AI podršku da doda novu email adresu i resetuje lozinku žrtve.
Iz SafeBreach Labs ističu da je Google preduzeo mere za sanaciju ove ranjivosti, ali da se razvoj novih metoda napada očekuje sa daljim širenjem primene AI alata u poslovanju. Prema rečima Or Yaíra, vođe tima za istraživanje bezbednosti u SafeBreach, napadi su bili mogući jer je Gemini automatski obrađivao sadržaj notifikacija i sprovodio zlonamerne instrukcije iz primljenih poruka.
Ovaj slučaj pojačava potrebu za dodatnim slojevima zaštite i rigoroznim testiranjem AI rešenja pre njihove široke implementacije u kompanijama. Stručnjaci upozoravaju da prompt injection predstavlja jedan od najkompleksnijih izazova za industriju, zahtevajući ne samo tehnološku, već i organizacionu prilagodbu u pristupu sajber bezbednosti.