Napad zahtevao validne korisničke podatke, AI model pomogao u otkrivanju semantičke greške u popularnom open-source alatu
Google Threat Intelligence Group saopštio je da je identifikovao prvi slučaj u kojem su hakeri koristili veštačku inteligenciju za razvoj zero-day exploita, omogućavajući zaobilaženje dvofaktorske autentifikacije (2FA) u popularnom open-source web alatu za administraciju sistema. Prema zvaničnom blog postu, napad je zahtevao prethodno pribavljene validne korisničke podatke, ali je zahvaljujući otkrivenoj ranjivosti bilo moguće zaobići drugi sloj zaštite koji je standardno implementiran i na kripto nalozima i digitalnim novčanicima.
Google navodi da su napad izveli prominentni cyber kriminalni akteri kroz organizovane operacije iskorišćavanja ranjivosti. Analiza napadačkog skripta ukazuje na karakterističan format i “halucinacije” povezane sa generativnim AI alatima, zbog čega Google s visokim stepenom sigurnosti procenjuje da je korišćen napredni AI model za identifikaciju i eksploataciju ove greške.
Za razliku od tipičnih softverskih propusta, u ovom slučaju je reč o semantičkoj logičkoj grešci – developer je hardkodovao pretpostavku poverenja, što je omogućilo zaobilaženje 2FA mehanizma. Ovako sofisticirani napadi zahtevaju napredne large language modele (LLM), koji su već pokazali izuzetnu sposobnost da prepoznaju visokorazinske greške i statičke anomalije u kodu.
Prema izveštaju, zabeležen je trend industrijalizacije zloupotrebe LLM pristupa, gde napadači koriste automatizovane sisteme za masovno kreiranje naloga, rotaciju API ključeva i zaobilaženje sigurnosnih barijera AI servisa. Nekoliko poznatih malicioznih softverskih porodica, kao što su PROMPTFLUX, HONESTCUE i CANFAIL, već koriste LLM modele za generisanje lažnog ili kamufliranog koda u cilju izbegavanja detekcije.
Google upozorava da je AI ekosistem postao primarna meta sofisticiranih napada, s posebnim fokusom na integrisane module, autonomne veštine i “third-party” konektore za podatke. Iako još nije zabeležen slučaj kompromitovanja osnovne sigurnosne logike vodećih AI modela, kompanija očekuje nastavak intenziviranja napada na AI infrastrukturu.
Ova vest dolazi u trenutku kada tržište digitalnih valuta beleži povećanu upotrebu AI alata i u zaštiti i u napadima. Cena Bitcoina trenutno iznosi 81.047 dolara (+0,43% za 24 sata), Ethereum se trguje na 2.309 dolara (+0,88%), dok je tržišna cena Solane 96,10 dolara (+1,47%). Kripto zajednica poziva na dodatnu opreznost, jer ranjivosti ovog tipa mogu značajno ugroziti sigurnost digitalnih sredstava.
