Stotine detektovanih ranjivosti i porast napada na AI infrastrukturu ukazuju na potrebu za Zero Trust pristupom
Sigurnosna firma CertiK iznosi ozbiljna upozorenja povodom ekspanzije autonomnih AI agenata u globalnim mrežama, preduzećima i korisničkim aplikacijama. Prema njihovim istraživanjima, masovno uvođenje neizolovanih i neproverenih AI agenata stvara ogromnu “sigurnosnu zaduženost” koja preti digitalnoj infrastrukturi. CertiK navodi da korisnici, dozvoljavajući AI agentima pristup lokalnim fajlovima, akreditivima i finansijskim alatima, nesvesno otvaraju vrata novoj generaciji unutrašnjih pretnji koje se lako mogu zloupotrebiti prompt-injection napadima ili malicioznim plug-inovima.
Analiza CertiK-a otkriva stotine kritičnih sigurnosnih ranjivosti i porast automatizovanih napada usmerenih na AI sisteme. Ovi agenti više nisu ograničeni na pružanje odgovora u chat prozorima – sada imaju mogućnost korišćenja eksternih alata, čitanja lokalnih podataka i upravljanja poslovnim bazama, što povećava obim potencijalne štete. “Ukoliko se AI alati ne izoluju i ne skeniraju pre upotrebe, korisnici rizikuju da kompromitovani agent dobije širok pristup celoj mreži,” navodi CertiK.
Jedan od ključnih problema je pogrešan model poverenja – popularne open-source AI aplikacije često operišu pod pretpostavkom da su bezbedne samo zato što rade lokalno ili kroz standardne komunikacione platforme. Međutim, čim agent dobije dozvolu za pristup sistemskim resursima ili akreditivima, postaje ultimativna unutrašnja pretnja. CertiK je dokumentovao brojne slučajeve gde su prompt-injection napadi omogućili napadačima da, bez pisanja ijednog reda zlonamernog koda, preusmere rad agenta i omoguće krađu podataka ili neautorizovane finansijske transakcije.
Istraživanje takođe ukazuje na talas malicioznih veština, lažnih instalacionih paketa i prevara koje targetiraju AI infrastrukturu. Kao odgovor, CertiK preporučuje implementaciju Zero Trust arhitekture za razvoj i upravljanje AI agentima, kao i izolaciju i skeniranje svakog agenta pre dobijanja pristupa osetljivim podacima i digitalnim sredstvima.
