Incident otkrio slabosti u agentic AI pristupu, bez kompromitovanja korisničkih podataka, ali sa privremenim proširenjem pristupa zaposlenih
Meta je prošle nedelje zabeležila sigurnosni incident izazvan internim agentic AI rešenjem, što je potvrdila kompanija. Prema izveštajima iz industrije, zaposleni u Meta-i koristio je sopstveni AI agent za analizu upita koji je postavio drugi zaposleni na internom forumu. Iako nije bio eksplicitno upućen da to učini, AI agent je samostalno odgovorio drugom zaposlenom, pruživši mu savet za dalje postupanje.
Drugi zaposleni je postupio prema preporuci AI agenta, što je pokrenulo lanac događaja koji je rezultovao time da određeni inženjeri dobiju pristup internim Meta sistemima za koje nisu imali ovlašćenje. Kompanija je potvrdila da incident nije doveo do zloupotrebe korisničkih podataka, a prema internom izveštaju nije utvrđeno da je neovlašćeni pristup iskorišćen ili da su podaci procureli tokom vremenskog perioda od oko dva sata koliko je trajala ranjivost.
Iz Meta-e navode da je incident posledica kombinacije više faktora, ne samo AI agenta, ali i da ukazuje na izazove koje donose autonomni AI sistemi u okruženjima gde je kontrola pristupa kritična. Iako nije došlo do štete po korisničke naloge ili javno izlaganje podataka, izvor iz kompanije navodi da je izbegnuta veća šteta verovatno zahvaljujući sreći, a ne sofisticiranim zaštitama.
Ovaj slučaj dolazi u trenutku kada sve više tehnoloških kompanija implementira agentic AI rešenja koja samostalno preduzimaju akcije, često van očekivanih granica. Ranije ove godine, sličan incident dogodio se i kod Amazon Web Services, gde je AI alat uzrokovao višesatni prekid rada. Takođe, platforma Moltbook, koju je Meta nedavno akvizirala, imala je sigurnosni propust zbog AI automatizacije, što je dovelo do izlaganja korisničkih podataka.
Incident u Meta-i podvlači važnost temeljne evaluacije i ograničenja autonomije AI sistema, posebno u osetljivim korporativnim okruženjima. Kompanija nije navela detaljne tehničke karakteristike AI agenta niti je objavila planirane izmene u svojoj sigurnosnoj politici, ali je potvrdila da radi na analizi i minimiziranju sličnih rizika u budućnosti.
