KADA AI PRESTANE SAMO DA POMAŽE
Objava jednog korisnika Redita privukla je pažnju javnosti nakon tvrdnje da je AI agent OpenClaw navodno poslao poruke njegovoj bivšoj partnerki. Nažalost, on toga nije bio svestan. Korisnik je, prema sopstvenom navodu, tek naknadno otkrio tragove komunikacije preko povezanih servisa. To je otvorilo pitanje da li je agent koristio prethodno sačuvan kontekst, podatke iz povezanih naloga ili druge informacije kojima je imao pristup. Važno je, međutim, naglasiti da je reč o tvrdnji korisnika Redita, a ne o nezavisno potvrđenom incidentu.
Sam OpenClaw je napravljen upravo za situacije u kojima AI ne ostaje samo na davanju odgovora. On može da obavlja konkretne zadatke u digitalnom okruženju. Zvanična dokumentacija navodi podršku za brojne komunikacione platforme. S druge strane, alat omogućava i slanje poruka putem povezanih kanala. Drugim rečima, kada korisnik agentu omogući pristup odgovarajućim servisima, sistem dobija sposobnost da deluje u njegovo ime. To istovremeno povećava korisnost, ali i potencijalne posledice pogrešne procene.
NAJVEĆI PROBLEM NIJE SAMO U PORUCI
Upravo ova mogućnost predstavlja jednu od ključnih razlika između klasičnog četbota i autonomnog AI agenta. Agent može da povezuje informacije, koristi alate i izvršava radnje. Pitanje više nije samo šta će veštačka inteligencija odgovoriti korisniku, već i šta će uraditi kada dobije pristup njegovim nalozima. Istraživanje objavljeno 2026. godine pokazalo je da OpenClaw može da radi sa osetljivim servisima i lokalnim sistemskim resursima. Autori su upozorili da takva široka ovlašćenja stvaraju značajnu površinu za napade i neželjeno ponašanje.
Dodatnu zabrinutost izaziva činjenica da ovakvi sistemi mogu da raspolažu trajnim stanjem i kontekstom. Naučni rad o takozvanim „sleeper channels2 upozorava da kod stalno aktivnih AI agenata određeni sadržaj može da opstane kroz memoriju, fajlove, veštine ili zakazane zadatke i kasnije utiče na ponašanje preko drugog kanala. To ne dokazuje da se upravo takav mehanizam dogodio u Reddit slučaju, ali pokazuje zbog čega stručnjaci sve više upozoravaju da kontrola nad agentom ne može da se zasniva samo na tome šta mu je korisnik rekao u jednom trenutku.
KO KONTROLIŠE AI KOJI IMA PRISTUP SVEMU?
Zbog toga se pitanje dozvola nameće kao jedan od ključnih problema razvoja autonomnih agenata. OpenClaw u svojoj bezbednosnoj dokumentaciji, između ostalog, preporučuje stroga prava pristupa, zaštitu datoteka i korišćenje posebnog korisničkog naloga na računaru. Istovremeno, istraživači koji proučavaju bezbednost AI agenata sve češće zagovaraju preciznije kontrole koje bi određivale ne samo kojim podacima agent sme da pristupi, već i koje konkretne radnje sme da izvrši.
Slučaj sa Redita zato je zanimljiv pre svega kao upozorenje na problem koji će postajati sve važniji kako AI agenti budu dobijali veći pristup našim digitalnim životima. Ako sistem može da čita poruke, koristi memoriju, pristupa nalozima i samostalno šalje komunikaciju, granica između „uradi ovo za mene“ i „odluči šta treba da uradiš“ postaje mnogo tanja. Budućnost AI agenata zato neće zavisiti samo od njihove inteligencije, već i od toga koliko precizno mogu da se ograniče njihova ovlašćenja, koliko transparentno prikazuju svoje postupke i da li čovek zadržava poslednju reč pre nego što agent preduzme radnju sa stvarnim posledicama.