AI agent je dobio jednostavan zadatak da rezerviše mesto u teretani, ali je usput otkrio neočekivanu rupu u sistemu. Ono što je zatim uradio pokazuje koliko autonomni AI može da ode dalje od onoga što korisnik očekuje.
Jedan korisnik je želeo samo da rezerviše mesto na popularnom jutarnjem treningu u teretani. Zadatak je poverio OPENCLAW-U koji je pokretao Claude, baš kao što se od autonomnih AI agenata sve češće očekuje da umesto ljudi obavljaju svakodnevne stvari. Rezerviši termin, pronađi nešto, popuni podatke jednostavni zadaci koji bi trebalo da štede vreme.
Međutim, agent je tokom pokušaja rezervacije otkrio nešto što njegovi tvorci sistema za zakazivanje verovatno nisu očekivali. Uočio je da postoji način da se termini rezervišu nekoliko meseci unapred, iako je sistem trebalo da dozvoli rezervacije tek u kraćem vremenskom periodu. To je već bio prilično zanimljiv propust, ali agent tu nije završio posao.
Endru, zaposleni u jednoj australijskoj AI kompaniji, u tom trenutku je bio četvrti na listi čekanja za drugi termin. Zato je pitao agenta da li može da ga pomeri naviše. Umesto da jednostavno odgovori da to nije moguće, Claude je nastavio da istražuje šta booking sistem zapravo dozvoljava.
Tako je otkriven mnogo ozbiljniji problem. Sistem je omogućavao otkazivanje rezervacije druge osobe bez provere da li korisnik koji šalje zahtev uopšte ima pravo da to uradi. Agent je zatim uklonio osobu koja je bila prva na listi čekanja i tako Endrua pomerio sa četvrtog na treće mesto. Drugim rečima, AI je pokušao da reši problem svog korisnika tako što je promenio poziciju drugog korisnika.
