AI istraživač tvrdi da je zaobišao zaštitne mehanizme, dok korisnici upozoravaju na rizike za kripto protokole i softver
Novoobjavljeni veštačko-inteligentni model Claude Fable 5 kompanije Anthropic, dizajniran kao bezbednija verzija moćnijeg Mythos modela, zaobiđen je za manje od 48 sati od lansiranja, prema navodima poznatog AI istraživača pod nadimkom „Pliny the Liberator“. Model, koji je lansiran kao odgovor na zabrinutost zbog potencijalne zloupotrebe AI za opasne zadatke, trebalo je da ograniči pristup informacijama o izradi droga i hakovanju. Ipak, Pliny tvrdi da je koristeći niz tehnika, uključujući Unicode i homoglife, narativno i akademsko uokviravanje zahteva kao i „decomposition + recomposition“ metodologiju, uspeo da natera model da odgovori na inače zabranjene upite.
Cena vodećih kriptovaluta u trenutku ove vesti iznosila je: Bitcoin $62.552 (+1,88% za 24h), Ethereum $1.647 (+1,11%), Binance Coin $594,45 (+1,53%), Solana $64,89 (+1,34%), dok je XRP zabeležio $1,11 (+0,17%). Ovi podaci ukazuju na stabilan rast na kripto tržištu uprkos rizicima koje donosi potencijalno kompromitovanje AI modela.
Nakon objave o uspešnom zaobilaženju ograničenja, reakcije korisnika i stručnjaka bile su burne. Mnogi iz AI i kripto zajednice izražavaju zabrinutost da bi ovakav jailbreak mogao omogućiti napadačima pristup osetljivim informacijama i potencijalno koristiti model za napade na kripto protokole i softver. Tokom testiranja, Anthropic je sproveo eksterni bug bounty program sa više od 1.000 sati testiranja, navodeći da nije pronađen nijedan univerzalni jailbreak. Međutim, Pliny je demonstrirao konkretne primere kako je Fable 5 odgovarao na pitanja o složenim hemijskim procesima, poput Birch redukcije.
Sayash Kapoor, istraživač sa Prinstona, izjavio je da su ograničenja u Claude Fable 5 izazvala „opravdani bes“ u zajednici, dok su neki korisnici ovaj model ocenili kao jedno od najrazočaravajućih AI izdanja do sada. U kontekstu Srbije, ovakvi događaji dodatno podstiču pitanje regulative i bezbednosti, budući da kripto tržište nije pod punim regulatornim okvirom, a dobit od trgovanja podleže oporezivanju od 15%.
Tržište digitalnih valuta za sada ne pokazuje značajnu volatilnost kao odgovor na ovu vest, ali institucije i developeri prate situaciju zbog mogućnosti novih napada na DeFi projekte. U poređenju, Belex15 indeks porastao je 0,8% na 3.456 poena, što ukazuje na stabilnost tradicionalnog tržišta u odnosu na potencijalne AI rizike.
