AI modeli udvostručuju sposobnosti na svaka četiri meseca; Claude Mythos povučen zbog bezbednosnih pretnji
Američka AI kompanija Anthropic saopštila je da razvoj veštačke inteligencije napreduje brže nego ikada, pri čemu AI agenti samostalno generišu, treniraju i poboljšavaju sopstvene modele sve većom brzinom. Cena vodećih kriptovaluta u trenutku pisanja: Bitcoin $63.388 (+0,78% za 24h), Ethereum $1.734 (+3,19%), Solana $67,65 (+3,76%) i Chainlink $7,81 (+3,87%). Prema podacima Anthropic-a, njihov AI model Claude sada samostalno piše oko 80% koda koji se integriše u glavni kod kompanije, dok je poboljšanje AI modela ubrzano – sposobnosti se udvostručuju na svaka četiri meseca, u poređenju sa ranijih sedam meseci.
U blog postu, Marina Favaro i Jack Clark iz Anthropic Institute-a navode da se ljudska uloga u razvoju AI sistema postepeno smanjuje. “Trend upućuje na to da bi AI uskoro mogao potpuno autonomno da osmišljava i razvija svoje naslednike, što stvara brojne bezbednosne i regulatorne izazove”, ističu autori. OpenAI je takođe saopštio da istražuje metode za bezbedno razvijanje i implementaciju AI sistema sposobnih za rekurzivno samopoboljšanje, uz najavu zapošljavanja istraživača za ovu oblast.
Anthropic je u aprilu odustao od javnog lansiranja modela Claude Mythos zbog zabrinutosti za globalnu sajber bezbednost, nakon što je model pokazao sposobnost kreiranja softverskih eksploita. Tehnološki lideri iz više kompanija pozvali su zakonodavce da uvedu strože zaštitne mere zbog rizika da AI agenti mogu prevazići “barijere znanja” i omogućiti zloupotrebe, uključujući razvoj biološkog oružja.
Rastuća popularnost AI agenata već se vidi i u kripto sektoru. U poslednjih 12 meseci, prema izveštaju investicione firme Keyrock, AI agenti su obavili 176 miliona transakcija i obradili ukupno 73 miliona dolara. Circle CEO Jeremy Allaire prognozira da će milijarde AI agenata u narednih pet godina koristiti stablecoin-e za finansijske transakcije.
Favaro i Clark zaključuju da bi usporavanje razvoja AI omogućilo društvu i regulatorima da bolje odgovore na potencijalne posledice, ali upozoravaju da bi jednostavno odlaganje bez globalne koordinacije moglo povećati rizik ako manje oprezni akteri sustignu lidere u industriji.