Amazon, Apple, Google i drugi koriste Claude Mythos Preview model za jačanje softverske bezbednosti u saradnji sa Anthropic-om
Kompanija Anthropic, poznata po razvoju velikih jezičkih modela i etičkom pristupu veštačkoj inteligenciji, najavila je Project Glasswing, novu inicijativu usmerenu na zaštitu ključnog softvera od AI zasnovanih sajber napada. Projekat je predstavljen u saradnji sa vodećim tehnološkim kompanijama kao što su Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA i Palo Alto Networks.
U okviru Project Glasswing, partneri će koristiti Claude Mythos Preview, još uvek nelansirani generalni AI model kompanije Anthropic, kako bi unapredili svoje sigurnosne projekte. Prema navodima iz kompanije, ovaj model je već detektovao hiljade ranjivosti koje se mogu eksploatisati, uključujući one u svim glavnim operativnim sistemima i veb pretraživačima. Cilj je da se AI alati koriste defanzivno, za otkrivanje i prevenciju pretnji pre nego što dođe do zloupotreba koje bi mogle ugroziti ekonomiju i bezbednost na globalnom nivou.
Anthropic se poslednjih godina profilisao kao jedna od kompanija koja otvoreno ističe značaj etičkog razvoja AI tehnologija. Ranije ove godine, kompanija je odbila zahtev da ukloni zaštitne mere sa svojih AI servisa za potrebe Pentagona, što je dovelo do toga da Ministarstvo odbrane SAD Anthropic-u dodeli oznaku “rizika u lancu snabdevanja”. Ovaj potez je izazvao ozbiljne rasprave unutar industrije o balansu između otvorenosti i bezbednosti AI servisa.
Iako Project Glasswing predstavlja proaktivan korak ka unapređenju sajber bezbednosti u AI eri, izazovi ostaju. U februaru je objavljeno da je AI chatbot Claude, proizvod kompanije Anthropic, korišćen u napadu na više vladinih agencija u Meksiku, što dodatno ističe kompleksnost sigurnosti kada je reč o naprednim modelima veštačke inteligencije.
Ostaje da se vidi kako će zajednički napori tehnoloških giganata i AI kompanija oblikovati budućnost sajber bezbednosti, ali je jasno da je saradnja na ovom nivou potrebna kako bi se odgovorilo na rastuće pretnje koje donosi brzi razvoj veštačke inteligencije.
