Kompanija upozorava na mogućnost da AI sistemi uskoro samostalno unapređuju sopstvene naslednike, što bi moglo promeniti tok tehnološkog razvoja
Anthropic, poznata AI kompanija sa fokusom na sigurnost, iznela je predlog o globalnom usporavanju razvoja veštačke inteligencije. U blog objavi, kompanija ističe zabrinutost da bi trenutni tempo napretka mogao dovesti do toga da napredni AI sistemi postanu sposobni da kreiraju svoje naslednike, što otvara brojna sigurnosna i etička pitanja. Iako ova mogućnost još nije ostvarena, Anthropic smatra da bi mogla postati realnost brže nego što većina institucija očekuje.
Kompanija navodi da bi AI sposobna za automatsko unapređivanje mogla imati ogroman pozitivan uticaj na nauku i zdravstvo, ali i da donosi ozbiljne rizike ako se razvija bez odgovarajuće regulacije i nadzora. U objavi se naglašava potreba za međunarodnom saradnjom i uspostavljanjem globalnih standarda, kako bi se osiguralo odgovorno upravljanje naprednim AI tehnologijama.
Anthropic poziva tehnološke kompanije i istraživačke institucije da razmotre moguće posledice pre nego što AI sistemi postanu dovoljno napredni da autonomno razvijaju sledeće generacije algoritama. Kompanija napominje da je ključno uspostaviti jasne mehanizme kontrole i procene rizika, posebno u svetlu potencijalnih zloupotreba ili grešaka koje bi mogle ugroziti sigurnost korisnika i širu društvenu stabilnost.
Ovaj predlog dolazi u trenutku kada industrija AI beleži ubrzan rast, a javnost i regulatorna tela širom sveta sve češće diskutuje o potrebi za strožim pravilima i transparentnošću u razvoju naprednih tehnologija. Anthropic smatra da je usporavanje razvoja i kreiranje globalnog okvira za saradnju neophodno kako bi se izbegli scenariji u kojima AI sistemi prevazilaze ljudsku kontrolu.
Kompanija podseća da bi AI sa sposobnošću samostalnog unapređenja mogla doneti brojne prednosti, ali i da je odgovornost čitave industrije da spreči moguće negativne posledice. Anthropic apeluje na zajednički pristup i otvoreni dijalog svih relevantnih aktera kako bi razvoj veštačke inteligencije bio u službi čovečanstva.
