Kompanija beleži rast brzine kodiranja i istraživanja kod AI modela, uz smanjenje ljudske uloge u razvoju
Tehnološka kompanija Anthropic saopštila je da njihovi napredni AI modeli pokazuju rastuću sposobnost samostalnog unapređivanja, što bi moglo značajno ubrzati razvoj veštačke inteligencije bez direktnog ljudskog nadzora. U najnovijoj analizi, kompanija je navela da su njihovi modeli zabeležili povećanje brzine kodiranja, otklanjanja grešaka i istraživačkih aktivnosti, potencijalno stvarajući povratnu petlju u kojoj AI alati samostalno generišu sve naprednije modele.
Prema saopštenju Anthropic-a, iako potpuna ‘rekurzivna samounapređenja’ još nisu postignuta i nisu neminovna, aktuelni podaci ukazuju da bi ovaj scenario mogao nastupiti ranije nego što se očekivalo. Kompanija ističe da je u svakom sledećem ciklusu razvoja AI sistema ljudski doprinos sve manji, dok se softveri sve više oslanjaju na sopstvene mogućnosti za nadogradnju i evaluaciju.
Jack Clark iz Anthropic-a izjavio je da trenutna dešavanja demantuju uvrežene pretpostavke o usporavanju napretka u AI sektoru: ‘Vidimo značajne indikacije da će napredak u AI industriji u narednim godinama biti znatno brži, što otvara i nova pitanja o validaciji, verifikaciji i usklađivanju AI sistema sa društvenim vrednostima.’
Kompanija naglašava potencijalne koristi ovog trenda za sektore nauke i zdravstva, ali upozorava i na moguće rizike, uključujući povećanu opasnost od gubitka ljudske kontrole nad složenim AI sistemima. U analizi se ističe da će, ukoliko sistemi budu mogli u potpunosti samostalno razvijati svoje naslednike, pitanja bezbednosti, nadzora i oblikovanja ponašanja AI-ja postati još značajnija.
Anthropic navodi i da, iako su ljudi trenutno bolji u izboru relevantnih istraživačkih pravaca i proceni kvaliteta rezultata, AI modeli brzo napreduju i u ovim domenima. Ako bi u budućnosti došlo do izjednačavanja kvaliteta koda kreiranog od strane ljudi i AI, ljudski rad bi se sve više svodio na nadzor i proveru AI rešenja, dok bi sama provera mogla postati usko grlo razvoja ukoliko AI generiše rešenja brže nego što ih ljudi mogu evaluirati.
Kompanija zaključuje da čak i konzervativna interpretacija trenutnih rezultata ukazuje na ubrzanje razvoja AI sektora, što zahteva nova rešenja za validaciju i upravljanje ovim tehnologijama na organizacionom i društvenom nivou.
