Najveće kompanije koje razvijaju veštačku inteligenciju godinama su se takmičile ko će prvi predstaviti moćniji model. Sada se unutar same industrije pojavljuje mnogo ozbiljnije pitanje – da li je došlo vreme da se ta trka namerno uspori?
Razlike među vodećim ljudima AI industrije postale su posebno vidljive poslednjih dana. Dok čelnici kompanija Anthropic, OpenAI i xAI upozoravaju da razvoj najnaprednijih sistema treba pažljivije kontrolisati, Mark Zuckerberg smatra da koordinirano usporavanje nije neophodno.
Direktor Mete tvrdi da konkurencija i potencijalna pravna odgovornost kompanijama već daju dovoljno razloga da vode računa o bezbednosti svojih sistema. Svaka AI laboratorija, prema njegovom stavu, može sama da prilagodi brzinu razvoja kada proceni da je to potrebno.
Iza te rasprave, međutim, nalazi se mnogo veće pitanje od toga koliko brzo ćemo dobiti sledeću generaciju chatbotova.
U igri su milijarde dolara investicija, ogromni data centri, budućnost pojedinih tehnoloških kompanija i globalna borba za vodeću poziciju u industriji koja bi mogla da promeni veliki deo svetske ekonomije.
Šta zapravo znači „usporiti AI“?
Pozivi na usporavanje ne znače nužno prestanak razvoja veštačke inteligencije.
U centru aktuelne rasprave nalazi se razvoj takozvanih frontier modela – najnaprednijih sistema čije sposobnosti pomeraju granice postojeće tehnologije. Posebnu pažnju privlači mogućnost takozvanog rekurzivnog samopoboljšavanja, odnosno scenarija u kojem bi AI mogao da učestvuje u razvoju sve sposobnijih verzija AI sistema uz sve manje ljudske pomoći.
Direktor Anthropica Dario Amodei pozvao je kompanije da uspore tempo povećavanja sposobnosti svojih modela. Sam Altman iz OpenAI-ja podržao je ideju da se razvoj na samoj tehnološkoj granici pažljivije dozira, a podršku je izrazio i Elon Musk.
Zuckerberg zastupa drugačiji pristup.
Njegov argument je u velikoj meri tržišni: kompanija koja napravi nebezbedan ili nepouzdan proizvod može izgubiti korisnike, pretrpeti reputacionu štetu i suočiti se sa pravnom odgovornošću. Bezbednost tako ne mora biti suprotstavljena poslovnom interesu – ona može postati deo konkurentske prednosti.
Meta je, prema Zuckerbergovim navodima, ranije odložila objavljivanje svog AI agenta Muse kako bi dodatno poboljšala njegovu bezbednost. Kao još jednu zaštitnu meru naveo je korišćenje nezavisnih evaluatora.
Problem koji nijedna kompanija ne može lako da reši
Ovo nije samo tehnološka dilema.
Zamislimo da jedna velika AI kompanija odluči da narednih šest meseci ne razvija sposobniji model dok ne bude potpuno zadovoljna njegovom bezbednošću.
Ako konkurenti nastave da rade punom brzinom, kompanija koja je napravila pauzu rizikuje da izgubi korisnike, investitore, stručnjake i tržišni položaj.
I upravo tu nastaje jedan od najvećih problema.
Ono što može biti racionalno za čitavu industriju ne mora nužno biti racionalno za svaku pojedinačnu kompaniju.
Svaki veliki igrač ima motiv da bude oprezan, ali istovremeno ima veoma snažan motiv da ne dozvoli konkurentu da prvi napravi tehnološki proboj.
Zato se pitanje AI bezbednosti sve više pretvara i u klasičan ekonomski problem koordinacije.
icon0 com
Milijarde dolara ne mogu jednostavno da se stave na čekanje
Današnja AI trka podrazumeva investicije kakve tehnološka industrija dugo nije videla.
Kompanije kupuju ogromne količine čipova, grade data centre, ugovaraju snabdevanje električnom energijom i zapošljavaju vrhunske istraživače. Oko razvoja AI-ja istovremeno raste čitav ekosistem dobavljača hardvera, cloud infrastrukture i energetskih kompanija.
U takvom sistemu odluka o usporavanju više nije samo odluka nekoliko programera da malo duže testiraju novi model.
Ona može uticati na planirane investicije, potražnju za čipovima, izgradnju data centara i očekivanja investitora.
Postoji i međunarodna dimenzija problema.
Ako američke kompanije uspore razvoj, postavlja se pitanje da li će isto učiniti konkurenti iz drugih država. Ako ne učine, bezbednosna odluka jedne zemlje mogla bi da se pretvori u tehnološku prednost druge.
Zbog toga se rasprava o regulaciji AI-ja gotovo neizbežno sudara sa pitanjem konkurentnosti.
Matheus Bertelli
Ko će određivati pravila?
Još komplikovanije pitanje jeste ko bi uopšte trebalo da odlučuje koliko brzo AI sme da napreduje.
Jedna mogućnost je da kompanije same postave granice.
Druga je međusobni dogovor najvećih AI laboratorija.
Treća podrazumeva državu i regulatorna tela.
Svaka opcija, međutim, ima problem.
Ako kompanije potpuno samostalno procenjuju rizike, kritičari upozoravaju na sukob između bezbednosti i profita. Ako se najveći konkurenti međusobno dogovaraju koliko brzo će razvijati tehnologiju, pojavljuju se pitanja konkurencije i antimonopolskih pravila.
Predsednik američke Federalne trgovinske komisije Andrew Ferguson već je izrazio skepticizam prema zahtevima AI kompanija za izuzeća od antimonopolskih pravila kako bi mogle da koordiniraju određene poteze u vezi sa razvojem tehnologije.
Istovremeno, prema izveštaju Bloomberga koji je preneo Reuters, OpenAI već razgovara sa Anthropicom i Google DeepMindom o saradnji na pitanjima AI bezbednosti.
Tako nastaje neobična situacija: kompanije koje se svakodnevno bore za iste korisnike, inženjere i milijarde dolara investicija pokušavaju da pronađu oblasti u kojima bi trebalo da sarađuju.
Bezbednost bi mogla da postane nova konkurentska prednost
Postoji još jedan mogući scenario – tržište samo počinje da nagrađuje bezbednije sisteme.
Kako AI agenti dobijaju mogućnost da pišu kod, pristupaju poslovnim sistemima, obrađuju finansijske podatke ili samostalno izvršavaju zadatke, kompanijama neće biti važna samo inteligencija modela.
Biće im važno i koliko mogu da mu veruju.
Za banku, osiguravajuću kuću ili veliku industrijsku kompaniju najmoćniji AI model ne mora automatski biti i najvredniji. Ako nešto slabiji sistem pruža veću kontrolu, pouzdanost i mogućnost nadzora, upravo on može postati privlačniji poslovnim korisnicima.
U tom slučaju bezbednost prestaje da bude samo trošak razvoja.
Postaje proizvod.
Zuckerberg upravo poverenje i usklađenost AI sistema sa željenim ponašanjem vidi kao osobine po kojima će se budući modeli međusobno razlikovati.
AI industrija ulazi u novu fazu
Prva faza generativne AI revolucije uglavnom je bila trka u sposobnostima. Kompanije su želele veće modele, bolje rezultate i što više korisnika.
Sledeća faza mogla bi biti mnogo komplikovanija.
Sada više nije dovoljno napraviti sistem koji može da napiše tekst, programira ili analizira dokumente. Kako AI dobija veću autonomiju, raste i cena greške.
Zato će kompanije istovremeno morati da odgovore na dva suprotstavljena zahteva: da budu dovoljno brze da ih konkurencija ne prestigne i dovoljno oprezne da tehnologija koju razvijaju ostane pouzdana i pod kontrolom.
Upravo zbog toga rasprava između Zuckerberga i njegovih konkurenata prevazilazi pitanje ko je u pravu oko jednog tehnološkog rizika.
Ona otvara možda najvažnije poslovno pitanje sledeće faze AI revolucije: može li industrija vredna stotine milijardi dolara dobrovoljno da pritisne kočnicu ako svaki njen učesnik zna da konkurent možda neće učiniti isto?
