Rastuća potražnja za naprednim AI uslugama dovodi do povećanih troškova i ograničene dostupnosti računske infrastrukture
Vodeće tehnološke kompanije globalno se suočavaju sa ozbiljnim ograničenjima u dostupnosti računarske snage, što direktno utiče na mogućnost daljeg razvoja i korišćenja naprednih AI sistema. Prema analizama, kompanije su primorane da racionalizuju pristup svojim AI alatima zbog ograničenja u infrastrukturi, a u fokusu su najnoviji sistemi koji izvode kompleksne višestepene zadatke, kao što su automatsko pisanje softverskog koda, analiza podataka i upravljanje složenim poslovnim procesima. Ovi sistemi zahtevaju značajno više računarske snage po zahtevu, što dodatno opterećuje postojeće resurse.
Međunarodna energetska agencija ukazuje da bi potrošnja električne energije u svetskim data centrima mogla značajno da poraste tokom ove decenije, a razvoj veštačke inteligencije identifikovan je kao jedan od ključnih pokretača tog rasta. Fizička ograničenja, pre svega globalna nestašica visokoperformantnih grafičkih procesora (GPU) koje uglavnom proizvodi Nvidia, postala su glavni izazov za industriju. Ovi čipovi su osnovni za obuku i primenu velikih AI modela, dok istovremeno potražnja dolazi i od strane najvećih cloud provajdera i AI startapa. Posledica je rast cena, produženi rokovi isporuke i pojačana konkurencija za pristup ograničenim resursima.
Kako pokazuju podaci, pojedine kompanije su uvele stroža ograničenja korišćenja svojih AI alata tokom perioda najveće potražnje, jer infrastrukturni kapaciteti nisu u mogućnosti da odgovore na trenutni interes korisnika. Programeri i poslovni korisnici izveštavaju da se limiti dostižu brže nego ranije, a osetljivost na prekide u radu usluga je sve veća.
Cloud ekosistem takođe beleži promene: vodeći infrastrukturni provajderi, poput CoreWeave, povećali su cene i prešli na modele dugoročnog ugovaranja, budući da potražnja za GPU kapacitetima konstantno premašuje ponudu. Slična dinamika primećena je i na globalnom cloud tržištu, gde se pristup naprednoj računarskoj snazi sve više tretira kao ograničen resurs koji se unapred raspoređuje, a ne kao standardna usluga na zahtev.
Najveće tehnološke kompanije, uključujući i one koje razvijaju vodeće AI modele, suočene su sa internim dilemama i moraju da donose odluke o prioritetima korišćenja ograničenih resursa. Uz sve izraženiji rast potrošnje električne energije i ograničene mogućnosti proširenja infrastrukture, očekuje se da će dostupnost vrhunskih AI servisa ostati izazov u narednom periodu, sa mogućim posledicama po dinamiku inovacija i poslovne modele u sektoru.
Source: https://www.ibtimes.com/ai-boom-hits-wall-computing-power-runs-short-costs-surge-report-3801180
