PROIZVODNJA ENERGIJE POKRETANJEM RUČICE
Veštačka inteligencija danas se uglavnom povezuje sa ogromnim data centrima, snažnim serverima i velikom potrošnjom električne energije. Međutim, tim iz kompanije Squeez Labs predstavio je neobičan projekat nazvan CrankGPT. To je uređaj koji pokreće veštačku inteligenciju bez interneta, bez priključka za struju i bez oslanjanja na cloud infrastrukturu. Umesto toga, korisnik mora ručno da okreće ručicu kako bi proizveo dovoljno energije za rad sistema.
CrankGPT funkcioniše na računaru Raspberry Pi 5 sa osam gigabajta radne memorije. Koristi male lokalne AI modele koji mogu da obrađuju glasovne komande, vrše transkripciju govora i prevode tekst bez potrebe za povezivanjem na internet. Za razliku od popularnih čatbotova koji odgovore generišu u udaljenim data centrima, ovde se sve odvija direktno na samom uređaju.
FIZIČKI NAPOR SRAZMERAN TEŽINI ZADATKA
Posebno zanimljiv detalj jeste činjenica da fizički napor raste zajedno sa zahtevnošću zadatka. Kada sistem obavlja složenije operacije, otpor ručice postaje veći. Na taj način korisnik doslovno može da “oseti” koliko energije troši veštačka inteligencija, što je i jedna od osnovnih ideja projekta.
Prema navodima autora, uređaj je razvijen kao demonstracija mogućnosti takozvane edge ili lokalne veštačke inteligencije. Ona radi direktno na hardveru korisnika. Takav pristup donosi veću privatnost jer se podaci ne šalju u cloud. Istovremeno se smanjuje zavisnost od velikih računarskih centara i njihove ogromne potrošnje energije
ZA SADA SAMO ZANIMLJIV POGLED NA BUDUĆNOST
Iako CrankGPT nije zamišljen kao zamena za najnaprednije AI sisteme. Stručnjaci smatraju da predstavlja zanimljiv pogled u budućnost. Sve efikasniji mali jezički modeli omogućavaju da se sve više AI funkcija izvršava na laptopovima, telefonima i drugim uređajima male potrošnje. Bez potrebe za skupom infrastrukturom.
Na prvi pogled, uređaj koji zahteva okretanje ručice da bi odgovorio na pitanje deluje kao tehnološka šala. Ipak, iza neobičnog koncepta krije se ozbiljna poruka o energetskoj ceni veštačke inteligencije. CrankGPT podseća da budućnost AI možda neće biti određena samo razvojem sve većih modela, već i stvaranjem pametnijih, štedljivijih i decentralizovanih rešenja koja mogu da rade gotovo bilo gde.
https://www.instagram.com/p/DZzsccyGFnT/?igsh=NGV1bXd3c3ljc2I0