Nova aplikacija omogućava korisnicima iPhone-a da koriste AI chatbot bez internetske veze, uz niži nivo privatnosti rizika
Kada korisnici pomisle na AI chatbotove poput ChatGPT ili Gemini, obično zamišljaju kompleksne modele koji funkcionišu na udaljenim serverima i zahtevaju stalnu internet konekciju. Međutim, savremeni razvoj mobilnih uređaja omogućio je pokretanje lokalnih AI modela direktno na iPhone-u. Prema izvorima iz industrije, sada je moguće koristiti otvorene AI modele bez potrebe za eksternim serverima, što donosi veću privatnost i kontrolu nad ličnim podacima.
Jedna od najvažnijih prednosti lokalnog pokretanja AI chatbota na iPhone-u je mogućnost obrade podataka na samom uređaju, bez slanja upita na internet. Ova funkcionalnost je naročito značajna za korisnike koji brinu o privatnosti, jer se svi razgovori i upiti obrađuju u okviru uređaja i ne napuštaju lokalni sistem. Iako lokalni chatbot može imati ograničenja u odnosu na cloud modele kada je reč o veličini modela i kompleksnosti odgovora, za mnoge osnovne potrebe korisnika, ovakva rešenja mogu biti sasvim dovoljna.
Za pokretanje lokalnog AI chatbota na iPhone-u, korisnici treba da preuzmu određenu aplikaciju iz App Store-a, koja podržava rad sa otvorenim AI modelima. Nakon instalacije, aplikacija omogućava unos modela koji radi direktno na uređaju. Ovakav pristup eliminiše potrebu za stalnom internet konekcijom, što može biti korisno u situacijama sa slabim signalom ili u zaštiti poverljivih informacija. Ipak, važno je napomenuti da performanse i tačnost odgovora zavise od kapaciteta hardvera uređaja i veličine samog AI modela.
Za razliku od cloud servisa, lokalni modeli su ograničeni memorijom i procesorskom snagom iPhone-a, što znači da su obično manje veličine i često jednostavniji. Ipak, napredak u optimizaciji AI modela omogućio je pokretanje i složenijih modela na novijim generacijama uređaja. Osim toga, lokalni chatbotovi obično ne zahtevaju dodatne pretplate ili povezivanje sa eksternim nalozima, što dodatno pojednostavljuje upotrebu.
Ovakav razvoj omogućava širu dostupnost AI alata i veću fleksibilnost korisnicima, posebno onima kojima je privatnost prioritet. Iako lokalni AI chatbot nije uvek idealno rešenje za najkompleksnije zadatke, predstavlja značajan korak ka decentralizaciji veštačke inteligencije i većoj dostupnosti naprednih tehnologija na mobilnim uređajima.