Pametnost u vašem džepu: zašto su pametni telefoni novi AI superračunala
Superračunalo u 189 milijuna europskih džepova
Europsko tržište pametnih telefona dosegnulo je 189,4 milijuna uređaja u 2024., što je prva godina rasta nakon četiri uzastopne godine pada. Samsung je isporučio 46,4 milijuna uređaja diljem Europe. Apple je isporučio 34,9 milijuna iPhonea. Svaki uređaj nosi računalnu snagu koja se može mjeriti sa superračunalima iz 1990-ih. Višestruke ARM CPU jezgre koje rade na 2+ GHz. 8-12 GB RAM-a. Neuralne procesorske jedinice sposobne za bilijune operacija u sekundi. To je pravi hardver sposoban za umjetnu inteligenciju u svakom europskom džepu.
A dominantna arhitektura i dalje šalje osobne podatke s tih 189 milijuna uređaja preko europskih mreža na centralizirane cloud poslužitelje u Frankfurtu, Dublinu i Amsterdamu radi obrade umjetne inteligencije. Ironija je apsurdna. Računalna snaga postoji lokalno. Mrežna latencija degradira performanse. Implikacije za privatnost krše načela minimizacije podataka iz GDPR-a. Arhitekturu gradimo kao da su pametni telefoni računalno slabi terminali, a zapravo su distribuirana superračunala.
Zašto se ova zastarjela arhitektura održala? Zato što tradicionalne neuralne mreže pune preciznosti ne stanu na mobilne uređaje. FP32 modeli troše 4 bajta po parametru. Jezični model sa 7 milijardi parametara zahtijeva 28 GB RAM-a samo za učitavanje. Potrošnja energije premašuje ono što baterije mogu izdržati. Veličina modela premašuje ono što mobilne mreže mogu brzo preuzeti. Cloud obrada činila se jedinom opcijom.
Binarne neuralne mreže temeljito mijenjaju ovu jednadžbu. Jedan bit po parametru umjesto 32. Taj isti model sa 7 milijardi parametara: 875 MB umjesto 28 GB. Stane u RAM pametnog telefona s prostora na pretek. Učinkovito radi na CPU-u bez potrebe za GPU-om. Niska potrošnja energije održiva na bateriju. Dovoljno brzo za inferenciju na uređaju u stvarnom vremenu. Bez ovisnosti o cloudu. Bez prijenosa podataka. Inteligencija doista u vašem džepu, a ne unajmljena s udaljenih poslužitelja.
Pametni telefon više nije samo komunikacijski uređaj. To je AI elektrana. Trebali smo samo algoritme dovoljno učinkovite da otključamo tu mogućnost. U 2024. globalno je isporučeno 234,2 milijuna pametnih telefona sposobnih za umjetnu inteligenciju, što čini 19% tržišta. Taj broj raste 363,6% iz godine u godinu. Do 2028. pametni telefoni s omogućenom umjetnom inteligencijom dosegnut će 54% tržišnog udjela. Arhitektonski prijelaz s inteligencije ovisne o cloudu na inteligenciju na rubu mreže događa se upravo sada, potaknut uređajima koje Europljani već nose.
Usklađenost s GDPR-om postaje arhitektonska, a ne aspiracijska
Članak 5. stavak 1. točka (c) GDPR-a zahtijeva minimizaciju podataka: „Osobni podaci moraju biti primjereni, relevantni i ograničeni na ono što je nužno." Članak 25. propisuje privatnost ugrađenu u dizajn i prema zadanim postavkama. Oblakovne AI arhitekture u osnovi krše oba načela. Prenosite osobne podatke s uređaja, šaljete ih mrežama, pohranjujete ih centralno, sve kako biste pokrenuli zaključivanje koje bi se moglo odvijati lokalno. Arhitektura maksimizira prikupljanje podataka kada zakon zahtijeva minimizaciju.
AI na uređaju rješava to arhitektonski. Obrada se odvija na pametnom telefonu koji generira podatke. Rezultati ostaju lokalni osim ako ih korisnici izričito ne podijele. Nema pasivnih prijenosa. Nema centralizirane pohrane. Nema mrežnog prijenosa osobnih informacija. Arhitektura je inherentno usklađena s GDPR-om jer podaci nikada ne napuštaju uređaje. Ovo nije usklađenost s politikama naknadno pričvršćena na infrastrukturu. Ovo je privatnost ugrađena u dizajn, točno ono što članak 25. zahtijeva.
Uzmimo aplikaciju za organizaciju fotografija. Oblakovna AI verzija: prenosi vaše fotografije na poslužitelje u Frankfurtu ili Dublinu, analizira ih na daljinu, vraća rezultate kategorizacije. Vaši privatni obiteljski trenuci, medicinski dokumenti, financijske snimke zaslona putuju europskim mrežama, leže na poslužiteljima koje ne kontrolirate, obrađuju ih algoritmi koje ne možete pregledati. Kršenja GDPR-a koja samo čekaju da se dogode.
Ista aplikacija s binarnim AI-jem na uređaju: analizira fotografije lokalno koristeći modele koji se izvode na CPU-u vašeg pametnog telefona. Prepoznavanje lica, detekcija objekata, razumijevanje scene, sve se obrađuje bez prijenosa. Vaša sjećanja ostaju vaša. Nema kršenja minimizacije podataka. Nema problema s prekograničnim prijenosom. Nema problema s ograničenjem pohrane. Savršena usklađenost s GDPR-om iz arhitektonske nužnosti.
Samsung Galaxy S25 implementira upravo ovaj pristup. Personal Data Engine analizira korisničke podatke na uređaju kako bi pružio personalizirana iskustva koja odražavaju preferencije i obrasce korištenja. Zadaci koji su se prije izvodili u oblaku sada se izvode lokalno zahvaljujući 40 % boljim performansama NPU-a i 37 % bržem CPU-u. Više od 200 milijuna korisnika već koristi on-device obradu Samsung Galaxy AI-ja. Ovo nije teorijska arhitektura. Ovo je produkcijska implementacija na europskim pametnim telefonima u listopadu 2025.
Prava mobilna inteligencija
Što binarni AI može učiniti na pametnom telefonu? Mnoge iste zadatke kao oblakovni AI, ali s drugačijim kompromisima.
- Klasifikacija slika: Obrada na uređaju eliminira mrežno kašnjenje (obično 50-150 ms). Binarne mreže mogu postići usporedivu točnost s modelima pune preciznosti dok rade na mobilnim CPU-ovima bez GPU-a. Privatnost savršena: fotografije nikada ne napuštaju uređaj.
- Razumijevanje jezika: Analiza teksta, prijevod, detekcija sentimenta, sve se može obrađivati lokalno s kompaktnim binarnim modelima. Nema prijenosa teksta. Usklađeno s GDPR-om po arhitekturi. Radi izvan mreže.
- Prepoznavanje glasa: Transkripcija u stvarnom vremenu bez ovisnosti o oblaku. Glasovni podaci ostaju na uređaju. Nema rizika od nadzora. Funkcionira u načinu rada u zrakoplovu, u ruralnim područjima, bilo gdje bez povezivosti.
- AR/VR: Razumijevanje scene za proširenu stvarnost zahtijeva nisko kašnjenje koje oblakovna obrada teško može isporučiti. Obrada na uređaju omogućuje responzivna AR iskustva bez ovisnosti o mreži.
Europska aplikacija za praćenje zdravlja koja implementira binarni AI na uređaju izbjegava kršenja GDPR-a inherentna prijenosu biometrijskih podataka na oblakovne poslužitelje. Obrada se odvija lokalno. Osjetljivi zdravstveni podaci nikada ne putuju mrežama. Privatnost pacijenata zajamčena arhitektonski, ne obećanjima u politikama.
Ovo je važno za europske tvrtke suočene s regulatornim nadzorom. GDPR kazne dosežu 20 milijuna eura ili 4 % globalnog prihoda, ovisno o tome što je veće. Obrada na uređaju eliminira cijele kategorije rizika usklađenosti osiguravajući da se osobni podaci nikada ne centraliziraju.
Ekonomika ovisi o slučaju uporabe
Usporedba troškova između oblaka i AI-ja na uređaju uvelike se razlikuje ovisno o vrsti aplikacije. Za jednostavne zadatke zaključivanja (klasifikacija slika, analiza teksta), obrada na uređaju eliminira troškove oblaka po upitu. Razvoj se događa jednom, trošak distribucije ostaje jednak bez obzira na upotrebu, granični trošak po korisniku približava se nuli.
Za složene generativne AI zadatke (veliki jezični modeli, generiranje slika), izračun se mijenja. Usluge u oblaku poput ChatGPT Plusa koštaju 18 eura po korisniku mjesečno. Alternative na uređaju ne zahtijevaju pretplate, ograničenja upotrebe niti skrivene troškove. Ali zahtijevaju sposoban hardver i učinkovite modele. Ekonomska prednost ovisi o obrascima upotrebe, broju korisnika i složenosti modela.
Ono što ostaje dosljedno: troškovi AI-ja u oblaku rastu linearno s brojem korisnika i upotrebom. Troškovi AI-ja na uređaju ostaju uglavnom fiksni nakon razvoja. Kako europski propisi o privatnosti sve više kažnjavaju centralizaciju podataka, regulatorni rizik pristupa temeljenih na oblaku dodaje skriveni trošak koji čisti ekonomski modeli ne prepoznaju.
Trajanje baterije: izazov AI-ja na uređaju
Evo neugodne istine koju istraživanja otkrivaju: pokretanje generativnih AI modela na uređaju troši znatno više baterije nego obrada u oblaku za iste zadatke. Greenspector testiranje pokazalo je da lokalni AI modeli troše 29 puta više energije nego ChatGPT odgovori iz oblaka. Testiranje generiranja slika sa Stable Diffusion: pametni telefoni trajali su 68 minuta lokalno, naspram 11 sati uz obradu u oblaku.
Zašto? Obrada u oblaku prebacuje izračun na GPU-ove u podatkovnim centrima koji se napajaju iz mreže. Vaš pametni telefon šalje tekstualni upit (minimalno trošenje baterije), prima tekstualni odgovor (minimalno trošenje baterije). Ukupna energija telefona: samo mrežni prijenos.
Obrada na uređaju pokreće sve lokalno. Vaš ARM CPU ili NPU obrađuje milijarde operacija. Na Samsung Galaxy S10 (baterija od 3.400 mAh), lokalno pokretanje Llama 3.2 ispraznilo je bateriju za 1 sat i 45 minuta. Pokretanje Qwen 2.5: 2 sata i 10 minuta. To je 12-14x brže pražnjenje baterije u odnosu na normalnu upotrebu.
To stvara stvarnu napetost. Privatnost i latencija idu u prilog uređaju. Trajanje baterije trenutno ide u prilog oblaku. Rješenje nije univerzalni odabir jedne arhitekture. Rješenje je primjena pravog pristupa za svaki slučaj uporabe. Brzi zadaci zaključivanja (kategorizacija fotografija, glasovne naredbe): uređaj ima smisla. Dugotrajne generativne sesije (pisanje dokumenata, stvaranje slika): obrada u oblaku čuva bateriju.
Binarne neuronske mreže pomažu dramatično smanjujući računalne zahtjeve u usporedbi s modelima pune preciznosti. Binarna mreža koja izvodi isti zadatak kao FP32 model troši manje energije. Ali i dalje troši više energije nego slanje mrežnog zahtjeva. To je fizika, ne marketing. Učinkovit AI na uređaju zahtijeva i bolje algoritme (binarne mreže, kvantizaciju) i bolji hardver (učinkovitije NPU-ove, veće baterije).
Prednost rada izvan mreže
Umjetna inteligencija u oblaku zahtijeva povezivost. Bez signala = bez umjetne inteligencije. Nepouzdane mreže = nepouzdana umjetna inteligencija.
Umjetna inteligencija na uređaju radi bilo gdje. Način rada u zrakoplovu. Ruralna područja. Podzemlje. Strane zemlje bez podatkovnog prometa. Inteligencija ne ovisi o infrastrukturi.
Za aplikacije za vanjsku navigaciju: umjetna inteligencija u oblaku za prepoznavanje staza ne uspijeva u udaljenim područjima (nema povezivosti). Binarna umjetna inteligencija na uređaju radi svugdje sa 100 % pouzdanošću, bez obzira na mrežu.
Prilika platforme za rubnu umjetnu inteligenciju
Pomak prema mobilnoj umjetnoj inteligenciji na uređaju predstavlja značajan industrijski trend. Dweveovi Core algoritmi tehnički su sposobni raditi na mobilnim ARM procesorima s binarnim neuronskim mrežama optimiziranima za izvođenje isključivo na procesoru. Međutim, arhitektura platforme primarno odgovara zahtjevima poslovne infrastrukture: industrijske rubne implementacije, distribuirana koordinacija i poslovna inteligencija kojoj se pristupa putem Fabric (web nadzorne ploče), a ne aplikacijama za potrošačke mobilne uređaje.
Širi industrijski trend nepobitan je. Mogućnosti mobilnog hardvera napreduju brzo. Binarne neuronske mreže i kvantizirani modeli omogućuju sofisticiranu obradu na uređaju. Usklađenost s GDPR-om sve više ide u prilog arhitekturama u kojima osobni podaci ostaju lokalni. 189,4 milijuna pametnih telefona isporučenih u Europu 2024. predstavlja golem distribuirani računalni kapacitet koji industrija umjetne inteligencije uči iskorištavati.
Poslovni zahtjevi razlikuju se od potrošačkih scenarija. Pružatelji zdravstvenih usluga trebaju obradu na vlastitim poslužiteljima radi usklađenosti s GDPR-om. Proizvodne tvrtke zahtijevaju rubnu implementaciju kako bi izbjegle kašnjenje oblaka. Financijske usluge zahtijevaju suverenitet podataka. Ti poslovni rubni zahtjevi usklađeni su s arhitekturom Dweveove platforme: učinkoviti algoritmi (Core), selektivna inteligencija (Loom) i distribuirana koordinacija (Mesh) za poslovnu infrastrukturu.
Arhitektonski prijelaz s ovisnosti o oblaku na izvorno rubnu umjetnu inteligenciju ubrzava se u svim industrijama. Potrošački pametni telefoni pokazuju tehničku izvedivost. Poslovna rubna infrastruktura pokazuje poslovnu vrijednost. Usklađenost s GDPR-om pokazuje regulatornu nužnost. Temeljno pitanje postaje koliko brzo različiti sektori usvajaju arhitekture u kojima inteligencija radi tamo gdje podaci nastaju, umjesto da se centralizira u udaljenim poslužiteljima u oblaku.