Okos a zsebedben: miért lettek az okostelefonok az új AI-szuperszámítógépek
A szuperszámítógép 189 millió európai zsebében
Európa okostelefon-piaca 2024-ben elérte a 189,4 millió darabot, ami az első növekedési év volt négy egymást követő visszaesés után. A Samsung 46,4 millió készüléket szállított Európában. Az Apple 34,9 millió iPhone-t adott el. Minden egyes készülék olyan számítási teljesítményt hordoz, amely az 1990-es évek szuperszámítógépeihez mérhető. Több ARM CPU mag 2+ GHz-es órajelen. 8-12 GB RAM. Neurális feldolgozóegységek, amelyek másodpercenként billió műveletre képesek. Ez valódi, mesterséges intelligenciára képes hardver minden európai zsebében.
Mégis, a domináns architektúra továbbra is személyes adatokat küld erről a 189 millió készülékről az európai hálózatokon keresztül a Frankfurtban, Dublinban és Amszterdamban található központosított felhőszerverekre mesterséges intelligencia feldolgozás céljából. Az irónia abszurd. A számítási teljesítmény helyben elérhető. A hálózati késleltetés rontja a teljesítményt. Az adatvédelmi vonatkozások sértik a GDPR adatminimalizálási elveit. Úgy tervezzük a rendszereket, mintha az okostelefonok számítási szempontból gyenge terminálok lennének, pedig valójában elosztott szuperszámítógépek.
Miért maradt fenn ez a visszafelé mutató architektúra? Mert a hagyományos, teljes pontosságú neurális hálózatok nem férnek el a mobileszközökön. Az FP32 modellek paraméterenként 4 bájtot fogyasztanak. Egy 7 milliárd paraméteres nyelvi modell betöltéséhez 28 GB RAM szükséges. Az energiafogyasztás meghaladja azt, amit az akkumulátorok elbírnak. A modell mérete meghaladja azt, amit a mobilhálózatok gyorsan le tudnak tölteni. A felhőalapú feldolgozás tűnt az egyetlen lehetőségnek.
A bináris neurális hálózatok alapvetően megváltoztatják ezt az egyenletet. Paraméterenként egy bit a 32 helyett. Ugyanaz a 7 milliárd paraméteres modell: 875 MB a 28 GB helyett. Elfér az okostelefon RAM-jában, még marad is hely. Hatékonyan fut CPU-n, GPU nélkül is. Alacsony energiafogyasztás, amely akkumulátorról is fenntartható. Elég gyors a valós idejű, eszközön belüli következtetéshez. Nincs felhőfüggőség. Nincs adatfeltöltés. Az intelligencia valóban a zsebedben van, nem távoli szerverekről bérelve.
Az okostelefon már nem csupán kommunikációs eszköz. Ez egy mesterséges intelligencia erőmű. Csak olyan hatékony algoritmusokra volt szükségünk, amelyek felszabadítják ezt a képességet. 2024-ben 234,2 millió mesterséges intelligenciára képes okostelefont szállítottak világszerte, ami a piac 19%-át jelenti. Ez a szám éves szinten 363,6%-kal nő. 2028-ra a mesterséges intelligenciával ellátott okostelefonok elérik az 54%-os piaci részesedést. Az architekturális átmenet a felhőfüggőről az él-alapú intelligenciára most zajlik, olyan eszközök által vezérelve, amelyeket az európaiak már most is hordoznak.
A GDPR-megfelelés építészeti kérdéssé válik, nem csupán törekvéssé
A GDPR 5. cikk (1) bekezdés c) pontja adattakarékosságot ír elő: „A személyes adatoknak megfelelőnek és relevánsnak kell lenniük, és a szükségesre kell korlátozódniuk.” A 25. cikk előírja az adatvédelem alapértelmezett és beépített módon történő biztosítását. A felhőalapú AI-architektúrák alapvetően sértik mindkét elvet. Személyes adatokat tölt fel az eszközökről, továbbítja azokat hálózatokon keresztül, központilag tárolja, mindezt azért, hogy olyan következtetéseket futtasson, amelyek helyben is elvégezhetők lennének. Az architektúra maximalizálja az adatgyűjtést, miközben a jogszabály a minimalizálást követeli meg.
Az eszközön futó AI ezt architekturális szinten oldja meg. A feldolgozás az okostelefonon történik, amely az adatokat előállítja. Az eredmények helyben maradnak, hacsak a felhasználók kifejezetten meg nem osztják azokat. Nincs passzív feltöltés. Nincs központosított tárolás. Nincs személyes adatok hálózati továbbítása. Az architektúra eleve megfelel a GDPR-nak, mert az adatok soha nem hagyják el az eszközöket. Ez nem az infrastruktúrára ráaggatott megfelelőségi politika. Ez a beépített adatvédelem, pontosan az, amit a 25. cikk megkövetel.
Vegyünk egy fotórendszerező alkalmazást. Felhőalapú AI-változat: feltölti a fényképeket a Frankfurtban vagy Dublinban található szerverekre, távolról elemzi azokat, majd visszaküldi a kategorizálási eredményeket. A magánélethez tartozó családi pillanatok, orvosi dokumentumok, pénzügyi képernyőképek európai hálózatokon utaznak, olyan szervereken tárolódnak, amelyeket nem ellenőriz, olyan algoritmusok dolgozzák fel őket, amelyeket nem vizsgálhat meg. Ezek a GDPR-sértések csak arra várnak, hogy bekövetkezzenek.
Ugyanez az alkalmazás bináris, eszközön futó AI-jal: helyben elemzi a fényképeket az okostelefon processzorán futó modellek segítségével. Arcfelismerés, objektumfelismerés, jelenetértelmezés, minden feltöltés nélkül feldolgozva. Az emlékei a sajátjai maradnak. Nincs adattakarékossági jogsértés. Nincs határokon átnyúló adattovábbítási probléma. Nincs tárolási korlátozási gond. Tökéletes GDPR-megfelelés architekturális szükségszerűségből.
A Samsung Galaxy S25 pontosan ezt a megközelítést valósítja meg. A Personal Data Engine az eszközön elemzi a felhasználói adatokat, hogy személyre szabott élményeket nyújtson, amelyek tükrözik a preferenciákat és a használati szokásokat. A korábban felhőalapú AI-feladatok mostantól helyben futnak a 40%-os NPU-teljesítményjavulásnak és a 37%-os CPU-erősítésnek köszönhetően. Több mint 200 millió felhasználó már most a Samsung Galaxy AI eszközön futó feldolgozását használja. Ez nem elméleti architektúra. Ez éles környezetben futó megoldás európai okostelefonokon 2025 októberében.
Valódi mobil intelligencia
Mire képes a bináris AI egy okostelefonon? Sok ugyanazokra a feladatokra, mint a felhőalapú AI, csak más kompromisszumokkal.
- Képfelismerés: Az eszközön történő feldolgozás kiküszöböli a hálózati késleltetést (jellemzően 50-150 ms). A bináris hálózatok a teljes pontosságú modellekhez hasonló pontosságot érhetnek el mobil processzorokon, GPU nélkül is. Adatvédelem szempontjából tökéletes: a fényképek soha nem hagyják el az eszközt.
- Nyelvi megértés: Szövegelemzés, fordítás, hangulatelemzés, mind feldolgozható helyben kompakt bináris modellekkel. Nincs szövegfeltöltés. GDPR-megfelelés architekturálisan. Offline is működik.
- Hangfelismerés: Valós idejű átírás felhőfüggőség nélkül. A hangadatok az eszközön maradnak. Nincs megfigyelési kockázat. Repülőgépes üzemmódban, vidéki területeken, bárhol működik, ahol nincs kapcsolat.
- AR/VR: A kiterjesztett valósághoz szükséges jelenetértelmezés alacsony késleltetést igényel, amelyet a felhőalapú feldolgozás nehezen tud biztosítani. Az eszközön történő feldolgozás lehetővé teszi a gyors AR-élményeket hálózati függőség nélkül.
Egy európai egészségügyi monitorozó alkalmazás, amely bináris, eszközön futó AI-t telepít, elkerüli a biometrikus adatok felhőszerverekre történő feltöltésében rejlő GDPR-sértéseket. A feldolgozás helyben történik. Az érzékeny egészségügyi mutatók soha nem utaznak hálózatokon keresztül. A betegek adatvédelme architekturálisan garantált, nem pedig politikai ígéretekkel.
Ez fontos azoknak az európai vállalatoknak, amelyek szabályozói vizsgálatokkal néznek szembe. A GDPR-bírságok elérhetik a 20 millió eurót vagy a globális bevétel 4%-át, attól függően, melyik a magasabb. Az eszközön történő feldolgozás a megfelelési kockázatok egész kategóriáit szünteti meg azzal, hogy biztosítja: a személyes adatok soha nem kerülnek központosításra.
A gazdaságosság a felhasználási esettől függ
A felhőalapú MI és az eszközön futó MI költségösszehasonlítása alkalmazástípusonként jelentősen eltér. Egyszerű következtetési feladatoknál (képbesorolás, szövegelemzés) az eszközön történő feldolgozás megszünteti a lekérdezésenkénti felhőköltséget. A fejlesztés egyszeri, a terjesztési költség a használattól függetlenül állandó marad, az egy felhasználóra jutó határköltség pedig megközelíti a nullát.
Összetett generatív MI-feladatoknál (nagy nyelvi modellek, képgenerálás) a számítás megváltozik. A felhőszolgáltatások, mint a ChatGPT Plus, felhasználónként havi 18 euróba kerülnek. Az eszközön futó alternatívák nem igényelnek előfizetést, nincs használati korlát, nincsenek rejtett költségek. De alkalmas hardvert és hatékony modelleket követelnek. A gazdasági előny a használati szokásoktól, a felhasználók számától és a modell összetettségétől függ.
Ami állandó: a felhőalapú MI költségei lineárisan nőnek a felhasználókkal és a használattal. Az eszközön futó MI költségei a fejlesztés után nagyrészt rögzülnek. Ahogy az európai adatvédelmi szabályozás egyre inkább bünteti az adatközpontosítást, a felhőalapú megoldások szabályozási kockázata rejtett költséget ad hozzá, amelyet a tisztán gazdasági modellek figyelmen kívül hagynak.
Az akkumulátor-élettartam: az eszközön futó MI kihívása
Íme a kutatás által feltárt kellemetlen igazság: a generatív MI-modellek eszközön történő futtatása jelentősen több akkumulátort fogyaszt, mint a felhőfeldolgozás ugyanazoknál a feladatoknál. A Greenspector tesztjei szerint a helyi MI-modellek 29-szer több energiát fogyasztottak, mint a ChatGPT felhőválaszai. A Stable Diffusion képgenerálás tesztelésekor: az okostelefonok 68 percig bírták helyi futtatás mellett, míg felhőfeldolgozással 11 órán át.
Miért? A felhőfeldolgozás az adatközponti GPU-kra hárítja a számítást, amelyek hálózati áramról működnek. Az okostelefon szöveges lekérdezést küld (minimális akkumulátor), és szöveges választ kap (minimális akkumulátor). A telefon teljes energiafogyasztása: csak a hálózati átvitel.
Az eszközön történő feldolgozás mindent helyben futtat. Az ARM CPU vagy NPU milliárdnyi műveletet dolgoz fel. Egy Samsung Galaxy S10 (3400 mAh-s akkumulátor) esetén a Llama 3.2 helyi futtatása 1 óra 45 perc alatt merítette le az akkumulátort. A Qwen 2.5 futtatása: 2 óra 10 perc. Ez 12-14-szer gyorsabb akkumulátorlemerülést jelent a normál használathoz képest.
Ez valódi feszültséget teremt. Az adatvédelem és a késleltetés az eszközön futó megoldásnak kedvez. Az akkumulátor-élettartam jelenleg a felhőnek kedvez. A megoldás nem az, hogy egyetlen architektúrát választunk mindenhol. Hanem az, hogy minden felhasználási esethez a megfelelő megközelítést alkalmazzuk. Gyors következtetési feladatok (fotókategorizálás, hangutasítások): az eszközön futó megoldásnak van értelme. Hosszabb generatív munkamenetek (dokumentumírás, képkészítés): a felhőfeldolgozás kíméli az akkumulátort.
A bináris neurális hálózatok segítenek azzal, hogy drámaian csökkentik a számítási igényt a teljes pontosságú modellekhez képest. Egy bináris hálózat, amely ugyanazt a feladatot végzi, mint egy FP32-modell, kevesebb energiát fogyaszt. De még mindig több energiát fogyaszt, mint egy hálózati kérés elküldése. Ez fizika, nem marketing. A hatékony eszközön futó MI egyszerre igényel jobb algoritmusokat (bináris hálózatok, kvantálás) és jobb hardvert (hatékonyabb NPU-k, nagyobb akkumulátorok).
Az offline előny
A felhőalapú MI kapcsolatot igényel. Nincs jel = nincs MI. A megbízhatatlan hálózatok megbízhatatlan MI-t jelentenek.
A készüléken futó MI bárhol működik. Repülőgép üzemmód. Vidéki területek. Föld alatt. Külföld adatcsomag nélkül. Az intelligencia nem függ az infrastruktúrától.
Kültéri navigációs alkalmazásoknál: a felhőalapú MI a túraútvonalak felismerésére távoli területeken kudarcot vall (nincs kapcsolat). A bináris, készüléken futó MI a hálózattól függetlenül 100%-os megbízhatósággal működik mindenhol.
A peremalapú MI platform lehetősége
A készüléken futó mobil MI felé való elmozdulás jelentős iparági trendet képvisel. A Dweve Core algoritmusai technikailag képesek mobil ARM processzorokon futni, bináris neurális hálózatokkal, amelyek kizárólag CPU-alapú végrehajtásra vannak optimalizálva. A platform architektúrája azonban elsősorban a vállalati infrastruktúra igényeit szolgálja: ipari peremalapú telepítéseket, elosztott koordinációt és üzleti intelligenciát, amelyhez a Fabric (a webes irányítópult) biztosít hozzáférést, nem pedig fogyasztói mobilalkalmazásokat.
A tágabb iparági trend tagadhatatlan. A mobil hardver képességei rohamosan fejlődnek. A bináris neurális hálózatok és a kvantált modellek kifinomult készüléken belüli feldolgozást tesznek lehetővé. A GDPR-megfelelés egyre inkább azokat az architektúrákat részesíti előnyben, ahol a személyes adatok helyben maradnak. A 2024-ben Európába szállított 189,4 millió okostelefon hatalmas elosztott számítási kapacitást jelent, amelyet az MI-ipar éppen megtanul kihasználni.
A vállalati igények eltérnek a fogyasztói forgatókönyvektől. Az egészségügyi szolgáltatóknak helyszíni feldolgozásra van szükségük a GDPR-megfeleléshez. A feldolgozóipari vállalatok peremalapú telepítést igényelnek a felhő-késleltetés elkerülése érdekében. A pénzügyi szolgáltatók adatszuverenitást követelnek. Ezek a vállalati peremalapú igények összhangban vannak a Dweve platformarchitektúrájával: hatékony algoritmusok (Core), szelektív intelligencia (Loom) és elosztott koordináció (Mesh) az üzleti infrastruktúra számára.
A felhőfüggő architektúráról a peremalapúra való átállás az iparágakban felgyorsul. A fogyasztói okostelefonok a technikai megvalósíthatóságot bizonyítják. A vállalati peremalapú infrastruktúra az üzleti értéket bizonyítja. A GDPR-megfelelés a szabályozási szükségszerűséget bizonyítja. Az alapkérdés az, hogy az egyes ágazatok milyen gyorsan veszik át azokat az architektúrákat, ahol az intelligencia ott fut, ahol az adat keletkezik, nem pedig távoli felhőszervereken összpontosul.