Rubni AI i Mesh mreže: nova alternativa u nastajanju
Račun od 167.000 eura koji je sve promijenio
Zamislite ovo: direktor ste tehnologije u fintech startupu u Amsterdamu. Ožujak 2025. Vaša umjetna inteligencija za otkrivanje prijevara upravo je postala viralna na Product Huntu. Rast je eksplozivan. Odbor je oduševljen. Investitori vas zovu da vam čestitaju.
A onda otvorite račun svog pružatelja cloud usluga.
Prošli mjesec: 18.500 eura. Ovaj mjesec: 167.000 eura. Isti AI model. Ista infrastruktura. Jedino što se promijenilo jest što je broj korisnika skočio sa 100.000 na 250.000.
Izračunate. Pri trenutačnoj putanji, gledate 6,8 milijuna eura godišnje samo za AI inferenciju. Ne razvoj. Ne pohranu. Ne propusnost. Samo API pozive koji provjeravaju izgledaju li transakcije sumnjivo.
Vaš financijski direktor postavlja pitanje koje ne da spavati europskim osnivačima tehnoloških tvrtki: "Zašto plaćamo milijune da šaljemo financijske podatke naših korisnika na tuđi poslužitelj u Frankfurtu kad već imamo poslužitelje? Kad već imamo infrastrukturu? Kad je sama računalna operacija zapravo prilično jednostavna?"
To je pitanje koje tjera tvrtke prema rubnom računalstvu. Ne zato što cloud AI ne funkcionira. Funkcionira odlično. Nego zato što se na određenim razmjerima, za određene slučajeve upotrebe, ekonomika katastrofalno raspada. Zato što fizika nameće ograničenja s kojima se ne možete pregovarati. Zato što europski zakoni o zaštiti podataka centralizaciju čine istinski rizičnom.
Ovo nije priča o umiranju cloud AI-ja. Ovo je priča o pojavi opcija za scenarije u kojima centralizirani cloud ne odgovara. Gdje povratno putovanje do Frankfurta ili Dublina košta previše vremena, previše novca ili stvara previše regulatorne izloženosti.
Evo što se zapravo događa 2025. dok se rubni AI pomiče iz istraživačkih radova u produkcijske implementacije.
Problem fizike: kad i sama svjetlost postane usko grlo
Krenimo od ograničenja oko kojeg se apsolutno ne možete inženjerski izvući: brzine svjetlosti.
Vaš je pametni telefon u Amsterdamu. Najbliža velika cloud regija je Frankfurt, udaljen 360 kilometara. Svjetlost putuje 299.792 kilometara u sekundi u vakuumu. Optičko vlakno usporava je na oko 200.000 km/s zbog indeksa loma stakla.
Čista fizika daje vam minimalno jednosmjerno kašnjenje od 1,8 ms. To je teoretski minimum. Savršeno vlakno. Savršeno usmjeravanje. Nula vremena obrade. Samo fotoni koji prolaze kroz staklo.
Stvarnost je neurednija. Vaš zahtjev stiže do usmjerivača vašeg internetskog pružatelja. Prolazi kroz nekoliko skokova preko internetske okosnice. Stiže do balansera opterećenja pružatelja cloud usluga. Biva usmjeren na dostupni poslužitelj. Čeka u redu. Obrađuje se. Šalje odgovor natrag kroz isti lanac.
Tipično kašnjenje u stvarnom svijetu za Amsterdam do Frankfurta: 25-45 ms. Ako nemate sreće s usmjeravanjem ili je podatkovni centar opterećen: 60-80 ms. I to je samo mrežno kašnjenje. Dodajte vrijeme inferencije i gledate ukupno 80-120 ms.
Za mnoge aplikacije to je sasvim u redu. E-pošti nije stalo do 100 ms. Niti obradi u serijama, pozadinskoj analitici ili većini web aplikacija.
Ali autonomna vozila donose odluke o životu i smrti za manje od 10 ms. Industrijski roboti koji upravljaju proizvodnim linijama trebaju vrijeme odziva ispod 5 ms ili se zabijaju u stvari. Proširena stvarnost treba ispod 20 ms da bi se izbjegla mučnina kretanja. Sustavi za trgovanje u stvarnom vremenu trebaju ispod 1 ms ili doslovno gube novac od konkurenata s boljim kašnjenjem.
Možete optimizirati kod. Možete nadograditi mreže. Možete posvuda staviti predmemorije. Ali u osnovi ne možete učiniti da svjetlost putuje brže nego što fizika dopušta. Ta udaljenost od 360 kilometara nameće apsolutni minimum vremena odziva.
Rubno računalstvo rješava to pomicanjem računanja na sam uređaj ili na poslužitelj koji je fizički blizu. Uređaj u Amsterdamu, rubni poslužitelj u Amsterdamu, optičko vlakno od 5 kilometara. Sada je vaša fizička granica 0,025 ms. Vaše kašnjenje u stvarnom svijetu je 1-3 ms. Upravo ste si kupili poboljšanje od dva reda veličine promjenom mjesta na kojem se računanje odvija.
Ovo nije marginalna optimizacija. Ovo je razlika između mogućeg i fizički nemogućeg. Neke aplikacije jednostavno ne mogu raditi s latencijom oblaka. Ne "neće". Ne mogu. Fizika to ne dopušta.
Ekonomski problem: kada uspjeh postane kazna
Razmotrimo sada problem rasta troškova, jer tu ekonomika oblaka postaje doista bolna.
Cijene umjetne inteligencije u oblaku na maloj skali izgledaju razumno. €0,002 po API pozivu? Jeftino! Vaš prototip s 1.000 korisnika košta €20 dnevno. To je €600 mjesečno. Sasvim razumno za startup.
Zatim rastete. Dosegnete 100.000 korisnika. Svaki korisnik u prosjeku šalje 10 zahtjeva dnevno. To je milijun zahtjeva dnevno. Uz €0,002 po zahtjevu, sada plaćate €2.000 dnevno. €60.000 mjesečno. Još uvijek podnošljivo ako imate financiranje.
Ali rast se nastavlja. Dosegnete milijun korisnika. Računica postaje brutalna:
1.000.000 korisnika × 10 zahtjeva/dan × €0,002 = €20.000 dnevno
€20.000 × 365 dana = €7,3 milijuna godišnje
Samo za inferenciju. Samo za API pozive. Treniranje je zasebno. Pohrana podataka je zasebna. Propusnost je zasebna. Redundancija je zasebna. Odjednom vaša AI značajka, stvar koju korisnici vole, konkurentska prednost koju ste izgradili, košta sedam milijuna eura godišnje samo da bi ostala u pogonu.
Problem nije u tome što je oblak skup. Problem je u tome što troškovi rastu linearno s upotrebom, dok vaš prihod možda ne raste. Problem je u tome što pružatelji oblaka optimiziraju svoje marže, a ne vaše. Problem je u tome što plaćate tuđe GPU vrijeme, tuđi podatkovni centar, tuđe hlađenje, tuđu profitnu maržu.
Implementacija na rubu preokreće taj model. Da, unaprijed plaćate poslužitelje. Da, plaćate implementaciju i održavanje. Ali kada je jednom implementirano, skaliranje sa 100.000 na milijun korisnika gotovo vas ništa ne košta dodatno. Hardver je već tu. Model je već učitan. Samo obrađujete više zahtjeva na istoj infrastrukturi.
Točka preokreta ovisi o vašoj konkretnoj situaciji. Koliko korisnika? Koliko zahtjeva? Koliko je skup vaš trenutačni cloud sustav? Koliko infrastruktura na rubu košta u vašoj regiji?
Ali za aplikacije s milijunima korisnika koji često šalju AI zahtjeve, matematika često ide u prilog rubu nakon 18-24 mjeseca. I za razliku od troškova oblaka koji rastu zauvijek, infrastruktura na rubu amortizira se i na kraju postaje besplatna infrastruktura koju ste već platili.
Problem privatnosti: kada sukladnost nije opcija
Budimo izravni u vezi s europskim zakonima o zaštiti podataka: za centraliziranu umjetnu inteligenciju to je minsko polje.
Članak 5. stavak 1. točka (c) GDPR-a zahtijeva smanjenje količine podataka. Morate prikupljati samo ono što je nužno, obrađivati samo ono što je potrebno, pohranjivati samo ono što se zahtijeva. Slati svaki dio korisničkih podataka na poslužitelj u oblaku radi obrade umjetnom inteligencijom? To je suprotno smanjenju količine podataka.
Članak 5. stavak 1. točka (f) GDPR-a zahtijeva sigurnost primjerenu riziku. Centralizacija osjetljivih podataka na jednom mjestu stvara med za hakere. Jedno probijanje otkriva sve. Distribuirana obrada u kojoj podaci nikada ne napuštaju lokalne uređaje? Puno je teže probiti se u velikom opsegu.
Akt EU-a o umjetnoj inteligenciji, koji je stupio na snagu u kolovozu 2024., dodaje još jedan sloj. Sustavi umjetne inteligencije visokog rizika moraju biti transparentni, revizijski provjerljivi i objašnjivi. Kada vaša umjetna inteligencija radi u tuđem podatkovnom centru, kako provodite reviziju? Kako regulatorima objašnjavate točno koja je obrada provedena? Kako dokazujete da se model ponaša dosljedno?
Da, postoje zaobilazna rješenja. Federativno učenje omogućuje treniranje modela bez centralizacije podataka. Diferencijalna privatnost dodaje šum radi zaštite pojedinačnih zapisa. Homomorfno šifriranje omogućuje računanje nad šifriranim podacima bez njihova dešifriranja.
No svako zaobilazno rješenje povećava troškove. Federativno učenje zahtijeva složenu koordinaciju i sporije je od centraliziranog treniranja. Diferencijalna privatnost smanjuje točnost modela. Homomorfno šifriranje stotine je puta sporije od uobičajenog računanja.
Rubna obrada nudi jednostavniji put: podaci ostaju na uređaju. Obrada se odvija lokalno. Rezultati ostaju lokalni osim ako ih korisnik izričito ne podijeli. Bez centralizacije podataka. Bez prekograničnih prijenosa. Bez agregiranih pohrana podataka koje bi se mogle probiti.
To nije tek teoretsko isticanje privatnosti. To je praktična sukladnost s GDPR-om koja smanjuje pravni rizik. To je izbjegavanje kazni od 20 milijuna eura (ili 4 % globalnog prihoda, ovisno o tome što je više) koje EU regulatori mogu izreći za kršenja.
Za zdravstvenu umjetnu inteligenciju koja obrađuje zdravstvene kartone pacijenata? Za financijsku umjetnu inteligenciju koja obrađuje podatke o transakcijama? Za državnu umjetnu inteligenciju koja obrađuje informacije o građanima? Rubna obrada nije samo jeftinija ili brža. To je strategija sukladnosti koja vam omogućuje miran san.
Kako rubno računalstvo zapravo funkcionira danas
Budimo konkretni o tome kako izgleda rubna implementacija u 2025.
Moderni pametni telefoni nevjerojatno su moćni. iPhone 15 Pro ili Samsung Galaxy S25 ima ARM CPU s 8 jezgri koji radi na 3+ GHz, 8 GB RAM-a i specijalizirane neuronske procesorske jedinice koje mogu izvršiti bilijune operacija u sekundi. To je više računalne snage od poslužitelja iz 2015.
Ti uređaji već pokreću umjetnu inteligenciju lokalno. Kamera vašeg telefona radi prepoznavanje scena u stvarnom vremenu, prepoznavanje lica i poboljšanje slike u potpunosti na uređaju. Glasovni asistenti obrađuju budilicu lokalno prije slanja bilo čega u oblak. Automatska ispravka na tipkovnici koristi lokalne jezične modele.
Infrastruktura za rubnu umjetnu inteligenciju već je implementirana. U 2025. diljem svijeta postoji 19,8 milijardi IoT uređaja. Većina ima određenu procesorsku sposobnost. Mnogi su dovoljno moćni za pokretanje značajnih radnih opterećenja umjetne inteligencije.
Rubni podatkovni centri već su operativni. Tvrtke poput EdgeConneX-a, Vapor IO-a i lokalnih europskih pružatelja upravljaju objektima u Amsterdamu, Frankfurtu, Londonu, Dublinu, Madridu i drugim velikim gradovima. To nisu planovi za budućnost. To je proizvodna infrastruktura koja danas obrađuje stvarna radna opterećenja.
Pitanje nije postoji li rubno računalstvo. Jasno je da postoji. Pitanje je: kako koordinirati tisuće ili milijune tih rubnih uređaja u nešto što funkcionira kao jedinstveni sustav?
Mreže tipa mesh: sloj koordinacije
Ovdje na scenu stupaju mreže tipa mesh. Ideja je jednostavna, ali moćna: umjesto da svaki uređaj komunicira sa središnjim poslužiteljem, uređaji komuniciraju s obližnjim uređajima radi koordinacije i dijeljenja radnog opterećenja.
Zamislite to ovako: imate pametni telefon koji treba pokrenuti AI model. Prvo pokušava obradu lokalno, koristeći vlastiti CPU i memoriju. Za većinu zahtjeva (potencijalno 90%+) to funkcionira bez problema. Lokalna inferencija, vrijeme odziva 1-5 ms, nula ovisnosti o mreži, savršena privatnost.
Ali ponekad je zahtjev previše složen. Model ne stane u memoriju. Izračun bi na CPU-u telefona trajao predugo. U centraliziranoj cloud arhitekturi poslali biste to u Frankfurt.
U mesh arhitekturi prvo provjerite: postoje li obližnji edge poslužitelji sa slobodnim kapacitetom? Drugi telefoni u mesh mreži s moćnijim hardverom? Lokalni edge čvor koji može pomoći? Ako da, usmjerite zahtjev na najbliži sposoban uređaj. Mrežni skok od 5 ms umjesto 40 ms. Podaci ostaju u vašem gradu umjesto da prelaze granice.
Samo ako lokalni kapacitet ne postoji, pribjegavate centraliziranom cloudu. Mesh postaje prva linija obrane. Cloud postaje rezerva kada je to doista nužno.
Ova arhitektura ima dobre osobine:
Latencija: Većina zahtjeva ostaje lokalna (1-5 ms). Složeni zahtjevi idu na obližnje čvorove (10-20 ms). Samo najzahtjevnija opterećenja idu u cloud (50-100 ms). Vaša prosječna laten-cija dramatično pada.
Propusnost: Umjesto slanja svih podataka na centralne poslužitelje, šaljete samo ažuriranja modela i koordinacijske signale. To je možda 1-5% propusnosti u usporedbi sa slanjem sirovih podataka. Troškovi mreže padaju proporcionalno.
Otpornost: Ako jedan čvor zakaže, mesh mreža zaobilazi problem. Ne postoji jedinstvena točka kvara. Sustav se pod opterećenjem graciozno degradira umjesto da katastrofalno padne.
Privatnost: Podaci po zadanim postavkama ostaju lokalni. Obrada se odvija tamo gdje podaci žive. Samo metapodaci i koordinacijski signali prolaze mrežom. Puno lakša usklađenost s GDPR-om.
Izazov je osigurati pouzdan rad u velikom opsegu. Upravo to gradimo.
Binarne neuronske mreže: tehnički proboj
Rubni AI postao je praktičan tek nedavno, zahvaljujući temeljnoj promjeni u načinu na koji gradimo neuronske mreže. Objasnimo zašto.
Tradicionalne neuronske mreže koriste 32-bitne brojeve s pomičnim zarezom. Svaka težina u mreži je float pune preciznosti. GPT-3 ima 175 milijardi parametara, a svaki je pohranjen u 4 bajta. To je 700 gigabajta samo za težine modela. Dodate li aktivacije tijekom zaključivanja, govorimo o terabajtima memorijskog prometa.
Zato su vam potrebni GPU-ovi. Zato su vam potrebni podatkovni centri u oblaku. Zato se rubna implementacija činila nemogućom. Jednostavno ne možete smjestiti modele od 700 GB na pametni telefon s 8 GB RAM-a.
Binarne neuronske mreže mijenjaju pravila igre koristeći 1-bitne težine umjesto 32-bitnih floatova. Svaka težina je ili +1 ili minus 1. Svaka aktivacija je 0 ili 1. Matematika se svodi na AND, OR, XOR i XNOR operacije umjesto množenja s pomičnim zarezom.
Kompresija je dramatična. Model koji bi u FP32 zauzimao 700 GB u binarnom obliku zauzima 22 GB. Dodate li rijetku aktivaciju (aktiviranje samo relevantnih dijelova mreže), možete ga smanjiti na 10-15 GB komprimirano. Dodate li dijeljenje težina i pametno kodiranje, govorimo o 3-5 GB aktivnih u memoriji tijekom zaključivanja.
Odjednom rubna implementacija postaje izvediva. Pametni telefon može pohraniti komprimirani model u memoriju. Prijenosnik može pokretati zaključivanje u RAM-u. Rubni poslužitelj može istovremeno pokretati desetke modela.
Ali čarolija nije samo u veličini. Binarne operacije su u osnovi brže od operacija s pomičnim zarezom na CPU hardveru. Moderni Intel i ARM procesori imaju XNOR i POPCNT instrukcije koje izvršavaju binarne operacije neuronskih mreža u jednom ciklusu. One su dio instrukcijskog skupa, optimizirane na razini silicija, dostupne na svakom CPU-u proizvedenom u posljednjem desetljeću.
To znači da rubni uređaji ne trebaju GPU-ove. Mogu pokretati sofisticirani AI koristeći postojeće CPU jezgre. Bez specijaliziranog hardvera. Bez skupih akceleratora. Samo standardni procesori koji rade ono u čemu su već dobri.
Rezultati su ponekad kontraintuitivni. Binarna mreža koja radi na CPU-u može nadmašiti ili izjednačiti 32-bitnu mrežu koja radi na GPU-u za određene radne zadatke zaključivanja. Ne zato što je CPU brži, već zato što je algoritam u osnovi učinkovitiji.
To je tehnički temelj koji rubni AI čini održivim. Bez binarnih mreža zaglavite s modelima prevelikima za rubnu implementaciju. S njima možete pokretati sofisticirani AI bilo gdje.
Dweve Mesh: ono što gradimo
Gradimo Dweve Mesh kao infrastrukturu za federativni rubni AI koji čuva privatnost. Budimo precizni o tome što to znači.
Troslojna arhitektura
Rubni sloj radi na korisničkim uređajima i lokalnim rubnim poslužiteljima. Pametni telefoni, prijenosnici, industrijski kontroleri, IoT uređaji. Ovdje se odvija većina obrade. Podaci ostaju lokalni. Zaključivanje se odvija za 1-5 ms. Privatnost je arhitektonska, a ne samo politika.
Sloj za računanje pruža čvorove visokih performansi za radna opterećenja kojima je doista potrebno više snage. To su strateški smješteni rubni podatkovni centri u velikim gradovima. Nisu centralizirani oblak, ali su sposobniji od korisničkih uređaja. Kada telefon ne može obraditi zahtjev lokalno, usmjerava ga ovdje prvo.
Koordinacijski sloj upravlja usmjeravanjem mreže, distribucijom modela i konsenzusom. Riječ je o laganoj infrastrukturi koja ne obrađuje korisničke podatke. Ona samo pomaže rubnim čvorovima da pronađu jedni druge, koordiniraju radno opterećenje i održavaju zdravlje mreže.
Ključna načela dizajna
Privatnost nije naknadna misao. Sustav je dizajniran tako da korisnički podaci nikada ne moraju napustiti uređaje radi obrade. Ažuriranja modela putuju od rubnih čvorova prema koordinaciji, ali sirovi podaci ostaju na mjestu. To čini usklađenost s GDPR-om arhitektonskom, a ne proceduralnom.
Tolerancija na pogreške ugrađena je pomoću Reed-Solomon erasure kodiranja. Ako 30% čvorova otkaže, sustav nastavlja raditi. Ako regija postane nedostupna, mreža pronalazi put zaobilazeći je. Ne postoji jedinstvena točka otkaza jer ne postoji centralizirano upravljanje.
Fleksibilnost implementacije je važna. Dweve Mesh možete pokrenuti kao javnu mrežu u kojoj svatko može doprinijeti računalnom snagom i biti plaćen za to. Ili ga možete pokrenuti kao privatnu, zračno izoliranu mrežu unutar tvornice ili bolnice. Isti softver, različiti modeli implementacije.
Sustav se sam oporavlja. Ako čvor postane preopterećen, mreža automatski preusmjerava zahtjeve drugamo. Ako čvor postane nedostupan, njegov se rad preraspodjeljuje. Ako se čvor uključi, neprimjetno se pridružuje mreži. Nije potrebna ručna intervencija.
Što ovo omogućuje
Tvrtke mogu implementirati AI koji u potpunosti radi na vlastitoj infrastrukturi. Bez vanjskih ovisnosti. Bez zaključavanja u cloud dobavljača. Bez prijenosa podataka u inozemstvo.
Aplikacije osjetljive na latenciju postaju izvedive. Autonomni sustavi. Upravljanje u stvarnom vremenu. Interaktivni AI koji odgovara u milisekundama, a ne u desecima ili stotinama milisekundi.
Aplikacije kritične za privatnost postaju održive. Zdravstveni AI koji zadržava podatke o pacijentima lokalno. Financijski AI koji ne centralizira zapise o transakcijama. Vladin AI koji poštuje suverenitet podataka.
Aplikacije osjetljive na troškove postaju praktične. AI značajke koje služe milijunima korisnika bez linearnog rasta troškova. Sustavi koji postaju učinkovitiji kako rastu, umjesto skuplji.
Primjeri iz stvarnog svijeta koji se istražuju
Razgovarajmo o konkretnim scenarijima u kojima rubna mrežna arhitektura ima smisla.
Infrastruktura pametnog grada
Europski grad implementira 50.000 povezanih senzora i kamera u javnoj infrastrukturi. Semafori s računalnim vidom. Monitori okoliša koji prate kvalitetu zraka. Sustavi javnog prijevoza koji optimiziraju rute. Službe hitne pomoći koje koordiniraju odgovor.
Tradicionalni pristup: slanje svih podataka sa senzora u centralni cloud. Centralna obrada. Slanje naredbi natrag. To zahtijeva ogromnu propusnost (50.000 video zapisa se zbraja). Uvodi latenciju od 40-80 ms. Centralizira osjetljive podatke nadzora. Košta 2-3 milijuna eura godišnje u naknadama za cloud.
Pristup rubne mreže: lokalna obrada podataka na svakom senzorskom čvoru. Koordinacija između obližnjih čvorova za optimizaciju prometa. Slanje samo agregiranih statistika centralnoj koordinaciji. Propusnost pada za 95%. Latencija pada na 5-10 ms. Podaci nadzora ostaju distribuirani. Tekući troškovi padaju na 200-400 tisuća eura godišnje.
Ovo nije hipotetski. Pilot projekti trenutno se provode u Tallinnu, Amsterdamu i Barceloni.
Proizvodne mreže
Konzorcij tvornica diljem Njemačke upravlja s 8.000 industrijskih senzora za kontrolu kvalitete i prediktivno održavanje. Svaki senzor generira 1 MB u minuti podataka o vibracijama, temperaturi i akustici.
Centralizirani cloud: 8.000 senzora × 1 MB/min = 8 GB u minuti = 11,5 TB dnevno. Troškovi cloud obrade iznose 180 tisuća eura mjesečno. Troškovi mrežne propusnosti iznose 80 tisuća eura mjesečno. Ukupno: 3,1 milijun eura godišnje.
Rubna mreža: lokalna obrada na industrijskim računalima koja su već implementirana u tvornicama. Koordinacija između tvornica za optimizaciju na razini više pogona. Slanje samo upozorenja o anomalijama i ažuriranja modela centralnom sustavu. Propusnost: smanjenje od 99%. Troškovi: ukupno 45 tisuća eura mjesečno. Godišnje uštede: 2,6 milijuna eura.
Što je još važnije: latencija pada sa 100 ms na 2 ms. Kada ležaj pokaže rane znakove kvara, trenutačni lokalni odgovor sprječava zastoje vrijedne 500 tisuća eura. Povrat ulaganja nije samo ušteda troškova. Riječ je o izbjegavanju katastrofalnih kvarova.
Mreže u zdravstvu
Mreža od 200 klinika u Nizozemskoj koristi umjetnu inteligenciju za analizu radiologije. Svaka klinika dnevno obrađuje 50-100 snimaka.
Pristup u oblaku: prijenos medicinskih slika na središnje poslužitelje. Obrada pomoću umjetne inteligencije u oblaku. Preuzimanje rezultata. Usklađenost s GDPR-om zahtijeva izričit pristanak, enkripciju, zapisnike revizije i redovite provjere usklađenosti. Trošak postavljanja: 400 tisuća eura. Godišnja usklađenost: 120 tisuća eura. Obrada u oblaku: 80 tisuća eura godišnje.
Pristup na rubu mreže: umjetna inteligencija radi na lokalnim poslužiteljima u svakoj klinici. Podaci pacijenata nikada ne napuštaju ustanovu. Rezultati su trenutačni (3-5 minuta umjesto 20-30 minuta). Usklađenost s GDPR-om ugrađena je u arhitekturu: podaci ne napuštaju ustanovu, pa se nema što prekršiti. Postavljanje: 180 tisuća eura za poslužitelje na rubu mreže. Godišnji troškovi: 15 tisuća eura za ažuriranja softvera.
Usklađenost postaje jednostavna jer arhitektura čini kršenja gotovo nemogućima. To vrijedi više od uštede troškova.
Iskrena analiza ekonomike
Napravimo pravu matematiku za aplikaciju s milijun korisnika i umjerenom upotrebom umjetne inteligencije.
Troškovi centraliziranog oblaka
GPU instance za zaključivanje: 340 tisuća eura mjesečno (na temelju trenutačnih cijena AWS/Azure za produkcijska opterećenja)
Mrežna propusnost: 120 tisuća eura mjesečno (10 milijuna API poziva dnevno × troškovi prijenosa podataka)
Pohrana: 45 tisuća eura mjesečno (pohrana modela, pohrana zapisnika, pohrana sigurnosnih kopija)
Redundancija i prebacivanje na rezervni sustav: 80 tisuća eura mjesečno (implementacija u više regija radi pouzdanosti)
Usklađenost i sigurnost: 35 tisuća eura mjesečno (zapisnici revizije, enkripcija, alati za usklađenost)
Ukupno mjesečno: 620 tisuća eura. Ukupno godišnje: 7,44 milijuna eura.
Troškovi rubne mreže
Početna infrastruktura: 800 tisuća eura (poslužitelji na rubu mreže na ključnim lokacijama, implementacija, postavljanje)
Mjesečna koordinacijska infrastruktura: 12 tisuća eura (lagani koordinacijski čvorovi)
Propusnost za distribuciju modela: 8 tisuća eura mjesečno (slanje ažuriranja modela na čvorove na rubu mreže)
Održavanje i nadzor: 15 tisuća eura mjesečno (administracija sustava, nadzor, ažuriranja)
Ukupni mjesečni tekući troškovi: 35 tisuća eura. Ukupno godišnje: 420 tisuća eura.
Ukupno za prvu godinu (uključujući postavljanje): 1,22 milijuna eura. Druga godina i dalje: 420 tisuća eura godišnje.
Točka pokrića nastupa u 13. mjesecu. Nakon toga štedite 7 milijuna eura godišnje u usporedbi s oblakom.
Ali to pretpostavlja da imate milijun korisnika. Sa 100 tisuća korisnika oblak bi i dalje mogao biti jeftiniji. S 10 milijuna korisnika uštede se umnožavaju.
Točka presjeka u potpunosti ovisi o vašoj veličini, obrascima upotrebe i specifičnim zahtjevima. Rub mreže nije univerzalno bolji. Bolji je za određene scenarije pri određenim razmjerima.
Što stvarno radi, a što je još uvijek teško
Budimo potpuno iskreni o trenutačnom stanju umjetne inteligencije na rubu mreže.
Što danas radi
Zaključivanje na samom uređaju na pametnim telefonima radi odlično. Vaš telefon lokalno obrađuje fotografije, glas i tekst s izvrsnim rezultatima. To je produkcijska tehnologija koja se isporučuje u milijardama uređaja.
Podatkovni centri na rubu mreže operativni su. Tvrtke poput EdgeConneX-a i Vapor IO-a vode produkcijske objekte na rubu mreže koji obrađuju stvarna opterećenja. To nije prazno obećanje. To je infrastruktura koju možete koristiti već danas.
Binarne neuronske mreže postižu dobru točnost za mnoge zadatke. Klasifikacija slika, obrada prirodnog jezika i sustavi preporuka dobro funkcioniraju s binarnim arhitekturama. Matematika funkcionira.
Pilot projekti federativnog učenja aktivni su kod velikih tvrtki. Google trenira Gboard modele koristeći federativno učenje. Apple trenira Siri modele federativno. To su produkcijski sustavi koji obrađuju podatke s milijardi uređaja.
Što je još u razvoju
Koordinacija na velikoj razini putem Mesh mreže je u ranoj fazi. Koordiniranje tisuća heterogenih čvorova s različitim mogućnostima, različitim radnim opterećenjima i različitim načinima kvara je teško. Protokoli postoje, ali treba ih dodatno očvrsnuti za produkciju.
Federativno učenje među organizacijama još je uglavnom u fazi pilot projekata. Navesti tvrtke na suradnju u zajedničkom treniranju modela uz očuvanje povjerljivih podataka tehnički je moguće, ali organizacijski izazovno.
Standardizirana infrastruktura za rubno računalstvo i umjetnu inteligenciju je fragmentirana. Ne postoji "AWS za rubno računalstvo" koji jednostavno radi svugdje. Implementacija je više ručna. Alati su manje zreli.
Dokazani podaci o povratu ulaganja na velikoj razini su ograničeni. Većina implementacija na rubu još je u fazi pilota ili rane produkcije. Imamo obećavajuće podatke, ali treba nam više vremena da dokažemo da ekonomika funkcionira u različitim slučajevima upotrebe.
Tehnologija funkcionira. Pitanje je koliko brzo će prijeći s pilot faze na masovnu proizvodnju.
Zašto oblak AI ne ide nikamo
Budimo potpuno jasni: oblak AI ostat će dominantan za većinu slučajeva upotrebe. I to je u redu.
Pružatelji usluga u oblaku potrošili su milijarde na izgradnju robusne infrastrukture. Riješili su teške probleme oko skalabilnosti, pouzdanosti, sigurnosti i operacija. Nude istrenirane modele, jednostavne API-je i minimalno trenje pri postavljanju.
Za aplikacije bez ograničenja latencije, oblak je jednostavniji. Za aplikacije bez ogromnog opsega, oblak je jeftiniji. Za aplikacije bez osjetljivih podataka, oblak je lakši.
Većina tvrtki trebala bi koristiti oblak AI. Funkcionira. Zreo je. Dobro je podržan. Ekosustav je bogat.
Rubna umjetna inteligencija namijenjena je scenarijima u kojima oblak nije prikladan. Gdje latencija previše znači. Gdje se troškovi previše agresivno povećavaju. Gdje zahtjevi privatnosti čine centralizaciju bolnom. Gdje suverenitet podataka nije opcija.
Budućnost nije u tome da rub zamijeni oblak. Budućnost je hibridna: oblak za radna opterećenja gdje ima smisla, rub za radna opterećenja gdje nema. Korištenje pravog alata za posao umjesto forsiranja svega kroz jednu arhitekturu.
Put naprijed za usvajanje rubnog računalstva
Ako razmatrate rubnu umjetnu inteligenciju, evo realnog puta implementacije.
Faza 1: Iskrena procjena
Izračunajte svoje stvarne troškove oblaka. Ne samo trenutne troškove, već i projicirane troškove pri 2x, 5x, 10x skaliranju. Dodajte troškove usklađivanja, posebno ako poslujete u reguliranim industrijama.
Izmjerite svoje stvarne zahtjeve za latencijom. Trebate li ispod 10 ms? Ispod 50 ms? Ili je 100 ms u redu? Budite iskreni. Mnoge aplikacije ne trebaju ultra-nisku latenciju.
Procijenite osjetljivost svojih podataka. Obrađujete li financijske zapise? Zdravstvene podatke? Vladine informacije? Ili su to podaci koji nisu posebno osjetljivi?
Izračunajte brojke iskreno. Rub nije uvijek jeftiniji. Oblak nije uvijek skuplji. Ovisi.
Faza 2: Mali pilot
Ne kockajte se s tvrtkom na rubnom računalstvu. Počnite s jednim slučajem upotrebe. Odaberite nešto nekritično, ali reprezentativno.
Implementirajte rubnu obradu za taj slučaj upotrebe. Izmjerite latenciju. Izmjerite troškove. Izmjerite operativnu složenost. Usporedite s osnovnom razinom oblaka.
Budite skeptični prema svojim rezultatima. Prvi piloti uvijek izgledaju odlično jer posvećujete puno pažnje. Pričekajte 3-6 mjeseci i provjerite drže li se prednosti.
Faza 3: Postupno širenje
Ako pilot funkcionira, širite se postupno. Premjestite više radnih opterećenja na rub. Ali zadržite oblak za ono što tamo ima smisla.
Izgradite hibridnu arhitekturu. Rub za radna opterećenja osjetljiva na latenciju ili troškove. Oblak za sve ostalo. Iskoristite snage obojega.
Pratite pomno. Rubna infrastruktura zahtijeva veću operativnu zrelost od samog plaćanja računa za oblak. Provjerite jeste li spremni za to.
Gdje smo u listopadu 2025.
Rubna umjetna inteligencija je stvarna. Nije znanstvena fantastika. Nije pet godina daleko. To je proizvodna tehnologija koja se danas primjenjuje.
Ali rano je. Alati su grublji nego u oblaku. Ekosustav je manji. Najbolje prakse tek se oblikuju.
Europsko tržište rubnog računalstva iznosilo je 4,3 milijarde eura u 2024., a predviđa se da će do 2030. dosegnuti 27 milijardi eura. To je 35% godišnjeg rasta. To se ne događa na tržištima koja nemaju stvarnu snagu.
Tvrtke primjenjuju rubnu umjetnu inteligenciju za pametne gradove, proizvodnju, zdravstvo, maloprodaju i logistiku. To nisu demonstracije. To su proizvodni sustavi koji obrađuju stvarna radna opterećenja, služe stvarnim korisnicima i donose stvarnu poslovnu vrijednost.
Tehnologija funkcionira. Ekonomika funkcionira za određene slučajeve upotrebe. Pitanje je koliko brzo će se ubrzati usvajanje.
Gradimo Dweve Mesh jer smatramo da rubna umjetna inteligencija treba bolju infrastrukturu. Jer umjetna inteligencija koja čuva privatnost i ima nisku latenciju ne bi trebala zahtijevati izgradnju svega od nule. Jer europske tvrtke zaslužuju infrastrukturu koja ne prisiljava na centralizaciju podataka niti na ovisnost o jednom dobavljaču.
Ako se suočavate s izazovima troškova, latencije ili privatnosti kod centralizirane umjetne inteligencije u oblaku, rubno računalstvo možda vrijedi istražiti. Ne kao zamjena za oblak. Kao nadopuna. Kao alternativa za scenarije u kojima centralizirana arhitektura ne odgovara.
Rubna revolucija nije o uništavanju umjetne inteligencije u oblaku. Riječ je o mogućnostima. O odabiru prave arhitekture za svako radno opterećenje umjesto provlačenja svega kroz isti lijevak.
To je budućnost prema kojoj gradimo. Ne rub koji zamjenjuje oblak, nego rub i oblak koji rade zajedno, svaki obrađujući ono što najbolje radi, dajući programerima stvarne izbore umjesto ovisnosti o jednom dobavljaču.
Dweve Mesh se gradi kako bi omogućio umjetnu inteligenciju koja čuva privatnost i ima nisku latenciju te radi na rubnoj infrastrukturi bez ovisnosti o oblaku. Ako istražujete rješenja za rubnu umjetnu inteligenciju ili nailazite na ograničenja centraliziranog oblaka, rado bismo porazgovarali.