GPU zamka: europska AI kriza talaca
Račun za oblak u kasne sate
Zamislite ovo: vodite startup u Amsterdamu, Berlinu ili Barceloni. Kasno je navečer. Vaš je tim upravo objavio novu AI značajku koju korisnici stvarno vole. Sve radi. Sve raste.
A onda provjerite račun za oblak.
Troškovi infrastrukture upravo su se utrostručili. Ne zato što ste pogriješili. Ne zato što su vas hakirali. Nego zato što je vaš pružatelj usluga u oblaku odlučio da cijene GPU-a idu gore. Opet. I ne možete ništa učiniti jer imate točno jednu alternativu: platiti ili ugasiti sustav.
Dobrodošli u zamku infrastrukture na koju vas nitko nije upozorio kad ste krenuli graditi s umjetnom inteligencijom. Zamku koja europske tvrtke stoji 35 milijardi eura godišnje na AI infrastrukturu. Zamku izgrađenu posve slučajno na čipovima za igre koji nikada nisu bili namijenjeni pokretanju umjetne inteligencije na razini civilizacije.
Ovo je priča o tome kako smo dospjeli ovdje. I, što je još važnije, kako bismo konačno mogli izaći.
Slučajnost koja je postala carstvo
30. rujna 2012. U spavaćoj sobi u kući njegovih roditelja u Torontu, Alex Krizhevsky pokreće posljednju sesiju treniranja. Njegov tim, SuperVision, koji su izgradili s kolegama doktorandima Ilyom Sutskeverom i mentorom Geoffreyjem Hintonom, sprema se predati svoj rad za natjecanje ImageNet.
Učinili su nešto nekonvencionalno: trenirali su duboku neuronsku mrežu koristeći dvije NVIDIA GTX 580 grafičke kartice. Hardver za igre. Onakav kakav biste koristili za prikaz eksplozija u Call of Dutyju, da zmajevi dišu realističnu vatru, za izračun refleksija vode u fantazijskim svjetovima.
To je zapravo hak. Trebali su više računalne snage nego što su CPU-i mogli pružiti, a te grafičke kartice od 500 eura jednostavno su funkcionirale. Nitko ne misli da je ovo budućnost umjetne inteligencije. To je samo ono što je dostupno upravo sada, u ovom trenutku, za projekt studenta poslijediplomskog studija.
Njihov model, AlexNet, ne samo da pobjeđuje na natjecanju ImageNet. On briše svaki prethodni pokušaj. Pobjednici prethodnih godina postizali su stopu pogreške od 26,2%. AlexNet postiže 15,3%. To nije postupno poboljšanje. To je revolucija vidljiva iz svemira.
I baš tako, posve slučajno, GPU-i su postali temelj umjetne inteligencije. Hardver za igre postao je okosnica najvažnije tehnologije 21. stoljeća. Ono što su svi smatrali privremenim rješenjem postalo je trajna infrastruktura.
Trinaest godina kasnije, ta se slučajnost razvila u nešto što nitko nije predvidio: godišnju ovisnost od 35 milijardi eura. Stratešku ranjivost. Tehnološki monokult. Zlatni kavez koji je zarobio cijeli globalni AI ekosustav, a Europu najakutnije od svih.
Zašto su grafičke kartice slučajno funkcionirale
Budimo posve jasni o tome što se ovdje zapravo dogodilo. Grafičke kartice nikada nisu bile dizajnirane za umjetnu inteligenciju. Stvorene su da prikazuju realističnu vodu u videoigrama, da sjene izgledaju uvjerljivo, da izračunavaju svjetlosne efekte u 3D okruženjima pri 60 sličica u sekundi.
No imale su jednu arhitektonsku značajku koja se pokazala presudnom za neuronske mreže: masivnu paralelizaciju. Dok CPU može imati 8 ili 16 jezgri koje sekvencijalno izvode složene operacije, GPU ima tisuće jednostavnijih jezgri koje istovremeno izvršavaju istu instrukciju.
Neuronske mreže, ispada, uglavnom se svode na množenje matrica. Ista matematička operacija ponovljena milijune puta. Posramljujuće paralelno, kako kažu računalni znanstvenici. Vrsta problema kod kojeg posao možete podijeliti na tisuće jednostavnih procesora i dobiti dramatično ubrzanje.
Bilo je to podudaranje nastalo čistom slučajnošću. Kao kad otkrijete da je vaš kuhinjski blender izvrstan za miješanje boja. Naravno, funkcionira. Brže je od ručnog miješanja. No nitko ga nije dizajnirao za tu namjenu. Nitko ga nije optimizirao za tu upotrebu. Jednostavno ima prava svojstva.
Torontski tim trebao je trenirati veće mreže. CPU-ovi su bili nevjerojatno spori, trebali su tjednima za ono što su GPU-ovi mogli napraviti u danima. Potražili su alternative i pronašli NVIDIA-inu CUDA platformu, programski okvir koji vam omogućuje da grafičke kartice prenamijenite za opće računanje.
Nije bila optimizirana za neuronske mreže. Nije bila čak ni posebno prikladna. No bila je 10 puta brža od CPU-ova, a kad pokrećete eksperimente na sveučilišnom laboratoriju s oskudnim budžetom, to je više nego dovoljno.
Dovoljno dobro postalo je zlatni standard. Privremeno rješenje okamenilo se u trajnu infrastrukturu. Hak je postao industrija. A evo što je doista izvanredno: svi su znali da je to hak. Godine 2012. istraživači su o GPU-ovima govorili kao o zgodnoj metodi ubrzanja, privremenom rješenju dok se ne pojavi nešto bolje.
Nitko nije zamišljao da ćemo 2025. još uvijek koristiti gaming hardver za vrhunsku umjetnu inteligenciju. Nitko nije predvidio da će to postati usko grlo koje ograničava cijelu industriju. A ipak smo tu, treniramo modele s trilijunima parametara na hardveru izvorno dizajniranom za prikazivanje Minecraft blokova.
Kako je NVIDIA izgradila neprobojni jarak
NVIDIA je priliku vidjela prije svih ostalih. Dok su akademici GPU-ove tretirali kao zgodno ubrzanje svojih eksperimenata, NVIDIA je gradila carstvo sa strpljenjem i dalekovidošću vrhunskog stratega.
CUDA je evoluirala iz jednostavnog programskog okvira u sveobuhvatan ekosustav. Biblioteke za svaku zamislivu operaciju. Alati za optimizaciju. Sustavi za profiliranje. Infrastruktura za otklanjanje pogrešaka. Opsežna dokumentacija. Obrazovni programi za sveučilišne studente. Razvojni evangelizam. Sponzorstva konferencija. Istraživačke potpore.
Milijarde uložene tijekom više od desetljeća u to da CUDA ne bude samo funkcionalna, nego i nezamjenjiva. Ne samo brza, nego i nenadomjestiva.
Svaki veliki AI okvir izgradio je svoj temelj na CUDA-i. PyTorch izvorno govori CUDA-inim jezikom. TensorFlow prevodi u CUDA. JAX pretpostavlja dostupnost CUDA-e. Želite li trenirati neuronsku mrežu konkurentnim brzinama, pišete kod koji se izvršava na CUDA-i. Želite li optimizirati performanse, koristite CUDA biblioteke. Želite li implementaciju u velikom opsegu, trebate hardver kompatibilan s CUDA-om.
A CUDA radi isključivo na NVIDIA GPU-ovima. To nije slučajnost. To nije previd. To je strategija izvedena s kirurškom preciznošću tijekom petnaest godina.
Riječ je o jednom od najuspješnijih zaključavanja dobavljača u povijesti računarstva. Ne ostvarenom pravnim ograničenjima ili protutržišnim ponašanjem koje bi regulatori mogli osporiti, već neumornom i strpljivom izgradnjom ekosustava. Dok je industrija shvatila što se događa, bilo je prekasno. Cijeli AI stog bio je izgrađen na NVIDIA-inom vlasničkom temelju, odluku po odluku, biblioteku po biblioteku, optimizaciju po optimizaciju.
Danas NVIDIA drži 92 % tržišta akceleratora za AI. Ne 60 %. Ne 75 %. Devedeset dva posto. Pojedini analitičari procjenjuju tržišni udio u obuci modela na 98 %. Pročitajte te brojke ponovno. To nije konkurentno tržište. To je monopol s tehničkom paravanom.
Godišnji stisak od 35 milijardi eura
Razgovarajmo o tome što taj monopol zapravo znači u konkretnim okvirima, posebno za europske tvrtke koje pokušavaju razviti AI proizvode.
Jedan NVIDIA H100 GPU košta između 23.000 i 37.000 eura. To je za jedan čip. Za treniranje modernog velikog jezičnog modela potrebno je nekoliko tisuća takvih GPU-ova koji neprekidno rade tjednima ili mjesecima. Sami troškovi računalne snage mogu dosegnuti desetke milijuna eura. A to je samo jedan ciklus treniranja. Većina modela zahtijeva desetke iteracija prije nego što počne raditi prihvatljivo.
NVIDIA-ina najnovija Blackwell arhitektura troši do 1.200 vata po čipu. To je više energije nego što troši snažna grijalica. Omogućuje otprilike 2,5 puta brže treniranje AI-ja u usporedbi s prethodnom generacijom H100. Impresivan inženjering, zasigurno.
No ona također košta više, zahtijeva infrastrukturu za tekuće hlađenje koju većina podatkovnih centara nema, a nemate apsolutno nikakvog izbora nego je kupiti ako želite ostati konkurentni. Jer svi drugi je kupuju. Jer CUDA radi samo na njoj. Jer ekosustav ne postoji nigdje drugdje.
Cijeli sustav počiva na jednostavnoj stvarnosti: ako želite razvijati najsuvremeniji AI, trebaju vam NVIDIA GPU-ovi. A ako ste u Europi, od prvog dana ste u strukturno nepovoljnijem položaju.
Američki pružatelji oblaka poput AWS-a, Microsoft Azurea i Google Clouda svakog tromjesečja ulažu više od 37 milijardi eura u GPU infrastrukturu. Svakog. Pojedinog. Tromjesečja. Oni kontroliraju 70 % europskog tržišta oblaka. Europski pružatelji drže samo 15 % vlastitog domaćeg tržišta, što je pad s 29 % u 2017.
Tvrtke poput SAP-a i Deutsche Telekoma imaju samo 2% udjela na tržištu europskog oblaka. Europski pružatelji usluga u oblaku poput OVHclouda, Scalewaya i Hetznera služe nišnim tržištima, nesposobni dosegnuti razmjere američkih hyperscalera. Nesposobni osigurati grafičke procesore po konkurentnim cijenama. Nesposobni ponuditi jednaku izvedbu. Nesposobni konkurirati.
Nije da europskim tvrtkama nedostaje tehničkog talenta ili ambicije. Nedostaje im pristup grafičkim procesorima po konkurentnim cijenama i u potrebnom opsegu. Nisu samo zaostali u utrci. Trče na posve drugoj stazi, s strukturnim preprekama koje ni ulaganja od milijardi eura teško mogu svladati.
Europski AI startupi suočavaju se s nemogućom igrom
Razmotrite što se upravo sada događa europskim AI tvrtkama, u stvarnom vremenu, dok pokušavaju konkurirati.
Mistral AI, najperspektivniji francuski AI startup, prikupio je 468 milijuna eura financiranja. To je pravi novac. To ih čini jednom od najbolje kapitaliziranih europskih AI tvrtki. Čak i s tim ratnim fondom, morali su najaviti partnerstvo za suverenu AI infrastrukturu s NVIDIA-om na VivaTechu 2025. samo kako bi osigurali pristup grafičkim procesorima.
Pročitajte to ponovno. Gotovo pola milijarde eura financiranja, a svejedno su morali ući u partnerstvo s NVIDIA-om samo da bi došli do čipova. To nije strateški izbor. To je nužda prerušena u partnerstvo.
Aleph Alpha, njemački odgovor na OpenAI, preusmjerio se krajem 2024. s izgradnje temeljnih modela na pomaganje tvrtkama u primjeni umjetne inteligencije. Zašto? Kao što je priznao osnivač Jonas Andrulis, izgradnja velikih jezičnih modela pokazala se preteškom i preskupom u prostoru kojim dominiraju moćni tehnološki divovi s dubokim džepovima.
Prijevod: nisu mogli osigurati pristup grafičkim procesorima u opsegu potrebnom za konkurenciju. Nisu mogli pratiti infrastrukturna ulaganja američkih tvrtki. Stoga su se preusmjerili na poslovni model koji ne zahtijeva natjecanje u treniranju temeljnih modela. To nije strategija. To je predaja.
Europske AI tvrtke dobile su deset puta manje financiranja od svojih američkih kolega. No čak i kad bi financiranje bilo jednako, usko grlo s grafičkim procesorima ostalo bi. NVIDIA daje prednost svojim najvećim kupcima: američkim pružateljima usluga u oblaku i tehnološkim divovima. Europski startupi čekaju u redu za ostatke, plaćajući premijske cijene za svaku kvotu koju uspiju osigurati.
EU je odgovorila inicijativom InvestAI, mobilizirajući 200 milijardi eura za ulaganja u umjetnu inteligenciju. U veljači 2025. Brookfield Infrastructure i Data4 najavili su 19,2 milijarde eura ulaganja u AI infrastrukturu samo u Francuskoj. U prosincu 2024. EuroHPC JU odabrao je sedam konzorcija za uspostavu prvih AI tvornica u Finskoj, Njemačkoj, Grčkoj, Italiji, Luksemburgu, Španjolskoj i Švedskoj.
To su golema ulaganja. Stvarne obveze. No prve gigatvornice neće biti operativne prije 2027. I sve one, baš svaka, radit će na NVIDIA GPU čipovima. Europa troši stotine milijardi eura kako bi se oslobodila ovisnosti o američkim pružateljima oblaka, samo da bi produbila ovisnost o američkom hardveru.
Vidite problem.
Zamka ekosustava: zašto je bijeg gotovo nemoguć
Evo zašto je ta ovisnost toliko podmukla, čak i kada je svi prepoznaju kao problem koji treba riješiti.
Zamislite da ste istraživački laboratorij na Tehničkom sveučilištu u Münchenu. Pet godina koristite NVIDIA GPU čipove. Cijela vaša baza koda optimizirana je za CUDA. Vaši istraživači imaju stručnost u CUDA-i. Vaša infrastruktura pretpostavlja CUDA-u. Vaši procesi implementacije ovise o CUDA-i. Uložili ste milijune eura i nebrojene radne godine u ovaj ekosustav.
Sada vam netko nudi alternativu. Možda AMD-ovu ROCm platformu. Možda Googleove TPU čipove. Možda prilagođeni AI akcelerator iz obećavajućeg europskog startupa.
Za prelazak morate prepisati cijelu svoju bazu koda za novu platformu, proces koji traje mjesecima ili godinama. Prekvalificirati svoj tim za nove alate, okvire i tehnike optimizacije. Ponovno optimizirati sve svoje modele za različite hardverske arhitekture. Prihvatiti da 80% biblioteka umjetne inteligencije otvorenog koda neće raditi bez značajnih izmjena. Riskirati da alternativa nema dugoročnu održivost i podršku dobavljača. Nadati se da će performanse odgovarati ili nadmašiti ono što ste imali, znajući da vjerojatno neće. Moliti se da niste samo prešli iz jednog vlasničkog ekosustava u drugi, jednako zatvoren, ali s manje resursa iza sebe.
Troškovi prelaska su astronomski. Rizici su ogromni. Koristi su neizvjesne. Za većinu organizacija to je nemoguć izračun. Bolje ostati uz poznatog vraga, čak i ako je taj vrag skup, pod stranom kontrolom i strateški rizičan.
Tehnološki divovi poput Microsofta, Mete i Googlea uložili su desetke milijardi u podatkovne centre temeljene na CUDA-i. Ta infrastruktura ne predstavlja samo nepovratne troškove. Ona predstavlja temelj cijele njihove strategije umjetne inteligencije. Njihov kadar obučen je za CUDA-u. Njihov kod pretpostavlja CUDA-u. Njihovi alati za implementaciju očekuju CUDA-u. Njihova konkurentska prednost ovisi o stručnosti u CUDA-i.
To je ono što ekonomisti nazivaju visokim troškovima prelaska s učincima mreže. Jednom kada tehnologija postigne kritičnu masu, njezino istiskivanje postaje gotovo nemoguće, čak i ako postoje superiorne alternative. Čak i ako bi svima bilo bolje da pređu. Čak i ako je trenutno rješenje suboptimalno, skupo i strateški opasno.
NVIDIA nije samo izgradila izvrsan hardver. Izgradili su kavez sa zlatnim rešetkama, a cijela industrija umjetne inteligencije ušla je u njega dobrovoljno, jednu svrsishodnu odluku po jednu, ne shvaćajući da se vrata iza njih zatvaraju.
Inovacijsko grlo boce o kojem nitko ne govori
Najgora posljedica nije trošak, pa čak ni ovisnost o dobavljaču. To je ono što dominacija GPU-a čini samoj inovaciji, samom prostoru mogućnosti onoga što umjetna inteligencija može biti.
Kada jedna tehnologija postigne gotovo potpunu tržišnu dominaciju, inovacije se usmjeravaju na to da ta tehnologija bude marginalno bolja, umjesto na istraživanje temeljito drugačijih pristupa. NVIDIA izdaje nove generacije GPU-a s inkrementalnim poboljšanjima. Istraživači optimiziraju kod za NVIDIA arhitekture. Programeri okvira dodaju CUDA značajke. Svi trče brže na istoj traci za trčanje.
U međuvremenu, radikalno drugačiji pristupi umjetnoj inteligenciji ostaju bez resursa, pažnje i talenta. Zašto ulagati u neuromorfno računalstvo kada svi koriste GPU-ove? Zašto istraživati zaključivanje temeljeno na ograničenjima kada neuronske mreže rade dovoljno dobro? Zašto razvijati binarne mreže kada je pomični zarez uspostavljeni standard? Zašto težiti analognom računalstvu, fotončkom procesiranju ili bilo kojoj drugoj alternativnoj arhitekturi?
Odgovor je brutalno jednostavan: ne možete se natjecati. Ekosustav ne postoji. Alati ne postoje. Infrastruktura nije dostupna. Talent je naučio CUDA-u i ne želi početi ispočetka. Investitori financiraju pristupe temeljene na GPU-u jer su dokazano zaživjeli, jer razumiju tržište, jer su alternative previše rizične.
To je samoojačavajući ciklus koji sužava prostor mogućnosti sa svakom iteracijom. Dominacija GPU-a stvara prednosti ekosustava. Prednosti ekosustava privlače investicije. Investicije jačaju dominaciju GPU-a. Alternativni pristupi teško se uopće pokreću, a kamoli dosegnu razmjere potrebne za dokazivanje održivosti.
Više ne istražujemo puni prostor mogućih arhitektura umjetne inteligencije. Istražujemo mnogo uži prostor onoga što učinkovito radi na NVIDIA GPU-ovima. To je duboko ograničenje inovacije koje se s vremenom povećava. Svake godine kavez postaje manji, zidovi deblji, izlaz sve udaljeniji. Svake godine ulažemo više u optimizaciju pogrešne stvari.
Digitalni kolonijalizam: strateška kriza Europe
Za Europu ovo nije puka tehnička neugodnost ili nezgodna tržišna situacija. Riječ je o strateškoj krizi s geopolitičkim posljedicama koja će generacijama definirati europsku tehnološku suverenost.
Dana 10. lipnja 2025. Anton Carniaux, direktor Microsoft Francea za javne i pravne poslove, sjedio je pred francuskim Senatom na saslušanju o podatkovnoj suverenosti. Senator za senatorom pritiskao ga je naizgled jednostavnim pitanjem: može li jamčiti da podaci francuskih građana pohranjeni na Microsoftovim poslužiteljima nikada neće biti proslijeđeni američkim vlastima bez izričitog francuskog odobrenja?
Njegov je odgovor stigao jasno i bez izvlačenja: Ne, ne mogu to jamčiti.
Prema američkom Zakonu o CLOUD-u, američke tehnološke korporacije moraju udovoljiti zahtjevima američke vlade za podacima bez obzira na to gdje su ti podaci fizički pohranjeni. Ako je zahtjev pravilno sastavljen prema američkom zakonu, Microsoft je pravno obvezan proslijediti podatke. Europska podatkovna suverenost, drugim riječima, uvjetovana je američkom suzdržanošću. Ona postoji samo dok to američka politika dopušta, a ne kao pitanje europske kontrole.
To je svjedočenje potreslo europske političke krugove. No situacija s GPU-ovima strukturno je identična, samo manje vidljiva. NVIDIA podliježe američkim izvoznim kontrolama. Trgovinski spor, promjena politike, geopolitička kriza i cijela europska AI infrastruktura mogla bi biti usporena ili potpuno prekinuta. Ne hipotetski. Stvarno. Jednim potezom olovke u Washingtonu.
Europa ima briljantne AI istraživače. Svjetski poznata sveučilišta koja proizvode najsuvremenije radove. Inovativne startupe poput Mistral AI i Aleph Alpha. Velike istraživačke institucije poput IDSIA-e u Švicarskoj, Njemačkog istraživačkog centra za umjetnu inteligenciju, INRIA-e u Francuskoj. Talentirane inženjere koji grade impresivne sustave.
No svi oni grade na temeljima kojima ne upravljaju, koriste hardver kojem ne mogu pristupiti po konkurentnim cijenama, zaključani u vlasnički ekosustav u vlasništvu jedne američke korporacije, podložni američkoj izvoznoj politici, ranjivi na američke političke odluke.
To nije digitalna suverenost. To je digitalni kolonijalizam s prijateljskim licem i izvrsnom korisničkom podrškom.
Laž o učinkovitosti koju nitko ne želi suočiti
Evo neugodne istine koja se prešućuje u većini rasprava o AI infrastrukturi: GPU-ovi zapravo nisu učinkoviti za AI. Oni su samo najmanje neučinkovita opcija na koju smo pristali jer su bili dostupni 2012. godine.
Da, GPU-ovi su brži od CPU-ova za množenje matrica. No brzinu postižu grubom silom, a ne elegancijom ili optimizacijom. Troše ogromnu količinu energije. Zahtijevaju složene sustave tekućeg hlađenja. Zahtijevaju specijaliziranu infrastrukturu podatkovnih centara. I postaju sve gori, a ne bolji.
Moderni NVIDIA Blackwell B200 troši 1.200 vata. To je više energije nego većina kućanskih grijača. Podatkovni centri diljem Europe redizajniraju se ne zbog računalne učinkovitosti, već samo kako bi podnijeli toplinsko opterećenje. Kabinet GB200 NVL72 troši 120 kilovata. Jedan stalak. AI tvornice gigavatne razine zahtijevaju energetsku infrastrukturu ekvivalentnu malim gradovima.
Predviđa se da će potražnja za energijom podatkovnih centara u Europi dosegnuti 168 TWh do 2030. i 236 TWh do 2035., što je utrostručenje u odnosu na razine iz 2024. U Nizozemskoj podatkovni centri već troše 7% nacionalne električne energije. U Frankfurtu, Londonu i Amsterdamu troše između 33% i 42% ukupne električne energije. Pročitajte to ponovno. Između trećine i gotovo polovice sve električne energije u velikim europskim gradovima odlazi na podatkovne centre.
U Irskoj podatkovni centri čine više od 20% ukupne nacionalne potrošnje električne energije. Petina energije cijele zemlje odlazi na održavanje čipova dovoljno hladnima da funkcioniraju. I taj postotak raste svake godine kako sve više AI infrastrukture dolazi online.
I evo dijela koji bi svakoga trebao natjerati na razmišljanje: većina tog računanja u osnovi je uzaludna. GPU-ovi izvode operacije s pomičnim zarezom pri ekstremnoj preciznosti kada je konačna odluka binarna. Izvršavaju ogromna množenja matrica kada bi jednostavnije operacije bile dovoljne. Troše energiju ne zato što je to nužno za inteligenciju, nego zato što tako funkcionira GPU hardver. Zato što je to jedini način na koji to znamo raditi u velikim razmjerima s alatima u koje smo uložili.
Optimizirali smo za posve pogrešnu metriku. Ne za ono što je najbolji način za rad umjetne inteligencije, nego za ono što je najbrži način da se to radi na GPU-u. To je kao da dizajniramo zrakoplove tako da ptice brže mašu krilima umjesto da razumijemo temeljna načela aerodinamičkog uzgona. Funkcionira, otprilike, ali potpuno promašujete poantu.
Binarni proboj: izlazak iz paradigme
Koji je dakle stvarni izlaz iz ove zlatne kletve? U Dweveu smo postavili bitno drugačije pitanje: što ako nam GPU-ovi uopće ne trebaju? Što ako je cijeli pristup s pomičnim zarezom od samog početka bio pogrešan put?
Neuronske mreže zahtijevaju GPU-ove jer koriste aritmetiku s pomičnim zarezom. Operacije s pomičnim zarezom zahtijevaju specijalizirani hardver za prihvatljive performanse. Taj arhitektonski zahtjev stvara ovisnost o GPU-ovima. Zato smo zarobljeni. To je lanac koji moramo prekinuti.
No binarne neuronske mreže u potpunosti uklanjaju aritmetiku s pomičnim zarezom. One rade pomoću jednostavnih logičkih operacija: AND, OR, XOR, XNOR. Vrsta operacija koje svaki moderni CPU može učinkovito izvršiti koristeći izvorne instrukcijske skupove koji postoje desetljećima. Bez specijaliziranog hardvera. Bez ovisnosti o GPU-ovima. Bez CUDA zaključavanja. Bez dobavljačkog monopola.
Dweve Core implementira ovaj pristup s 1.930 hardverski optimiziranih algoritama koji rade izravno u diskretnom prostoru odlučivanja. Binarno računanje, ternarno računanje, računanje s niskim brojem bitova. Okvir radi učinkovito na standardnim CPU-ovima, postižući rezultate koji bi trebali biti nemogući:
Standardni Intel Xeon poslužitelji pokreću velike modele pri konkurentnim brzinama. Potrošnja energije mjerena u desecima vata, ne stotinama ili tisućama. Memorijski zahtjevi smanjeni za red veličine. Brzine zaključivanja koje za mnoge radne zadatke odgovaraju ili nadmašuju GPU implementacije. I sve to radi na hardveru koji već postoji u svakom podatkovnom centru, kod svakog pružatelja oblaka, na svakom rubnom uređaju.
Matematika je jednostavna. FP32 modeli trebaju 4 bajta po parametru. Binarni modeli trebaju 1 bit po parametru. To je 32x smanjenje memorije samo od kvantizacije. Dodajte rijetke obrasce aktivacije i dobivate modele koji stanu u sistemsku RAM memoriju umjesto da zahtijevaju skupu memoriju visoke propusnosti.
Binarne operacije izvršavaju se pomoću XNOR i POPCNT instrukcija. To su izvorne CPU instrukcije, dio x86-64 i ARM instrukcijskih skupova, optimizirane na razini silicija. Brze su. Učinkovite su. Bile su tu cijelo vrijeme. Samo smo trebali shvatiti kako ih pravilno koristiti.
Što binarne mreže zapravo mijenjaju
Ovo nije neznatno poboljšanje postojeće paradigme. Ovo je drugačija paradigma. Implikacije sežu daleko izvan pukih boljih pokazatelja performansi.
Dweve Loom pokazuje što postaje moguće: 456 domenskih specijalističkih sustava koji rade kao Mixture of Specialists. Svaki domenski specijalist binarna je mreža optimizirana za svoju domenu. Matematika. Znanost. Kod. Jezik. Zajedno postižu dubinu i sposobnost mnogo većih modela, a pritom koriste tek djelić resursa.
Usmjeravanje između domenskih specijalista? Binarne operacije. Aktivacija domenskog specijalista? Binarne odluke. Konačna fuzija izlaza? Binarna logika. Sve je binarno do temelja, i to funkcionira jer se inteligencija u konačnici očituje kroz diskretne odluke, a ne kroz kontinuirane vjerojatnosti izračunate do rasipničke preciznosti.
Sve se to izvodi na standardnom poslužitelju. Ne na GPU klasteru. Ne na specijaliziranim akceleratorima. Na poslužitelju koji možete kupiti od bilo kojeg proizvođača hardvera, instalirati u bilo koji podatkovni centar i implementirati u bilo kojoj zemlji. Potrošnja energije mjeri se u stotinama vata za cijeli sustav, ne po čipu. Zahtjevi za hlađenje zadovoljavaju se standardnim zračnim hlađenjem, a ne tekućinskim sustavima čija instalacija košta milijune.
Oslobađanje: Europski put naprijed
GPU era trajala je mnogo dulje nego što je trebala. Ono što je 2012. započelo kao prigodan hak u studentskoj sobi jednog doktoranda preraslo je u ovisnost cijele industrije. Ono što je trebalo biti privremeno rješenje postalo je trajna infrastruktura. Ono što je trebalo biti zamijenjeno prije godinama umjesto toga se okamenilo u monopol.
Ali pukotine su vidljive. Troškovi postaju neodrživi za sve osim za najveće tehnološke divove. Strateški rizici ne mogu se ignorirati ni za jednu vladu koja prati situaciju. Inovacijska uspomena guši alternativne pristupe koji bi mogli biti bolji. Utjecaj na okoliš postaje neodrživ dok gradimo elektrane snage u gigavatima samo da bismo hladili čipove. Geopolitičke ranjivosti preozbiljne su da bi ih Europa prihvatila na neodređeno vrijeme.
Binarne neuronske mreže nisu samo optimizacija postojećih pristupa. One predstavljaju temeljito promišljanje o tome kako bi AI trebao funkcionirati. One utjelovljuju razliku između zarobljenosti u NVIDIA-inom ekosustavu i postizanja istinske tehnološke slobode. Između plaćanja GPU poreza zauvijek i potpunog oslobađanja.
Europa ne treba pobijediti u GPU utrci. Europa je treba učiniti zastarjelom. Graditi AI sustave koji rade na standardnom hardveru koji već imamo. Stvarati tehnologije koje ne ovise o američkim akceleratorima podložnima američkim izvoznim kontrolama. Razvijati sposobnosti koje se ne mogu ograničiti odlukama vanjske politike niti ugroziti stranim zakonima o pristupu podacima.
U Dweveu je cijela naša platforma izgrađena na tom temelju. Core pruža okvir za binarne algoritme. Loom implementira model domenske specijalističke inteligencije. Nexus orkestrira multiagentske sustave. Aura upravlja autonomnim agentima. Spindle brine o upravljanju znanjem. Mesh stvara decentraliziranu infrastrukturu.
Sve to učinkovito radi na standardnoj europskoj infrastrukturi. Na CPU-ovima u podatkovnim centrima tvrtki Interxion, Equinix i OVHcloud. Na rubnim uređajima diljem kontinenta. Na hardveru koji kontroliramo, koristeći matematiku koja se ne može monopolizirati, stvarajući vrijednost koja ostaje u Europi.
Bez ovisnosti o GPU-u. Bez strateške ranjivosti. Bez zlatnog kaveza.
Izbor pred nama
AI industrija stoji na raskrižju. Jedan put nastavlja GPU putanjom, prihvaćajući sve veće troškove, smanjenu suverenost, suženi prostor za inovacije, rastući utjecaj na okoliš i dublju stratešku ranjivost. Drugi put potpuno se oslobađa, koristeći diskretnu matematiku koja ne zahtijeva specijalizirane akceleratore, koja radi na hardveru koji već imamo, koja nam vraća kontrolu.
Zlatni kavez iznutra izgleda udobno. NVIDIA stvara doista izvrsne proizvode. CUDA je impresivno optimizirana. Ekosustav je zreo i sveobuhvatan. Performanse su stvarne. Inercija je moćna. Nepovratni troškovi stvaraju psihološku predanost. Promjena je teška, rizična i neizvjesna.
Ali to je i dalje kavez. I vrata se zatvaraju.
Svakog tromjesečja ovisnost o GPU-u se produbljuje. Svako uloženo euro u CUDA infrastrukturu podiže trošak prelaska. Svaka nova generacija akceleratora jača zarobljenost. Svaki istraživač obučen isključivo na CUDA-i sužava bazen talenata. Svake godine kavez postaje manji, a izlaz sve udaljeniji. Svake godine imamo sve manje prostora za manevriranje, sve manje opcija, sve veće rizike.
Binarne neuronske mreže i diskretno računanje nude put za bijeg. Ali samo ako ga iskoristimo prije nego kavez postane neizbježan. Samo ako djelujemo dok su alternative još moguće. Samo ako smo spremni dovesti u pitanje pretpostavku da su GPU-ovi neizbježni, da je pomični zarez nužan, da je monopol prihvatljiv.
Sretan proboj iz 2012. poslužio je svojoj svrsi. Pokazao je da duboko učenje funkcionira u velikim razmjerima. Dokazao je potencijal AI-ja izvan svega što je itko zamislio. Pokrenuo je industriju koja transformira civilizaciju. Alex Krizhevsky, Ilya Sutskever i Geoffrey Hinton zaslužuju ogromnu zaslugu za svoj proboj. Promijenili su svijet.
Ali sretni proboji nisu zamišljeni da budu temelji. Brzinski hakovi nisu zamišljeni da budu infrastruktura. Privremena rješenja nisu zamišljena da postanu trajne ovisnosti. Gaming hardver nije zamišljen da pokreće AI na razini civilizacije. Američki monopoli nisu zamišljeni da zauvijek kontroliraju europsku tehnološku suverenost.
Vrijeme je da izgradimo nešto bolje. Nešto što nas ne zarobljava u zlatnim kavezima. Nešto što doista zaslužuje biti temelj umjetne inteligencije. Nešto što radi na standardnom hardveru, poštuje energetska ograničenja, omogućuje pravu inovaciju, čuva stratešku autonomiju i vraća nam kontrolu nad našom tehnološkom budućnošću.
Era GPU-a završava, priznajemo li to ili ne. Fizika i ekonomija to jamče. Pitanje je samo hoćemo li to vidjeti na vrijeme i izgraditi alternativu ili ćemo se jednog dana probuditi i otkriti da ne možemo pobjeći te shvatiti, prekasno, da smo trebali djelovati dok smo još imali priliku.