Evropska past z grafičnimi procesorji: AI talec krize
Pozni nočni račun za oblak
Predstavljajte si: vodite startup v Amsterdamu, Berlinu ali Barceloni. Pozno je ponoči. Vaša ekipa je pravkar uvedla novo funkcijo umetne inteligence, ki jo stranke resnično obožujejo. Vse deluje. Vse raste.
Nato preverite svoj račun za oblak.
Vaši stroški infrastrukture so se pravkar potrojili. Ne zato, ker ste naredili napako. Ne zato, ker so vas vdrli. Ampak zato, ker se je vaš ponudnik oblaka odločil, da se cene grafičnih procesorjev zvišajo. Spet. In glede tega ne morete storiti ničesar, ker imate natanko eno možnost: plačajte ali zaprite.
Dobrodošli v infrastrukturno past, na katero vas ni nihče opozoril, ko ste začeli graditi z umetno inteligenco. Past, ki evropska podjetja stane 35 milijard evrov letno za infrastrukturo umetne inteligence. Past, zgrajena povsem po naključju na igralnih čipih, ki nikoli niso bili namenjeni poganjanju umetne inteligence v obsegu civilizacije.
To je zgodba o tem, kako smo prišli sem. In kar je še pomembneje, kako bi lahko končno našli izhod.
Nesreča, ki je postala imperij
30. september 2012. V spalnici v hiši svojih staršev v Torontu Alex Krizhevsky izvaja zadnjo vadbo. Njegova ekipa SuperVision, ki jo je zgradil s kolegoma doktorskima študentoma Iljo Sutskeverjem in svetovalcem Geoffreyjem Hintonom, se pripravlja na oddajo svojega prispevka za tekmovanje ImageNet.
Naredili so nekaj nekonvencionalnega: urili so globoko nevronsko mrežo z dvema grafičnima karticama NVIDIA GTX 580. Igralna strojna oprema. Takšna, kot bi jo uporabili za upodabljanje eksplozij v Call of Duty, da zmaji dihajo realističen ogenj, za izračun vodnih odsevov v domišljijskih svetovih.
To je pravzaprav hekerski trik. Potrebovali so več računske moči, kot so jo lahko zagotovili procesorji, in ti igralni grafični procesorji za 500 evrov so pač delovali. Nihče ne misli, da je to prihodnost umetne inteligence. To je samo tisto, kar je na voljo zdaj, v tem trenutku, za projekt podiplomskega študenta.
Njihov model AlexNet tekmovanja ImageNet ne le dobi. Uniči vsak prejšnji poskus. Zmagovalci prejšnjih let so dosegli 26,2-odstotno stopnjo napak. AlexNet doseže 15,3 odstotka. To ni postopno izboljšanje. To je revolucija, ki jo je videti iz vesolja.
In kar tako, povsem po naključju, so grafični procesorji postali temelj umetne inteligence. Igralna strojna oprema je postala hrbtenica najpomembnejše tehnologije 21. stoletja. Kar so vsi imeli za začasno rešitev, je postalo trajna infrastruktura.
Trinajst let pozneje se je ta nesreča razrasla v nekaj, česar nihče ni pričakoval: letno odvisnost v višini 35 milijard evrov. Strateško ranljivost. Tehnološko monokulturo. Zlato kletko, ki je ujela ves svetovni ekosistem umetne inteligence, najbolj akutno pa Evropo.
Zakaj so igralni čipi delovali po naključju
Bodimo povsem jasni glede tega, kaj se je tukaj dejansko zgodilo. Grafični procesorji niso bili nikoli zasnovani za umetno inteligenco. Zasnovani so bili za upodabljanje realistične vode v videoigrah, za verodostojne sence in za izračun svetlobnih učinkov v 3D okoljih pri 60 sličicah na sekundo.
Vendar so imeli eno arhitekturno značilnost, ki se je za nevronske mreže izkazala za srečno: ogromno vzporednost. Medtem ko ima procesor morda 8 ali 16 jeder, ki zaporedno izvajajo zapletene operacije, ima grafični procesor na tisoče preprostejših jeder, ki hkrati izvajajo isti ukaz.
Izkazalo se je, da nevronske mreže večinoma temeljijo na množenju matrik. Ista matematična operacija, ponovljena milijonkrat. Kot pravijo računalničarji, sramotno vzporedno. Gre za vrsto problema, pri katerem lahko delo porazdelite med na tisoče preprostih procesorjev in dosežete izjemen pospešek.
Šlo je za popolnoma naključno ujemanje. Kot bi odkrili, da je vaš kuhinjski mešalnik odličen mešalnik barv. Seveda deluje. Je hitrejši od ročnega mešanja. A nihče ga ni zasnoval za ta namen. Nihče ga ni optimiziral za to uporabo. Preprosto ima prave lastnosti.
Torontska ekipa je morala uriti večje mreže. Procesorji so bili ledeno počasni, za tisto, kar so grafični procesorji opravili v dneh, so potrebovali tedne. Iskali so alternative in odkrili NVIDIA platformo CUDA, programsko ogrodje, ki omogoča preusmeritev grafičnih kartic za splošne izračune.
Ni bila optimizirana za nevronske mreže. Ni bila niti posebej primerna. A bila je 10-krat hitrejša od procesorjev, in ko izvajate poskuse v univerzitetnem laboratoriju z zelo omejenim proračunom, je to več kot dovolj.
»Dovolj dobro« je postalo zlati standard. Začasna rešitev se je strdila v trajno infrastrukturo. Začasni popravek je postal industrija. In tu je resnično izjemni del: vsi so vedeli, da gre za začasni popravek. Leta 2012 so raziskovalci o grafičnih procesorjih govorili kot o priročni metodi pospeševanja, kot o začasni rešitvi, dokler ne pride nekaj boljšega.
Nihče si ni predstavljal, da bomo leta 2025 še vedno uporabljali igralniško strojno opremo za najsodobnejšo umetno inteligenco. Nihče ni napovedal, da bo to postalo ozko grlo, ki omejuje celotno industrijo. Pa vendar smo tukaj, urimo modele s trilijoni parametrov na strojni opremi, prvotno zasnovani za upodabljanje kock v Minecraftu.
Kako je NVIDIA zgradila neprebojni jarek
NVIDIA je priložnost prepoznal pred vsemi drugimi. Medtem ko so akademiki na grafične procesorje gledali kot na priročno pospešitev svojih eksperimentov, je NVIDIA z potrpežljivostjo in predvidevanjem mojstrskega stratega gradila imperij.
CUDA se je iz preprostega programskega ogrodja razvila v celovit ekosistem. Knjižnice za vsako zamislivo operacijo. Orodja za optimizacijo. Sistemi za profiliranje. Infrastruktura za razhroščevanje. Obsežna dokumentacija. Izobraževalni programi za študente. Razvijalska promocija. Sponzorstva konferenc. Raziskovalne štipendije.
V več kot desetletju so v to, da CUDA ne bi bila le uporabna, temveč nepogrešljiva, vložili milijarde. Ne le hitra, temveč nenadomestljiva.
Vsako večje ogrodje za umetno inteligenco je svoje temelje zgradilo na CUDA. PyTorch govori CUDA kot materni jezik. TensorFlow prevaja v CUDA. JAX predpostavlja razpoložljivost CUDA. Če želite usposabljati nevronsko mrežo s konkurenčnimi hitrostmi, napišete kodo, ki teče na CUDA. Če želite optimizirati zmogljivost, uporabite knjižnice CUDA. Če želite uvajati rešitve v velikem obsegu, potrebujete strojno opremo, združljivo s CUDA.
In CUDA deluje le na grafičnih procesorjih NVIDIA. To ni naključje. To ni spregled. To je strategija, izvedena s kirurško natančnostjo skozi petnajst let.
To je ena najuspešnejših vezav na prodajalca v zgodovini računalništva. Ni bila dosežena s pravnimi omejitvami ali protikonkurenčnim ravnanjem, ki bi ga regulatorji lahko izpodbijali, temveč z neomajno in potrpežljivo gradnjo ekosistema. Ko je industrija spoznala, kaj se dogaja, je bilo že zdavnaj prepozno. Celoten sklad umetne inteligence je bil zgrajen na NVIDIA-inem lastniškem temelju, odločitev za odločitvijo, knjižnico za knjižnico, optimizacijo za optimizacijo.
Danes NVIDIA obvladuje 92 % trga pospeševalnikov umetne inteligence. Ne 60 %. Ne 75 %. Dvaindevetdeset odstotkov. Nekateri analitiki tržni delež pri usposabljanju ocenjujejo na 98 %. Te številke preberite še enkrat. To ni konkurenčen trg. To je monopol s tehnično figovo listino.
Letni primež v višini 35 milijard evrov
Pogovorimo se o tem, kaj ta monopol dejansko pomeni v konkretnih številkah, zlasti za evropska podjetja, ki poskušajo razvijati izdelke z umetno inteligenco.
En sam grafični procesor NVIDIA H100 stane med 23.000 in 37.000 evrov. To je za en čip. Usposabljanje sodobnega velikega jezikovnega modela zahteva na tisoče teh grafičnih procesorjev, ki neprekinjeno delujejo tedne ali mesece. Sami stroški računske moči lahko dosežejo več deset milijonov evrov. In to je le en cikel usposabljanja. Večina modelov zahteva na desetine ponovitev, preden delujejo sprejemljivo.
Najnovejša arhitektura Blackwell podjetja NVIDIA porabi do 1.200 vatov na čip. To je več energije, kot je porabi zmogljiv prenosni grelec. Zagotavlja približno 2,5-krat hitrejše usposabljanje umetne inteligence v primerjavi s prejšnjo generacijo H100. Impresivno inženirstvo, nedvomno.
Toda stane tudi več, zahteva infrastrukturo za tekočinsko hlajenje, ki je večina podatkovnih centrov nima, in nimate popolnoma nobene izbire, kot da jo kupite, če želite ostati konkurenčni. Ker jo kupujejo vsi drugi. Ker CUDA deluje samo na njej. Ker ekosistem ne obstaja nikjer drugje.
Celoten sistem temelji na preprostem dejstvu: če želite razvijati najsodobnejšo umetno inteligenco, potrebujete grafične procesorje NVIDIA. In če imate sedež v Evropi, ste v strukturno slabšem položaju že od prvega dne.
Ameriški ponudniki oblačnih storitev, kot so AWS, Microsoft Azure in Google Cloud, vsako četrtletje vložijo več kot 37 milijard evrov v infrastrukturo z grafičnimi procesorji. Vsako. Posamezno. Četrtletje. Nadzorujejo 70 % evropskega trga oblačnih storitev. Evropski ponudniki imajo le 15 % svojega domačega trga, kar je manj od 29 % leta 2017.
Podjetja, kot sta SAP in Deutsche Telekom, imajo vsako le približno 2-odstotni tržni delež v evropskem oblaku. Evropski ponudniki oblačnih storitev, kot so OVHcloud, Scaleway in Hetzner, delujejo na nišnih trgih in ne morejo doseči obsega ameriških hipervelikanov. Ne morejo si zagotoviti grafičnih procesorjev po konkurenčnih cenah. Ne morejo ponuditi enake zmogljivosti. Ne morejo konkurirati.
Ni res, da evropskim podjetjem primanjkuje tehničnega znanja ali ambicij. Manjka jim dostop do grafičnih procesorjev po konkurenčnih cenah in v zadostnem obsegu. Niso le zadaj v tekmi. Tekmujejo na povsem drugi progi, s strukturnimi ovirami, ki jih tudi milijarde vlaganj težko premagajo.
Evropski zagonski projekti na področju umetne inteligence se soočajo z neizgraljivo igro
Poglejmo, kaj se trenutno dogaja evropskim podjetjem na področju umetne inteligence, v realnem času, ko poskušajo konkurirati.
Mistral AI, najobetavnejši francoski zagonski projekt na področju umetne inteligence, je zbral 468 milijonov evrov financiranja. To je pravi denar. To jih uvršča med najbolje kapitalizirana evropska podjetja na področju umetne inteligence. Kljub temu denarnemu zalogaju so morali na VivaTech 2025 napovedati partnerstvo za suvereno infrastrukturo umetne inteligence z NVIDIO, samo da bi si zagotovili dostop do grafičnih procesorjev.
Preberite to še enkrat. Skoraj pol milijarde evrov financiranja, pa so se vseeno morali povezati z NVIDIO, samo da bi dobili čipe. To ni strateška odločitev. To je nuja, preoblečena v partnerstvo.
Aleph Alpha, nemški odgovor na OpenAI, se je konec leta 2024 preusmeril od razvoja temeljnih modelov k pomoči podjetjem pri uvajanju umetne inteligence. Zakaj? Kot je priznal ustanovitelj Jonas Andrulis, se je razvoj velikih jezikovnih modelov izkazal za pretežak in predrag v prostoru, kjer prevladujejo velikani s tehnologije z globokimi žepi.
Prevodu: niso mogli zagotoviti dostopa do grafičnih procesorjev v obsegu, potrebnem za konkurenco. Niso mogli slediti naložbam v infrastrukturo ameriških podjetij. Zato so se preusmerili na poslovni model, ki ne zahteva tekmovanja na področju usposabljanja temeljnih modelov. To ni strategija. To je predaja.
Evropska podjetja na področju umetne inteligence so prejela desetkrat manj financiranja kot njihovi ameriški kolegi. A tudi če bi bilo financiranje enako, bi ozko grlo grafičnih procesorjev ostalo. NVIDIA daje prednost svojim največjim strankam: ameriškim ponudnikom oblačnih storitev in tehnološkim velikanom. Evropski zagonski projekti čakajo na drobtine in plačujejo visoke cene za vsako dodeljeno kvoto, ki jo lahko dobijo.
EU se je odzvala s pobudo InvestAI, ki mobilizira 200 milijard evrov za naložbe v umetno inteligenco. Februarja 2025 sta Brookfield Infrastructure in Data4 napovedala 19,2 milijarde evrov naložb v infrastrukturo za umetno inteligenco samo v Franciji. Decembra 2024 je EuroHPC JU izbral sedem konzorcijev za ustanovitev prvih tovarn umetne inteligence na Finskem, v Nemčiji, Grčiji, Italiji, Luksemburgu, Španiji in na Švedskem.
To so ogromne naložbe. Resnične zaveze. Toda prve gigatovarne ne bodo delovale pred letom 2027. In vse, prav vsaka, bo delovala na NVIDIA GPU-jih. Evropa porabi več sto milijard evrov, da bi se rešila odvisnosti od ameriških ponudnikov oblaka, pa le poglablja odvisnost od ameriške strojne opreme.
Težavo vidite sami.
Past ekosistema: zakaj je pobeg skoraj nemogoč
Zato je ta zaklenjenost tako zahrbtna, tudi ko jo vsi prepoznajo kot težavo, ki jo je treba rešiti.
Predstavljajte si, da ste raziskovalni laboratorij na Tehnični univerzi v Münchnu. Pet let uporabljate NVIDIA GPU-je. Celotna vaša zbirka kode je optimizirana za CUDA. Vaši raziskovalci imajo strokovno znanje o CUDA. Vaša infrastruktura predpostavlja CUDA. Vaši uvajalni cevovodi so odvisni od CUDA. V ta ekosistem ste vložili milijone evrov in nešteto delovnih let.
Zdaj vam nekdo ponudi alternativo. Morda platformo ROCm podjetja AMD. Morda Googlove TPU-je. Morda po meri izdelan pospeševalnik za umetno inteligenco obetavnega evropskega zagonskega podjetja.
Za prehod morate celotno zbirko kode napisati znova za novo platformo, kar traja mesece ali leta. Na novo usposobiti ekipo za nova orodja, ogrodja in tehnike optimizacije. Znova optimizirati vse modele za različne strojne arhitekture. Sprejeti, da 80 % knjižnic umetne inteligence z odprto kodo ne bo delovalo brez večjih sprememb. Tvegati, da alternativa nima dolgoročne vzdržnosti in podpore prodajalca. Upati, da bo zmogljivost enaka ali boljša od prejšnje, čeprav veste, da verjetno ne bo. Moliti, da se niste le preselili iz enega lastniškega ekosistema v drugega, prav tako zaprtega, a z manj sredstvi za njim.
Stroški prehoda so astronomski. Tveganja so ogromna. Koristi so negotove. Za večino organizacij je to nemogoč izračun. Bolje se je držati znanega zla, tudi če je to zlo drago, v tuji lasti in strateško tvegano.
Tehnološki velikani, kot so Microsoft, Meta in Google, so v podatkovne centre, ki temeljijo na CUDA, vložili več deset milijard. Ta infrastruktura ne pomeni le potopljenih stroškov. Pomeni temelj njihove celotne strategije umetne inteligence. Njihovi strokovnjaki so usposobljeni za CUDA. Njihova koda predpostavlja CUDA. Njihova orodja za uvajanje pričakujejo CUDA. Njihova konkurenčna prednost je odvisna od znanja CUDA.
To ekonomisti imenujejo visoki stroški prehoda z učinki omrežja. Ko tehnologija doseže kritično maso, jo je skoraj nemogoče izpodriniti, tudi če obstajajo boljše alternative. Tudi če bi bilo vsem bolje, če bi prešli. Tudi če je trenutna rešitev neoptimalna, draga in strateško nevarna.
NVIDIA ni zgradila le odlične strojne opreme. Zgradila je kletko z zlatimi palicami in celotna industrija umetne inteligence je vanjo vstopila prostovoljno, po eni priložnostni odločitvi naenkrat, ne da bi se zavedala, da se vrata za njo zapirajo.
Inovacijsko ozko grlo, o katerem nihče ne govori
Najhujša posledica niso stroški ali celo vezanost na prodajalca. Gre za to, kaj prevlada grafičnih procesorjev naredi inovacijam samim, samemu prostoru možnosti tega, kaj umetna inteligenca lahko je.
Ko ena tehnologija doseže skoraj popolno prevlado na trgu, se inovacije usmerijo v to, da to tehnologijo naredijo nekoliko boljšo, namesto da bi raziskovale bistveno drugačne pristope. NVIDIA izdaja nove generacije grafičnih procesorjev z inkrementalnimi izboljšavami. Raziskovalci optimizirajo kodo za arhitekture NVIDIA. Razvijalci ogrodij dodajajo funkcije CUDA. Vsi tečejo hitreje na istem tekočem traku.
Medtem so radikalno drugačni pristopi k umetni inteligenci prikrajšani za sredstva, pozornost in strokovnjake. Zakaj vlagati v nevromorfno računalništvo, ko vsi uporabljajo grafične procesorje? Zakaj raziskovati sklepanje na podlagi omejitev, ko nevronske mreže delujejo dovolj dobro? Zakaj razvijati binarne mreže, ko je plavajoča vejica uveljavljen standard? Zakaj se ukvarjati z analognim računalništvom, fotonsko obdelavo ali katero koli drugo alternativno arhitekturo?
Odgovor je brutalno preprost: ne morete konkurirati. Ekosistem ne obstaja. Orodij ni. Infrastruktura ni na voljo. Strokovnjaki so se naučili CUDA in nočejo začeti znova. Vlagatelji financirajo pristope, ki temeljijo na grafičnih procesorjih, ker imajo dokazano oprijem, ker razumejo trg, ker so alternative preveč tvegane.
To je samookrepljujoč cikel, ki z vsako ponovitvijo oži prostor možnosti. Prevlada grafičnih procesorjev ustvarja prednosti ekosistema. Prednosti ekosistema privabljajo naložbe. Naložbe krepijo prevlado grafičnih procesorjev. Alternativni pristopi se komajda sploh začnejo, kaj šele da bi dosegli obseg, potreben za dokazovanje uporabnosti.
Ne raziskujemo več celotnega prostora možnih arhitektur umetne inteligence. Raziskujemo precej ožji prostor tistega, kar učinkovito deluje na grafičnih procesorjih NVIDIA. To je globoka omejitev inovacij, ki se sčasoma kopiči. Vsako leto je kletka manjša, stene debelejše, izhod bolj oddaljen. Vsako leto več vlagamo v optimizacijo napačne stvari.
Digitalni kolonializem: strateška kriza Evrope
Za Evropo to ni zgolj tehnična nevšečnost ali neugodna tržna situacija. Gre za strateško krizo z geopolitičnimi posledicami, ki bodo za generacije opredelile evropsko tehnološko suverenost.
10. junija 2025 je Anton Carniaux, direktor področja javnih in pravnih zadev pri Microsoft France, sedel pred francoskim senatom na preiskovalni obravnavi o podatkovni suverenosti. Senator za senatorjem so ga zasliševali o na videz preprostem vprašanju: ali lahko jamči, da podatki francoskih državljanov, shranjeni na Microsoftovih strežnikih, ne bodo nikoli posredovani ameriškim oblastem brez izrecnega francoskega dovoljenja?
Njegov odgovor, podan jasno in brez izmikanja: Ne, tega ne morem jamčiti.
V skladu z ameriškim zakonom CLOUD Act morajo ameriška tehnološka podjetja ugoditi zahtevam ameriške vlade za dostop do podatkov, ne glede na to, kje so ti podatki fizično shranjeni. Če je zahteva pravilno utemeljena po ameriški zakonodaji, je Microsoft pravno zavezan podatke posredovati. Evropska podatkovna suverenost je torej pogojena z ameriško vzdržnostjo. Obstaja po milosti ameriške politike, ne kot stvar evropskega nadzora.
To pričanje je pretreslo evropske politične kroge. Toda položaj z grafičnimi procesorji je strukturno enak, le manj viden. NVIDIA je podvržena ameriškim izvoznim omejitvam. Trgovinski spor, sprememba politike, geopolitična kriza in celotna evropska infrastruktura za umetno inteligenco bi lahko bila omejena ali povsem odrezana. Ne hipotetično. Dejansko. Z enim podpisom v Washingtonu.
Evropa ima sijajne raziskovalce umetne inteligence. Vrhunske univerze, ki ustvarjajo prelomne znanstvene prispevke. Inovativna zagonska podjetja, kot sta Mistral AI in Aleph Alpha. Pomembne raziskovalne ustanove, kot so IDSIA v Švici, Nemški raziskovalni center za umetno inteligenco in INRIA v Franciji. Nadarjeni inženirji, ki gradijo impresivne sisteme.
Toda vsi gradijo na temelju, ki ga ne obvladujejo, z uporabo strojne opreme, do katere ne morejo dostopati po konkurenčnih cenah, zaklenjeni v lastniški ekosistem enega samega ameriškega podjetja, podvrženi ameriški izvozni politiki in ranljivi za ameriške politične odločitve.
To ni digitalna suverenost. To je digitalni kolonializem s prijaznim obrazom in odlično podporo strankam.
Laž o učinkovitosti, ki je nihče noče soočiti
Tu je neprijetna resnica, ki jo večina razprav o infrastrukturi za umetno inteligenco spregleda: grafični procesorji pravzaprav niso učinkoviti za umetno inteligenco. So le najmanj neučinkovita možnost, na katero smo pristali, ker so bili na voljo leta 2012.
Da, grafični procesorji so pri matričnem množenju hitrejši od centralnih procesorjev. Toda hitrost dosegajo z grobo silo, ne z eleganco ali optimizacijo. Porabijo ogromno energije. Zahtevajo zapletene sisteme tekočinskega hlajenja. Potrebujejo specializirano infrastrukturo podatkovnih centrov. In postajajo slabši, ne boljši.
Sodobni NVIDIA Blackwell B200 porabi 1.200 vatov. To je več energije, kot je porabi večina gospodinjskih grelnikov prostorov. Podatkovni centri po vsej Evropi se preoblikujejo ne zaradi računske učinkovitosti, ampak zgolj za obvladovanje toplotne obremenitve. Omara GB200 NVL72 porabi 120 kilovatov. Ena sama omara. Tovarne umetne inteligence v merilu gigavatov zahtevajo energetsko infrastrukturo, enakovredno manjšim mestom.
Povpraševanje po energiji podatkovnih centrov v Evropi naj bi do leta 2030 doseglo 168 TWh in do leta 2035 236 TWh, kar je trikrat več kot leta 2024. Na Nizozemskem podatkovni centri že porabijo 7 % nacionalne električne energije. V Frankfurtu, Londonu in Amsterdamu porabijo med 33 % in 42 % vse električne energije. Preberite to še enkrat. Med tretjino in skoraj polovico vse električne energije v večjih evropskih mestih gre za podatkovne centre.
Na Irskem podatkovni centri predstavljajo več kot 20 % celotne nacionalne porabe električne energije. Petina energije cele države gre za to, da čipi ostanejo dovolj hladni za delovanje. In ta odstotek vsako leto raste, ko se vzpostavlja vedno več infrastrukture za umetno inteligenco.
In tukaj je del, ob katerem bi moral vsakdo pomisliti: večina tega računanja je v osnovi zapravljenega. Grafični procesorji izvajajo operacije s plavajočo vejico z izjemno natančnostjo, čeprav je končna odločitev binarna. Izvajajo ogromna matrična množenja, čeprav bi zadostovale preprostejše operacije. Porabljajo energijo ne zato, ker je to potrebno za inteligenco, ampak zato, ker tako deluje strojna oprema grafičnih procesorjev. Ker je to edini način, ki ga poznamo za delovanje v velikem obsegu z orodji, v katera smo vložili.
Optimizirali smo za povsem napačno merilo. Ne za to, kaj je najboljši način za umetno inteligenco, ampak za to, kaj je najhitrejši način za delovanje na grafičnem procesorju. To je tako, kot bi načrtovali letala tako, da bi ptice hitreje mahale s krili, namesto da bi razumeli temeljna načela aerodinamičnega vzgona. Deluje, nekako, a povsem zgrešite bistvo.
Binarni preboj: izhod iz paradigme
Kaj je torej dejanski izhod iz te zlate kletke? Pri Dweve smo si zastavili bistveno drugačno vprašanje: kaj če nam grafičnih procesorjev sploh ne bi bilo treba? Kaj če je bil celoten pristop s plavajočo vejico že od začetka napačna pot?
Nevronske mreže potrebujejo grafične procesorje, ker uporabljajo aritmetiko s plavajočo vejico. Operacije s plavajočo vejico zahtevajo specializirano strojno opremo, da dosežejo sprejemljivo zmogljivost. Ta arhitekturna zahteva ustvarja odvisnost od grafičnih procesorjev. Zato smo ujeti. To je veriga, ki jo moramo prekiniti.
Toda binarne nevronske mreže aritmetiko s plavajočo vejico v celoti odpravijo. Delujejo s preprostimi logičnimi operacijami: AND, OR, XOR, XNOR. Tovrstne operacije lahko vsak sodoben procesor učinkovito izvaja z domačimi nabori ukazov, ki obstajajo že desetletja. Brez specializirane strojne opreme. Brez odvisnosti od grafičnih procesorjev. Brez zaklenjenosti v CUDA. Brez monopolov proizvajalcev.
Dweve Core ta pristop uresničuje z 1.930 algoritmi, optimiziranimi za strojno opremo, ki delujejo neposredno v diskretnem prostoru odločanja. Binarno računanje, ternarno računanje, računanje z nizkim številom bitov. Ogrodje učinkovito deluje na običajnih procesorjih in dosega rezultate, ki bi morali biti nemogoči:
Običajni strežniki Intel Xeon poganjajo velike modele pri konkurenčnih hitrostih. Poraba energije se meri v desetinah vatov, ne v stotinah ali tisočih. Zahteve po pomnilniku so zmanjšane za red velikosti. Hitrosti sklepanja za številne delovne obremenitve dosegajo ali presegajo implementacije na grafičnih procesorjih. In vse to deluje na strojni opremi, ki že obstaja v vsakem podatkovnem centru, pri vsakem ponudniku oblaka in v vsaki napravi na robu omrežja.
Matematika je preprosta. Modeli FP32 potrebujejo 4 bajte na parameter. Binarni modeli potrebujejo 1 bit na parameter. To je 32-kratno zmanjšanje pomnilnika že samo zaradi kvantizacije. Dodajte redke vzorce aktivacije in dobite modele, ki se prilegajo v sistemski pomnilnik, namesto da bi zahtevali drago pomnilnik z visoko pasovno širino.
Binarne operacije se izvajajo z ukazoma XNOR in POPCNT. To so domači ukazi procesorja, del nabora ukazov x86-64 in ARM, optimizirani na ravni silicija. Hitri so. Učinkoviti so. Ves čas so bili tam. Le ugotoviti smo morali, kako jih pravilno uporabiti.
Kaj binarne mreže dejansko spremenijo
To ni rahla izboljšava obstoječe paradigme. To je drugačna paradigma. Posledice segajo daleč prek zgolj boljših meritev zmogljivosti.
Dweve Loom dokazuje, kaj postane mogoče: 456 sistemov, specializiranih za posamezna področja, ki delujejo kot mešanica specialistov. Vsak specialist za svoje področje je binarno omrežje, optimizirano za to področje. Matematika. Znanost. Koda. Jezik. Skupaj dosegajo globino in zmogljivost veliko večjih modelov, pri tem pa porabijo le delček virov.
Usmerjanje med specialisti? Binarne operacije. Aktivacija specialistov? Binarne odločitve. Končna združitev rezultatov? Binarna logika. Vse do dna je binarno, in to deluje, ker se inteligenca v končni fazi izraža skozi diskretne odločitve, ne skozi neprekinjene verjetnosti, izračunane do potratne natančnosti.
To deluje na običajnem strežniku. Ne na gruči grafičnih procesorjev. Ne na namenskih pospeševalnikih. Na strežniku, ki ga lahko kupite pri katerem koli prodajalcu strojne opreme, namestite v katerem koli podatkovnem centru in uporabite v kateri koli državi. Poraba energije za celoten sistem se meri v nekaj sto vatih, ne na čip. Za hlajenje zadostuje običajno zračno hlajenje, ne tekočinski sistemi, katerih namestitev stane milijone.
Preboj: pot Evrope naprej
Era grafičnih procesorjev je trajala veliko dlje, kot bi smela. Kar se je leta 2012 začelo kot priložnostni trik v študentski sobi, je preraslo v odvisnost celotne industrije. Kar naj bi bilo začasna rešitev, je postalo trajna infrastruktura. Kar bi bilo treba zamenjati že pred leti, se je namesto tega strdilo v monopol.
A razpoke se že kažejo. Stroški postajajo nevzdržni za vse razen za največje tehnološke velikane. Strateška tveganja so za vsako vlado, ki spremlja dogajanje, prevelika, da bi jih spregledala. Ozko grlo inovacij duši alternativne pristope, ki bi bili morda boljši. Vpliv na okolje postaja nevzdržen, saj gradimo elektrarne z zmogljivostjo v gigavatih samo za hlajenje čipov. Geopolitične ranljivosti so za Evropo prehude, da bi jih sprejemala v nedogled.
Binarna nevronska omrežja niso zgolj optimizacija obstoječih pristopov. Pomenijo temeljito prenovo razmišljanja o tem, kako naj deluje umetna inteligenca. Utelešajo razliko med ujetostjo v NVIDIA-jev ekosistem in doseganjem prave tehnološke svobode. Med večnim plačevanjem davka na grafične procesorje in popolnim prebojem.
Evropi ni treba zmagati v tekmi grafičnih procesorjev. Evropa jih mora narediti zastarele. Zgraditi sisteme umetne inteligence, ki delujejo na standardni strojni opremi, ki jo že imamo. Ustvariti tehnologije, ki niso odvisne od ameriških pospeševalnikov, podvrženih ameriškim izvoznim omejitvam. Razviti zmogljivosti, ki jih ni mogoče omejiti z odločitvami zunanje politike ali ogroziti s tujimi zakoni o dostopu do podatkov.
Pri Dweve je celotna naša platforma zgrajena na teh temeljih. Core zagotavlja ogrodje za binarne algoritme. Loom uresničuje model inteligence s specialisti za posamezna področja. Nexus upravlja sisteme z več agenti. Aura upravlja avtonomne agente. Spindle skrbi za upravljanje znanja. Mesh ustvarja decentralizirano infrastrukturo.
Vse to učinkovito deluje na standardni evropski infrastrukturi. Na procesorjih v podatkovnih centrih podjetij Interxion, Equinix in OVHcloud. Na robnih napravah po vsej celini. Na strojni opremi, ki jo nadzorujemo, z matematiko, ki je ni mogoče monopolizirati, in ustvarja vrednost, ki ostaja v Evropi.
Brez odvisnosti od grafičnih procesorjev. Brez strateške ranljivosti. Brez zlate kletke.
Izbira, pred katero stojimo
Industrija umetne inteligence stoji na razpotju. Ena pot nadaljuje po tirnici grafičnih procesorjev ter sprejema vedno višje stroške, manjšo suverenost, ožji prostor za inovacije, večji vpliv na okolje in globljo strateško ranljivost. Druga pot se v celoti osvobodi z uporabo diskretne matematike, ki ne potrebuje specializiranih pospeševalnikov, ki teče na strojni opremi, ki jo že imamo, in ki nam vrne nadzor.
Zlata kletka je od znotraj videti udobna. NVIDIA izdeluje resnično odlične izdelke. CUDA je izjemno optimiziran. Ekosistem je zrel in celovit. Zmogljivost je resnična. Vztrajnost je močna. Potopljeni stroški ustvarjajo psihološko zavezanost. Sprememba je težka, tvegana in negotova.
A še vedno je kletka. In vrata se zapirajo.
Vsako četrtletje se odvisnost od grafičnih procesorjev poglablja. Vsak evro, vložen v infrastrukturo CUDA, zvišuje stroške prehoda. Vsaka nova generacija pospeševalnikov krepi zaklenjenost. Vsak raziskovalec, usposobljen izključno na CUDA, oži bazen talentov. Vsako leto je kletka manjša in izhod bolj oddaljen. Vsako leto imamo manj prostora za manevriranje, manj možnosti in večja tveganja.
Binarne nevronske mreže in diskretno računanje ponujajo pot za pobeg. A le če jo uberemo, preden kletka postane neizbežna. Le če ukrepamo, dokler so alternative še mogoče. Le če smo pripravljeni izpodbijati predpostavko, da so grafični procesorji neizogibni, da je plavajoča vejica nujna, da je monopol sprejemljiv.
Lucky break iz leta 2012 je izpolnil svoj namen. Dokazal je, da globoko učenje deluje v velikem obsegu. Dokazal je potencial umetne inteligence, ki presega vse, kar si je kdo predstavljal. Zagnati je dal industrijo, ki preoblikuje civilizacijo. Alex Krizhevsky, Ilya Sutskever in Geoffrey Hinton si zaslužijo ogromno priznanje za svoj preboj. Spremenili so svet.
A lucky breaki niso namenjeni temu, da postanejo temelji. Priložnostni haki niso namenjeni temu, da postanejo infrastruktura. Začasne rešitve niso namenjene temu, da postanejo trajne odvisnosti. Igralna strojna oprema ni namenjena poganjanju umetne inteligence na ravni civilizacije. Ameriški monopoli niso namenjeni temu, da za nedoločen čas nadzorujejo evropsko tehnološko suverenost.
Čas je, da zgradimo nekaj boljšega. Nekaj, kar nas ne ujame v zlate kletke. Nekaj, kar si resnično zasluži biti temelj umetne inteligence. Nekaj, kar deluje na standardni strojni opremi, spoštuje energetske omejitve, omogoča prave inovacije, ohranja strateško avtonomijo in nam vrne nadzor nad našo tehnološko prihodnostjo.
Obdobje grafičnih procesorjev se končuje, pa naj si to priznamo ali ne. Fizika in ekonomija to zagotavljata. Edino vprašanje je, ali bomo to videli prihajati in zgradili alternativo, ali pa se nekega dne zbudimo in ugotovimo, da ni izhoda, ter se, veliko prepozno, zavedamo, da bi morali ukrepati, ko smo še imeli priložnost.