Europos dirbtinio intelekto įkaitų krizė: GPU spąstai
Vėlyvo nakties debesų kompiuterijos sąskaita
Įsivaizduokite: vykdote startuolį Amsterdame, Berlyne ar Barselonoje. Vėlus vakaras. Jūsų komanda ką tik išleido naują dirbtinio intelekto funkciją, kurią klientai tikrai pamėgo. Viskas veikia. Viskas auga.
Tada patikrinate savo debesų kompiuterijos sąskaitą.
Jūsų infrastruktūros išlaidos ką tik patrigubėjo. Ne todėl, kad padarėte klaidą. Ne todėl, kad jus nulaužė. O todėl, kad jūsų debesų kompiuterijos paslaugų teikėjas nusprendė, kad GPU kainos kyla. Vėl. Ir jūs nieko negalite padaryti, nes turite tik vieną alternatyvą: mokėti arba užsidaryti.
Sveiki atvykę į infrastruktūros spąstus, apie kuriuos niekas neįspėjo, kai pradėjote kurti su dirbtiniu intelektu. Spąstus, kurie Europos įmonėms kasmet kainuoja 35 mlrd. eurų dirbtinio intelekto infrastruktūrai. Spąstus, sukurtus visiškai atsitiktinai ant žaidimų lustų, kurie niekada nebuvo skirti civilizacijos masto dirbtiniam intelektui paleisti.
Tai istorija apie tai, kaip mes čia atsidūrėme. Ir, kas dar svarbiau, kaip pagaliau galėtume ištrūkti.
Atsitiktinumas, tapęs imperija
2012 m. rugsėjo 30 d. Savo tėvų namų miegamajame Toronte Aleksas Križevskis vykdo paskutinę mokymo sesiją. Jo komanda „SuperVision“, kurią kartu sudaro kolegos doktorantai Ilja Sutskeveris ir patarėjas Džefris Hintonas, ruošiasi pateikti savo dalyvavimą „ImageNet“ konkurse.
Jie padarė kažką neįprasto: treniruoja gilųjį neuroninį tinklą naudodami dvi „NVIDIA GTX 580“ vaizdo plokštes. Žaidimų aparatinę įrangą. Tokią, kokia naudojama sprogimams „Call of Duty“ atvaizduoti, kad drakonai kvėpuotų tikroviška ugnimi, kad būtų apskaičiuoti vandens atspindžiai fantazijų pasauliuose.
Tiesą sakant, tai laikinas sprendimas. Jiems reikėjo daugiau skaičiavimo galios, nei galėjo pasiūlyti procesoriai, o šios už 500 eurų kainuojančios žaidimų vaizdo plokštės tiesiog tiko. Niekas nemanė, kad tai dirbtinio intelekto ateitis. Tai tiesiog tai, kas prieinama dabar, šią akimirką, magistrantūros studento projektui.
Jų modelis „AlexNet“ ne tik laimi „ImageNet“ konkursą. Jis sutriuškina visus ankstesnius bandymus. Ankstesnių metų laimėtojai pasiekdavo 26,2 % klaidų lygį. „AlexNet“ pasiekia 15,3 %. Tai ne laipsniškas patobulinimas. Tai revoliucija, matoma iš kosmoso.
Ir taip, visiškai atsitiktinai, GPU tapo dirbtinio intelekto pagrindu. Žaidimų aparatinė įranga tapo svarbiausios XXI amžiaus technologijos stuburu. Tai, ką visi laikė laikinu sprendimu, tapo nuolatine infrastruktūra.
Po trylikos metų tas atsitiktinumas išaugo į kažką, ko niekas nenumatė: 35 mlrd. eurų metinę priklausomybę. Strateginį pažeidžiamumą. Technologinę monokultūrą. Auksinį narvelį, įkalinusį visą pasaulinę dirbtinio intelekto ekosistemą, o Europą labiausiai.
Kodėl žaidimų lustai pasirodė tinkami
Būkime visiškai aiškūs, kas čia iš tikrųjų įvyko. GPU niekada nebuvo sukurti dirbtiniam intelektui. Jie buvo suprojektuoti taip, kad vaizdo žaidimuose atkurtų realistinį vandenį, kad šešėliai atrodytų įtikinamai, kad 3D aplinkoje 60 kadrų per sekundę greičiu būtų apskaičiuojami apšvietimo efektai.
Tačiau jie turėjo vieną architektūrinį bruožą, kuris pasirodė esąs itin naudingas neuroniniams tinklams: didžiulį lygiagretumą. CPU gali turėti 8 ar 16 branduolių, atliekančių sudėtingas operacijas nuosekliai, o GPU turi tūkstančius paprastesnių branduolių, kurie tą pačią instrukciją vykdo vienu metu.
Kaip paaiškėjo, neuroniniai tinklai daugiausia yra matricų daugyba. Ta pati matematinė operacija, kartojama milijonus kartų. Kaip sako kompiuterių mokslininkai, tai itin lengvai lygiagretinama užduotis. Tokia problema, kurią galima padalyti tūkstančiams paprastų procesorių ir pasiekti įspūdingą spartos padidėjimą.
Tai buvo atsitiktinis sutapimas. Tarsi atrastum, kad tavo virtuvės trintuvas puikiai tinka dažams maišyti. Žinoma, jis veikia. Tai greičiau nei maišyti ranka. Tačiau niekas jo tam nesuprojektavo. Niekas neoptimizavo tokiam naudojimui. Tiesiog atsitiko, kad jis turi tinkamas savybes.
Toronto komandai reikėjo treniruoti didesnius tinklus. CPU buvo nepataisomai lėti, savaitėms užtrukdavo tai, ką GPU atlikdavo per kelias dienas. Jie ieškojo alternatyvų ir rado NVIDIA CUDA platformą, programavimo sistemą, leidusią pritaikyti vaizdo plokštes bendriesiems skaičiavimams.
Ji nebuvo optimizuota neuroniniams tinklams. Ji net nebuvo itin tinkama. Tačiau ji buvo 10 kartų greitesnė už CPU, o kai universiteto laboratorijoje eksperimentus atlieki su menku biudžetu, to daugiau nei pakanka.
„Pakankamai gerai“ tapo aukso standartu. Laikinas sprendimas sustingo į nuolatinę infrastruktūrą. Laikinas išradimas tapo pramone. Ir štai tikrai nuostabiausia dalis: visi žinojo, kad tai laikinas išradimas. 2012 metais mokslininkai apie GPU kalbėjo kaip apie patogų spartinimo būdą, laikiną sprendimą, kol atsiras kas nors geresnio.
Niekas neįsivaizdavo, kad 2025 metais vis dar naudosime žaidimų aparatinę įrangą pažangiausiam dirbtiniam intelektui. Niekas nenumatė, kad tai taps kliūtimi, varžančia visą pramonę. Ir vis dėlto štai mes, treniruojame trilijonų parametrų modelius aparatinėje įrangoje, kuri iš pradžių buvo sukurta „Minecraft“ blokams atvaizduoti.
Kaip NVIDIA sukūrė neįveikiamą griovį
„NVIDIA“ galimybę įžvelgė anksčiau nei kas nors kitas. Kol akademikai GPU laikė patogiu savo eksperimentų pagreitinimu, „NVIDIA“ kantrybe ir toliaregiškumu, vertu meistriško stratego, kūrė imperiją.
CUDA iš paprastos programavimo sistemos išaugo į visapusišką ekosistemą. Bibliotekos kiekvienai įsivaizduojamai operacijai. Optimizavimo įrankiai. Profiliavimo sistemos. Derinimo infrastruktūra. Išsami dokumentacija. Švietimo programos, mokančios universiteto studentus. Kūrėjų evangelizmas. Konferencijų rėmimas. Mokslinės dotacijos.
Per daugiau nei dešimtmetį investuoti milijardai, kad CUDA taptų ne tik funkcionali, bet ir būtina. Ne tik greita, bet ir nepakeičiama.
Kiekviena pagrindinė dirbtinio intelekto sistema savo pamatus pastatė ant CUDA. „PyTorch“ kalba CUDA gimtąja kalba. „TensorFlow“ kompiliuojama į CUDA. „JAX“ numato CUDA prieinamumą. Jei norite treniruoti neuroninį tinklą konkurencingu greičiu, rašote kodą, veikiantį CUDA. Jei norite optimizuoti našumą, naudojate CUDA bibliotekas. Jei norite diegti plačiu mastu, jums reikia su CUDA suderinamos aparatinės įrangos.
O CUDA veikia tik „NVIDIA“ GPU. Tai ne atsitiktinumas. Tai ne apsirikimas. Tai strategija, penkiolika metų vykdyta chirurginiu tikslumu.
Tai vienas sėkmingiausių gamintojo įkalbinėjimų kompiuterijos istorijoje. Pasiektas ne teisiniais apribojimais ar antikonkurenciniu elgesiu, kurį reguliuotojai galėtų užginčyti, o nenuilstamu, kantriu ekosistemos kūrimu. Kai pramonė suprato, kas vyksta, jau buvo gerokai per vėlu. Visa dirbtinio intelekto technologijų krūva buvo pastatyta ant „NVIDIA“ nuosavybės pagrindo, po vieną sprendimą, po vieną biblioteką, po vieną optimizaciją.
Šiandien „NVIDIA“ valdo 92 % dirbtinio intelekto greitintuvų rinkos. Ne 60 %. Ne 75 %. Devyniasdešimt du procentus. Kai kurie analitikai mokymo rinkos dalį vertina 98 %. Perskaitykite tuos skaičius dar kartą. Tai ne konkurencinga rinka. Tai monopolis su techniniu figos lapu.
35 mlrd. eurų per metus užgniaužta rinka
Pakalbėkime apie tai, ką šis monopolis iš tikrųjų reiškia konkrečiai, ypač Europos įmonėms, kurios bando kurti AI produktus.
Vienas NVIDIA H100 GPU kainuoja nuo 23 000 iki 37 000 eurų. Tai vienas lustas. Šiuolaikiniam dideliam kalbos modeliui išmokyti reikia tūkstančių tokių GPU, veikiančių be pertraukos savaites ar mėnesius. Vien skaičiavimo išlaidos gali siekti dešimtis milijonų eurų. Ir tai tik vienas mokymo etapas. Daugumai modelių reikia dešimčių iteracijų, kol jie pradeda veikti priimtinai.
Naujausia NVIDIA Blackwell architektūra vienam lustui sunaudoja iki 1 200 vatų. Tai daugiau energijos nei galingas elektrinis šildytuvas. Palyginti su ankstesne H100 karta, AI mokymas vyksta maždaug 2,5 karto greičiau. Įspūdinga inžinerija, be abejo.
Tačiau ji ir kainuoja daugiau, reikalauja skysčio aušinimo infrastruktūros, kurios dauguma duomenų centrų neturi, ir jūs neturite jokio kito pasirinkimo, kaip tik ją pirkti, jei norite išlikti konkurencingi. Nes visi kiti ją perka. Nes CUDA veikia tik joje. Nes ekosistemos niekur kitur nėra.
Visa sistema paremta paprasta realybe: jei norite kurti pažangiausią AI, jums reikia NVIDIA GPU. O jei esate įsikūrę Europoje, nuo pirmos dienos esate struktūriškai nenaudingoje padėtyje.
Amerikos debesijos paslaugų teikėjai, tokie kaip AWS, „Microsoft Azure“ ir „Google Cloud“, kiekvieną ketvirtį GPU infrastruktūrai skiria daugiau nei 37 mlrd. eurų. Kiekvieną. Vieną. Ketvirtį. Jie kontroliuoja 70 % Europos debesijos rinkos. Europos teikėjai savo vietos rinkoje valdo vos 15 %, palyginti su 29 % 2017 m.
Tokios įmonės kaip SAP ir Deutsche Telekom Europos debesijos rinkoje valdo tik po 2 proc. rinkos dalies. Europos debesijos paslaugų teikėjai, tokie kaip OVHcloud, Scaleway ir Hetzner, aptarnauja nišines rinkas ir negali prilygti Amerikos hiperskalių mastui. Negali užsitikrinti GPU konkurencingomis kainomis. Negali pasiūlyti tokio pat našumo. Negali konkuruoti.
Europos įmonėms netrūksta nei techninio talento, nei ambicijų. Joms trūksta prieigos prie GPU konkurencingomis kainomis ir reikiamu mastu. Jos ne tik atsilieka lenktynėse. Jos bėga visai kita trasa, o milijardų investicijos sunkiai įveikia struktūrines kliūtis.
Europos AI startuoliai susiduria su nelaimėtinu žaidimu
Pagalvokite, kas dabar, šią akimirką, vyksta su Europos AI įmonėmis, kai jos bando konkuruoti.
„Mistral AI“, perspektyviausias Prancūzijos AI startuolis, surinko 468 mln. eurų finansavimą. Tai tikri pinigai. Dėl to įmonė yra viena geriausiai kapitalizuotų Europos AI įmonių. Net ir turėdama tokį finansinį rezervą, ji turėjo paskelbti apie suverenios AI infrastruktūros partnerystę su NVIDIA „VivaTech 2025“ renginyje, kad tik užsitikrintų prieigą prie GPU.
Perskaitykite tai dar kartą. Beveik pusė milijardo eurų finansavimo, o jie vis tiek turėjo tapti NVIDIA partneriais vien tam, kad gautų lustų. Tai ne strateginis sprendimas. Tai būtinybė, užmaskuota partneryste.
„Aleph Alpha“, vokiškasis atsakymas į „OpenAI“, 2024 m. pabaigoje persiorientavo nuo pagrindinių modelių kūrimo prie pagalbos įmonėms diegiant AI. Kodėl? Kaip pripažino įkūrėjas Jonas Andrulis, kurti didelius kalbos modelius pasirodė pernelyg sudėtinga ir brangu erdvėje, kurioje dominuoja giliai kišenes turintys didieji technologijų milžinai.
Vertimas: jie negalėjo užsitikrinti prieigos prie GPU tokio masto, kokio reikia konkurencijai. Jie negalėjo prilygti Amerikos įmonių investicijoms į infrastruktūrą. Todėl jie persiorientavo į verslo modelį, kuriam nereikia konkuruoti mokant pagrindinius modelius. Tai ne strategija. Tai pasidavimas.
Europos AI įmonės gauna dešimt kartų mažiau finansavimo nei jų kolegos Amerikoje. Tačiau net jei finansavimas būtų vienodas, GPU kliūtis išliktų. NVIDIA pirmiausia aptarnauja didžiausius savo klientus: Amerikos debesijos paslaugų teikėjus ir technologijų milžinus. Europos startuoliai laukia likučių ir moka didesnes kainas už bet kokį jiems skirtą kiekį.
ES į tai atsakė iniciatyva „InvestAI“, sutelkdama 200 mlrd. eurų dirbtinio intelekto investicijoms. 2025 m. vasarį „Brookfield Infrastructure“ ir „Data4“ paskelbė apie 19,2 mlrd. eurų investicijas į dirbtinio intelekto infrastruktūrą vien tik Prancūzijoje. 2024 m. gruodį „EuroHPC JU“ atrinko septynis konsorciumus, kurie įkurs pirmąsias DI gamyklas Suomijoje, Vokietijoje, Graikijoje, Italijoje, Liuksemburge, Ispanijoje ir Švedijoje.
Tai didžiulės investicijos. Tikri įsipareigojimai. Tačiau pirmosios gigagamyklos pradės veikti ne anksčiau kaip 2027 m. Ir visos jos, kiekviena viena, veiks su NVIDIA GPU. Europa išleidžia šimtus milijardų eurų, kad išsivaduotų iš priklausomybės nuo Amerikos debesijos paslaugų teikėjų, tačiau tik dar labiau įklimpsta į priklausomybę nuo Amerikos techninės įrangos.
Problemą matote patys.
Ekosistemos spąstai: kodėl pabėgti beveik neįmanoma
Štai kodėl uždarumas toks klastingas, net kai visi pripažįsta, kad tai problema, kurią reikia išspręsti.
Įsivaizduokite, kad esate Miuncheno technikos universiteto mokslinių tyrimų laboratorija. Penkerius metus naudojate NVIDIA GPU. Visas jūsų kodas optimizuotas CUDA. Jūsų tyrėjai turi CUDA kompetencijos. Jūsų infrastruktūra sukurta CUDA pagrindu. Jūsų diegimo grandinės priklauso nuo CUDA. Į šią ekosistemą investavote milijonus eurų ir nesuskaičiuojamą kiekį žmogiškųjų metų.
Dabar kas nors jums siūlo alternatyvą. Galbūt AMD ROCm platformą. Galbūt „Google“ TPU. Galbūt pasirinktinį DI greitintuvą iš perspektyvaus Europos startuolio.
Norėdami pereiti, turite perrašyti visą savo kodų bazę naujai platformai, o tai užtrunka mėnesius ar metus. Permokyti savo komandą naujiems įrankiams, sistemoms ir optimizavimo metodams. Iš naujo optimizuoti visus savo modelius skirtingoms aparatinės įrangos architektūroms. Susitaikyti, kad 80 % atvirojo kodo AI bibliotekų neveiks be didelių pakeitimų. Rizikuoti, kad alternatyva neturės ilgalaikio gyvybingumo ir pardavėjo palaikymo. Tikėtis, kad našumas prilygs arba viršys turėtąjį, nors žinote, kad greičiausiai ne. Melstis, kad tik neperėjote iš vienos nuosavybinės ekosistemos į kitą, vienodai uždarą, bet su mažiau išteklių už jos.
Pereinamosios sąnaudos yra astronominės. Rizika didžiulė. Nauda neaiški. Daugumai organizacijų tai neįmanomas skaičiavimas. Geriau likti su žinomu velniu, net jei tas velnias brangus, užsienio kontroliuojamas ir strategiškai rizikingas.
Technologijų milžinės, tokios kaip „Microsoft“, „Meta“ ir „Google“, investavo dešimtis milijardų į CUDA pagrįstus duomenų centrus. Ta infrastruktūra nėra tik paskendusios išlaidos. Ji yra visos jų AI strategijos pamatas. Jų talentai apmokyti CUDA. Jų kodas sukurtas CUDA. Jų diegimo įrankiai tikisi CUDA. Jų konkurencinis pranašumas priklauso nuo CUDA patirties.
Ekonomistai tai vadina didelėmis pereinamosiomis sąnaudomis su tinklo efektais. Kai technologija pasiekia kritinę masę, ją išstumti tampa beveik neįmanoma, net jei egzistuoja geresnių alternatyvų. Net jei visiems būtų geriau pereiti. Net jei dabartinis sprendimas yra neoptimalus, brangus ir strategiškai pavojingas.
NVIDIA ne tik sukūrė puikią aparatinę įrangą. Jie pastatė narvą su auksiniais strypais, ir visa AI pramonė į jį įėjo savo noru, po vieną patogų sprendimą, nesuvokdami, kad durys už jų užsidaro.
Inovacijų kliūtis, apie kurią niekas nekalba
Blogiausia pasekmė nėra kaina ar net pardavėjo įkalinimas. Svarbiausia, ką GPU dominavimas daro pačioms inovacijoms, pačiai galimybių erdvei, kokia AI galėtų būti.
Kai viena technologija pasiekia beveik visišką rinkos dominavimą, inovacijos nukreipiamos į tai, kad ta technologija taptų šiek tiek geresnė, o ne į iš esmės skirtingų metodų tyrinėjimą. NVIDIA išleidžia naujas GPU kartas su laipsniškais patobulinimais. Tyrėjai optimizuoja kodą NVIDIA architektūroms. Sistemų kūrėjai prideda CUDA funkcijų. Visi bėga greičiau tuo pačiu bėgimo takeliu.
Tuo tarpu radikaliai skirtingi AI metodai badauja dėl išteklių, dėmesio ir talentų. Kam investuoti į neuromorfinį skaičiavimą, kai visi naudoja GPU? Kam tyrinėti apribojimais pagrįstą samprotavimą, kai neuroniniai tinklai veikia pakankamai gerai? Kam kurti dvejetainius tinklus, kai slankiojo kablelio standartas jau nusistovėjęs? Kam siekti analoginio skaičiavimo, fotoninio apdorojimo ar bet kokios kitos alternatyvios architektūros?
Atsakymas žiauriai paprastas: negalite konkuruoti. Ekosistemos nėra. Įrankių nėra. Infrastruktūros nėra. Talentai išmoko CUDA ir nenori pradėti iš naujo. Investuotojai finansuoja GPU pagrįstus metodus, nes jie turi įrodytą trauką, nes supranta rinką, nes alternatyvos pernelyg rizikingos.
Tai savaime sustiprėjantis ciklas, kuris kiekviena iteracija siaurina galimybių erdvę. GPU dominavimas sukuria ekosistemos pranašumus. Ekosistemos pranašumai pritraukia investicijas. Investicijos sustiprina GPU dominavimą. Alternatyvūs metodai vos įgauna pagreitį, jau nekalbant apie mastą, reikalingą gyvybingumui įrodyti.
Mes nebe tyrinėjame visą galimų AI architektūrų erdvę. Mes tyrinėjame daug siauresnę erdvę to, kas efektyviai veikia NVIDIA GPU. Tai gilus inovacijų suvaržymas, kuris laikui bėgant didėja. Kiekvienais metais narvas tampa mažesnis, sienos storesnės, išėjimas tolimesnis. Kiekvienais metais investuojame vis daugiau į netinkamo dalyko optimizavimą.
Skaitmeninis kolonializmas: Europos strateginė krizė
Europai tai nėra vien techninis nepatogumas ar apgailėtina rinkos situacija. Tai strateginė krizė, turinti geopolitinių pasekmių, kurios ateinančioms kartoms apibrėš Europos technologinį suverenumą.
2025 m. birželio 10 d. Antonas Carniaux, „Microsoft France" viešųjų ir teisės reikalų direktorius, sėdėjo prieš Prancūzijos Senatą duomenų suverenumo tyrimo klausymuose. Senatorius po senatoriaus spaudė jį iš pažiūros paprastu klausimu: ar jis gali garantuoti, kad Prancūzijos piliečių duomenys, saugomi „Microsoft" serveriuose, niekada nebus perduoti JAV valdžios institucijoms be aiškaus Prancūzijos leidimo?
Jo atsakymas, pateiktas aiškiai ir be išsisukinėjimo: Ne, negaliu to garantuoti.
Pagal JAV CLOUD aktą Amerikos technologijų korporacijos privalo vykdyti JAV vyriausybės prašymus dėl duomenų, neatsižvelgiant į tai, kur tie duomenys fiziškai saugomi. Jei prašymas tinkamai suformuluotas pagal JAV įstatymus, „Microsoft" teisiškai įpareigota perduoti duomenis. Kitaip tariant, Europos duomenų suverenumas priklauso nuo Amerikos susilaikymo. Jis egzistuoja tik tol, kol to nori JAV politika, o ne kaip Europos kontrolės reikalas.
Tas parodymas sukėlė šoką Europos politikos sluoksniuose. Tačiau GPU situacija struktūriškai identiška, tik mažiau matoma. „NVIDIA" priklauso JAV eksporto kontrolei. Prekybos ginčas, politikos poslinkis, geopolitinė krizė, ir visa Europos dirbtinio intelekto infrastruktūra gali būti prislopinta arba visiškai atjungta. Ne hipotetiškai. Iš tikrųjų. Vienu rašiklio brūkštelėjimu Vašingtone.
Europa turi puikių dirbtinio intelekto tyrėjų. Pasaulinio lygio universitetus, skelbiančius pažangiausius mokslinius darbus. Novatoriškas įmones, tokias kaip „Mistral AI" ir „Aleph Alpha". Dideles mokslinių tyrimų institucijas, tokias kaip IDSIA Šveicarijoje, Vokietijos dirbtinio intelekto tyrimų centrą, INRIA Prancūzijoje. Talentingus inžinierius, kuriančius įspūdingas sistemas.
Tačiau visi jie kuria ant pamatų, kurių nekontroliuoja, naudodami aparatinę įrangą, kurios negali įsigyti konkurencingomis kainomis, užrakinti nuosavybės ekosistemoje, priklausančioje vienai Amerikos korporacijai, pavaldūs Amerikos eksporto politikai, pažeidžiami Amerikos politinių sprendimų.
Tai ne skaitmeninis suverenumas. Tai skaitmeninis kolonializmas su draugišku veidu ir puikiu klientų aptarnavimu.
Efektyvumo melas, kurio niekas nenori pripažinti
Štai nemalonus faktas, kuris dažniausiai nutylimas diskusijose apie dirbtinio intelekto infrastruktūrą: GPU iš tikrųjų nėra efektyvūs dirbtiniam intelektui. Jie tiesiog mažiausiai neefektyvus variantas, prie kurio prisitaikėme, nes jie buvo prieinami 2012 m.
Taip, GPU yra greitesni nei CPU atliekant matricos daugybą. Tačiau greitį jie pasiekia jėga, o ne elegancija ar optimizavimu. Jie sunaudoja didžiulį kiekį energijos. Jiems reikia sudėtingų skysčio aušinimo sistemų. Jiems reikia specializuotos duomenų centrų infrastruktūros. Ir jie darosi vis blogesni, o ne geresni.
Šiuolaikinis „NVIDIA Blackwell B200" sunaudoja 1200 vatų. Tai daugiau energijos nei dauguma buitinių šildytuvų. Duomenų centrai visoje Europoje pertvarkomi ne dėl skaičiavimo efektyvumo, o vien tam, kad atlaikytų šiluminę apkrovą. GB200 NVL72 spinta sunaudoja 120 kilovatų. Vienas stovas. Gigavatų masto dirbtinio intelekto gamykloms reikia tokios energijos infrastruktūros, kokia prilygsta mažiems miestams.
Prognozuojama, kad duomenų centrų energijos poreikis Europoje iki 2030 m. pasieks 168 TWh, o iki 2035 m. 236 TWh, t. y. patrigubės, palyginti su 2024 m. lygiu. Nyderlanduose duomenų centrai jau sunaudoja 7% šalies elektros energijos. Frankfurte, Londone ir Amsterdame jie sunaudoja nuo 33% iki 42% visos elektros energijos. Perskaitykite tai dar kartą. Nuo trečdalio iki beveik pusės visos elektros energijos didžiuosiuose Europos miestuose tenka duomenų centrams.
Airijoje duomenų centrai sudaro daugiau nei 20% viso šalies elektros energijos suvartojimo. Penktadalis visos šalies energijos skiriama tam, kad lustai būtų pakankamai vėsūs veikti. Ir šis procentas kasmet auga, nes prieiga prie dirbtinio intelekto infrastruktūros vis plečiasi.
Ir štai dalis, dėl kurios visi turėtų susimąstyti: didžioji dalis tos skaičiavimo galios iš esmės yra švaistoma. GPU atlieka slankiojo kablelio operacijas ypatingu tikslumu, kai galutinis sprendimas yra dvejetainis. Jie atlieka milžiniškas matricos daugybas, kai pakaktų paprastesnių operacijų. Jie eikvoja energiją ne todėl, kad to reikia intelektui, o todėl, kad taip veikia GPU aparatinė įranga. Nes tai vienintelis būdas, kurį žinome, kaip tai daryti dideliu mastu su įrankiais, į kuriuos investavome.
Mes optimizavome visiškai ne tą metriką. Ne tai, koks geriausias būdas daryti DI, o koks greičiausias būdas tai daryti GPU. Tai tas pats, kas kurti orlaivius verčiant paukščius greičiau plasnoti sparnais, o ne suprasti pagrindinius aerodinaminės keliamosios jėgos principus. Tai veikia, na, iš dalies, bet jūs visiškai nepataikėte į esmę.
Dvejetainis proveržis: ištrūkimas iš paradigmos
Taigi koks gi tikrasis kelias iš šio auksinio narvo? „Dweve“ uždavėme iš esmės kitokį klausimą: o kas, jei GPU mums iš viso nereikėtų? O kas, jei visas slankiojo kablelio metodas nuo pat pradžių buvo klaidingas kelias?
Neuroniniams tinklams reikia GPU, nes jie naudoja slankiojo kablelio aritmetiką. Slankiojo kablelio operacijoms reikia specializuotos aparatinės įrangos, kad našumas būtų priimtinas. Šis architektūrinis reikalavimas ir sukuria priklausomybę nuo GPU. Štai kodėl esame įstrigę. Štai grandinė, kurią turime nutraukti.
Tačiau dvejetainiai neuroniniai tinklai slankiojo kablelio aritmetiką pašalina visiškai. Jie veikia naudodami paprastas logines operacijas: AND, OR, XOR, XNOR. Tokias operacijas, kurias efektyviai gali vykdyti kiekvienas šiuolaikinis procesorius, naudodamas vietines instrukcijas, egzistuojančias dešimtmečius. Jokios specializuotos aparatinės įrangos nereikia. Jokios priklausomybės nuo GPU. Jokio užrakinimo prie CUDA. Jokio tiekėjo monopolio.
„Dweve Core“ šį metodą įgyvendina su 1 930 aparatine įranga optimizuotų algoritmų, veikiančių tiesiogiai diskrečiojoje sprendimų erdvėje. Dvejetainis skaičiavimas, trejetainis skaičiavimas, mažo bitų skaičiaus skaičiavimas. Sistema efektyviai veikia standartiniuose procesoriuose ir pasiekia rezultatų, kurie turėtų būti neįmanomi:
Standartiniai „Intel Xeon“ serveriai, vykdantys didelius modelius konkurencingu greičiu. Energijos sąnaudos matuojamos dešimtimis vatų, o ne šimtais ar tūkstančiais. Atminties poreikis sumažintas eilės tvarka. Inferencijos greitis, kuris daugeliui darbo krūvių prilygsta GPU diegimams arba juos lenkia. Ir visa tai veikia aparatinėje įrangoje, kuri jau yra kiekviename duomenų centre, pas kiekvieną debesijos tiekėją, kiekviename krašto įrenginyje.
Matematika paprasta. FP32 modeliams reikia 4 baitų kiekvienam parametrui. Dvejetainiams modeliams reikia 1 bito kiekvienam parametrui. Tai 32 kartus mažesnė atmintis vien dėl kvantizavimo. Pridėkite retus aktyvavimo modelius ir gausite modelius, kurie telpa į sistemos RAM, o ne reikalauja brangios didelio pralaidumo atminties.
Dvejetainės operacijos vykdomos naudojant XNOR ir POPCNT instrukcijas. Tai vietinės procesoriaus instrukcijos, x86-64 ir ARM instrukcijų rinkinių dalis, optimizuotos silicio lygmeniu. Jos greitos. Jos efektyvios. Jos buvo čia visą laiką. Tereikėjo išsiaiškinti, kaip jas tinkamai naudoti.
Ką dvejetainiai tinklai iš tikrųjų keičia
Tai ne nedidelis esamos paradigmos patobulinimas. Tai kitokia paradigma. Pasekmės tęsiasi kur kas toliau nei vien geresni našumo rodikliai.
Dweve Loom parodo, kas tampa įmanoma: 456 srities specialistų sistemos, veikiančios kaip specialistų mišinys. Kiekvienas srities specialistas yra dvejetainis tinklas, optimizuotas savo sričiai. Matematika. Mokslas. Kodas. Kalba. Kartu jie pasiekia daug didesnių modelių gylį ir pajėgumą, naudodami tik dalelę išteklių.
Maršrutizavimas tarp srities specialistų? Dvejetainės operacijos. Srities specialistų aktyvavimas? Dvejetainiai sprendimai. Galutinės išvesties suliejimas? Dvejetainė logika. Viskas dvejetainė iki pat pagrindo, ir tai veikia, nes intelektas galiausiai pasireiškia per diskrečius pasirinkimus, o ne per ištisines tikimybes, skaičiuojamas nereikalingu tikslumu.
Tai veikia įprastame serveryje. Ne GPU klasteryje. Ne specializuotuose greitintuvuose. Serveris, kurį galite nusipirkti iš bet kurio techninės įrangos pardavėjo, įdiegti bet kuriame duomenų centre, dislokuoti bet kurioje šalyje. Energijos suvartojimas matuojamas šimtais vatų visai sistemai, ne vienam lustui. Aušinimo reikalavimai tenkinami įprastu oro aušinimu, o ne skystomis sistemomis, kurių įdiegimas kainuoja milijonus.
Išsivadavimas: Europos kelias į priekį
GPU era truko gerokai ilgiau, nei turėjo. Tai, kas prasidėjo kaip laikinas sprendimas magistrantūros studento kambaryje 2012 metais, išaugo į visos pramonės priklausomybę. Tai, kas turėjo būti laikinas tarpinis sprendimas, tapo nuolatine infrastruktūra. Tai, kas turėjo būti pakeista prieš daugelį metų, vietoj to sukietėjo į monopoliją.
Tačiau įtrūkimai jau matomi. Išlaidos tampa nepakeliamos visiems, išskyrus didžiausias technologijų bendroves. Strateginės rizikos neįmanoma ignoruoti jokiai vyriausybei, kuri kreipia dėmesį. Inovacijų kliūtis smaugia alternatyvius metodus, kurie galėtų būti geresni. Poveikis aplinkai tampa nebepakenčiamas, kai statome gigavatų galios elektrines vien lustų aušinimui. Geopolitinis pažeidžiamumas pernelyg didelis, kad Europa galėtų jį priimti neribotą laiką.
Dvejetainiai neuroniniai tinklai nėra tik esamų metodų optimizavimas. Jie reiškia esminį permąstymą, kaip turėtų veikti dirbtinis intelektas. Jie įkūnija skirtumą tarp įstrigimo NVIDIA ekosistemoje ir tikros technologinės laisvės pasiekimo. Tarp GPU mokesčio mokėjimo amžinai ir visiško išsivadavimo.
Europai nereikia laimėti GPU lenktynių. Europai reikia jas panaikinti. Kurti dirbtinio intelekto sistemas, kurios veiktų su standartine technine įranga, kurią jau turime. Kurti technologijas, kurios nepriklausytų nuo Amerikos greitintuvų, pavaldžių Amerikos eksporto kontrolei. Ugdyti pajėgumus, kurių negali suvaržyti užsienio politikos sprendimai ar pakenkti užsienio duomenų prieigos įstatymai.
„Dweve" visa mūsų platforma yra pastatyta ant šio pagrindo. „Core" suteikia dvejetainių algoritmų sistemą. „Loom" įgyvendina srities specialistų intelekto modelį. „Nexus" koordinuoja kelių agentų sistemas. „Aura" valdo autonominius agentus. „Spindle" tvarko žinių valdymą. „Mesh" kuria decentralizuotą infrastruktūrą.
Visa tai efektyviai veikia standartinėje Europos infrastruktūroje. CPU procesoriuose duomenų centruose iš „Interxion", iš „Equinix", iš „OVHcloud". Krašto įrenginiuose visame žemyne. Ant techninės įrangos, kurią kontroliuojame, naudodami matematiką, kurios negalima monopolizuoti, kurdami vertę, kuri lieka Europoje.
Jokios priklausomybės nuo GPU. Jokio strateginio pažeidžiamumo. Jokio auksinio narvo.
Pasirinkimas, kurį turime padaryti
Dirbtinio intelekto pramonė yra kryžkelėje. Vienas kelias tęsiasi GPU trajektorija, priimdamas vis didėjančias išlaidas, mažėjantį suverenumą, siaurėjančią inovacijų erdvę, didėjantį poveikį aplinkai ir gilėjantį strateginį pažeidžiamumą. Kitas kelias visiškai išsilaisvina, naudodamas diskrečiąją matematiką, kuriai nereikia specializuotų greitintuvų, kuri veikia aparatinėje įrangoje, kurią jau turime, kuri grąžina mums kontrolę.
Auksinis narvas iš vidaus atrodo patogus. NVIDIA gamina tikrai puikius produktus. CUDA yra įspūdingai optimizuota. Ekosistema yra brandi ir išsami. Našumas yra tikras. Inercija yra galinga. Paskendusios išlaidos sukuria psichologinį įsipareigojimą. Pokyčiai yra sunkūs, rizikingi ir neaiškūs.
Bet tai vis tiek narvas. Ir durys užsidaro.
Kiekvieną ketvirtį priklausomybė nuo GPU gilėja. Kiekvienas euras, investuotas į CUDA infrastruktūrą, padidina perėjimo išlaidas. Kiekviena nauja greitintuvų karta sustiprina įstrigimą. Kiekvienas tyrėjas, apmokytas tik CUDA, susiaurina talentų bazę. Kiekvienais metais narvas tampa mažesnis, o išėjimas vis tolimesnis. Kiekvienais metais turime mažiau manevro erdvės, mažiau pasirinkimų, didesnę riziką.
Dvejetainiai neuroniniai tinklai ir diskretieji skaičiavimai siūlo pabėgimo kelią. Bet tik jei juo pasinaudosime, kol narvas netaps neįveikiamas. Tik jei veiksime, kol alternatyvos dar galimos. Tik jei būsime pasirengę mesti iššūkį prielaidai, kad GPU yra neišvengiami, kad slankusis kablelis yra būtinas, kad monopolis yra priimtinas.
Laimingas atsitiktinumas 2012-aisiais įvykdė savo tikslą. Jis parodė, kad gilusis mokymasis veikia dideliu mastu. Jis įrodė DI potencialą, viršijantį tai, ką kas nors įsivaizdavo. Jis paleido pramonę, kuri keičia civilizaciją. Alex Krizhevsky, Ilya Sutskever ir Geoffrey Hinton nusipelno didžiulio pripažinimo už savo proveržį. Jie pakeitė pasaulį.
Bet laimingi atsitiktinumai nėra skirti tapti pamatais. Greiti sprendimai nėra skirti tapti infrastruktūra. Laikini apėjimo būdai nėra skirti tapti nuolatinėmis priklausomybėmis. Žaidimų aparatinė įranga nėra skirta vykdyti civilizacinio masto DI. Amerikos monopolijos nėra skirtos amžinai kontroliuoti Europos technologinį suverenumą.
Atėjo laikas sukurti ką nors geresnio. Ką nors, kas neįkalina mūsų auksiniuose narvuose. Ką nors, kas tikrai nusipelno būti dirbtinio intelekto pamatu. Ką nors, kas veikia standartinėje aparatinėje įrangoje, gerbia energijos apribojimus, įgalina tikras inovacijas, išsaugo strateginę autonomiją ir grąžina mums mūsų technologinės ateities kontrolę.
GPU era baigiasi, nesvarbu, ar mes tai pripažįstame, ar ne. Fizika ir ekonomika tai garantuoja. Vienintelis klausimas, ar pamatysime tai ateinant ir sukursime alternatyvą, ar vieną rytą pabusime ir suprasime, kad negalime pabėgti, ir per vėlai suvoksime, jog turėjome veikti, kol dar turėjome galimybę.