GPU slazds: Eiropas mākslīgā intelekta ķīlnieku krīze
Vēlās nakts mākoņskaitļošanas rēķins
Iedomājieties: jūs vadāt jaunuzņēmumu Amsterdamā, Berlīnē vai Barselonā. Ir vēla nakts. Jūsu komanda tikko izvietojusi jaunu mākslīgā intelekta funkciju, ko klienti patiešām mīl. Viss darbojas. Viss aug.
Tad jūs pārbaudāt savu mākoņskaitļošanas rēķinu.
Jūsu infrastruktūras izmaksas tikko trīskāršojās. Ne tāpēc, ka būtu kļūdījušies. Ne tāpēc, ka jūs būtu uzlauzti. Bet tāpēc, ka jūsu mākoņpakalpojumu sniedzējs nolēma, ka GPU cenas kāps. Atkal. Un jūs neko nevarat darīt, jo jums ir tieši viena izvēle: maksāt vai apstāties.
Laipni lūdzam infrastruktūras slazdā, par kuru neviens jūs nebrīdināja, kad sākāt darbu ar mākslīgo intelektu. Slazdā, kas Eiropas uzņēmumiem izmaksā 35 miljardus eiro gadā mākslīgā intelekta infrastruktūrā. Slazdā, kas pilnīgi nejauši uzbūvēts uz spēļu mikroshēmām, kurām nekad nebija paredzēts darbināt civilizācijas mēroga mākslīgo intelektu.
Šis ir stāsts par to, kā mēs šeit nonācām. Un, vēl svarīgāk, par to, kā mēs beidzot varētu tikt ārā.
Negadījums, kas kļuva par impēriju
2012. gada 30. septembris. Guļamistabā savu vecāku mājā Toronto Alekss Križevskis vada pēdējo apmācības sesiju. Viņa komanda SuperVision, ko veidoja kopā ar kolēģiem doktorantiem Iļju Sutskeveru un padomdevēju Džefriju Hintonu, gatavojas iesniegt savu ImageNet konkursa dalības pieteikumu.
Viņi izdarījuši kaut ko netradicionālu: apmācījuši dziļu neironu tīklu, izmantojot divas NVIDIA GTX 580 grafikas kartes. Spēļu aparatūru. Tādu, kādu izmantotu sprādzienu renderēšanai Call of Duty, lai pūķi elpotu reālistisku uguni, lai aprēķinātu ūdens atspīdumus fantāzijas pasaulēs.
Tas patiesībā ir triks. Viņiem vajadzēja vairāk skaitļošanas jaudas, nekā spēja nodrošināt CPU, un šīs 500 eiro vērtās spēļu GPU nejauši izrādījās derīgas. Neviens nedomā, ka tas ir mākslīgā intelekta nākotne. Tas ir tikai tas, kas ir pieejams tieši tagad, šajā brīdī, doktorantūras studenta projektam.
Viņu modelis AlexNet ne tikai uzvar ImageNet konkursā. Tas sagrauj visus iepriekšējos mēģinājumus. Iepriekšējo gadu uzvarētāji sasniedza 26,2% kļūdu līmeni. AlexNet sasniedz 15,3%. Tā nav pakāpeniska uzlabošanās. Tā ir revolūcija, kas redzama pat no kosmosa.
Un tieši tā, pilnīgi nejauši, GPU kļuva par mākslīgā intelekta pamatu. Spēļu aparatūra kļuva par 21. gadsimta svarīgākās tehnoloģijas mugurkaulu. Tas, ko visi uzskatīja par pagaidu risinājumu, kļuva par pastāvīgu infrastruktūru.
Trīspadsmit gadus vēlāk šis negadījums ir izvērties kaut ko tādu, ko neviens neparedzēja: 35 miljardu eiro gada atkarību. Stratēģisku ievainojamību. Tehnoloģisku monokultūru. Zelta būri, kas ieslodzījis visu globālo mākslīgā intelekta ekosistēmu, un visvairāk tieši Eiropu.
Kāpēc spēļu mikroshēmas izrādījās piemērotas
Būsim pilnīgi skaidri par to, kas šeit patiesībā notika. GPU nekad nebija paredzētas mākslīgajam intelektam. Tās tika radītas, lai videospēlēs renderētu reālistisku ūdeni, lai ēnas izskatītos ticamas, lai aprēķinātu apgaismojuma efektus 3D vidē ar 60 kadriem sekundē.
Taču tām bija viena arhitektūras iezīme, kas neironu tīkliem izrādījās laimīga: milzīga paralēlisms. Kamēr CPU var būt 8 vai 16 kodoli, kas secīgi veic sarežģītas darbības, GPU ir tūkstošiem vienkāršāku kodolu, kas vienlaikus izpilda vienu un to pašu instrukciju.
Neironu tīkli, kā izrādās, lielākoties ir matricu reizināšana. Viena un tā pati matemātiskā darbība, kas atkārtota miljoniem reižu. Kaunīgi paralēla, kā saka datorzinātnieki. Tāda veida problēma, kur darbu var sadalīt starp tūkstošiem vienkāršu procesoru un iegūt ievērojamu ātruma pieaugumu.
Tā bija pilnīgi nejauša saderība. Kā atklājums, ka virtuves blenderis lieliski der krāsas maisīšanai. Jā, tas darbojas. Tas ir ātrāk nekā maisīt ar roku. Bet neviens to tam nebija paredzējis. Neviens to nebija optimizējis šim lietojumam. Tam vienkārši ir īstās īpašības.
Toronto komandai vajadzēja trenēt lielākus tīklus. CPU bija ledāja lēnām, vajadzot nedēļas tam, ko GPU paveica dienās. Viņi meklēja alternatīvas un atrada NVIDIA CUDA platformu, programmēšanas ietvaru, kas ļāva pārveidot grafikas kartes vispārējiem aprēķiniem.
Tā nebija optimizēta neironu tīkliem. Tā pat nebija īpaši piemērota. Bet tā bija 10 reizes ātrāka par CPU, un, kad tu vadi eksperimentus universitātes laboratorijā ar niecīgu budžetu, ar to pilnīgi pietiek.
Pietiekami labs kļuva par zelta standartu. Pagaidu risinājums pārakmeņojās par pastāvīgu infrastruktūru. Īslaicīgais risinājums kļuva par nozari. Un lūk, patiesi ievērojamā daļa: visi zināja, ka tas ir īslaicīgs risinājums. 2012. gadā pētnieki par GPU runāja kā par ērtu paātrināšanas metodi, pagaidu risinājumu, līdz parādīsies kaut kas labāks.
Neviens neiedomājās, ka 2025. gadā mēs joprojām izmantosim spēļu aparatūru vadošajam MI. Neviens neparedzēja, ka tas kļūs par sašaurinājumu, kas ierobežo visu nozari. Tomēr mēs esam šeit, trenējam triljonu parametru modeļus uz aparatūras, kas sākotnēji radīta, lai renderētu Minecraft blokus.
Kā NVIDIA izveidoja neieņemamo grāvi
NVIDIA saskatīja iespēju pirms visiem citiem. Kamēr akadēmiķi GPU uztvēra kā ērtu paātrinājumu saviem eksperimentiem, NVIDIA ar meistarīga stratēģa pacietību un tālredzību veidoja impēriju.
CUDA no vienkārša programmēšanas ietvara izauga par visaptverošu ekosistēmu. Bibliotēkas katrai iedomājamai darbībai. Optimizācijas rīki. Profilēšanas sistēmas. Atkļūdošanas infrastruktūra. Plaša dokumentācija. Izglītības programmas universitāšu studentiem. Izstrādātāju aizstāvība. Konferenču sponsorēšana. Pētniecības granti.
Vairāk nekā desmit gadu laikā ieguldīti miljardi, lai CUDA padarītu ne tikai funkcionālu, bet neaizstājamu. Ne tikai ātru, bet neaizvietojamu.
Katrs nozīmīgs mākslīgā intelekta ietvars savu pamatu būvējis uz CUDA. PyTorch runā CUDA dzimtajā valodā. TensorFlow kompilē uz CUDA. JAX pieņem, ka CUDA ir pieejama. Ja vēlaties apmācīt neironu tīklu konkurētspējīgā ātrumā, rakstāt kodu, kas darbojas uz CUDA. Ja vēlaties optimizēt veiktspēju, izmantojat CUDA bibliotēkas. Ja vēlaties izvietot sistēmas lielā mērogā, jums nepieciešama CUDA saderīga aparatūra.
Un CUDA darbojas tikai uz NVIDIA GPU. Tā nav nejaušība. Tas nav pārskatījums. Tā ir stratēģija, kas piecpadsmit gadu garumā īstenota ar ķirurģisku precizitāti.
Šī ir viena no veiksmīgākajām pārdevēja piesaistes sistēmām skaitļošanas vēsturē. Panākta nevis ar juridiskiem ierobežojumiem vai pret konkurenci vērstu rīcību, ko regulatori varētu apstrīdēt, bet gan ar neatlaidīgu, pacietīgu ekosistēmas veidošanu. Kad nozare saprata, kas notiek, bija jau krietni par vēlu. Viss mākslīgā intelekta tehnoloģiju slānis bija uzbūvēts uz NVIDIA patentētā pamata, lēmumu pēc lēmuma, bibliotēku pēc bibliotēkas, optimizāciju pēc optimizācijas.
Šodien NVIDIA kontrolē 92% mākslīgā intelekta paātrinātāju tirgus. Ne 60%. Ne 75%. Deviņdesmit divus procentus. Daži analītiķi apmācības tirgus daļu lēš 98% apmērā. Izlasiet šos skaitļus vēlreiz. Tas nav konkurētspējīgs tirgus. Tas ir monopols ar tehnisku vīģes lapu.
Ikgadējais 35 miljardu eiro žņaugs
Parunāsim par to, ko šis monopols patiesībā nozīmē konkrēti, īpaši Eiropas uzņēmumiem, kas mēģina veidot AI produktus.
Viena NVIDIA H100 GPU mikroshēma maksā no 23 000 līdz 37 000 eiro. Par vienu mikroshēmu. Mūsdienīga liela valodas modeļa apmācībai ir vajadzīgi tūkstošiem šādu GPU, kas nepārtraukti darbojas nedēļām vai mēnešiem. Tikai skaitļošanas izmaksas var sasniegt desmitiem miljonu eiro. Un tas ir tikai viens apmācības cikls. Lielākajai daļai modeļu ir nepieciešami desmitiem atkārtojumu, pirms tie sāk darboties pieņemami.
NVIDIA jaunākā Blackwell arhitektūra patērē līdz 1 200 vatiem uz mikroshēmu. Tas ir vairāk enerģijas nekā jaudīgs sildītājs. Tā nodrošina aptuveni 2,5 reizes ātrāku AI apmācību salīdzinājumā ar iepriekšējo H100 paaudzi. Iespaidīga inženierija, noteikti.
Bet tā arī maksā vairāk, prasa šķidruma dzesēšanas infrastruktūru, kādas lielākajai daļai datu centru nav, un jums nav absolūti nekādas izvēles, kā vien to iegādāties, ja vēlaties palikt konkurētspējīgs. Jo visi citi to pērk. Jo CUDA darbojas tikai uz tās. Jo ekosistēma nekur citur nepastāv.
Visa sistēma balstās uz vienkāršu realitāti: ja vēlaties veidot vismodernāko AI, jums ir vajadzīgi NVIDIA GPU. Un, ja atrodaties Eiropā, jūs jau no pirmās dienas esat strukturālā neizdevīgā stāvoklī.
ASV mākoņpakalpojumu sniedzēji, piemēram, AWS, Microsoft Azure un Google Cloud, katru ceturksni iegulda vairāk nekā 37 miljardus eiro GPU infrastruktūrā. Katru. Vienu. Ceturksni. Viņi kontrolē 70% Eiropas mākoņpakalpojumu tirgus. Eiropas pakalpojumu sniedzējiem pieder tikai 15% to vietējā tirgus, salīdzinot ar 29% 2017. gadā.
Uzņēmumi, piemēram, SAP un Deutsche Telekom, katrs kontrolē tikai 2% Eiropas mākoņdatošanas tirgus. Eiropas mākoņdatošanas pakalpojumu sniedzēji, piemēram, OVHcloud, Scaleway un Hetzner, apkalpo nišas tirgus un nespēj līdzināties Amerikas hipermēroga uzņēmumu apjomam. Nespēj iegūt GPU par konkurētspējīgām cenām. Nespēj piedāvāt tādu pašu veiktspēju. Nespēj konkurēt.
Nav tā, ka Eiropas uzņēmumiem trūktu tehniskā talanta vai ambīciju. Viņiem trūkst piekļuves GPU par konkurētspējīgām cenām un vajadzīgajā apjomā. Viņi ne tikai atpaliek sacensībā. Viņi skrien pavisam citā trasē, un strukturālie šķēršļi ir tik lieli, ka tos grūti pārvarēt pat ar miljardiem eiro lielām investīcijām.
Eiropas AI jaunuzņēmumi spēlē spēli, kuru nevar uzvarēt
Padomājiet par to, kas šobrīd notiek ar Eiropas AI uzņēmumiem reālajā laikā, kamēr tie cenšas konkurēt.
Mistral AI, Francijas daudzsološākais AI jaunuzņēmums, piesaistīja 468 miljonus eiro finansējumu. Tā ir reāla nauda. Tas padara tos par vienu no labāk finansētajiem AI uzņēmumiem Eiropā. Pat ar šādu kara kasi viņiem nācās paziņot par suverēnas AI infrastruktūras partnerību ar NVIDIA izstādē VivaTech 2025, lai tikai nodrošinātu piekļuvi GPU.
Izlasi vēlreiz. Gandrīz pusmiljards eiro finansējumā, un viņiem joprojām bija jāpartnerējas ar NVIDIA, lai tikai iegūtu mikroshēmas. Tā nav stratēģiska izvēle. Tā ir nepieciešamība, kas pārģērbta par partnerību.
Aleph Alpha, Vācijas atbilde uz OpenAI, 2024. gada beigās mainīja kursu no pamata modeļu izstrādes uz palīdzību uzņēmumiem ieviest AI. Kāpēc? Kā atzina dibinātājs Jonas Andrulis, LLM izveide izrādījās pārāk sarežģīta un dārga jomā, kurā dominē dziļām kabatām bagāti lielo tehnoloģiju giganti.
Tulkojums: viņi nevarēja nodrošināt piekļuvi GPU tādā apjomā, kāds nepieciešams konkurencei. Viņi nevarēja līdzināties Amerikas uzņēmumu infrastruktūras investīcijām. Tāpēc viņi pārorientējās uz biznesa modeli, kas neprasa konkurēt pamata modeļu apmācībā. Tā nav stratēģija. Tā ir padošanās.
Eiropas AI uzņēmumi ir saņēmuši desmit reizes mazāk finansējuma nekā viņu Amerikas kolēģi. Bet pat tad, ja finansējums būtu vienāds, GPU sastrēgums joprojām pastāvētu. NVIDIA prioritāti piešķir saviem lielākajiem klientiem: Amerikas mākoņdatošanas pakalpojumu sniedzējiem un tehnoloģiju gigantiem. Eiropas jaunuzņēmumi stāv rindā pēc atlikumiem, maksājot augstākas cenas par jebkādu piešķīrumu, ko viņiem izdodas iegūt.
ES ir atbildējusi ar iniciatīvu InvestAI, mobilizējot 200 miljardus eiro mākslīgā intelekta investīcijām. 2025. gada februārī Brookfield Infrastructure un Data4 paziņoja par 19,2 miljardu eiro lielām investīcijām mākslīgā intelekta infrastruktūrā tikai Francijā. 2024. gada decembrī EuroHPC JU izvēlējās septiņus konsorcijus, lai izveidotu pirmās mākslīgā intelekta rūpnīcas Somijā, Vācijā, Grieķijā, Itālijā, Luksemburgā, Spānijā un Zviedrijā.
Tie ir milzīgi ieguldījumi. Reālas saistības. Taču pirmās gigarūpnīcas nedarbosies ātrāk kā 2027. gadā. Un visas tās, pilnīgi visas, darbosies ar NVIDIA GPU. Eiropa tērē simtiem miljardu eiro, lai atbrīvotos no atkarības no ASV mākoņpakalpojumu sniedzējiem, taču tikai padziļina atkarību no ASV aparatūras.
Problēma ir redzama.
Ekosistēmas slazds: kāpēc izkļūšana ir gandrīz neiespējama
Lūk, kāpēc piesaiste ir tik mānīga, pat ja visi apzinās, ka tā ir problēma, kas jārisina.
Iedomājieties, ka esat pētniecības laboratorija Minhenes Tehniskajā universitātē. Jūs jau piecus gadus izmantojat NVIDIA GPU. Viss jūsu kods ir optimizēts CUDA videi. Jūsu pētniekiem ir CUDA kompetence. Jūsu infrastruktūra balstās uz CUDA. Jūsu izvietošanas cauruļvadi ir atkarīgi no CUDA. Jūs esat ieguldījuši miljoniem eiro un neskaitāmus cilvēkgadus šajā ekosistēmā.
Tagad kāds jums piedāvā alternatīvu. Varbūt AMD ROCm platformu. Varbūt Google TPU. Varbūt pielāgotu mākslīgā intelekta paātrinātāju no daudzsološa Eiropas jaunuzņēmuma.
Lai pārietu, jums ir jāpārraksta viss kods jaunai platformai, un tas prasa mēnešus vai gadus. Jāapmāca komanda no jauna jaunos rīkos, ietvaros un optimizācijas paņēmienos. Jāoptimizē visi modeļi citām aparatūras arhitektūrām. Jāsamierinās, ka 80% atvērtā koda AI bibliotēku nedarbosies bez būtiskām izmaiņām. Jāriskē, ka alternatīvai trūkst noturības un piegādātāja atbalsta. Jācer, ka veiktspēja atbildīs iepriekšējai vai to pārspēs, lai gan zināt, ka, visticamāk, tā nebūs. Jālūdz, lai neesat tikai pārcēlušies no vienas patentētas ekosistēmas uz citu, tikpat slēgtu, bet ar mazākiem resursiem aiz tās.
Pārejas izmaksas ir astronomiskas. Riskus ir milzīgi. Ieguvumi ir neskaidri. Lielākajai daļai organizāciju tas ir neiespējams aprēķins. Labāk palikt pie zināmā ļaunuma, pat ja tas ir dārgs, ārvalstu kontrolēts un stratēģiski riskants.
Tehnoloģiju giganti, piemēram, Microsoft, Meta un Google, ir ieguldījuši desmitiem miljardu CUDA bāzētos datu centros. Šī infrastruktūra nav tikai nogrimušās izmaksas. Tā ir viņu visas AI stratēģijas pamats. Viņu talanti ir apmācīti CUDA. Viņu kods paredz CUDA. Viņu izvietošanas rīki sagaida CUDA. Viņu konkurences priekšrocības ir atkarīgas no CUDA kompetences.
To ekonomisti sauc par augstām pārejas izmaksām ar tīkla efektiem. Kad tehnoloģija sasniedz kritisko masu, to aizstāt kļūst gandrīz neiespējami, pat ja pastāv pārākas alternatīvas. Pat ja visiem būtu labāk pāriet. Pat ja pašreizējais risinājums ir neoptimāls, dārgs un stratēģiski bīstams.
NVIDIA ne tikai radīja izcilu aparatūru. Viņi uzbūvēja būri ar zelta stieņiem, un visa AI nozare tajā iegāja labprātīgi, pa vienam izdevīgam lēmumam, neapzinoties, ka durvis aiz viņiem aizveras.
Inovāciju sastrēgums, par kuru neviens nerunā
Sliktākās sekas nav izmaksas vai pat piegādātāja slazds. Tās ir tas, ko GPU dominance nodara pašai inovācijai, pašai iespēju telpai tam, kāds AI varētu būt.
Kad viena tehnoloģija sasniedz gandrīz pilnīgu tirgus dominanci, inovācija plūst uz to, lai šo tehnoloģiju padarītu nedaudz labāku, nevis pētītu principiāli atšķirīgas pieejas. NVIDIA izlaiž jaunas GPU paaudzes ar pakāpeniskiem uzlabojumiem. Pētnieki optimizē kodu NVIDIA arhitektūrām. Ietvaru izstrādātāji pievieno CUDA funkcijas. Visi skrien ātrāk uz tā paša skrejceliņa.
Tikmēr principiāli atšķirīgas AI pieejas tiek atstātas bez resursiem, uzmanības un talanta. Kāpēc investēt neironu morfiskajā skaitļošanā, ja visi izmanto GPU? Kāpēc pētīt ierobežojumu balstītu spriešanu, ja neironu tīkli darbojas pietiekami labi? Kāpēc izstrādāt bināros tīklus, ja peldošā komata skaitļi ir iedibināts standarts? Kāpēc tiekties pēc analogās skaitļošanas, fotoniskās apstrādes vai jebkuras citas alternatīvas arhitektūras?
Atbilde ir nežēlīgi vienkārša: jūs nevarat konkurēt. Ekosistēma neeksistē. Rīku nav. Infrastruktūra nav pieejama. Talanti ir apguvuši CUDA un nevēlas sākt no nulles. Investori finansē GPU balstītas pieejas, jo tām ir pierādīta saķere, jo viņi saprot tirgu, jo alternatīvas ir pārāk riskantas.
Tas ir pašpastiprinošs cikls, kas ar katru iterāciju sašaurina iespēju telpu. GPU dominance rada ekosistēmas priekšrocības. Ekosistēmas priekšrocības piesaista investīcijas. Investīcijas nostiprina GPU dominanci. Alternatīvām pieejām ir grūti pat sākt, nemaz nerunājot par mēroga sasniegšanu, kas nepieciešama dzīvotspējas pierādīšanai.
Mēs vairs neizpētām visu iespējamo AI arhitektūru telpu. Mēs izpētām daudz šaurāku telpu tam, kas darbojas efektīvi uz NVIDIA GPU. Tas ir dziļš ierobežojums inovācijai, kas laika gaitā uzkrājas. Katru gadu būris kļūst mazāks, sienas biezākas, izeja tālāka. Katru gadu mēs vairāk investējam nepareizās lietas optimizēšanā.
Digitālais koloniālisms: Eiropas stratēģiskā krīze
Eiropai tas nav tikai tehniska neērtība vai nelabvēlīga tirgus situācija. Tā ir stratēģiska krīze ar ģeopolitisku ietekmi, kas nākamajām paaudzēm noteiks Eiropas tehnoloģisko suverenitāti.
2025. gada 10. jūnijā Microsoft France Sabiedrisko un juridisko lietu direktors Antons Karnjo sēdēja Francijas Senāta priekšā datu suverenitātes izmeklēšanā. Senators pēc senatora viņam uzdeva mānīgi vienkāršu jautājumu: vai viņš var garantēt, ka Microsoft serveros glabātie Francijas pilsoņu dati nekad netiks nodoti ASV varas iestādēm bez skaidras Francijas atļaujas?
Viņa atbilde, sniegta skaidri un bez izvairīšanās: Nē, es to nevaru garantēt.
Saskaņā ar ASV CLOUD Act likumu Amerikas tehnoloģiju korporācijām ir jāizpilda ASV valdības datu pieprasījumi neatkarīgi no tā, kur šie dati fiziski tiek glabāti. Ja pieprasījums ir pareizi formulēts saskaņā ar ASV tiesību aktiem, Microsoft juridiski ir pienākums nodot datus. Eiropas datu suverenitāte, citiem vārdiem sakot, ir atkarīga no Amerikas atturības. Tā pastāv tikai ASV politikas labvēlības dēļ, nevis Eiropas kontroles rezultātā.
Šī liecība satricināja Eiropas politikas aprindas. Taču GPU situācija ir strukturāli identiska, tikai mazāk redzama. NVIDIA ir pakļauta ASV eksporta kontrolei. Tirdzniecības strīds, politikas maiņa, ģeopolitiskā krīze, un visa Eiropas mākslīgā intelekta infrastruktūra varētu tikt ierobežota vai pilnībā atslēgta. Ne hipotētiski. Reāli. Ar vienu pildspalvas vēzienu Vašingtonā.
Eiropā ir izcili mākslīgā intelekta pētnieki. Pasaules līmeņa universitātes, kas publicē progresīvus zinātniskos rakstus. Inovatīvi jaunuzņēmumi kā Mistral AI un Aleph Alpha. Lielas pētniecības iestādes kā IDSIA Šveicē, Vācijas Mākslīgā intelekta pētniecības centrs, INRIA Francijā. Talantīgi inženieri, kas veido iespaidīgas sistēmas.
Bet visi viņi būvē uz pamata, ko viņi nekontrolē, izmantojot aparatūru, kurai nevar piekļūt par konkurētspējīgām cenām, ieslēgti patentētā ekosistēmā, kas pieder vienai Amerikas korporācijai, pakļauti Amerikas eksporta politikai, neaizsargāti pret Amerikas politiskiem lēmumiem.
Tā nav digitālā suverenitāte. Tas ir digitālais koloniālisms ar draudzīgu seju un izcilu klientu apkalpošanu.
Efektivitātes meli, kurus neviens nevēlas atzīt
Lūk, neērta patiesība, kas lielākajā daļā diskusiju par mākslīgā intelekta infrastruktūru tiek noklusēta: GPU patiesībā nav efektīvi mākslīgajam intelektam. Tie ir tikai vismazāk neefektīvā iespēja, ko esam izvēlējušies, jo tie bija pieejami 2012. gadā.
Jā, GPU ir ātrāki par CPU matricu reizināšanā. Bet ātrumu tie panāk ar brutālu spēku, nevis eleganci vai optimizāciju. Tie patērē milzīgu enerģiju. Tie prasa sarežģītas šķidruma dzesēšanas sistēmas. Tie pieprasa specializētu datu centru infrastruktūru. Un tie kļūst sliktāki, nevis labāki.
Mūsdienu NVIDIA Blackwell B200 patērē 1200 vatus. Tas ir vairāk enerģijas nekā lielākā daļa mājsaimniecības sildītāju. Datu centri visā Eiropā tiek pārprojektēti nevis skaitļošanas efektivitātes, bet tikai siltuma slodzes pārvaldības dēļ. GB200 NVL72 skapis patērē 120 kilovatus. Viens vienīgs skapis. Gigavatu mēroga mākslīgā intelekta rūpnīcām ir nepieciešama energoapgādes infrastruktūra, kas līdzvērtīga mazām pilsētām.
Datu centru enerģijas pieprasījums Eiropā līdz 2030. gadam prognozēts sasniegt 168 TWh un līdz 2035. gadam 236 TWh, trīskāršojoties salīdzinājumā ar 2024. gada līmeni. Nīderlandē datu centri jau patērē 7% no valsts elektroenerģijas. Frankfurtē, Londonā un Amsterdamā tie patērē no 33% līdz 42% no visas elektroenerģijas. Izlasiet to vēlreiz. No trešdaļas līdz gandrīz pusei no visas elektroenerģijas lielākajās Eiropas pilsētās tiek novirzīta datu centriem.
Īrijā datu centri veido vairāk nekā 20% no kopējā valsts elektroenerģijas patēriņa. Viena piektdaļa no visas valsts enerģijas tiek izmantota, lai mikroshēmas būtu pietiekami vēsas darbībai. Un šis procents katru gadu pieaug, jo tiek nodota ekspluatācijā arvien vairāk mākslīgā intelekta infrastruktūras.
Un šeit ir daļa, kurai vajadzētu likt ikvienam apstāties: lielākā daļa šīs skaitļošanas būtībā ir izniekota. GPU veic peldošā komata darbības ar ārkārtīgu precizitāti, lai gan galīgais lēmums ir binārs. Tie izpilda milzīgas matricu reizināšanas, lai gan pietiktu ar vienkāršākām darbībām. Tie tērē enerģiju nevis tāpēc, ka tas būtu nepieciešams inteliģencei, bet tāpēc, ka tā darbojas GPU aparatūra. Tāpēc, ka tas ir vienīgais veids, kā mēs to protam darīt lielā mērogā ar rīkiem, kuros esam ieguldījuši.
Mēs esam optimizējuši pilnīgi nepareizu rādītāju. Nevis to, kāds ir labākais veids, kā darīt mākslīgo intelektu, bet gan to, kāds ir ātrākais veids, kā to darīt uz GPU. Tas ir tāpat kā projektēt lidmašīnas, liekot putniem ātrāk plivināt spārnus, nevis izprotot aerodinamiskās pacēluma pamatprincipus. Tas darbojas, savā ziņā, bet jūs pilnībā palaižat garām būtību.
Binārais izrāviens: izeja no paradigmas
Kāda tad īsti ir izeja no šī zelta būra? Uzņēmumā Dweve mēs uzdevām pavisam citu jautājumu: kā būtu, ja mums GPU vispār nebūtu vajadzīgi? Kā būtu, ja visa peldošā komata pieeja jau no paša sākuma būtu nepareizais ceļš?
Neironu tīkliem ir vajadzīgi GPU, jo tie izmanto peldošā komata aritmētiku. Peldošā komata darbībām ir nepieciešama specializēta aparatūra, lai sasniegtu pieņemamu veiktspēju. Šī arhitektūras prasība rada atkarību no GPU. Tāpēc mēs esam iesprostoti. Tā ir ķēde, kas mums ir jāpārrauj.
Bet binārie neironu tīkli pilnībā novērš peldošā komata aritmētiku. Tie darbojas, izmantojot vienkāršas loģiskās darbības: AND, OR, XOR, XNOR. Tādas darbības, kuras katrs mūsdienu procesors spēj efektīvi izpildīt, izmantojot vietējās instrukciju kopas, kas pastāv jau gadu desmitiem. Nav nepieciešama specializēta aparatūra. Nav atkarības no GPU. Nav CUDA piesaistes. Nav piegādātāja monopola.
Dweve Core šo pieeju īsteno ar 1,930 aparatūrai optimizētiem algoritmiem, kas darbojas tieši diskrētā lēmumu telpā. Binārie aprēķini, trīsvērtību aprēķini, zemu bitu aprēķini. Ietvars darbojas efektīvi uz standarta procesoriem, sasniedzot rezultātus, kuriem vajadzētu būt neiespējamiem:
Standarta Intel Xeon serveri, kas lielus modeļus darbina ar konkurētspējīgu ātrumu. Enerģijas patēriņš mērāms desmitos vatu, nevis simtos vai tūkstošos. Atmiņas prasības samazinātas par lieluma kārtu. Inferenču ātrums, kas daudzām darba slodzēm atbilst GPU risinājumiem vai tos pārspēj. Un tas viss darbojas uz aparatūras, kas jau ir katrā datu centrā, pie katra mākoņpakalpojumu sniedzēja, katrā perifērijas ierīcē.
Matemātika ir vienkārša. FP32 modeļiem uz vienu parametru ir vajadzīgi 4 baiti. Binārajiem modeļiem uz vienu parametru ir vajadzīgs 1 bits. Tas ir 32 reižu atmiņas samazinājums jau tikai no kvantizācijas. Pievienojiet retos aktivācijas modeļus, un jums ir modeļi, kas ietilpst sistēmas operatīvajā atmiņā, nevis prasa dārgu augstas caurlaidības atmiņu.
Binārās darbības tiek izpildītas, izmantojot XNOR un POPCNT instrukcijas. Tās ir vietējās procesora instrukcijas, daļa no x86-64 un ARM instrukciju kopām, optimizētas silīcija līmenī. Tās ir ātras. Tās ir efektīvas. Tās ir bijušas tur visu laiku. Mums vienkārši vajadzēja izdomāt, kā tās pareizi izmantot.
Ko binārie tīkli patiesībā maina
Tas nav neliels esošās paradigmas uzlabojums. Tā ir cita paradigma. Ietekme sniedzas daudz tālāk par tikai labākiem veiktspējas rādītājiem.
Dweve Loom parāda, kas kļūst iespējams: 456 domēnu speciālistu sistēmas, kas darbojas kā speciālistu maisījums. Katrs domēna speciālists ir binārs tīkls, kas optimizēts savam domēnam. Matemātika. Zinātne. Kods. Valoda. Kopā tie sasniedz daudz lielāku modeļu dziļumu un spējas, vienlaikus izmantojot tikai daļu resursu.
Maršrutēšana starp domēnu speciālistiem? Bināras darbības. Domēna speciālistu aktivācija? Bināri lēmumi. Galīgās izvades apvienošana? Binārā loģika. Viss līdz galam ir binārs, un tas darbojas, jo inteliģence galu galā izpaužas diskrētās izvēlēs, nevis nepārtrauktās varbūtībās, kas aprēķinātas ar lieku precizitāti.
Tas darbojas uz standarta servera. Ne GPU klastera. Ne specializētiem paātrinātājiem. Servera, ko varat iegādāties no jebkura aparatūras pārdevēja, uzstādīt jebkurā datu centrā, izvietot jebkurā valstī. Enerģijas patēriņš visai sistēmai mērāms simtos vatu, nevis uz vienu mikroshēmu. Dzesēšanas prasības nodrošina standarta gaisa dzesēšana, nevis šķidruma sistēmas, kuru uzstādīšana izmaksā miljoniem.
Brīvība: Eiropas ceļš uz priekšu
GPU laikmets ir ildzis daudz ilgāk, nekā vajadzētu. Tas, kas 2012. gadā sākās kā izdevīgs risinājums maģistrantūras studenta guļamistabā, izvērtās par nozares mēroga atkarību. Tas, kam bija jābūt īslaicīgam starpstāvoklim, kļuva par pastāvīgu infrastruktūru. Tas, kas būtu jāaizstāj jau pirms gadiem, ir sacietējis monopolā.
Bet plaisas jau parādās. Izmaksas kļūst neilgtspējīgas visiem, izņemot lielākos tehnoloģiju gigantus. Stratēģiskie riski ir neiespējami ignorēt jebkurai valdībai, kas pievērš uzmanību. Inovāciju sastrēgums žņaudz alternatīvas pieejas, kas varētu būt labākas. Ietekme uz vidi kļūst nepieņemama, jo mēs būvējam gigavatu mēroga spēkstacijas tikai, lai dzesētu mikroshēmas. Ģeopolitiskās neaizsargātības ir pārāk nopietnas, lai Eiropa tās pieņemtu bezgalīgi.
Binārie neironu tīkli nav tikai esošo pieeju optimizācija. Tie ir fundamentāla pārdomāšana par to, kā AI būtu jādarbojas. Tie iemieso atšķirību starp ieslodzījumu NVIDIA ekosistēmā un patiesas tehnoloģiskās brīvības sasniegšanu. Starp GPU nodokļa maksāšanu mūžīgi un pilnīgu atbrīvošanos.
Eiropai nav jāuzvar GPU sacensībās. Eiropai tās jāpadara novecojušas. Jāveido AI sistēmas, kas darbojas uz standarta aparatūras, kas mums jau ir. Jārada tehnoloģijas, kas nav atkarīgas no Amerikas paātrinātājiem, uz kuriem attiecas Amerikas eksporta kontrole. Jāattīsta spējas, kuras nevar ierobežot ārpolitikas lēmumi vai apdraudēt ārvalstu datu piekļuves likumi.
Uzņēmumā Dweve visa mūsu platforma ir veidota uz šī pamata. Core nodrošina binārā algoritma ietvaru. Loom īsteno domēna speciālistu inteliģences modeli. Nexus orķestrē vairāku aģentu sistēmas. Aura pārvalda autonomus aģentus. Spindle nodrošina zināšanu pārvaldību. Mesh veido decentralizētu infrastruktūru.
Viss tas darbojas efektīvi uz standarta Eiropas infrastruktūras. Uz CPU datu centros no Interxion, no Equinix, no OVHcloud. Uz perifērijas ierīcēm visā kontinentā. Uz aparatūras, ko mēs kontrolējam, izmantojot matemātiku, kuru nevar monopolizēt, radot vērtību, kas paliek Eiropā.
Nav GPU atkarības. Nav stratēģiskas neaizsargātības. Nav zelta būra.
Mūsu priekšā stāvošā izvēle
Mākslīgā intelekta nozare atrodas krustcelēs. Viens ceļš turpina GPU trajektoriju, pieņemot arvien pieaugošās izmaksas, samazinātu suverenitāti, šaurāku inovācijas telpu, pieaugošo ietekmi uz vidi un dziļāku stratēģisko neaizsargātību. Otrs ceļš pilnībā izlaužas, izmantojot diskrēto matemātiku, kurai nav vajadzīgi specializēti paātrinātāji, kas darbojas uz aparatūras, kura mums jau ir, un kas mums atdod kontroli.
Zelta būris no iekšpuses šķiet ērts. NVIDIA ražo patiesi izcilus produktus. CUDA ir iespaidīgi optimizēta. Ekosistēma ir nobriedusi un visaptveroša. Veiktspēja ir reāla. Inerce ir spēcīga. Iegremdētās izmaksas rada psiholoģisku piesaisti. Pārmaiņas ir grūtas, riskantas un neskaidras.
Bet tas joprojām ir būris. Un durvis aizveras.
Katru ceturksni GPU atkarība padziļinās. Katrs CUDA infrastruktūrā ieguldītais eiro palielina pārejas izmaksas. Katra jaunā paātrinātāju paaudze nostiprina piesaisti. Katrs pētnieks, kas apmācīts tikai uz CUDA, sašaurina talantu loku. Katru gadu būris kļūst mazāks un izeja attālāka. Katru gadu mums ir mazāk manevrēšanas iespēju, mazāk izvēļu, lielāki riski.
Binārie neironu tīkli un diskrētā skaitļošana piedāvā izejas ceļu. Bet tikai tad, ja mēs to izmantosim, pirms būris kļūst neizbēgams. Tikai tad, ja mēs rīkosimies, kamēr alternatīvas vēl ir iespējamas. Tikai tad, ja mēs būsim gatavi apšaubīt pieņēmumu, ka GPU ir neizbēgami, ka peldošā komata aritmētika ir nepieciešama, ka monopols ir pieņemams.
2012. gada veiksme pildīja savu mērķi. Tā parādīja, ka dziļā mācīšanās darbojas lielā mērogā. Tā pierādīja MI potenciālu vairāk, nekā kāds bija iedomājies. Tā aizsāka nozari, kas pārveido civilizāciju. Alekss Križevskis, Iļja Sutskeveris un Džefrijs Hintons ir pelnījuši milzīgu atzinību par savu izrāvienu. Viņi mainīja pasauli.
Bet veiksmes nav domātas par pamatiem. Izdevīgi risinājumi nav domāti par infrastruktūru. Īslaicīgi risinājumi nav domāti, lai kļūtu par pastāvīgām atkarībām. Spēļu aparatūra nav domāta civilizācijas mēroga MI darbināšanai. Amerikāņu monopoli nav domāti, lai bezgalīgi kontrolētu Eiropas tehnoloģisko suverenitāti.
Ir pienācis laiks uzbūvēt kaut ko labāku. Kaut ko tādu, kas mūs neieslogo zelta būros. Kaut ko tādu, kas patiešām ir pelnījis būt par mākslīgā intelekta pamatu. Kaut ko tādu, kas darbojas uz standarta aparatūras, respektē enerģijas ierobežojumus, ļauj patiesi inovēt, saglabā stratēģisko autonomiju un atdod mums kontroli pār mūsu tehnoloģisko nākotni.
GPU laikmets tuvojas noslēgumam, neatkarīgi no tā, vai mēs to atzīstam. To garantē fizika un ekonomika. Vienīgais jautājums ir, vai mēs to saskatīsim laikus un veidosim alternatīvu, vai arī kādu dienu pamodīsimies un atklāsim, ka nevaram izbēgt, un sapratīsim, krietni par vēlu, ka mums vajadzēja rīkoties, kamēr vēl bija iespēja.