In-nasba tal-GPU: il-kriżi ta' ostaklu tal-AI fl-Ewropa
The Late Night Cloud Bill
Immaġina dan: qed tmexxi startup f'Amsterdam, Berlin, jew Barċellona. Huwa tard bil-lejl. It-tim tiegħek għadu kif nieda karatteristika ġdida tal-AI li l-klijenti tassew iħobbu. Kollox qed jaħdem. Kollox qed jikber.
Imbagħad tiċċekkja l-kont tal-cloud tiegħek.
L-ispejjeż tal-infrastruttura tiegħek għadhom kemm ttriplikaw. Mhux għax għamilt żball. Mhux għax ġejt hacked. Imma għax il-fornitur tal-cloud tiegħek iddeċieda li l-prezzijiet tal-GPU se jogħlew. Għal darb'oħra. U m'hemm xejn li tista' tagħmel dwarha għax għandek eżattament alternattiva waħda: ħallas jew agħlaq.
Merħba fin-nasba tal-infrastruttura li ħadd ma wissiek dwarha meta bdejt tibni bl-AI. In-nasba li qed tiswa lill-kumpaniji Ewropej €35 biljun fis-sena fuq infrastruttura tal-AI. In-nasba mibnija għal kollox b'inċident fuq ċipep tal-logħob li qatt ma kellhom imexxu intelliġenza artifiċjali fuq skala ta' ċivilizzazzjoni.
Din hija l-istorja ta' kif wasalna hawn. U aktar importanti, kif fl-aħħar nistgħu noħorġu minnha.
The Accident That Became an Empire
It-30 ta' Settembru 2012. F'kamra tas-sodda fid-dar tal-ġenituri tiegħu f'Toronto, Alex Krizhevsky qed imexxi sessjoni finali ta' taħriġ. It-tim tiegħu, SuperVision, mibni flimkien mal-istudenti tal-PhD Ilya Sutskever u l-konsulent Geoffrey Hinton, wasal biex jissottometti d-dħul tiegħu fil-kompetizzjoni ImageNet.
Għamlu xi ħaġa mhux konvenzjonali: ħarrġu netwerk newrali profond billi użaw żewġ karti grafiċi NVIDIA GTX 580. Hardware tal-logħob. It-tip li tuża biex tirrendi splużjonijiet f'Call of Duty, biex id-draguni jieħdu n-nar reali, biex tikkalkula r-riflessjonijiet tal-ilma f'dinja ta' fantasija.
Hija soluzzjoni improvviżata, tassew. Kienu bżonn aktar qawwa ta' komputazzjoni milli setgħu jipprovdu l-CPU, u dawn il-GPU tal-logħob ta' €500 ġraw li ħadmu. Ħadd ma jaħseb li din hija l-futur tal-AI. Huwa biss dak li huwa disponibbli issa, f'dan il-mument, għal proġett ta' student gradwat.
Il-mudell tagħhom, AlexNet, mhux biss jirbaħ il-kompetizzjoni ImageNet. Jeqred kull tentattiv preċedenti. Rebbieħa minn snin ta' qabel kisbu rata ta' żball ta' 26.2%. AlexNet jilħaq 15.3%. Dik mhix titjib inkrementali. Dik hija rivoluzzjoni li tista' taraha mill-ispazju.
U hekk, għal kollox b'inċident, il-GPU saru l-pedament tal-intelliġenza artifiċjali. Il-hardware tal-logħob sar is-sinsla tat-teknoloġija l-aktar importanti tas-seklu 21. Dak li kulħadd ħaseb li kien soluzzjoni temporanja sar infrastruttura permanenti.
Tlettax-il sena wara, dak l-inċident immetastizza f'xi ħaġa li ħadd ma antiċipa: dipendenza annwali ta' €35 biljun. Vulnerabbiltà strateġika. Monokultura teknoloġika. Gaġġa tad-deheb li qabdet l-ekosistema kollha tal-AI globali, u l-Ewropa l-aktar minn kulħadd.
Għaliex iċ-Ċipep tal-Logħob Ħadmu b'Kumbinazzjoni
Ejjew inkunu ċari għal kollox dwar x'ġara verament hawn. Il-GPUs qatt ma ġew iddisinjati għall-intelliġenza artifiċjali. Huma nbnew biex juru ilma realistiku fil-logħob tal-kompjuter, biex id-dellijiet jidhru kredibbli, biex jikkalkulaw l-effetti tad-dawl f'ambjenti 3D b'60 frejm kull sekonda.
Iżda kellhom karatteristika arkitettonika waħda li wriet li kienet ta' xorti tajba għan-netwerks newrali: parallelizmu massiv. Fejn CPU jista' jkollu 8 jew 16 qalba li jagħmlu operazzjonijiet kumplessi f'sekwenza, GPU għandu eluf ta' qlub aktar sempliċi li jesegwixxu l-istess istruzzjoni fl-istess ħin.
In-netwerks newrali, jirriżulta, huma l-aktar multiplikazzjoni ta' matriċi. L-istess operazzjoni matematika ripetuta miljuni ta' drabi. Ipparallelizzabbli b'mod imbarazzanti, kif jgħidu x-xjenzati tal-kompjuter. It-tip ta' problema fejn tista' taqsam ix-xogħol fuq eluf ta' proċessuri sempliċi u tikseb titjib drammatiku fil-veloċità.
Kienet taqbila magħmula għal kollox b'kumbinazzjoni. Bħal meta tiskopri li l-blender tal-kċina tiegħek jagħmel taħlita eċċellenti ta' żebgħa. Żgur, jaħdem. Huwa aktar mgħaġġel milli tħawwad bl-idejn. Iżda ħadd ma ddisinjah għal dak l-iskop. Ħadd ma ottimizzah għal dak l-użu. Sempliċement jiġri li għandu l-proprjetajiet it-tajba.
It-tim ta' Toronto kellu bżonn iħarreġ netwerks akbar. Il-CPUs kienu bil-mod b'mod glaċjali, jieħdu ġimgħat għal dak li l-GPUs setgħu jagħmlu fi jiem. Huma ħarsu madwarhom għal alternattivi u sabu l-pjattaforma CUDA ta' NVIDIA, qafas ta' programmar li ppermettilek tuża l-karti grafiċi għal komputazzjoni ġenerali.
Ma kienx ottimizzat għan-netwerks newrali. Lanqas biss kien partikolarment adattat. Iżda kien 10 darbiet aktar mgħaġġel mill-CPUs, u meta tkun qed tmexxi esperimenti f'laboratorju universitarju b'baġit żgħir ħafna, dak huwa aktar minn biżżejjed.
"Biżżejjed tajjeb" sar l-istandard tad-deheb. Is-soluzzjoni temporanja ssolidifikat f'infrastruttura permanenti. Il-hack sar l-industrija. U hawnhekk il-parti tassew notevoli: kulħadd kien jaf li kien hack. Fl-2012, ir-riċerkaturi tkellmu dwar il-GPUs bħala metodu konvenjenti ta' aċċelerazzjoni, soluzzjoni temporanja sakemm jiġi xi ħaġa aħjar.
Ħadd ma immaġina li fl-2025 għadna se nużaw hardware tal-logħob għall-AI tal-fruntiera. Ħadd ma bassar li dan kien se jsir il-konġestjoni li tillimita l-industrija kollha. Iżda hawn aħna, inħarrġu mudelli b'triljun parametru fuq hardware oriġinarjament iddisinjat biex juri l-blokki ta' Minecraft.
Kif NVIDIA Beniet il-Foss li Ma Jinkisirx
NVIDIA ra l-opportunità qabel kulħadd. Filwaqt li l-akkademiċi kienu qed jittrattaw il-GPUs bħala aċċelerazzjoni konvenjenti għall-esperimenti tagħhom, NVIDIA kienet qed tibni imperu bil-paċenzja u l-viżjoni ta' strateġista ewlieni.
CUDA evolviet minn qafas ta' programmar sempliċi għal ekosistema komprensiva. Libreriji għal kull operazzjoni li tista' timmaġina. Għodod ta' ottimizzazzjoni. Sistemi ta' profiling. Infrastruttura ta' debugging. Dokumentazzjoni estensiva. Programmi edukattivi li jgħallmu studenti universitarji. Evanġelizzazzjoni tal-iżviluppaturi. Sponsorships ta' konferenzi. Għotjiet ta' riċerka.
Biljuni investiti fuq aktar minn deċennju biex CUDA ssir mhux biss funzjonali, iżda indispensabbli. Mhux biss veloċi, iżda irreplaceabbli.
Kull qafas ewlieni tal-AI bena l-pedament tiegħu fuq CUDA. PyTorch jitkellem CUDA b'mod nattiv. TensorFlow jikkompila għal CUDA. JAX jassumi d-disponibbiltà ta' CUDA. Jekk trid tħarreġ netwerk newrali b'veloċitajiet kompetittivi, tikteb kodiċi li jaħdem fuq CUDA. Jekk trid tottimizza l-prestazzjoni, tuża l-libreriji ta' CUDA. Jekk trid tiskjera fuq skala kbira, għandek bżonn hardware kompatibbli ma' CUDA.
U CUDA jaħdem biss fuq GPUs ta' NVIDIA. Dan mhux inċident. Dan mhux negliġenza. Din hija strateġija eżegwita b'preċiżjoni kirurġika fuq ħmistax-il sena.
Din hija waħda mill-aktar lock-ins ta' bejjiegħ ta' suċċess fl-istorja tal-kompjuters. Mhux miksuba permezz ta' restrizzjonijiet legali jew imġiba anti-kompetittiva li r-regolaturi setgħu jikkontestaw, iżda permezz ta' bini ta' ekosistema bla heda u pazjent. Sakemm l-industrija rrealizzat x'kien qed jiġri, kien tard wisq. L-istack kollu tal-AI kien inbena fuq il-pedament proprjetarju ta' NVIDIA, deċiżjoni waħda kull darba, librerija waħda kull darba, ottimizzazzjoni waħda kull darba.
Illum, NVIDIA tikkontrolla 92% tas-suq tal-aċċeleraturi tal-AI. Mhux 60%. Mhux 75%. Disgħin u tnejn fil-mija. Xi analisti jpoġġu s-sehem tas-suq tat-taħriġ għal 98%. Aqra dawk in-numri mill-ġdid. Dak mhux suq kompetittiv. Dik hija monopolju b'weraq ta' tin tekniku.
Il-Ħakma Annwali ta' €35 Biljun
Ejja nitkellmu dwar xi tfisser din il-monopolju f'termini konkreti, speċjalment għall-kumpaniji Ewropej li qed jippruvaw jibnu prodotti tal-AI.
GPU waħda NVIDIA H100 tiswa bejn €23,000 u €37,000. Dik għal ċippa waħda. It-taħriġ ta' mudell modern tal-lingwa kbira jeħtieġ eluf ta' dawn il-GPUs jaħdmu kontinwament għal ġimgħat jew xhur. L-ispiża tal-kompjutazzjoni biss tista' tilħaq għexieren ta' miljuni ta' ewro. U dik hija biss ġirja ta' taħriġ waħda. Il-biċċa l-kbira tal-mudelli jeħtieġu għexieren ta' iterazzjonijiet qabel ma jaħdmu b'mod aċċettabbli.
L-aħħar arkitettura Blackwell ta' NVIDIA tikkonsma sa 1,200 watt għal kull ċippa. Dik hija aktar enerġija minn heater ta' spazju ta' livell għoli. Tagħti madwar 2.5 darbiet aktar veloċi t-taħriġ tal-AI meta mqabbel mal-ġenerazzjoni preċedenti H100. Inġinerija impressjonanti, ċertament.
Iżda tiswa wkoll aktar, teħtieġ infrastruttura ta' tkessiħ likwidu li ħafna data centers m'għandhomx, u m'għandek assolutament l-ebda għażla ħlief li tixtriha jekk trid tibqa' kompetittiv. Għax kulħadd qed jixtriha. Għax CUDA taħdem biss fuqha. Għax l-ekosistema ma teżistix imkien ieħor.
Is-sistema kollha hija mibnija fuq realtà sempliċi: jekk trid tibni AI tal-aħħar teknoloġija, għandek bżonn GPUs ta' NVIDIA. U jekk int ibbażat fl-Ewropa, int fi żvantaġġ strutturali mill-ewwel jum.
Fornituri tal-cloud Amerikani bħal AWS, Microsoft Azure, u Google Cloud jinvestu aktar minn €37 biljun kull kwart. Kull. Kwart. Waħdu. Huma jikkontrollaw 70% tas-suq Ewropew tal-cloud. Fornituri Ewropej għandhom biss 15% tas-suq ta' pajjiżhom, 'l isfel minn 29% fl-2017.
Kumpaniji bħal SAP u Deutsche Telekom kull waħda għandhom biss 2% sehem mis-suq fil-cloud Ewropew. Il-fornituri tal-cloud Ewropej bħal OVHcloud, Scaleway, u Hetzner jaqdu swieq niċeċ, mingħajr ma jistgħu jaqblu mal-iskala tal-hyperscalers Amerikani. Ma jistgħux jiżguraw GPUs bi prezzijiet kompetittivi. Ma jistgħux joffru l-istess prestazzjoni. Ma jistgħux jikkompetu.
Mhux li l-kumpaniji Ewropej m'għandhomx talent tekniku jew ambizzjoni. M'għandhomx aċċess għal GPUs bi prezzijiet kompetittivi u fl-iskala meħtieġa. Mhumiex biss lura fit-tellieqa. Qed jiġru fuq binarju differenti għal kollox, b'ostakli strutturali li biljuni ta' investiment jitħabtu biex jegħlbu.
L-Istartups tal-AI Ewropej Qed Jiffaċċjaw Logħba li Ma Jistgħux Jirbħu
Ikkunsidra x'qed jiġri lill-kumpaniji tal-AI Ewropej bħalissa, f'ħin reali, hekk kif jippruvaw jikkompetu.
Mistral AI, l-aktar startup tal-AI promettenti fi Franza, ġabret €468 miljun f'finanzjament. Dik hija flus veri. Dan jagħmilhom waħda mill-kumpaniji tal-AI l-aktar kapitalizzati fl-Ewropa. Anke b'dak il-kaxxa tal-gwerra, kellhom iħabbru sħubija sovrana ta' infrastruttura tal-AI ma' NVIDIA f'VivaTech 2025 biss biex jiżguraw aċċess għal GPUs.
Aqra dan mill-ġdid. Kważi nofs biljun ewro f'finanzjament, u xorta kellhom jissieħbu ma' NVIDIA biss biex jiksbu ċipep. Din mhix għażla strateġika. Din hija meħtieġa mlibbsa bħala sħubija.
Aleph Alpha, it-tweġiba tal-Ġermanja għal OpenAI, biddlet id-direzzjoni tagħha fl-aħħar tal-2024 minn bini ta' mudelli fundamentali għal għajnuna lin-negozji biex jużaw l-AI. Għaliex? Kif ammetta l-fundatur Jonas Andrulis, il-bini ta' LLMs wera li kien diffiċli wisq u għali wisq fi spazju ddominat minn ġganti tat-teknoloġija b'bwiet fondi.
Fi kliem ieħor: ma setgħux jiżguraw aċċess għal GPUs fl-iskala meħtieġa biex jikkompetu. Ma setgħux jaqblu mal-investimenti fl-infrastruttura tal-kumpaniji Amerikani. Għalhekk biddlu d-direzzjoni lejn mudell ta' negozju li ma jeħtieġx kompetizzjoni fit-taħriġ ta' mudelli fundamentali. Dik mhix strateġija. Dik hija ċediment.
Il-kumpaniji tal-AI Ewropej irċevew għaxar darbiet inqas finanzjament mill-kontropartijiet Amerikani tagħhom. Imma anki kieku l-finanzjament kien ugwali, il-konġestjoni tal-GPUs kienet tibqa'. NVIDIA tagħti prijorità lill-akbar klijenti tagħha: il-fornituri tal-cloud Amerikani u l-ġganti tat-teknoloġija. L-istartups Ewropej jistennew fil-kju għall-fdalijiet, iħallsu prezzijiet premium għal kwalunkwe allokazzjoni li jirnexxilhom jiżguraw.
L-UE wieġbet bl-inizjattiva InvestAI, li qed timmobilizza €200 biljun għall-investiment fl-AI. Fi Frar 2025, Brookfield Infrastructure u Data4 ħabbru investiment ta' €19.2 biljun fl-infrastruttura tal-AI fi Franza biss. F'Diċembru 2024, l-EuroHPC JU għażlet seba' konsorzji biex jistabbilixxu l-ewwel Fabbriki tal-AI madwar il-Finlandja, il-Ġermanja, il-Greċja, l-Italja, il-Lussemburgu, Spanja, u l-Iżvezja.
Dawn huma investimenti kbar. Impenn reali. Iżda l-ewwel gigafabbriki mhux se jkunu operattivi qabel l-2027 tal-inqas. U kollha kemm huma, kull waħda minnhom, se jaħdmu fuq GPUs ta' NVIDIA. L-Ewropa qed tonfoq mijiet ta' biljuni ta' ewro biex taħrab mid-dipendenza fuq il-fornituri tal-cloud Amerikani, biss biex tapprofondixxi d-dipendenza fuq il-ħardwer Amerikan.
Tista' tara l-problema.
In-Nasba tal-Ekosistema: Għaliex il-Ħarba Hija Kważi Impossibbli
Hawn għaliex il-lock-in huwa daqshekk perniċjuż, anki meta kulħadd jagħraf li huwa problema li jeħtieġ soluzzjoni.
Immaġina li inti laboratorju ta' riċerka fl-Università Teknika ta' Munich. Kont qed tuża GPUs ta' NVIDIA għal ħames snin. Il-kodiċi kollu tiegħek huwa ottimizzat għal CUDA. Ir-riċerkaturi tiegħek għandhom għarfien espert ta' CUDA. L-infrastruttura tiegħek tassumi CUDA. Il-pipelines ta' skjerament tiegħek jiddependu fuq CUDA. Investejt miljuni ta' ewro u snin sħaħ ta' ħidma f'din l-ekosistema.
Issa xi ħadd joffrilek alternattiva. Forsi l-pjattaforma ROCm ta' AMD. Forsi t-TPUs ta' Google. Forsi aċċeleratur tal-AI apposta minn startup Ewropew promettenti.
Biex taqleb, trid tikteb mill-ġdid il-kodiċi kollu tiegħek għal pjattaforma ġdida, proċess li jieħu xhur jew snin. Tħarreġ lit-tim tiegħek mill-ġdid fuq għodod, frameworks, u tekniki ta' ottimizzazzjoni ġodda. Terġa' tottimizza l-mudelli kollha tiegħek għal arkitetturi ta' hardware differenti. Taċċetta li 80% tal-libreriji tal-AI b'kodiċi miftuħ ma jaħdmux mingħajr modifikazzjoni sinifikanti. Tirriskja li l-alternattiva ma jkollhiex saħħa fit-tul u appoġġ mill-venditur. Tittama li l-prestazzjoni taqbel ma' jew taqbeż dak li kellek, waqt li tkun taf li probabbilment mhux se tagħmel hekk. Titlob li ma tkunx għaddejt minn ekosistema proprjetarja waħda għal oħra, ugwalment magħluqa iżda b'inqas riżorsi warajha.
L-ispejjeż tal-bidla huma astronomiċi. Ir-riskji huma enormi. Il-benefiċċji huma inċerti. Għall-biċċa l-kbira tal-organizzazzjonijiet, huwa kalkolu impossibbli. Aħjar li toqgħod ma' dak li taf, anki jekk dak li taf huwa għali, ikkontrollat minn barranin, u strateġikament riskjuż.
Ġganti tat-teknoloġija bħal Microsoft, Meta, u Google investew għexieren ta' biljuni f'ċentri tad-data bbażati fuq CUDA. Dik l-infrastruttura mhux biss tirrappreżenta spejjeż mitlufa. Tirrappreżenta l-pedament tal-istrateġija kollha tagħhom tal-AI. It-talent tagħhom huwa mħarreġ f'CUDA. Il-kodiċi tagħhom jassumi CUDA. L-għodod ta' skjerament tagħhom jistennew CUDA. Il-vantaġġ kompetittiv tagħhom jiddependi fuq l-għarfien espert ta' CUDA.
Dan huwa dak li l-ekonomisti jsejħu spejjeż għoljin ta' bidla b'effetti ta' network. Ladarba teknoloġija tikseb massa kritika, iċ-ċaqliq tagħha jsir kważi impossibbli, anki jekk jeżistu alternattivi superjuri. Anki jekk kulħadd ikun aħjar jekk jaqleb. Anki jekk is-soluzzjoni attwali hija subottimali, għalja, u strateġikament perikoluża.
NVIDIA ma bnewx biss hardware eċċellenti. Bnew gaġġa b'vireg tad-deheb, u l-industrija kollha tal-AI daħlet fiha volontarjament, deċiżjoni waħda konvenjenti wara l-oħra, mingħajr ma indunat li l-bieb kien qed jagħlaq warajhom.
Il-Punt ta' Konġestjoni tal-Innovazzjoni li Ħadd ma Jiddiskuti
L-agħar konsegwenza mhijiex l-ispiża jew anki l-illokkjar tal-venditur. Hija dak li d-dominanza tal-GPU tagħmel lill-innovazzjoni nnifisha, lill-ispazju tal-possibbiltajiet stess ta' dak li l-AI tista' tkun.
Meta teknoloġija waħda tikseb dominanza kważi totali tas-suq, l-innovazzjoni tgħaddi biex tagħmel dik it-teknoloġija kemmxejn aħjar minflok tesplora approċċi fundamentalment differenti. NVIDIA toħroġ ġenerazzjonijiet ġodda ta' GPUs b'titjib inkrementali. Ir-riċerkaturi jottimizzaw il-kodiċi għall-arkitetturi ta' NVIDIA. L-iżviluppaturi tal-frameworks iżidu karatteristiċi ta' CUDA. Kulħadd jiġri aktar malajr fuq l-istess treadmill.
Sadanittant, approċċi radikalment differenti għall-AI jibqgħu mingħajr riżorsi, attenzjoni, u talent. Għaliex tinvesti f'komputazzjoni newromorfika meta kulħadd juża GPUs? Għaliex tesplora raġunament ibbażat fuq restrizzjonijiet meta n-netwerks newrali jaħdmu tajjeb biżżejjed? Għaliex tiżviluppa netwerks binarji meta l-punt li jvarja huwa l-istandard stabbilit? Għaliex issegwi komputazzjoni analoga, ipproċessar fotoniku, jew kwalunkwe arkitettura alternattiva oħra?
It-tweġiba hija sempliċi b'mod brutali: ma tistax tikkompeti. L-ekosistema ma teżistix. L-għodod mhumiex hemm. L-infrastruttura mhijiex disponibbli. It-talent tgħallem CUDA u ma jridx jibda mill-ġdid. L-investituri jiffinanzjaw approċċi bbażati fuq GPU għaliex dawk urew trazzjoni, għaliex jifhmu s-suq, għaliex l-alternattivi huma riskjużi wisq.
Huwa ċiklu li jsaħħaħ lilu nnifsu li jnaqqas l-ispazju tal-possibbiltajiet ma' kull iterazzjoni. Id-dominanza tal-GPU toħloq vantaġġi fl-ekosistema. Il-vantaġġi fl-ekosistema jattiraw investiment. L-investiment isaħħaħ id-dominanza tal-GPU. Approċċi alternattivi jitħabtu biex saħansitra jibdew, aħseb u ara jilħqu l-iskala meħtieġa biex jippruvaw il-vijabbiltà tagħhom.
M'għadniex nesploraw l-ispazju sħiħ ta' arkitetturi possibbli tal-AI. Qed nesploraw l-ispazju ħafna aktar dejjaq ta' dak li jaħdem b'mod effiċjenti fuq GPUs ta' NVIDIA. Dik hija restrizzjoni profonda fuq l-innovazzjoni li takkumula maż-żmien. Kull sena l-gaġġa ssir iżgħar, il-ħitan eħxen, il-ħruġ aktar 'il bogħod. Kull sena ninvestu aktar fl-ottimizzazzjoni tal-ħaġa ħażina.
Kolonjaliżmu Diġitali: Il-Kriżi Strateġika tal-Ewropa
Għall-Ewropa, dan mhux sempliċiment inkonvenjent tekniku jew sitwazzjoni sfortunata tas-suq. Din hija kriżi strateġika b'implikazzjonijiet ġeopolitiċi li se jiddefinixxu s-sovranità teknoloġika Ewropea għal ġenerazzjonijiet.
Fl-10 ta' Ġunju 2025, Anton Carniaux, id-direttur tal-affarijiet pubbliċi u legali ta' Microsoft Franza, qagħad quddiem is-Senat Franċiż għal inkjesta dwar is-sovranità tad-dejta. Senatur wara l-ieħor għafsu b'mistoqsija sempliċi b'mod qarrieqi: seta' jiggarantixxi li d-dejta taċ-ċittadini Franċiżi miżmuma fuq is-servers ta' Microsoft qatt ma tintbagħat lill-awtoritajiet Amerikani mingħajr awtorizzazzjoni espliċita Franċiża?
It-tweġiba tiegħu, mogħtija b'mod ċar u mingħajr ebda evażjoni: Le, ma nistax niggarantixxiha.
Taħt l-Att CLOUD Amerikan, il-korporazzjonijiet tat-teknoloġija Amerikani huma obbligati jikkonformaw mat-talbiet tad-dejta tal-gvern Amerikan irrispettivament minn fejn tkun maħżuna dik id-dejta fiżikament. Jekk talba tkun ifformulata kif jixraq taħt il-liġi Amerikana, Microsoft hija legalment obbligata tittrasmetti d-dejta. Is-sovranità tad-dejta Ewropea, fi kliem ieħor, hija kundizzjonali fuq ir-rieda tajba Amerikana. Hija teżisti bil-pjaċir tal-politika Amerikana, mhux bħala kwistjoni ta' kontroll Ewropew.
Dik ix-xhieda ħolqot mewġa ta' xokk fiċ-ċrieki tal-politika Ewropea. Iżda s-sitwazzjoni tal-GPU hija identika fl-istruttura, biss inqas viżibbli. NVIDIA hija soġġetta għall-kontrolli tal-esportazzjoni Amerikani. Tilwima kummerċjali, bidla fil-politika, kriżi ġeopolitika, u l-infrastruttura kollha tal-IA Ewropea tista' tiġi mfixkla jew maqtugħa għal kollox. Mhux ipotetikament. Verament. B'daqqa ta' pinna f'Washington.
L-Ewropa għandha riċerkaturi brillanti tal-IA. Universitajiet ta' klassi dinjija li jipproduċu karti xjentifiċi avvanzati. Startups innovattivi bħal Mistral AI u Aleph Alpha. Istituzzjonijiet ta' riċerka ewlenin bħal IDSIA fl-Iżvizzera, iċ-Ċentru Ġermaniż ta' Riċerka għall-Intelliġenza Artifiċjali, INRIA fi Franza. Inġiniera talentużi li qed jibnu sistemi impressjonanti.
Iżda dawn kollha qed jibnu fuq pedament li ma jikkontrollawx, jużaw ħardwer li ma jistgħux jaċċessaw bi prezzijiet kompetittivi, maqbuda f'ekosistema proprjetarja li hija proprjetà ta' korporazzjoni Amerikana waħda, soġġetti għall-politika tal-esportazzjoni Amerikana, vulnerabbli għad-deċiżjonijiet politiċi Amerikani.
Dak mhux sovranità diġitali. Dak huwa kolonjaliżmu diġitali b'wiċċ ta' ħbiberija u servizz eċċellenti għall-konsumatur.
Il-Gidba tal-Effiċjenza li Ħadd Ma Jrid Jaffaċċja
Hawn verità skomda li tiġi injorata fil-biċċa l-kbira tad-diskussjonijiet dwar l-infrastruttura tal-IA: il-GPU mhumiex effiċjenti għall-IA fil-verità. Huma biss l-inqas għażla ineffiċjenti li qbilna fuqha għax kienu disponibbli fl-2012.
Iva, il-GPU huma aktar mgħaġġla mill-CPU għall-multiplikazzjoni tal-matriċi. Iżda jiksbu l-veloċità permezz tal-forza bruta, mhux permezz tal-eleganti jew l-ottimizzazzjoni. Jikkunsmaw enerġija enormi. Jeħtieġu sistemi kumplessi ta' tkessiħ likwidu. Jitolbu infrastruttura speċjalizzata taċ-ċentri tad-dejta. U qed isiru agħar, mhux aħjar.
NVIDIA Blackwell B200 moderna tiġbed 1,200 watt. Dik hija aktar enerġija mill-biċċa l-kbira tal-ħiters domestiċi. Ċentri tad-dejta madwar l-Ewropa qed jiġu ddisinjati mill-ġdid mhux għall-effiċjenza komputazzjonali, iżda biss biex jimmaniġġjaw it-tagħbija termali. Il-kabinett GB200 NVL72 jikkonsma 120 kilowatt. Armarju wieħed. Fabbriki tal-IA fuq skala ta' gigawatt jeħtieġu infrastruttura tal-enerġija ekwivalenti għal bliet żgħar.
Id-domanda għall-enerġija taċ-ċentri tad-dejta fl-Ewropa hija mbassra li tilħaq 168 TWh sal-2030 u 236 TWh sal-2035, tittripplika mil-livelli tal-2024. Fl-Olanda, iċ-ċentri tad-dejta diġà jikkunsmaw 7% tal-elettriku nazzjonali. Fi Frankfurt, Londra, u Amsterdam, jikkunsmaw bejn 33% u 42% tal-elettriku kollu. Aqra dan mill-ġdid. Bejn terz u kważi nofs l-elettriku kollu fil-bliet ewlenin Ewropej imur għaċ-ċentri tad-dejta.
Fl-Irlanda, iċ-ċentri tad-dejta jammontaw għal aktar minn 20% tal-konsum totali tal-elettriku nazzjonali. Ħamsa tal-enerġija ta' pajjiż sħiħ tmur biex iżżomm iċ-ċipep kesħin biżżejjed biex jaħdmu. U dik il-perċentwali qed tikber kull sena hekk kif aktar infrastruttura tal-IA tidħol fis-seħħ.
U hawn il-parti li għandha twaqqaf lil kulħadd biex jaħseb: il-biċċa l-kbira ta' dak il-kompjutar huwa essenzjalment moħli. Il-GPUs iwettqu operazzjonijiet b'punt li jvarja b'preċiżjoni estrema meta d-deċiżjoni finali tkun binarja. Iwettqu multiplikazzjonijiet ta' matriċi massivi meta operazzjonijiet aktar sempliċi kienu jkunu biżżejjed. Jaħarqu enerġija mhux għax hemm bżonnha għall-intelliġenza, imma għax hekk jaħdem il-ħardwer tal-GPU. Għax dik hija l-uniku mod kif nafu nagħmluh fuq skala kbira bl-għodod li investejna fihom.
Ottimizzajna għall-metrika kompletament żbaljata. Mhux x'inhu l-aħjar mod kif nagħmlu l-AI, imma x'inhu l-aktar mod mgħaġġel kif nagħmluh fuq GPU. Dan huwa bħal li tiddisinja ajruplani billi ġġiegħel lill-għasafar ibejktu ġwienaħhom aktar malajr minflok tifhem il-prinċipji fundamentali tal-lift aerodinamiku. Jaħdem, aktar jew inqas, imma qed titlef il-punt għal kollox.
Il-Breakthrough Binarju: Ħarba mill-Paradigma
Allura x'inhi t-triq attwali biex noħorġu minn din il-gaġġa tad-deheb? F'Dweve, staqsejna mistoqsija fundamentalment differenti: u jekk ma kellniex bżonn GPUs xejn? U jekk l-approċċ kollu tal-punt li jvarja kien it-triq ħażina mill-bidu nett?
In-netwerks newrali jeħtieġu GPUs għax jużaw aritmetika tal-punt li jvarja. L-operazzjonijiet tal-punt li jvarja jeħtieġu hardware speċjalizzat biex ikollhom prestazzjoni aċċettabbli. Dik il-ħtieġa arkitettonika toħloq id-dipendenza fuq il-GPUs. Huwa għalhekk li aħna maqbuda. Dik hija l-katina li rridu nkissru.
Iżda n-netwerks newrali binarji jeliminaw l-aritmetika tal-punt li jvarja kompletament. Huma jaħdmu permezz ta' operazzjonijiet loġiċi sempliċi: AND, OR, XOR, XNOR. It-tip ta' operazzjonijiet li kull CPU moderna tista' tesegwixxi b'mod effiċjenti permezz ta' settijiet ta' istruzzjonijiet nattivi li ilhom jeżistu għal għexieren ta' snin. L-ebda hardware speċjalizzat meħtieġ. L-ebda dipendenza fuq GPUs. L-ebda lock-in ta' CUDA. L-ebda monopolju tal-fornitur.
Dweve Core jimplimenta dan l-approċċ b'1,930 algoritmi ottimizzati għall-hardware li jaħdmu direttament fl-ispazju diskret tad-deċiżjonijiet. Kalkolu binarju, kalkolu ternarju, kalkolu ta' bits baxxi. Il-framework jaħdem b'mod effiċjenti fuq CPUs standard, u jikseb riżultati li għandhom ikunu impossibbli:
Servers standard Intel Xeon imexxu mudelli kbar b'veloċitajiet kompetittivi. Il-konsum tal-enerġija jitkejjel f'għexieren ta' watts, mhux mijiet jew eluf. Ir-rekwiżiti tal-memorja jitnaqqsu b'ordni ta' kobor. Veloċitajiet ta' inferenza li jaqblu jew jaqbżu l-implimentazzjonijiet tal-GPU għal ħafna workloads. U kollox jaħdem fuq hardware li diġà jeżisti f'kull data center, f'kull fornitur tal-cloud, f'kull apparat edge.
Il-matematika hija sempliċi. Mudelli FP32 jeħtieġu 4 bytes għal kull parametru. Mudelli binarji jeħtieġu bit 1 għal kull parametru. Dik hija tnaqqis ta' 32x fil-memorja biss mill-kwantizzazzjoni. Żid mudelli ta' attivazzjoni sparsi u qed tħares lejn mudelli li joqogħdu fir-RAM tas-sistema minflok ma jeħtieġu memorja ta' bandwidth għoli u għalja.
L-operazzjonijiet binarji jesegwixxu permezz ta' istruzzjonijiet XNOR u POPCNT. Dawn huma istruzzjonijiet nattivi tal-CPU, parti mis-settijiet ta' istruzzjonijiet x86-64 u ARM, ottimizzati fil-livell tas-silikon. Huma veloċi. Huma effiċjenti. Ilhom hemm il-ħin kollu. Konna biss bżonn insemmu kif nużawhom kif suppost.
X'Jibdlu Attwalment in-Netwerks Binarji
Dan mhuwiex titjib żgħir fuq il-paradigma eżistenti. Din hija paradigma differenti. L-implikazzjonijiet imorru ferm lil hinn minn metriċi ta' prestazzjoni aħjar biss.
Dweve Loom juri x’jista’ jsir possibbli: 456 sistema speċjalizzati f’qasam partikolari li jaħdmu bħala Mixture of Specialists. Kull speċjalista ta’ qasam huwa netwerk binarju ottimizzat għall-qasam tiegħu. Matematika. Xjenza. Kodiċi. Lingwa. Flimkien jiksbu l-fond u l-kapaċità ta’ mudelli ħafna akbar filwaqt li jużaw frazzjoni tar-riżorsi.
Ir-routing bejn l-ispeċjalisti tal-qasam? Operazzjonijiet binarji. L-attivazzjoni tal-ispeċjalista tal-qasam? Deċiżjonijiet binarji. Il-fużjoni tal-output finali? Loġika binarja. Huwa binarju sa l-aħħar, u jaħdem għaliex l-intelliġenza fl-aħħar mill-aħħar timmanifesta ruħha permezz ta’ għażliet diskreti, mhux probabbiltajiet kontinwi kkalkulati bi preċiżjoni żejda li tinħela.
Dan kollu jaħdem fuq server standard. Mhux kluster ta’ GPUs. Mhux aċċeleraturi speċjalizzati. Server li tista’ tixtri mingħand kwalunkwe fornitur ta’ hardware, tinstallah fi kwalunkwe data center, tiskjerah fi kwalunkwe pajjiż. Il-konsum tal-enerġija jitkejjel f’mijiet ta’ watts għas-sistema kollha, mhux għal kull ċippa. Ir-rekwiżiti tat-tkessiħ jintlaħqu permezz ta’ tkessiħ standard bl-arja, mhux sistemi likwidi li jiswew miljuni biex jiġu installati.
Ħelsien: It-Triq ’il Quddiem tal-Ewropa
L-era tal-GPU damet ferm aktar milli kellha. Dak li beda bħala soluzzjoni ta’ malajr fil-kamra ta’ student gradwat fl-2012 sar dipendenza madwar l-industrija kollha. Dak li kellu jkun soluzzjoni temporanja sar infrastruttura permanenti. Dak li kellu jiġi sostitwit snin ilu minflok ikkristallizza f’monopolju.
Imma x-xquq qed jidhru. L-ispejjeż qed isiru insostenibbli għal kulħadd ħlief għall-akbar ġganti tat-teknoloġija. Ir-riskji strateġiċi huma impossibbli li jiġu injorati għal kwalunkwe gvern li jkun qed jagħti kas. Il-punt ta’ konġestjoni tal-innovazzjoni qed ifarrak approċċi alternattivi li jistgħu jkunu aħjar. L-impatt ambjentali qed isir dejjem aktar insostenibbli hekk kif nibnu impjanti tal-enerġija fuq skala ta’ gigawatts biss biex inkessħu ċ-ċipep. Il-vulnerabbiltajiet ġeopolitiċi huma severi wisq biex l-Ewropa taċċettahom b’mod indefinit.
In-netwerks newrali binarji mhumiex biss ottimizzazzjoni tal-approċċi eżistenti. Huma jirrappreżentaw ħsieb mill-ġdid fundamentali ta’ kif għandha taħdem l-AI. Huma jinkorporaw id-differenza bejn li tkun maqbud fl-ekosistema ta’ NVIDIA u li tikseb libertà teknoloġika ġenwina. Bejn li tħallas it-taxxa tal-GPU għal dejjem u li teħles għal kollox.
L-Ewropa m’għandhiex bżonn tirbaħ it-tellieqa tal-GPU. L-Ewropa għandha bżonn tagħmilha skaduta. Ibni sistemi tal-AI li jaħdmu fuq hardware standard li diġà għandna. Oħloq teknoloġiji li ma jiddependux fuq aċċeleraturi Amerikani soġġetti għal kontrolli tal-esportazzjoni Amerikani. Żviluppa kapaċitajiet li ma jistgħux jiġu mfixkla minn deċiżjonijiet tal-politika barranija jew kompromessi minn liġijiet barranin dwar l-aċċess għad-dejta.
F’Dweve, il-pjattaforma kollha tagħna hija mibnija fuq din il-bażi. Core jipprovdi l-qafas tal-algoritmu binarju. Loom jimplimenta l-mudell tal-intelliġenza speċjalista tal-qasam. Nexus jikkoordina sistemi ta’ aġenti multipli. Aura jimmaniġġja aġenti awtonomi. Spindle jimmaniġġja l-governanza tal-għarfien. Mesh joħloq infrastruttura deċentralizzata.
Kollha jaħdmu b’mod effiċjenti fuq infrastruttura Ewropea standard. Fuq CPUs f’data centers ta’ Interxion, ta’ Equinix, ta’ OVHcloud. Fuq apparati edge madwar il-kontinent. Fuq hardware li nikkontrollaw, billi nużaw matematika li ma tistax tiġi monopolizzata, u noħolqu valur li jibqa’ fl-Ewropa.
L-ebda dipendenza fuq GPU. L-ebda vulnerabbiltà strateġika. L-ebda gaġġa tad-deheb.
L-Għażla li Qegħdin Niffaċċjaw
L-industrija tal-AI qegħda f'salib it-toroq. Triq waħda tkompli fuq it-triq tal-GPU, taċċetta spejjeż li qed jiżdiedu dejjem, sovranità dejjem tonqos, spazju għall-innovazzjoni dejjem jidjieq, impatt ambjentali dejjem jikber, u vulnerabbiltà strateġika dejjem aktar profonda. It-triq l-oħra tħossha ħielsa għal kollox, tuża matematika diskreta li ma teħtieġx aċċeleraturi speċjalizzati, li taħdem fuq hardware li diġà għandna, li tagħtina lura l-kontroll.
Il-gaġġa tad-deheb tidher komda minn ġewwa. NVIDIA tagħmel prodotti tassew eċċellenti. CUDA hija ottimizzata b'mod impressjonanti. L-ekosistema hija matura u komprensiva. Il-prestazzjoni hija reali. L-inerzja hija qawwija. L-ispejjeż mitfija joħolqu impenn psikoloġiku. Il-bidla hija diffiċli u riskjuża u inċerta.
Imma xorta waħda hija gaġġa. U l-bieb qed jagħlaq.
Kull kwart, id-dipendenza fuq il-GPU tapprofondixxi. Kull ewro investit fl-infrastruttura ta' CUDA jgħolli l-ispiża tal-bidla. Kull ġenerazzjoni ġdida ta' aċċeleraturi ssaħħaħ il-lock-in. Kull riċerkatur imħarreġ esklussivament fuq CUDA jnaqqas il-grupp ta' talent. Kull sena l-gaġġa ssir iżgħar u l-ħruġ aktar 'il bogħod. Kull sena għandna inqas spazju għall-manuvrar, inqas għażliet, riskji ogħla.
Netwerks newrali binarji u komputazzjoni diskreta joffru rotta ta' ħarba. Imma biss jekk nieħduha qabel ma l-gaġġa ssir inevitabbli. Biss jekk naġixxu waqt li l-alternattivi jibqgħu possibbli. Biss jekk inkunu lesti nisfidaw is-suppożizzjoni li l-GPUs huma inevitabbli, li l-floating-point huwa meħtieġ, li l-monopolju huwa aċċettabbli.
Ix-xorti tal-2012 serviet l-iskop tagħha. Wriet li t-tagħlim fil-fond jaħdem fuq skala kbira. Ippruvat il-potenzjal tal-AI lil hinn minn dak li ħadd immaġina. Bdiet industrija li qed tittrasforma ċ-ċiviltà. Alex Krizhevsky, Ilya Sutskever, u Geoffrey Hinton jistħoqqilhom kreditu kbir għall-kisba tagħhom. Huma biddlu d-dinja.
Imma x-xorti mhumiex maħsuba biex ikunu pedamenti. Hacks prattiċi mhumiex maħsuba biex ikunu infrastruttura. Soluzzjonijiet temporanji mhumiex maħsuba biex isiru dipendenzi permanenti. Hardware tal-logħob mhuwiex maħsub biex imexxi AI fuq skala ċivilizzazzjonali. Monopolji Amerikani mhumiex maħsuba biex jikkontrollaw is-sovranità teknoloġika Ewropea b'mod indefinit.
Wasal iż-żmien li nibnu xi ħaġa aħjar. Xi ħaġa li ma jaqbadniex fi gaġeġ tad-deheb. Xi ħaġa li tassew jistħoqqilha tkun il-pedament tal-intelliġenza artifiċjali. Xi ħaġa li taħdem fuq hardware standard, tirrispetta l-limitazzjonijiet tal-enerġija, tippermetti innovazzjoni vera, tippreserva l-awtonomija strateġika, u tagħtina lura l-kontroll tal-futur teknoloġiku tagħna.
L-era tal-GPU qed tispiċċa, kemm jekk nirrikonoxxuha u kemm jekk le. Il-fiżika u l-ekonomija jiggarantixxu dan. L-unika mistoqsija hi jekk narawhiex ġejja u nibnux l-alternattiva, jew jekk inqajmux xi darba biex niskopru li ma nistgħux naħarbu u nirrealizzaw, wisq tard, li kellna naġixxu meta kellna ċ-ċans.