Ir-ritorn il-kbir tal-CPU: kif għamilna l-CPUs aktar mgħaġġla mill-GPUs għall-AI
The impossible claim
"You can't beat GPUs for AI workloads." That's what everyone said. It's been gospel for over a decade. CPUs are general-purpose. GPUs are specialized. End of story.
Except we did. Binary neural networks running on Intel Xeon CPUs deliver 10-20× faster inference than floating-point networks on GPUs. Not theoretical performance. Actual, deployed, measured results.
This isn't a marginal improvement. It's a substantial shift in approach. And it's happening because we stopped trying to make CPUs work like GPUs and started using mathematics that CPUs excel at.
Why GPUs won (originally)
GPUs dominated AI for good reasons. Neural networks are matrix multiplications. Lots of them. GPUs have thousands of cores doing parallel floating-point arithmetic. Perfect match.
But here's what everyone missed: the match was circumstantial, not fundamental. GPUs weren't designed for AI. They just happened to be good at the specific mathematics that early neural networks used.
Floating-point matrix multiplication? GPU wins. But what if you don't need floating-point? What if binary operations work better? Suddenly the specialized GPU advantage disappears.
The European CPU revolution (while America bought GPUs)
Something interesting happened while American AI companies scrambled for NVIDIA allocations. European researchers, unable to secure massive GPU budgets, started asking different questions. Not "how do we get more GPUs?" but "do we actually need GPUs?"
German research labs at Max Planck Institute published papers on binary neural networks in 2018. Dutch universities at TU Delft optimized CPU inference. Swiss researchers at ETH Zurich developed constraint-based reasoning that ran beautifully on standard Intel processors. These weren't GPU alternatives. These were CPU-first approaches that happened to make GPUs irrelevant.
Why Europe? Follow the money, or lack thereof. EU research funding averaged €50-100K per project. Enough for researchers and servers. Not enough for GPU clusters. Constraint breeds innovation. European AI researchers couldn't brute-force with compute. They optimized algorithms instead. Turns out algorithmic efficiency beats hardware parallelism.
American pattern: throw money at GPUs, achieve marginal improvements. European pattern: rethink mathematics, achieve breakthrough performance on existing hardware. Same end goal, radically different paths. Brussels Effect strikes again: European solutions become global standards because they work with infrastructure everyone already owns.
The binary advantage
Binary neural networks use +1 and -1 instead of floating-point numbers. The operations become logical: AND, OR, XOR, XNOR. Simple bit manipulations.
CPUs are incredibly fast at bit operations. Intel's AVX-512 can process 512 bits simultaneously. Modern Xeon processors have specialized instructions for exactly these operations.
Meanwhile, GPUs optimized for floating-point struggle with binary logic. They can do it, but they're using a sledgehammer for precision work. All that specialized floating-point circuitry sits idle.
Netwerks binarji fuq CPUs: tuża l-għodda t-tajba għax-xogħol. Netwerks b'punt li jvarja (floating-point) fuq GPUs: tuża l-unika għodda li kulħadd jaf.
In-numri li xokkjawna
L-ewwel benchmarks tagħna dehru ħżiena. Reġajna għaddejniehom. L-istess riżultati. Netwerks binarji fuq CPUs Xeon kienu qed jagħtu inferenza 10× aktar mgħaġġla minn netwerks b'punt li jvarja fuq GPUs ta' livell għoli.
Klassifikazzjoni tal-immaġini: 2,000 inferenza kull sekonda fuq CPU kontra 180 fuq GPU.
Ipproċessar tal-lingwa naturali: 5× titjib fil-veloċità fuq CPUs standard ta' server.
Sistemi ta' rakkomandazzjoni: 15× aktar mgħaġġla fuq arkitettura Intel.
Il-vantaġġ fil-prestazzjoni jikber mal-iskala. Mudelli akbar juru differenzi saħansitra akbar. Iktar ma jkun kumpless in-netwerk, iktar CPUs jimxu 'l quddiem.
L-ispjegazzjoni teknika (għaliex dan jaħdem)
Ejjew inkunu speċifiċi dwar għaliex CPUs f'daqqa waħda qed jiddominaw l-inferenza tal-AI b'netwerks binarji.
Paralleliżmu fil-Livell tal-Istruzzjonijiet: Proċessuri moderni Intel Xeon għandhom estensjonijiet vettorjali AVX-512. Dawn huma operazzjonijiet SIMD ta' 512 bit. Istruzzjoni waħda tipproċessa 512 valuri binarji simultanjament. Saff ta' netwerk newrali binarju b'512 newron? Istruzzjoni waħda tal-CPU. Il-GPU trid tgħaddi minn unitajiet b'punt li jvarja (floating-point) iddisinjati għall-grafika. Din id-diskrepanza arkitettonika tiswa l-prestazzjoni.
Effiċjenza tal-Cache: Piżijiet binarji huma bit wieħed. Piżijiet b'punt li jvarja huma 32 bit. L-istess cache L1 jesa' 32 darba aktar piżijiet binarji. Il-CPUs jisbqu fl-ottimizzazzjoni tal-cache. Meta l-mudell kollu tiegħek jidħol fil-cache L2, il-bandwidth tal-memorja ma jibqax jimpurta. Il-GPUs huma ottimizzati biex jistrimjaw settijiet kbar ta' data mill-VRAM. Netwerks binarji m'għandhomx bżonn streaming: kollox jinsab fil-cache. Vantaġġ tal-GPU: annullat.
XNOR u POPCOUNT: Il-pass 'il quddiem ta' netwerk newrali binarju jitnaqqas għal operazzjonijiet XNOR segwiti minn għadd tal-popolazzjoni (numru ta' bits issettjati). Intel żiedet l-istruzzjoni POPCNT fl-2008. AMD segwiet fl-2011. Kull CPU moderna għandha għadd ta' bits aċċellerat mill-hardware. GPUs? Huma jimitawh permezz ta' operazzjonijiet b'punt li jvarja. Appoġġ nattiv tal-hardware kontra emulazzjoni. Il-CPU tirbaħ b'mod deċiżiv.
Previżjoni tal-Fergħat: Funzjonijiet ta' attivazzjoni binarji huma limiti sempliċi. Jekk is-somma > 0, attiva. Il-CPUs għandhom previżuri tal-fergħat sofistikati li ġew irfinuti fuq għexieren ta' snin. Dawn l-operazzjonijiet tal-limiti jsiru fergħat prevedibbli perfettament. Il-GPUs ibatu mal-fergħat: il-mudell tal-paralleliżmu tagħhom jassumi mogħdijiet ta' eżekuzzjoni uniformi. Netwerks binarji għandhom ħafna fergħat. Il-CPUs jimmaniġġawhom b'mod eċċellenti. Il-GPUs jitfixklu.
Id-distakk fil-prestazzjoni mhuwiex maġija. Huwa allinjament arkitettoniku. Netwerks newrali binarji jużaw operazzjonijiet li għalihom il-CPUs ġew ottimizzati. Netwerks b'punt li jvarja jużaw operazzjonijiet li għalihom il-GPUs nbnew. Aħna biddilna l-matematika. Il-CPUs saru l-għażla ottimali.
Implimentazzjoni fid-dinja reali (dak li fil-fatt ġara)
Servizzi Finanzjarji Olandiżi (ING Bank): Biddlu l-iskoperta ta' frodi bbażata fuq GPU ma' netwerks binarji bbażati fuq CPU. Sistema preċedenti: 8× NVIDIA A100 GPUs, 3,200W konsum ta' enerġija, €180K spiża tal-hardware, 45ms latenza. Sistema ġdida: 4× proċessuri Intel Xeon Platinum (servers eżistenti), 280W enerġija addizzjonali, €0 spiża tal-hardware, 8ms latenza. 5.6× aktar mgħaġġla, 91% inqas enerġija, żero nefqa kapitali. Netwerks binarji jaħdmu fuq CPUs li diġà kellhom.
Manifattura Ġermaniża (Siemens): AI għall-kontroll tal-kwalità fl-awtomazzjoni tal-fabbriki. L-approċċ bil-GPU kien jeħtieġ servers edge speċjalizzati b'tkessiħ iddedikat. €12K għal kull stazzjon ta' spezzjoni, 25 stazzjon meħtieġa, €300K totali. Approċċ bil-CPU: softwer imtejjeb fuq PLCs eżistenti b'proċessuri Intel Atom. €800 għal kull stazzjon għal-liċenzjar tas-softwer, €20K totali. L-istess preċiżjoni, tnaqqis ta' 93% fl-ispiża, implimentat f'wieħed minn għaxra tal-ħin.
Kura tas-Saħħa Żvizzera (L-Isptar Universitarju ta' Zurich): Analiżi tal-immaġini mediċi. Sistema NVIDIA DGX għall-inferenza: €120K kapital, €18K spejjeż annwali tal-enerġija, kienet teħtieġ kamra dedikata għas-servers b'tkessiħ imsaħħaħ. Netwerks binarji fuq servers Dell standard (diġà proprjetà għal xogħol ieħor): €0 kapital, €2K enerġija inkrementali annwali, implimentati fl-ixkafef tas-servers eżistenti. 6× inferenza aktar mgħaġġla, tnaqqis ta' 89% fl-ispejjeż operattivi, spjegabbiltà aħjar għar-regolaturi.
Joħroġ mudell: kumpaniji Ewropej qed jużaw infrastruttura eżistenti, kumpaniji Amerikani qed jixtru sistemi speċjalizzati ta' GPU. Meta l-AI bbażata fuq CPU taħdem aħjar, l-infrastruttura eżistenti tas-servers Ewropej issir vantaġġ kompetittiv. L-investimenti fil-GPU tal-fornituri tal-cloud Amerikani jsiru spejjeż mitlufa.
Lil hinn mill-veloċità: il-ħarsa sħiħa
Il-veloċità hija biss parti mill-istorja. In-netwerks binarji fuq CPUs jagħtu:
Effiċjenza fl-enerġija: tnaqqis ta' 96% fil-konsum tal-elettriku. Dik il-GPU li tiġbed 400 watt? Mibdula b'sezzjoni ta' CPU li tuża 20 watt.
Iffrankar fl-ispejjeż: Servers standard jiswew 70% inqas minn sistemi mgħammra b'GPU. M'hemmx bżonn ta' aċċeleraturi speċjalizzati.
Flessibilità fl-iskjerament: Aħdem fuq kollox. Servers tal-cloud, hardware on-premise, apparat edge. Jekk għandu CPU moderna, jaħdem.
Latenza: L-inferenza lokali fuq CPU tfisser ħinijiet ta' rispons ta' millisekondi. L-ebda vjaġġi ta' ritorn fin-netwerk lejn clusters ta' GPU.
Ir-ritorn tal-CPU mhuwiex biss dwar li tkun aktar mgħaġġel. Huwa dwar li tkun aħjar f'kull dimensjoni li tgħodd għall-iskjerament fid-dinja reali.
L-Ispiża Totali tas-Sjieda (TCO): It-tqabbil tal-TCO fuq ħames snin juri l-ekonomija reali. Sistema ta' inferenza bbażata fuq GPU: €250K hardware, €90K elettriku (bir-rati Ewropej), €40K infrastruttura ta' tkessiħ, €25K manutenzjoni speċjalizzata. Total: €405K. Sistema bbażata fuq CPU: €80K hardware (servers standard), €7K elettriku, €0 tkessiħ addizzjonali, €8K manutenzjoni standard. Total: €95K. Tnaqqis ta' 77% fl-ispiża. L-istess prestazzjoni. Konformità aħjar. Dik mhix titjib marġinali; dik hija trasformazzjoni tan-negozju.
Is-Semplicità Operattiva: L-iskjeramenti ta' GPU jeħtieġu għarfien speċjalizzat. Programmazzjoni CUDA, ġestjoni tal-memorja tal-GPU, ottimizzazzjoni tal-kernel, monitoraġġ termali. In-nuqqas ta' ħiliet iżid il-primjums fuq is-salarji. L-iskjeramenti ta' CPU jużaw l-inġinerija tas-softwer standard. C++, Python, amministrazzjoni normali ta' servers. Il-pool ta' talent huwa l-industrija kollha tas-softwer, mhux biss speċjalisti tal-AI. Aktar faċli biex tirrekluta, onboarding aktar mgħaġġel, salarji aktar baxxi. L-ispejjeż operattivi jonqsu lil hinn mill-iffrankar fuq il-hardware.
Konformità Regolatorja: L-Att tal-AI tal-UE, il-GDPR, regolamenti speċifiċi għas-settur: kollha aktar faċli bin-netwerks binarji bbażati fuq CPU. L-eżekuzzjoni deterministika tippermetti l-awditjar. Ir-raġunament spjegabbli jissodisfa r-rekwiżiti ta' trasparenza. Il-verifikazzjoni formali tipprova l-proprjetajiet ta' sikurezza. Is-sistemi bbażati fuq GPU jitħabtu ma' dawn ir-rekwiżiti. In-netwerks binarji fuq CPUs: konformità mibnija ġewwa, mhux imwaħħla barra. Il-vantaġġ regolatorju jsaħħaħ il-vantaġġ tekniku.
Flessibilità tal-Fornitur: GPU tfisser lock-in ma' NVIDIA. CPUs binarji jaħdmu fuq implimentazzjonijiet Intel, AMD, ARM. Akkwist minn aktar minn sors wieħed. Ipprezzar kompetittiv. L-ebda dipendenza fuq fornitur wieħed. Il-kumpaniji Ewropej japprezzaw dan b'mod partikolari: katini ta' provvista diversifikati, riskju ġeopolitiku mnaqqas, saħħa fin-negozjar. Il-kumpaniji Amerikani jibqgħu marbutin mal-poter tal-ipprezzar ta' NVIDIA. Il-kumpaniji Ewropej jaqilbu bejn Intel, AMD, saħansitra ċipep ta' servers ARM. Is-setgħa tas-suq maqluba.
Intel qatt ma telaq
Hawn l-ironija: waqt li kulħadd kien qed jiġri wara l-GPUs ta' NVIDIA, Intel baqa' jtejjeb il-kapaċitajiet tal-CPU. AVX-512, Cascade Lake, Ice Lake, Sapphire Rapids. Kull ġenerazzjoni żżid istruzzjonijiet perfetti għal operazzjonijiet binarji.
Ma kinux qed jimmiraw għall-AI b'mod speċifiku. Kienu qed itejbu l-kompjuters ġenerali. Iżda n-netwerks newrali binarji huma kompjuters ġenerali. Huma jisfruttaw dawk it-titjibiet kollha direttament.
L-infrastruttura li kulħadd diġà għandu f'daqqa waħda ssir kapaċi għall-AI. L-ebda xiri ta' hardware ġdid. L-ebda bidliet arkitettoniċi. Biss algoritmi aħjar li jużaw il-kapaċitajiet eżistenti.
Ir-Rebħa Siekta ta' AMD: Il-proċessuri AMD EPYC jisbqu wkoll fl-AI binarja. L-arkitettura Zen 4 tappoġġja AVX-512, ġerarkija ta' cache superba, tbassir effiċjenti tal-fergħat. In-netwerks binarji jaħdmu tajjeb ħafna fuq EPYC. Is-sehem ta' AMD fis-suq tas-servers: 35% u qed jikber. Dik hija 35% taċ-ċentri tad-dejta tad-dinja diġà ottimizzati għall-AI binarja. AMD pożizzjonata perfettament mingħajr ma timmira b'mod espliċitu għall-AI. L-eċċellenza ġenerali ssir vantaġġ għall-AI.
Ir-Rwol Emerġenti ta' ARM: Il-proċessuri Graviton (iċ-ċipep ARM ta' Amazon) juru l-kapaċitajiet tan-netwerks binarji. Manipulazzjoni effiċjenti tal-bits, karatteristiċi eċċellenti tal-enerġija, skjerament massiv fuq AWS. L-arkitettura ARM tiskala minn smartphones għal servers. L-AI binarja taħdem f'dik il-firxa kollha. Iċ-ċipep tas-serje M ta' Apple: ibbażati fuq ARM, effiċjenti b'mod inkredibbli, perfetti għal operazzjonijiet binarji. Il-vantaġġ tal-effiċjenza ta' ARM jikkombina mal-effiċjenza tan-netwerks binarji. Il-kontinwu minn mobbli għal cloud isir possibbli.
Il-Futur Miftuħ ta' RISC-V: Is-sett ta' istruzzjonijiet open-source RISC-V jippermetti ottimizzazzjonijiet personalizzati. Kumpaniji Ewropej tas-semikondutturi (Bosch, Infineon, NXP) qed jinvestu f'RISC-V għall-industrija tal-karozzi u dik industrijali. Żid ottimizzazzjonijiet tal-AI binarja ma' qlub RISC-V personalizzati. L-ebda ħlas ta' liċenzji, kontroll sħiħ, ottimizzazzjoni perfetta għal każijiet ta' użu speċifiċi. Hardware miftuħ flimkien ma' AI binarja jippermetti l-indipendenza Ewropea tas-semikondutturi. L-implikazzjonijiet strateġiċi huma profondi.
It-trasformazzjoni tal-iskjerament
L-AI bbażata fuq GPU tfisser infrastruttura speċjalizzata. Ċentri tad-dejta b'tkessiħ ta' qawwa għolja. Konfigurazzjonijiet speċifiċi ta' servers. Lock-in tal-fornitur. Kumplessità.
L-AI bbażata fuq CPU tfisser li tista' tiskjeraha kullimkien. Dik l-ixkaffa standard tas-servers? Perfetta. Dawk is-servers tad-database eżistenti? Jistgħu jmexxu l-AI issa. Postijiet edge b'kompjuters bażiċi? Kompletament kapaċi.
Kumpaniji Ewropej bl-infrastruttura eżistenti ma għandhomx għalfejn jerġgħu jibnu. Jottimizzaw dak li għandhom. Il-vantaġġ tal-GPU tal-fornituri tal-cloud Amerikani jevapora meta l-CPU jaħdmu aħjar.
Il-vantaġġ ambjentali (l-armi sigrieti tal-Ewropa)
L-ispejjeż tal-enerġija jimpurtaw aktar fl-Ewropa milli fl-Amerika. L-elettriku Ewropew: €0.20-0.30 għal kull kWh. L-elettriku Amerikan: €0.10-0.15 għal kull kWh. Meta l-ispiża tal-enerġija tiegħek tkun 2-3× aktar, l-effiċjenza mhijiex għażla; hija sopravivenza.
L-inferenza tal-AI bbażata fuq GPU għal skjerament ta' daqs medju: konsum kontinwu ta' 50kW. L-ispiża Ewropea: €87,600-131,400 fis-sena. L-ispiża Amerikana: €43,800-65,700. Dak id-delta annwali ta' €70K jiffinanzja ħafna riċerka Ewropea dwar l-AI. Il-motivazzjoni għall-effiċjenza hija litteralment mibnija fil-kontijiet tal-elettriku.
Netwerks binarji fuq CPUs: 2-4kW għal xogħol ekwivalenti. L-ispiża Ewropea: €3,504-5,256 fis-sena. L-iffrankar: €84K-126K fis-sena. Kumpaniji Amerikani jqisu l-effiċjenza bħala xi ħaġa sabiħa li jkollok. Kumpaniji Ewropej iqisuha bħala ħtieġa kompetittiva. Kuntesti ekonomiċi differenti jwasslu għal innovazzjonijiet differenti.
Ir-regolamenti ambjentali jolqtu aktar iebes fl-Ewropa wkoll. It-Tassonomija tal-UE għal Attivitajiet Sostenibbli teħtieġ rappurtar dwar il-konsum tal-enerġija. Skjeramenti kbar tal-AI jqanqlu awditi tas-sostenibbiltà. Klusters ta' GPUs li jiġbdu megawatts iqajmu mistoqsijiet regolatorji. L-inferenza bbażata fuq CPU li tiġbed kilowatts tgħaddi mingħajr ma tiġi nnotata. Il-konformità regolatorja ssir mutur arkitettoniku.
Il-mandati tal-enerġija rinnovabbli tal-Ġermanja joħolqu dinamika interessanti. L-enerġija solari u dik mir-riħ huma intermitenti. Iċ-ċentri tad-dejta jridu joperaw fil-kapaċità rinnovabbli disponibbli. Il-clusters tal-GPU jeħtieġu enerġija għolja kostanti, diffiċli biex titqabbel mar-rinnovabbli intermitenti. L-AI bbażata fuq il-CPU tista' tiskala l-workloads mal-enerġija disponibbli. Il-flessibbiltà tat-tagħbija tippermetti l-integrazzjoni tar-rinnovabbli. Il-vinkolu ambjentali jmexxi l-innovazzjoni teknika. Approċċ Ewropew ħafna għas-soluzzjoni tal-problemi.
Il-bidla fis-semikondutturi (ir-rebħa aċċidentali ta' Intel)
Waqt li kulħadd kien iffokat fuq id-dominanza tal-GPU ta' NVIDIA, it-titjib tal-CPU ta' Intel pożizzjonahom perfettament għall-AI binarja. Mhux intenzjonat iżda deċiżiv.
L-AVX-512 ma kienx iddisinjat għall-AI. Kien immirat lejn il-kompjuters ta' prestazzjoni għolja, is-simulazzjoni xjentifika, u l-immudellar finanzjarju. Iżda dawk l-operazzjonijiet ta' vettur ta' 512-bit? Perfetti għan-netwerks newrali binarji. L-istruzzjoni POPCNT? Miżjuda għall-ottimizzazzjoni tad-databases. Perfetta għall-attivazzjonijiet binarji. Il-predictor ta' fergħat imtejjeb ta' Ice Lake? Immirat lejn il-prestazzjoni ġenerali. Perfett għall-limiti binarji.
Intel tejbet il-CPUs għal workloads tradizzjonali. Ir-riċerkaturi tal-AI binarja ndunaw li dak it-titjib kien allinjat mal-bżonnijiet tagħhom. Issa l-proċessuri ta' Intel jagħtu inferenza tal-AI aħjar minn aċċeleraturi tal-AI speċjalizzati. Taqbila arkitettonika aċċidentali toħloq opportunità fis-suq.
Il-valur tas-suq ta' NVIDIA mibni fuq l-AI. L-irkupru ta' Intel jista' jkun ukoll. Il-proċessuri EPYC ta' AMD jisbqu wkoll fl-operazzjonijiet binarji: ekwivalenti tal-AVX-512, ġerarkija ta' cache eċċellenti, tbassir qawwi ta' fergħat. L-AI binarja tibbenefika lill-ekosistema kollha tax-x86. Il-kumpaniji Amerikani tas-semikondutturi jirbħu billi jkunu tajbin fil-kompjuters tradizzjonali. Il-GPUs speċjalizzaw kmieni wisq għall-użu dejjaq tal-AI. Il-CPUs baqgħu flessibbli, u saru ottimali għal approċċi usa' tal-AI.
L-inverżjoni tas-suq (x'jiġri wara)
Id-dinamika tas-suq tal-GPU qed tinbidel. It-taħriġ għadu jeħtieġ GPUs, l-ebda dubju dwar dan. Iżda s-suq tal-inferenza huwa 10-100 darba akbar mis-suq tat-taħriġ. Il-biċċa l-kbira tal-workloads tal-AI huma inferenza. In-netwerks binarji fuq CPUs jaqbdu dak is-suq.
Il-fornituri tal-cloud jiffaċċjaw deċiżjonijiet interessanti. AWS, Azure, u Google Cloud investew biljuni fl-infrastruttura tal-GPU. L-iskedi ta' deprezzament jassumu użu ta' 3-5 snin. L-AI binarja tagħmel l-inferenza tal-GPU skaduta mill-ewwel sena. Jew jiktbu biljuni mill-investimenti tal-GPU jew jiċċarġjaw prezzijiet premium għal prestazzjoni inferjuri. L-ebda għażla mhija attraenti.
Il-fornituri Ewropej tal-cloud jieħdu vantaġġ. OVH, Hetzner, Scaleway: huma jmexxu infrastruttura standard tal-CPU. L-ebda spejjeż mitfija tal-GPU. L-AI binarja tagħmel l-infrastruttura eżistenti tagħhom kompetittiva għall-workloads tal-AI. Il-vantaġġ fil-prezz jikkomponi l-vantaġġ fil-prestazzjoni. L-investimenti tal-GPU tal-hyperscalers Amerikani jsiru obbligi. L-iffokar fuq il-CPU tal-fornituri Ewropej isir vantaġġ. Id-dinamika tas-suq qed tinverti.
L-iskjerament fil-periferija jinfetaħ. Tesla ma tistax tpoġġi GPU f'kull vettura: il-ħtiġijiet ta' enerġija, spiża, sħana, u spazju. Iżda kull karozza diġà għandha CPUs qawwija għall-ġestjoni tal-magna, in-navigazzjoni, u d-divertiment. In-netwerks newrali binarji jibdlu l-CPUs tal-karozzi eżistenti f'aċċeleraturi tal-AI. L-ebda hardware addizzjonali. Sempliċement aġġornament tas-softwer. L-AI fil-periferija ssir fattibbli għax il-CPUs diġà jeżistu.
L-ismartphones ukoll. Il-proċessuri Qualcomm Snapdragon għandhom prestazzjoni eċċellenti fil-manipulazzjoni tal-bits. In-netwerks binarji jaħdmu fuq il-CPUs tal-mowbajls aktar malajr minn aċċeleraturi tal-AI ddedikati. Iċ-ċipep tas-serje A ta' Apple, Samsung Exynos: kollha ottimizzati għall-kompjuters ġenerali, kollha perfetti għall-AI binarja. AI mobbli mingħajr magni newrali speċjalizzati. Il-prestazzjoni tal-CPU tagħmel l-aċċeleraturi ddedikati żejda.
Il-vantaġġ Ewropew jikkristallizza
Dak kollu msemmi hawn fuq jiffavorixxi l-kumpaniji Ewropej tal-AI. L-infrastruttura eżistenti taħdem aħjar. L-ispejjeż tal-enerġija jmexxu l-innovazzjonijiet fl-effiċjenza. Il-konformità regolatorja tippermetti l-verifikazzjoni formali. Approċċi ottimizzati għall-CPU joħorġu mir-restrizzjonijiet tar-riżorsi. L-Effett ta' Brussell jglobalizza l-istandards Ewropej.
Il-kumpaniji Amerikani tal-AI nbnew għal dinja differenti. Kapital abbundanti, enerġija rħisa, regolazzjoni laxka, disponibbiltà ta' GPUs. Dawk il-vantaġġi qed jisparixxu. Ir-rekwiżiti tal-kapital qed jonqsu (m'hemmx bżonn ta' GPUs). L-effiċjenza tal-enerġija issa timporta (il-prezzijiet Ewropej qed jinfirxu globalment). Ir-regolazzjoni qed tissikka (l-AI Act tal-UE qed issir l-istandard globali). In-nuqqas ta' GPUs m'għadux rilevanti (il-CPUs jaħdmu aħjar).
Il-kumpaniji Ewropej tal-AI nbnew għal dinja ristretta. Kapital limitat (li ġiegħel effiċjenza algoritmika). Enerġija għalja (in-netwerks binarji jużaw 96% inqas enerġija). Regolazzjoni stretta (verifikazzjoni formali mibnija ġewwa). Disponibbiltà ta' CPUs (hardware standard huwa ottimali). Ir-restrizzjonijiet li deher li kienu żvantaġġi issa saru saħħiet kompetittivi. Il-kundizzjonijiet tas-suq globalment qed jimxu lejn l-approċċ Ewropew.
Id-deċennju li jmiss: il-kumpaniji Ewropej tal-AI se jesportaw mhux biss lejn l-Ewropa iżda globalment. Il-kumpaniji Amerikani se jikru t-teknoloġija Ewropea. Is-swieq Asjatiċi qed jadottaw l-istandards Ewropej. L-AI binarja bbażata fuq CPUs qed issir l-arkitettura dominanti. NVIDIA tibqa' rilevanti għat-taħriġ. Intel/AMD jiddominaw l-inferenza. Id-distribuzzjoni mill-ġdid tal-kapitalizzazzjoni tas-suq tirrifletti l-bidla arkitettonika. L-AI Ewropea m'għadhiex qed taħlef; l-AI Ewropea qed tistabbilixxi l-pass.
Xi jfisser dan għall-AI
Ir-ritorn tal-CPUs ibiddel fundamentalment l-ekonomija tal-AI. M'għadx hemm għażla bejn il-prestazzjoni u l-ispiża. M'għadx hemm nuqqas ta' GPUs li jillimita l-iskjerament. M'għadx hemm dipendenzi fuq il-fornituri.
Dweve Core jaħdem fuq CPUs. Aktar minn 1,000 algoritmu ottimizzat li jieħdu vantaġġ sħiħ mill-arkitettura moderna ta' Intel. Loom 456 bir-raġunament tiegħu bbażat fuq speċjalisti tal-qasam li jaħdem b'veloċitajiet li jagħmlu l-iskjerament ta' GPUs mhux meħtieġ.
Din hija d-demokratizzazzjoni tal-AI permezz ta' matematika aħjar. Mhux kulħadd jiflaħ għal clusters ta' GPUs. Kulħadd għandu CPUs.
Ir-rivoluzzjoni tal-CPUs ġejja. In-netwerks newrali binarji ta' Dweve se jagħtu prestazzjoni aħjar mill-GPUs fuq hardware standard. Ingħaqad mal-lista ta' stennija tagħna biex tkun l-ewwel fil-kju meta nniedu.