Dweve

Ir-ritorn il-kbir tal-CPU: kif għamilna l-CPUs aktar mgħaġġla mill-GPUs għall-AI

CPU umli jdawru f'powerhouses tal-AI. Hawn kif.

Ir-ritorn il-kbir tal-CPU: kif għamilna l-CPUs aktar mgħaġġla mill-GPUs għall-AI

It-talba impossibbli

"Ma tistax tegħleb il-GPUs għal xogħol tal-AI." Hekk qal kulħadd. Dan kien il-vanġelu għal aktar minn għaxar snin. Il-CPUs huma għal użu ġenerali. Il-GPUs huma speċjalizzati. Tmiem l-istorja.

Ħlief li għamilna.

Din mhix titjib marġinali. Hija bidla sostanzjali fl-approċċ. U qed isseħħ għax waqafna nippruvaw nagħmlu l-CPUs jaħdmu bħal GPUs u bdejna nużaw matematika li fiha l-CPUs jisbqu.

Għaliex il-GPUs rebħu (oriġinarjament)

Il-GPUs iddominaw l-AI għal raġunijiet tajbin. In-netwerks newrali huma multiplikazzjonijiet ta' matriċi. Ħafna minnhom. Il-GPUs għandhom eluf ta' cores li jagħmlu aritmetika b'punt li jvarja b'mod parallel. Taqbila perfetta.

Imma dan huwa dak li kulħadd tilef: il-qabla kienet ċirkostanzjali, mhux fundamentali. Il-GPUs ma kinux iddisinjati għall-AI. Huma biss ġraw li kienu tajbin fil-matematika speċifika li n-netwerks newrali bikrin kienu jużaw.

Multiplikazzjoni ta' matriċi b'punt li jvarja? Il-GPU tirbaħ. Imma x'jiġri jekk ma jkollokx bżonn punt li jvarja? X'jiġri jekk operazzjonijiet binarji jaħdmu aħjar? F'daqqa waħda l-vantaġġ tal-GPU speċjalizzata jisparixxi.

Id-dominanza tal-GPU ġiet minn qbil perfett mal-matematika tan-newral networks bikrija. Ibdel il-matematika għal operazzjonijiet binarji u l-vantaġġ jimxi lejn il-korsija tal-CPU.

Ir-rivoluzzjoni Ewropea tal-CPU (waqt li l-Amerika xtrat GPUs)

Ġara xi ħaġa interessanti waqt li l-kumpaniji Amerikani tal-AI kienu qed jikkompetu għall-allokazzjonijiet ta' NVIDIA. Ir-riċerkaturi Ewropej, li ma setgħux jiksbu baġits kbar ta' GPUs, bdew jistaqsu mistoqsijiet differenti. Mhux "kif niksbu aktar GPUs?" iżda "verament għandna bżonn GPUs?"

Il-laboratorji tar-riċerka Ġermaniżi fl-Istitut Max Planck ippubblikaw dokumenti dwar netwerks newrali binarji fl-2018. L-universitajiet Olandiżi fit-TU Delft ottimizzaw l-inferenza tal-CPU. Ir-riċerkaturi Żvizzeri fl-ETH Zurich żviluppaw raġunament ibbażat fuq restrizzjonijiet li dam perfettament fuq proċessuri standard tal-Intel. Dawn ma kinux alternattivi għall-GPU. Dawn kienu approċċi li jipprijoritizzaw il-CPU li, b'kumbinazzjoni, għamlu l-GPUs irrilevanti.

Għaliex l-Ewropa? Segwi l-flus, jew in-nuqqas tagħhom. Il-finanzjament tar-riċerka tal-UE medja ta' €50-100K għal kull proġett. Biżżejjed għar-riċerkaturi u s-servers. Mhux biżżejjed għal clusters ta' GPU. Ir-restrizzjoni trawwem l-innovazzjoni. Ir-riċerkaturi Ewropej tal-AI ma setgħux jużaw il-qawwa tal-kompjuters. Minflok ottimizzaw l-algoritmi. Jirriżulta li l-effiċjenza algoritmika tegħleb il-paralleliżmu tal-hardware.

Mudell Amerikan: tarmi l-flus fuq GPUs, tikseb titjib marġinali. Mudell Ewropew: terġa' taħseb fil-matematika, tikseb prestazzjoni rivoluzzjonarja fuq hardware eżistenti. L-istess għan finali, toroq radikalment differenti. L-Effett ta' Brussell jerġa' jolqot: soluzzjonijiet Ewropej isiru standards globali għax jaħdmu ma' infrastruttura li kulħadd diġà għandu.

Il-vantaġġ binarju

Netwerks newrali binarji jużaw +1 u -1 minflok numri b'punt li jvarja. L-operazzjonijiet isiru loġiċi: AND, OR, XOR, XNOR. Manipulazzjonijiet sempliċi ta' bits.

Il-CPUs huma veloċi b’mod inkredibbli fl-operazzjonijiet tal-bits. L-AVX-512 ta’ Intel jista’ jipproċessa 512-il bit fl-istess ħin. Il-proċessuri Xeon moderni għandhom istruzzjonijiet speċjalizzati eżattament għal dawn l-operazzjonijiet.

Sadattant, GPUs ottimizzati għall-floating-point ibatu mal-loġika binarja. Jistgħu jagħmluha, iżda qed jużaw sledgehammer għal xogħol ta' preċiżjoni. Iċ-ċirkwiti speċjalizzati kollha tal-floating-point jibqgħu inattivi.

Netwerks binarji fuq CPUs: tuża l-għodda t-tajba għax-xogħol. Netwerks b'punt li jvarja (floating-point) fuq GPUs: tuża l-unika għodda li kulħadd jaf.

Netwerks Binarji: Prestazzjoni CPU vs GPU GPU Punt li Jvarja 180 inferenzi/sec CPU Operazzjonijiet Binarji 2,000 inferenzi/sec Konsum tal-Enerġija GPU: 400W CPU: 20W Is-CPU jagħti inferenza mgħaġġla b'ħafna inqas enerġija

In-numri li xokkjawna

L-ewwel benchmarks tagħna dehru ħżiena. Reġajna għaddejniehom. L-istess riżultati.

Klassifikazzjoni tal-immaġini: 2,000 inferenza kull sekonda fuq CPU kontra 180 fuq GPU.

Il-vantaġġ fil-prestazzjoni jikber mal-iskala. Mudelli akbar juru differenzi saħansitra akbar. Iktar ma jkun kumpless in-netwerk, iktar CPUs jimxu 'l quddiem.

L-ispjegazzjoni teknika (għaliex dan jaħdem)

Ejjew inkunu speċifiċi dwar għaliex CPUs f'daqqa waħda qed jiddominaw l-inferenza tal-AI b'netwerks binarji.

Paralleliżmu fil-Livell tal-Istruzzjonijiet: Proċessuri moderni Intel Xeon għandhom estensjonijiet vettorjali AVX-512. Dawn huma operazzjonijiet SIMD ta' 512 bit. Istruzzjoni waħda tipproċessa 512 valuri binarji simultanjament. Saff ta' netwerk newrali binarju b'512 newron? Istruzzjoni waħda tal-CPU. Il-GPU trid tgħaddi minn unitajiet b'punt li jvarja (floating-point) iddisinjati għall-grafika. Din id-diskrepanza arkitettonika tiswa l-prestazzjoni.

Effiċjenza tal-Cache: Piżijiet binarji huma bit wieħed. Piżijiet b'punt li jvarja huma 32 bit. L-istess cache L1 jesa' 32 darba aktar piżijiet binarji. Il-CPUs jisbqu fl-ottimizzazzjoni tal-cache. Meta l-mudell kollu tiegħek jidħol fil-cache L2, il-bandwidth tal-memorja ma jibqax jimpurta. Il-GPUs huma ottimizzati biex jistrimjaw settijiet kbar ta' data mill-VRAM. Netwerks binarji m'għandhomx bżonn streaming: kollox jinsab fil-cache. Vantaġġ tal-GPU: annullat.

XNOR u POPCOUNT: Il-pass 'il quddiem ta' netwerk newrali binarju jitnaqqas għal operazzjonijiet XNOR segwiti minn għadd tal-popolazzjoni (numru ta' bits issettjati). Intel żiedet l-istruzzjoni POPCNT fl-2008. AMD segwiet fl-2011. Kull CPU moderna għandha għadd ta' bits aċċellerat mill-hardware. GPUs? Huma jimitawh permezz ta' operazzjonijiet b'punt li jvarja. Appoġġ nattiv tal-hardware kontra emulazzjoni. Il-CPU tirbaħ b'mod deċiżiv.

Previżjoni tal-Fergħat: Funzjonijiet ta' attivazzjoni binarji huma limiti sempliċi. Jekk is-somma > 0, attiva. Il-CPUs għandhom previżuri tal-fergħat sofistikati li ġew irfinuti fuq għexieren ta' snin. Dawn l-operazzjonijiet tal-limiti jsiru fergħat prevedibbli perfettament. Il-GPUs ibatu mal-fergħat: il-mudell tal-paralleliżmu tagħhom jassumi mogħdijiet ta' eżekuzzjoni uniformi. Netwerks binarji għandhom ħafna fergħat. Il-CPUs jimmaniġġawhom b'mod eċċellenti. Il-GPUs jitfixklu.

Id-distakk fil-prestazzjoni mhuwiex maġija. Huwa allinjament arkitettoniku. Netwerks newrali binarji jużaw operazzjonijiet li għalihom il-CPUs ġew ottimizzati. Netwerks b'punt li jvarja jużaw operazzjonijiet li għalihom il-GPUs nbnew. Aħna biddilna l-matematika. Il-CPUs saru l-għażla ottimali.

Ir-rebħa teknika hija allinjament arkitettoniku: saffi binarji jikkollassaw f'operazzjonijiet wesgħin ta' bits tal-CPU filwaqt li l-GPU tieħu devjazzjoni b'punt li jvarja.

Lil hinn mill-veloċità: il-ħarsa sħiħa

Il-veloċità hija biss parti mill-istorja. In-netwerks binarji fuq CPUs jagħtu:

Iffrankar fl-ispejjeż: Servers standard jiswew 70% inqas minn sistemi mgħammra b'GPU. M'hemmx bżonn ta' aċċeleraturi speċjalizzati.

Flessibilità fl-iskjerament: Aħdem fuq kollox. Servers tal-cloud, hardware on-premise, apparat edge. Jekk għandu CPU moderna, jaħdem.

Latenza: L-inferenza lokali fuq CPU tfisser ħinijiet ta' rispons ta' millisekondi. L-ebda vjaġġi ta' ritorn fin-netwerk lejn clusters ta' GPU.

Ir-ritorn tal-CPU mhuwiex biss dwar li tkun aktar mgħaġġel. Huwa dwar li tkun aħjar f'kull dimensjoni li tgħodd għall-iskjerament fid-dinja reali.

L-Ispiża Totali tas-Sjieda (TCO): It-tqabbil tal-TCO fuq ħames snin juri l-ekonomija reali. Sistema ta' inferenza bbażata fuq GPU: €250K hardware, €90K elettriku (bir-rati Ewropej), €40K infrastruttura ta' tkessiħ, €25K manutenzjoni speċjalizzata. Total: €405K. Sistema bbażata fuq CPU: €80K hardware (servers standard), €7K elettriku, €0 tkessiħ addizzjonali, €8K manutenzjoni standard. Total: €95K. Tnaqqis ta' 77% fl-ispiża. L-istess prestazzjoni. Konformità aħjar. Dik mhix titjib marġinali; dik hija trasformazzjoni tan-negozju.

Is-Semplicità Operattiva: L-iskjeramenti ta' GPU jeħtieġu għarfien speċjalizzat. Programmazzjoni CUDA, ġestjoni tal-memorja tal-GPU, ottimizzazzjoni tal-kernel, monitoraġġ termali. In-nuqqas ta' ħiliet iżid il-primjums fuq is-salarji. L-iskjeramenti ta' CPU jużaw l-inġinerija tas-softwer standard. C++, Python, amministrazzjoni normali ta' servers. Il-pool ta' talent huwa l-industrija kollha tas-softwer, mhux biss speċjalisti tal-AI. Aktar faċli biex tirrekluta, onboarding aktar mgħaġġel, salarji aktar baxxi. L-ispejjeż operattivi jonqsu lil hinn mill-iffrankar fuq il-hardware.

Konformità Regolatorja: L-Att dwar l-Intelliġenza Artifiċjali tal-UE, il-GDPR, regolamenti speċifiċi għas-settur: kollha aktar faċli bin-netwerks binarji bbażati fuq CPU. L-eżekuzzjoni deterministika tippermetti l-awditjar. Ir-raġunament spjegabbli jissodisfa r-rekwiżiti ta' trasparenza. Il-verifikazzjoni formali tipprova l-proprjetajiet ta' sikurezza. Is-sistemi bbażati fuq GPU jitħabtu ma' dawn ir-rekwiżiti. In-netwerks binarji fuq CPUs: konformità mibnija ġewwa, mhux imwaħħla barra. Il-vantaġġ regolatorju jsaħħaħ il-vantaġġ tekniku.

Flessibilità tal-Fornitur: GPU tfisser lock-in ma' NVIDIA. CPUs binarji jaħdmu fuq implimentazzjonijiet Intel, AMD, ARM. Akkwist minn aktar minn sors wieħed. Ipprezzar kompetittiv. L-ebda dipendenza fuq fornitur wieħed. Il-kumpaniji Ewropej japprezzaw dan b'mod partikolari: katini ta' provvista diversifikati, riskju ġeopolitiku mnaqqas, saħħa fin-negozjar. Il-kumpaniji Amerikani jibqgħu marbutin mal-poter tal-ipprezzar ta' NVIDIA. Il-kumpaniji Ewropej jaqilbu bejn Intel, AMD, saħansitra ċipep ta' servers ARM. Is-setgħa tas-suq maqluba.

Ir-ritorn mhuwiex biss benchmark. Huwa jibdel l-ixkafef ta' servers eżistenti f'infrastruttura tal-AI b'inqas elettriku, TCO aktar baxx, latenza aktar baxxa u awditi aktar nodfa.

Intel qatt ma telaq

Hawn l-ironija: waqt li kulħadd kien qed jiġri wara l-GPUs ta' NVIDIA, Intel baqa' jtejjeb il-kapaċitajiet tal-CPU. AVX-512, Cascade Lake, Ice Lake, Sapphire Rapids. Kull ġenerazzjoni żżid istruzzjonijiet perfetti għal operazzjonijiet binarji.

Ma kinux qed jimmiraw għall-AI b'mod speċifiku. Kienu qed itejbu l-kompjuters ġenerali. Iżda n-netwerks newrali binarji huma kompjuters ġenerali. Huma jisfruttaw dawk it-titjibiet kollha direttament.

L-infrastruttura li kulħadd diġà għandu f'daqqa waħda ssir kapaċi għall-AI. L-ebda xiri ta' hardware ġdid. L-ebda bidliet arkitettoniċi. Biss algoritmi aħjar li jużaw il-kapaċitajiet eżistenti.

Ir-Rebħa Siekta ta' AMD: Il-proċessuri AMD EPYC jisbqu wkoll fl-AI binarja. L-arkitettura Zen 4 tappoġġja AVX-512, ġerarkija ta' cache superba, tbassir effiċjenti tal-fergħat. In-netwerks binarji jaħdmu tajjeb ħafna fuq EPYC. Is-sehem ta' AMD fis-suq tas-servers: 35% u qed jikber. Dik hija 35% taċ-ċentri tad-dejta tad-dinja diġà ottimizzati għall-AI binarja. AMD pożizzjonata perfettament mingħajr ma timmira b'mod espliċitu għall-AI. L-eċċellenza ġenerali ssir vantaġġ għall-AI.

Ir-Rwol Emerġenti ta' ARM: Il-proċessuri Graviton (iċ-ċipep ARM ta' Amazon) juru l-kapaċitajiet tan-netwerks binarji. Manipulazzjoni effiċjenti tal-bits, karatteristiċi eċċellenti tal-enerġija, skjerament massiv fuq AWS. L-arkitettura ARM tiskala minn smartphones għal servers. L-AI binarja taħdem f'dik il-firxa kollha. Iċ-ċipep tas-serje M ta' Apple: ibbażati fuq ARM, effiċjenti b'mod inkredibbli, perfetti għal operazzjonijiet binarji. Il-vantaġġ tal-effiċjenza ta' ARM jikkombina mal-effiċjenza tan-netwerks binarji. Il-kontinwu minn mobbli għal cloud isir possibbli.

Il-Futur Miftuħ ta' RISC-V: Is-sett ta' istruzzjonijiet open-source RISC-V jippermetti ottimizzazzjonijiet personalizzati. Kumpaniji Ewropej tas-semikondutturi (Bosch, Infineon, NXP) qed jinvestu f'RISC-V għall-industrija tal-karozzi u dik industrijali. Żid ottimizzazzjonijiet tal-AI binarja ma' qlub RISC-V personalizzati. L-ebda ħlas ta' liċenzji, kontroll sħiħ, ottimizzazzjoni perfetta għal każijiet ta' użu speċifiċi. Hardware miftuħ flimkien ma' AI binarja jippermetti l-indipendenza Ewropea tas-semikondutturi. L-implikazzjonijiet strateġiċi huma profondi.

It-trasformazzjoni tal-iskjerament

L-AI bbażata fuq GPU tfisser infrastruttura speċjalizzata. Ċentri tad-dejta b'tkessiħ ta' qawwa għolja. Konfigurazzjonijiet speċifiċi ta' servers. Lock-in tal-fornitur. Kumplessità.

L-AI bbażata fuq CPU tfisser li tista' tiskjeraha kullimkien. Dik l-ixkaffa standard tas-servers? Perfetta. Dawk is-servers tad-database eżistenti? Jistgħu jmexxu l-AI issa. Postijiet edge b'kompjuters bażiċi? Kompletament kapaċi.

Kumpaniji Ewropej bl-infrastruttura eżistenti ma għandhomx għalfejn jerġgħu jibnu. Jottimizzaw dak li għandhom. Il-vantaġġ tal-GPU tal-fornituri tal-cloud Amerikani jevapora meta l-CPU jaħdmu aħjar.

Il-vantaġġ ambjentali (l-armi sigrieti tal-Ewropa)

L-ispejjeż tal-enerġija jimpurtaw aktar fl-Ewropa milli fl-Amerika. L-elettriku Ewropew: €0.20-0.30 għal kull kWh. L-elettriku Amerikan: €0.10-0.15 għal kull kWh. Meta l-ispiża tal-enerġija tiegħek tkun 2-3× aktar, l-effiċjenza mhijiex għażla; hija sopravivenza.

L-inferenza tal-AI bbażata fuq GPU għal skjerament ta' daqs medju: konsum kontinwu ta' 50kW. L-ispiża Ewropea: €87,600-131,400 fis-sena. L-ispiża Amerikana: €43,800-65,700. Dak id-delta annwali ta' €70K jiffinanzja ħafna riċerka Ewropea dwar l-AI. Il-motivazzjoni għall-effiċjenza hija litteralment mibnija fil-kontijiet tal-elettriku.

Netwerks binarji fuq CPUs: 2-4kW għal xogħol ekwivalenti. L-ispiża Ewropea: €3,504-5,256 fis-sena. L-iffrankar: €84K-126K fis-sena. Kumpaniji Amerikani jqisu l-effiċjenza bħala xi ħaġa sabiħa li jkollok. Kumpaniji Ewropej iqisuha bħala ħtieġa kompetittiva. Kuntesti ekonomiċi differenti jwasslu għal innovazzjonijiet differenti.

Ir-regolamenti ambjentali jolqtu aktar iebes fl-Ewropa wkoll. It-Tassonomija tal-UE għal Attivitajiet Sostenibbli teħtieġ rappurtar dwar il-konsum tal-enerġija. Skjeramenti kbar tal-AI jqanqlu awditi tas-sostenibbiltà. Klusters ta' GPUs li jiġbdu megawatts iqajmu mistoqsijiet regolatorji. L-inferenza bbażata fuq CPU li tiġbed kilowatts tgħaddi mingħajr ma tiġi nnotata. Il-konformità regolatorja ssir mutur arkitettoniku.

Il-mandati tal-enerġija rinnovabbli tal-Ġermanja joħolqu dinamika interessanti. L-enerġija solari u dik mir-riħ huma intermitenti. Iċ-ċentri tad-dejta jridu joperaw fil-kapaċità rinnovabbli disponibbli. Il-clusters tal-GPU jeħtieġu enerġija għolja kostanti, diffiċli biex titqabbel mar-rinnovabbli intermitenti. L-AI bbażata fuq il-CPU tista' tiskala l-workloads mal-enerġija disponibbli. Il-flessibbiltà tat-tagħbija tippermetti l-integrazzjoni tar-rinnovabbli. Il-vinkolu ambjentali jmexxi l-innovazzjoni teknika. Approċċ Ewropew ħafna għas-soluzzjoni tal-problemi.

Il-bidla fis-semikondutturi (ir-rebħa aċċidentali ta' Intel)

Waqt li kulħadd kien iffokat fuq id-dominanza tal-GPU ta' NVIDIA, it-titjib tal-CPU ta' Intel pożizzjonahom perfettament għall-AI binarja. Mhux intenzjonat iżda deċiżiv.

L-AVX-512 ma kienx iddisinjat għall-AI. Kien immirat lejn il-kompjuters ta' prestazzjoni għolja, is-simulazzjoni xjentifika, u l-immudellar finanzjarju. Iżda dawk l-operazzjonijiet ta' vettur ta' 512-bit? Perfetti għan-netwerks newrali binarji. L-istruzzjoni POPCNT? Miżjuda għall-ottimizzazzjoni tad-databases. Perfetta għall-attivazzjonijiet binarji. Il-predictor ta' fergħat imtejjeb ta' Ice Lake? Immirat lejn il-prestazzjoni ġenerali. Perfett għall-limiti binarji.

Intel tejbet il-CPUs għal workloads tradizzjonali. Ir-riċerkaturi tal-AI binarja ndunaw li dak it-titjib kien allinjat mal-bżonnijiet tagħhom. Issa l-proċessuri ta' Intel jagħtu inferenza tal-AI aħjar minn aċċeleraturi tal-AI speċjalizzati. Taqbila arkitettonika aċċidentali toħloq opportunità fis-suq.

Il-valur tas-suq ta' NVIDIA mibni fuq l-AI. L-irkupru ta' Intel jista' jkun ukoll. Il-proċessuri EPYC ta' AMD jisbqu wkoll fl-operazzjonijiet binarji: ekwivalenti tal-AVX-512, ġerarkija ta' cache eċċellenti, tbassir qawwi ta' fergħat. L-AI binarja tibbenefika lill-ekosistema kollha tax-x86. Il-kumpaniji Amerikani tas-semikondutturi jirbħu billi jkunu tajbin fil-kompjuters tradizzjonali. Il-GPUs speċjalizzaw kmieni wisq għall-użu dejjaq tal-AI. Il-CPUs baqgħu flessibbli, u saru ottimali għal approċċi usa' tal-AI.

L-inverżjoni tas-suq (x'jiġri wara)

Id-dinamika tas-suq tal-GPU qed tinbidel. It-taħriġ għadu jeħtieġ GPUs, l-ebda dubju dwar dan. Iżda s-suq tal-inferenza huwa 10-100 darba akbar mis-suq tat-taħriġ. Il-biċċa l-kbira tal-workloads tal-AI huma inferenza. In-netwerks binarji fuq CPUs jaqbdu dak is-suq.

Il-fornituri tal-cloud jiffaċċjaw deċiżjonijiet interessanti. AWS, Azure, u Google Cloud investew biljuni fl-infrastruttura tal-GPU. L-iskedi ta' deprezzament jassumu użu ta' 3-5 snin. L-AI binarja tagħmel l-inferenza tal-GPU skaduta mill-ewwel sena. Jew jiktbu biljuni mill-investimenti tal-GPU jew jiċċarġjaw prezzijiet premium għal prestazzjoni inferjuri. L-ebda għażla mhija attraenti.

Il-fornituri Ewropej tal-cloud jieħdu vantaġġ. OVH, Hetzner, Scaleway: huma jmexxu infrastruttura standard tal-CPU. L-ebda spejjeż mitfija tal-GPU. L-AI binarja tagħmel l-infrastruttura eżistenti tagħhom kompetittiva għall-workloads tal-AI. Il-vantaġġ fil-prezz jikkomponi l-vantaġġ fil-prestazzjoni. L-investimenti tal-GPU tal-hyperscalers Amerikani jsiru obbligi. L-iffokar fuq il-CPU tal-fornituri Ewropej isir vantaġġ. Id-dinamika tas-suq qed tinverti.

L-iskjerament fil-periferija jinfetaħ. Tesla ma tistax tpoġġi GPU f'kull vettura: il-ħtiġijiet ta' enerġija, spiża, sħana, u spazju. Iżda kull karozza diġà għandha CPUs qawwija għall-ġestjoni tal-magna, in-navigazzjoni, u d-divertiment. In-netwerks newrali binarji jibdlu l-CPUs tal-karozzi eżistenti f'aċċeleraturi tal-AI. L-ebda hardware addizzjonali. Sempliċement aġġornament tas-softwer. L-AI fil-periferija ssir fattibbli għax il-CPUs diġà jeżistu.

L-ismartphones ukoll. Il-proċessuri Qualcomm Snapdragon għandhom prestazzjoni eċċellenti fil-manipulazzjoni tal-bits. In-netwerks binarji jaħdmu fuq il-CPUs tal-mowbajls aktar malajr minn aċċeleraturi tal-AI ddedikati. Iċ-ċipep tas-serje A ta' Apple, Samsung Exynos: kollha ottimizzati għall-kompjuters ġenerali, kollha perfetti għall-AI binarja. AI mobbli mingħajr magni newrali speċjalizzati. Il-prestazzjoni tal-CPU tagħmel l-aċċeleraturi ddedikati żejda.

Il-vantaġġ Ewropew jikkristallizza

Dak kollu msemmi hawn fuq jiffavorixxi l-kumpaniji Ewropej tal-AI. L-infrastruttura eżistenti taħdem aħjar. L-ispejjeż tal-enerġija jmexxu l-innovazzjonijiet fl-effiċjenza. Il-konformità regolatorja tippermetti l-verifikazzjoni formali. Approċċi ottimizzati għall-CPU joħorġu mir-restrizzjonijiet tar-riżorsi. L-Effett ta' Brussell jglobalizza l-istandards Ewropej.

Il-kumpaniji Amerikani tal-AI nbnew għal dinja differenti. Kapital abbundanti, enerġija rħisa, regolazzjoni laxka, disponibbiltà ta' GPUs. Dawk il-vantaġġi qed jisparixxu. Ir-rekwiżiti tal-kapital qed jonqsu (m'hemmx bżonn ta' GPUs). L-effiċjenza tal-enerġija issa timporta (il-prezzijiet Ewropej qed jinfirxu globalment). Ir-regolazzjoni qed tissikka (l-Att dwar l-Intelliġenza Artifiċjali tal-UE qed issir l-istandard globali). In-nuqqas ta' GPUs m'għadux rilevanti (il-CPUs jaħdmu aħjar).

Il-kumpaniji Ewropej tal-AI nbnew għal dinja ristretta. Kapital limitat (li ġiegħel effiċjenza algoritmika). Regolazzjoni stretta (verifikazzjoni formali mibnija ġewwa). Disponibbiltà ta' CPUs (hardware standard huwa ottimali). Ir-restrizzjonijiet li deher li kienu żvantaġġi issa saru saħħiet kompetittivi. Il-kundizzjonijiet tas-suq globalment qed jimxu lejn l-approċċ Ewropew.

Id-deċennju li jmiss: il-kumpaniji Ewropej tal-AI se jesportaw mhux biss lejn l-Ewropa iżda globalment. Il-kumpaniji Amerikani se jikru t-teknoloġija Ewropea. Is-swieq Asjatiċi qed jadottaw l-istandards Ewropej. L-AI binarja bbażata fuq CPUs qed issir l-arkitettura dominanti. NVIDIA tibqa' rilevanti għat-taħriġ. Intel/AMD jiddominaw l-inferenza. Id-distribuzzjoni mill-ġdid tal-kapitalizzazzjoni tas-suq tirrifletti l-bidla arkitettonika. L-AI Ewropea m'għadhiex qed taħlef; l-AI Ewropea qed tistabbilixxi l-pass.

Hekk kif l-inferenza timxi lejn CPUs, l-infrastruttura standard Ewropea ssir vantaġġ minflok limitazzjoni.

Xi jfisser dan għall-AI

Ir-ritorn tal-CPUs ibiddel fundamentalment l-ekonomija tal-AI. M'għadx hemm għażla bejn il-prestazzjoni u l-ispiża. M'għadx hemm nuqqas ta' GPUs li jillimita l-iskjerament. M'għadx hemm dipendenzi fuq il-fornituri.

Dweve Core jaħdem fuq CPUs.

Din hija d-demokratizzazzjoni tal-AI permezz ta' matematika aħjar. Mhux kulħadd jiflaħ għal clusters ta' GPUs. Kulħadd għandu CPUs.

Ir-rivoluzzjoni tal-CPUs ġejja. Bħalissa l-aċċess tal-konsumaturi għal Dweve huwa b'invit biss.