Veľký návrat CPU: ako sme dosiahli, že CPU sú pre AI rýchlejšie ako GPU
Nemožné tvrdenie
„GPU nemôžete poraziť pri AI záťaži." To hovoril každý. Už viac ako desaťročie je to dogma. CPU sú univerzálne. GPU sú špecializované. Koniec príbehu.
Až na to, že sme to dokázali. Binárne neurónové siete bežiace na procesoroch Intel Xeon dosahujú 10-20× rýchlejšiu inferenciu ako siete s pohyblivou rádovou čiarkou na GPU. Nie teoretický výkon. Skutočné, nasadené a namerané výsledky.
Toto nie je marginálne zlepšenie. Je to zásadný posun v prístupe. A deje sa to preto, lebo sme prestali snažiť prinútiť CPU pracovať ako GPU a začali sme používať matematiku, v ktorej CPU vynikajú.
Prečo GPU pôvodne vyhrali
GPU dominovali AI z dobrých dôvodov. Neurónové siete sú maticové násobenia. Veľa maticových násobení. GPU majú tisíce jadier vykonávajúcich paralelnú aritmetiku s pohyblivou rádovou čiarkou. Dokonalá zhoda.
Ale tu je to, čo všetci prehliadli: zhoda bola náhodná, nie zásadná. GPU neboli navrhnuté pre AI. Jednoducho boli dobré v špecifickej matematike, ktorú používali rané neurónové siete.
Maticové násobenie s pohyblivou rádovou čiarkou? GPU vyhrávajú. Ale čo ak pohyblivú rádovú čiarku nepotrebujete? Čo ak binárne operácie fungujú lepšie? Zrazu špecializovaná výhoda GPU mizne.
Európska CPU revolúcia (kým Amerika kupovala GPU)
Stalo sa niečo zaujímavé, kým americké AI spoločnosti zháňali prideľovanie GPU od NVIDIA. Európski výskumníci, neschopní získať obrovské rozpočty na GPU, začali klásť iné otázky. Nie „ako získame viac GPU?", ale „naozaj GPU potrebujeme?"
Nemecké výskumné laboratóriá na Max Planck Institute publikovali v roku 2018 články o binárnych neurónových sieťach. Holandské univerzity na TU Delft optimalizovali CPU inferenciu. Švajčiarski výskumníci na ETH Zurich vyvinuli inferenciu založenú na obmedzeniach, ktorá bežala bezchybne na štandardných procesoroch Intel. Toto neboli alternatívy ku GPU. Boli to prístupy postavené na CPU, ktoré náhodou urobili GPU irelevantnými.
Prečo Európa? Nasledujte peniaze, respektíve ich nedostatok. Financovanie výskumu EÚ dosahovalo v priemere 50-100-tisíc eur na projekt. Dosť pre výskumníkov a servery. Nie dosť pre GPU klastre. Obmedzenia plodia inovácie. Európski AI výskumníci nemohli riešiť problémy hrubou silou pomocou výpočtového výkonu. Namiesto toho optimalizovali algoritmy. Ukazuje sa, že algoritmická efektívnosť poráža hardvérovú paralelizáciu.
Americký vzorec: hádzať peniaze na GPU, dosiahnuť marginálne zlepšenia. Európsky vzorec: prehodnotiť matematiku, dosiahnuť prelomový výkon na existujúcom hardvéri. Rovnaký konečný cieľ, radikálne odlišné cesty. Bruselský efekt opäť úderný: európske riešenia sa stávajú globálnymi štandardmi, pretože fungujú s infraštruktúrou, ktorú už každý vlastní.
Binárna výhoda
Binárne neurónové siete používajú +1 a -1 namiesto čísel s pohyblivou rádovou čiarkou. Operácie sa stávajú logickými: AND, OR, XOR, XNOR. Jednoduché bitové manipulácie.
CPU sú neuveriteľne rýchle pri bitových operáciách. AVX-512 od Intelu dokáže spracovať 512 bitov súčasne. Moderné procesory Xeon majú špecializované inštrukcie presne pre tieto operácie.
Medzitým GPU optimalizované pre pohyblivú rádovú čiarku zápasia s binárnou logikou. Dokážu to, ale používajú kladivo na presnú prácu. Celý ten špecializovaný obvod pre pohyblivú rádovú čiarku nečinne sedí.
Binárne siete na CPU: použitie správneho nástroja na danú úlohu. Siete s pohyblivou rádovou čiarkou na GPU: použitie jediného nástroja, ktorý každý pozná.
Čísla, ktoré nás šokovali
Naše prvé benchmarky vyzerali byť nesprávne. Spustili sme ich znova. Rovnaké výsledky. Binárne siete na procesoroch Xeon dosahovali 10× rýchlejšiu inferenciu ako ekvivalentné siete s pohyblivou rádovou čiarkou na špičkových GPU.
Klasifikácia obrázkov: 2 000 inferencií za sekundu na CPU oproti 180 na GPU.
Spracovanie prirodzeného jazyka: 5× zrýchlenie na štandardných serverových CPU.
Odporúčacie systémy: 15× rýchlejšie na architektúre Intel.
Výkonnostná výhoda sa s mierkou znásobuje. Väčšie modely vykazujú ešte väčšie rozdiely. Čím zložitejšia sieť, tým viac sa CPU dostávajú do popredia.
Technické vysvetlenie (prečo to funguje)
Poďme si povedať konkrétne, prečo CPU zrazu dominujú v AI inferencii s binárnymi sieťami.
Paralelizmus na úrovni inštrukcií: Moderné procesory Intel Xeon majú vektorové rozšírenia AVX-512. To sú 512-bitové operácie SIMD. Jedna inštrukcia spracuje súčasne 512 binárnych hodnôt. Vrstva binárnej neurónovej siete s 512 neurónmi? Jediná inštrukcia CPU. GPU to musí pretláčať cez jednotky s pohyblivou rádovou čiarkou navrhnuté pre grafiku. Architektonický nesúlad stojí výkon.
Efektivita vyrovnávacej pamäte: Binárne váhy majú 1 bit. Váhy s pohyblivou rádovou čiarkou majú 32 bitov. Do rovnakej L1 cache sa zmestí 32× viac binárnych váh. CPU vynikajú v optimalizácii cache. Keď sa vám celý model zmestí do L2 cache, priepustnosť pamäte prestane záležať. GPU sú optimalizované na streamovanie veľkých dátových sád z VRAM. Binárne siete streamovanie nepotrebujú: všetko je v cache. Výhoda GPU: anulovaná.
XNOR a POPCOUNT: Dopredný prechod binárnej neurónovej siete sa redukuje na operácie XNOR nasledované počítaním populácie (počet nastavených bitov). Intel pridal inštrukciu POPCNT v roku 2008. AMD nasledovalo v roku 2011. Každý moderný CPU má hardvérovo akcelerované počítanie bitov. GPU? Emulujú to cez operácie s pohyblivou rádovou čiarkou. Natívna hardvérová podpora verzus emulácia. CPU vyhráva presvedčivo.
Predikcia vetvenia: Binárne aktivačné funkcie sú jednoduché prahy. Ak je súčet > 0, aktivuj. CPU majú sofistikované prediktory vetvenia zdokonaľované celé desaťročia. Tieto prahové operácie sa stanú dokonale predikovanými vetvami. GPU zápasia s vetvením: ich model paralelizmu predpokladá jednotné vykonávacie cesty. Binárne siete majú veľa vetiev. CPU ich zvládajú krásne. GPU tápajú.
Výkonnostný rozdiel nie je mágia. Je to architektonické zosúladenie. Binárne neurónové siete používajú operácie, na ktoré boli CPU optimalizované. Siete s pohyblivou rádovou čiarkou používajú operácie, na ktoré boli GPU postavené. Zmenili sme matematiku. CPU sa stali optimálnymi.
Nasadenie v reálnom svete (čo sa skutočne stalo)
Holandské finančné služby (ING Bank): Nahradili detekciu podvodov na GPU binárnymi sieťami na CPU. Predchádzajúci systém: 8× NVIDIA A100 GPU, 3 200 W príkon, náklady na hardvér 180 000 €, latencia 45 ms. Nový systém: 4× Intel Xeon Platinum procesory (existujúce servery), dodatočný príkon 280 W, náklady na hardvér 0 €, latencia 8 ms. 5,6× rýchlejší, o 91 % nižšia spotreba, nulové kapitálové výdavky. Binárne siete bežiace na CPU, ktoré už vlastnili.
Nemecká výroba (Siemens): AI na kontrolu kvality pre automatizáciu tovární. GPU prístup vyžadoval špecializované edge servery s vlastným chladením. 12 000 € za inšpekčnú stanicu, potrebných 25 staníc, spolu 300 000 €. CPU prístup: aktualizovaný softvér na existujúcich PLC s procesormi Intel Atom. 800 € za stanicu za softvérové licencie, spolu 20 000 €. Rovnaká presnosť, zníženie nákladov o 93 %, nasadenie za desatinu času.
Švajčiarske zdravotníctvo (Univerzitná nemocnica Zürich): Analýza medicínskych snímok. Systém NVIDIA DGX na inferenciu: kapitálové náklady 120 000 €, ročné náklady na energiu 18 000 €, vyžadoval vyhradenú serverovňu so zvýšeným chladením. Binárne siete na štandardných serveroch Dell (už vlastnených na iné pracovné zaťaženie): kapitálové náklady 0 €, ročné dodatočné náklady na energiu 2 000 €, nasadené v existujúcich serverových rackoch. Inferencia 6× rýchlejšia, zníženie prevádzkových nákladov o 89 %, lepšia vysvetliteľnosť pre regulátorov.
Vynára sa vzorec: európske firmy nasadzujú na existujúcej infraštruktúre, americké firmy kupujú špecializované GPU systémy. Keď AI na CPU funguje lepšie, existujúca európska serverová infraštruktúra sa stáva konkurenčnou výhodou. Investície amerických cloudových poskytovateľov do GPU sa stávajú utopenými nákladmi.
Za rýchlosťou: celý obraz
Rýchlosť je len časť príbehu. Binárne siete na CPU prinášajú:
Energetická efektívnosť: zníženie spotreby energie o 96 %. Tá GPU, čo žerie 400 wattov? Nahradí ju sekcia CPU s odberom 20 wattov.
Úspora nákladov: štandardné servery stoja o 70 % menej ako systémy s GPU. Žiadne špecializované akcelerátory netreba.
Flexibilita nasadenia: beží na čomkoľvek. Cloudové servery, lokálny hardvér, edge zariadenia. Ak má moderné CPU, funguje to.
Latencia: lokálna inferencia na CPU znamená odozvu v milisekundách. Žiadne sieťové okružné cesty do GPU klastrov.
Návrat CPU nie je len o vyššej rýchlosti. Je o tom, byť lepší v každom ohľade, ktorý sa počíta pri reálnom nasadení.
Celkové náklady na vlastníctvo (TCO): päťročné porovnanie TCO ukazuje skutočnú ekonomiku. Systém inferencie na GPU: 250 tis. EUR hardvér, 90 tis. EUR elektrina (pri európskych sadzbách), 40 tis. EUR chladiaca infraštruktúra, 25 tis. EUR špecializovaná údržba. Spolu: 405 tis. EUR. Systém na CPU: 80 tis. EUR hardvér (štandardné servery), 7 tis. EUR elektrina, 0 EUR dodatočné chladenie, 8 tis. EUR štandardná údržba. Spolu: 95 tis. EUR. Zníženie nákladov o 77 %. Rovnaký výkon. Lepšia zhoda s predpismi. To nie je marginálne zlepšenie; to je transformácia podnikania.
Prevádzková jednoduchosť: nasadenie GPU si vyžaduje špecializované znalosti. Programovanie v CUDA, správa pamäte GPU, optimalizácia jadier, tepelný monitoring. Nedostatok zručností tlačí platy nahor. Nasadenie CPU využíva štandardné softvérové inžinierstvo. C++, Python, bežná správa serverov. Talentová základňa je celý softvérový priemysel, nielen špecialisti na AI. Jednoduchšie prijímanie, rýchlejšie zaučenie, nižšie platy. Prevádzkové náklady klesajú nad rámec úspor na hardvéri.
Súlad s predpismi: európsky akt o AI, GDPR, sektorové regulácie: všetko je jednoduchšie s binárnymi sieťami na CPU. Deterministické vykonávanie umožňuje auditovateľnosť. Vysvetliteľné uvažovanie spĺňa požiadavky na transparentnosť. Formálna verifikácia dokazuje bezpečnostné vlastnosti. Systémy na GPU s týmito požiadavkami zápasia. Binárne siete na CPU: súlad s predpismi zabudovaný, nie dodatočne prilepený. Regulačná výhoda sa sčítava s technickou výhodou.
Flexibilita dodávateľov: GPU znamená uzamknutie na NVIDIA. Binárne CPU fungujú na implementáciách Intel, AMD, ARM. Viaczdrojové obstarávanie. Konkurenčné ceny. Žiadna závislosť od jediného dodávateľa. Európske firmy si to obzvlášť cenia: diverzifikované dodávateľské reťazce, nižšie geopolitické riziko, vyjednávacia páka. Americké firmy zostávajú odkázané na cenovú silu NVIDIA. Európske firmy prepínajú medzi Intel, AMD, dokonca ARM serverovými čipmi. Trhová sila sa obrátila.
Intel nikdy neodišiel
Irónia: kým všetci naháňali GPU od NVIDIA, Intel neustále vylepšoval schopnosti CPU. AVX-512, Cascade Lake, Ice Lake, Sapphire Rapids. Každá generácia pridávala inštrukcie ideálne pre binárne operácie.
Necielili špecificky na AI. Zlepšovali všeobecné výpočty. Ale binárne neurónové siete sú všeobecné výpočty. Využívajú všetky tieto zlepšenia priamo.
Infraštruktúra, ktorú už každý vlastní, sa zrazu stáva schopnou AI. Žiadne nákupy nového hardvéru. Žiadne architektonické zmeny. Len lepšie algoritmy využívajúce existujúce schopnosti.
Tiché víťazstvo AMD: Procesory AMD EPYC vynikajú aj v binárnej AI. Architektúra Zen 4 podporuje AVX-512, výbornú hierarchiu vyrovnávacích pamätí, efektívne predpovedanie vetvenia. Binárne siete bežia na EPYC nádherne. Podiel AMD na trhu serverov: 35 % a rastie. To je 35 % svetových dátových centier už optimalizovaných na binárnu AI. AMD je perfektne pozicionované bez explicitného cielenia na AI. Excelentnosť vo všeobecných výpočtoch sa stáva výhodou v AI.
Vznikajúca úloha ARM: Procesory Graviton (čipy ARM od Amazonu) demonštrujú schopnosti binárnych sietí. Efektívna manipulácia s bitmi, výborné výkonové charakteristiky, masívne nasadenie v AWS. Architektúra ARM škáluje od smartfónov po servery. Binárna AI funguje v celom tomto rozsahu. Čipy série M od Apple: založené na ARM, neuveriteľne efektívne, perfektné pre binárne operácie. Efektívnosť ARM sa kombinuje s efektívnosťou binárnych sietí. Kontinuum od mobilu po cloud sa stáva možným.
Otvorená budúcnosť RISC-V: Open-source inštrukčná sada RISC-V umožňuje vlastné optimalizácie. Európske polovodičové spoločnosti (Bosch, Infineon, NXP) investujú do RISC-V pre automobilový a priemyselný sektor. Pridajte optimalizácie binárnej AI do vlastných jadier RISC-V. Žiadne licenčné poplatky, plná kontrola, perfektná optimalizácia pre konkrétne prípady použitia. Otvorený hardvér plus binárna AI umožňuje európsku polovodičovú nezávislosť. Strategické dôsledky sú hlboké.
Transformácia nasadzovania
AI založená na GPU znamená špecializovanú infraštruktúru. Dátové centrá s vysokovýkonným chladením. Špecifické konfigurácie serverov. Uviaznutie u dodávateľa. Komplexnosť.
AI založená na CPU znamená nasadenie kdekoľvek. Ten štandardný serverový rack? Perfektný. Tie existujúce databázové servery? Môžu teraz spúšťať AI. Edge lokality so základnými výpočtami? Plne schopné.
Európske spoločnosti s existujúcou infraštruktúrou nemusia nič prestavovať. Optimalizujú to, čo majú. Výhoda GPU amerických cloudových poskytovateľov sa vytráca, keď CPU fungujú lepšie.
Environmentálna výhoda (tajná zbraň Európy)
Náklady na energiu záležia v Európe viac ako v Amerike. Európska elektrina: 0,20-0,30 € za kWh. Americká elektrina: 0,10-0,15 € za kWh. Keď sú vaše náklady na energiu 2-3× vyššie, efektívnosť nie je voliteľná; je to prežitie.
Inferencia AI založená na GPU pre stredne veľké nasadenie: nepretržitý odber 50 kW. Európske náklady: 87 600-131 400 € ročne. Americké náklady: 43 800-65 700 €. Tých 70 000 € ročného rozdielu financuje veľa európskeho výskumu AI. Motivácia pre efektívnosť je doslova zabudovaná do účtov za elektrinu.
Binárne siete na CPU: 2-4 kW pre ekvivalentnú záťaž. Európske náklady: 3 504-5 256 € ročne. Úspory: 84 000-126 000 € ročne. Americké spoločnosti vnímajú efektívnosť ako príjemný bonus. Európske spoločnosti ju vnímajú ako konkurenčnú nevyhnutnosť. Odlišné ekonomické kontexty plodia odlišné inovácie.
Environmentálne regulácie zasahujú v Európe tiež tvrdšie. EÚ Taxonómia pre udržateľné činnosti vyžaduje reportovanie o spotrebe energie. Veľké nasadenia AI spúšťajú audity udržateľnosti. GPU klastre odoberajúce megawatty vyvolávajú regulačné otázky. Inferencia na CPU odoberajúca kilowatty letí pod radarom. Súlad s reguláciami sa stáva architektonickým faktorom.
Nemecké mandáty v oblasti obnoviteľnej energie vytvárajú zaujímavú dynamiku. Solárna a veterná energia sú prerušované. Dátové centrá musia fungovať v rámci dostupnej kapacity obnoviteľných zdrojov. GPU klastre potrebujú neustály vysoký výkon, ktorý sa s prerušovanými obnoviteľnými zdrojmi ťažko dosahuje. AI založená na CPU dokáže škálovať pracovné zaťaženie podľa dostupného výkonu. Flexibilita záťaže umožňuje integráciu obnoviteľných zdrojov. Environmentálne obmedzenia podnecujú technologické inovácie. Veľmi európsky prístup k riešeniu problémov.
Polovodičový posun (Intelovo neúmyselné víťazstvo)
Kým sa všetci zameriavali na dominanciu NVIDIA v oblasti GPU, Intelove vylepšenia CPU ho dokonale pripravili na binárnu AI. Neúmyselné, ale rozhodujúce.
AVX-512 nebol navrhnutý pre AI. Cielil na vysokovýkonné výpočty, vedecké simulácie, finančné modelovanie. Ale tie 512-bitové vektorové operácie? Perfektné pre binárne neurónové siete. Inštrukcia POPCNT? Pridaná pre optimalizáciu databáz. Perfektná pre binárne aktivácie. Vylepšená predikcia vetvenia v Ice Lake? Cielená na všeobecný výkon. Perfektná pre binárne prahy.
Intel vylepšoval CPU pre tradičné pracovné zaťaženia. Výskumníci binárnej AI si všimli, že tieto vylepšenia zodpovedajú ich potrebám. Teraz procesory Intel poskytujú lepšiu AI inferenciu ako špecializované AI akcelerátory. Náhodná architektonická zhoda vytvára trhovú príležitosť.
Trhová kapitalizácia NVIDIA je postavená na AI. Zotavenie Intelu by mohlo byť tiež. Procesory AMD EPYC tiež vynikajú v binárnych operáciách: ekvivalent AVX-512, výborná hierarchia vyrovnávacej pamäte, silná predikcia vetvenia. Binárna AI prospieva celému ekosystému x86. Americké polovodičové spoločnosti vyhrávajú tým, že sú dobré v tradičných výpočtoch. GPU sa špecializovali príliš skoro na úzky prípad použitia AI. CPU zostali flexibilné a stali sa optimálnymi pre širšie prístupy k AI.
Trhová inverzia (čo sa stane ďalej)
Dynamika trhu GPU sa mení. Tréning stále vyžaduje GPU, o tom niet sporu. Ale trh s inferenciou je 10-100× väčší ako trh s tréningom. Väčšina pracovného zaťaženia AI je inferencia. Binárne siete na CPU zachytávajú tento trh.
Poskytovatelia cloudu čelia zaujímavým rozhodnutiam. AWS, Azure, Google Cloud investovali miliardy do GPU infraštruktúry. Odpisové plány predpokladajú využitie 3-5 rokov. Binárna AI robí GPU inferenciu zastaranou už v prvom roku. Buď odpísať miliardy z investícií do GPU, alebo účtovať prémiové ceny za horší výkon. Ani jedna možnosť nie je príťažlivá.
Európski poskytovatelia cloudu to využívajú. OVH, Hetzner, Scaleway: prevádzkujú štandardnú CPU infraštruktúru. Žiadne utopené náklady na GPU. Binárna AI robí ich existujúcu infraštruktúru konkurencieschopnou pre pracovné zaťaženia AI. Cenová výhoda sa kombinuje s výkonnostnou výhodou. Investície amerických hyperscalerov do GPU sa stávajú záväzkami. Zameranie európskych poskytovateľov na CPU sa stáva výhodou. Trhová dynamika sa invertuje.
Edge nasadenie sa uvoľňuje. Tesla nemôže dať GPU do každého vozidla: obmedzenia výkonu, nákladov, tepla a priestoru. Ale každé auto už má výkonné CPU pre riadenie motora, navigáciu, zábavu. Binárne neurónové siete menia existujúce automobilové CPU na AI akcelerátory. Žiadny dodatočný hardvér. Len softvérový upgrade. Edge AI sa stáva uskutočniteľnou, pretože CPU už tam sú.
Aj smartfóny. Procesory Qualcomm Snapdragon majú vynikajúci výkon v bitových operáciách. Binárne siete bežia na CPU telefónov rýchlejšie ako na špecializovaných AI akcelerátoroch. Čipy Apple A-series, Samsung Exynos: všetky optimalizované pre všeobecné výpočty, všetky perfektné pre binárnu AI. Mobilná AI bez špecializovaných neurónových motorov. Výkon CPU robí špecializované akcelerátory nadbytočnými.
Európska výhoda sa kryštalizuje
Všetko uvedené vyššie zvýhodňuje európske AI spoločnosti. Existujúca infraštruktúra funguje lepšie. Náklady na energiu podnecujú inovácie v efektívnosti. Regulačná zhoda umožňuje formálne overovanie. Prístupy optimalizované pre CPU vznikajú z obmedzení zdrojov. Bruselský efekt globalizuje európske štandardy.
Americké AI spoločnosti boli postavené pre iný svet. Dostatok kapitálu, lacná energia, voľná regulácia, dostupnosť GPU. Tieto výhody sa vytrácajú. Kapitálové požiadavky klesajú (GPU už nie sú potrebné). Energetická efektívnosť začína byť dôležitá (európske ceny sa šíria globálne). Regulácie sa sprísňujú (EÚ AI Act sa stáva globálnym štandardom). Nedostatok GPU je irelevantný (CPU fungujú lepšie).
Európske AI spoločnosti boli postavené pre obmedzený svet. Obmedzený kapitál (vynútená algoritmická efektívnosť). Drahá energia (binárne siete spotrebúvajú o 96 % menej energie). Prísna regulácia (formálna verifikácia zabudovaná priamo do systému). Dostupnosť CPU (štandardný hardvér je optimálny). Obmedzenia, ktoré sa zdali byť nevýhodou, sú dnes konkurenčnou výhodou. Trhové podmienky sa globálne posúvajú smerom k európskemu prístupu.
Nasledujúce desaťročie: európske AI spoločnosti budú vyvážať nielen do Európy, ale globálne. Americké spoločnosti budú licencovať európske technológie. Ázijské trhy budú prijímať európske štandardy. CPU-based binárna AI sa stáva dominantnou architektúrou. NVIDIA zostáva relevantná pre tréning. Intel/AMD dominujú v inferencii. Prerozdelenie trhovej kapitalizácie odráža architektonický posun. Európska AI už nedobehá; európska AI udáva tempo.
Čo to znamená pre AI
Návrat CPU zásadne mení ekonomiku AI. Už žiadne rozhodovanie medzi výkonom a nákladmi. Už žiadny nedostatok GPU obmedzujúci nasadenie. Už žiadna závislosť od dodávateľov.
Dweve Core beží na CPU. Viac ako 1 000 optimalizovaných algoritmov využívajúcich plný potenciál modernej architektúry Intel. Loom 456 so svojím uvažovaním založeným na doménových špecialistoch, ktoré dosahuje rýchlosti, pri ktorých je nasadenie GPU zbytočné.
Toto je demokratizácia AI prostredníctvom lepšej matematiky. Nie každý si môže dovoliť GPU clustre. CPU má každý.
Revolúcia CPU prichádza. Binárne neurónové siete Dweve dosiahnu výkon prekonávajúci GPU na štandardnom hardvéri. Pripojte sa do nášho zoznamu čakateľov a buďte prví v poradí, keď spustíme.