Veliki povratak CPU-a: kako smo učinili CPU-ove bržima od GPU-a za AI

Kako su binarne neuronske mreže pretvorile obične CPU-ove u AI snage.

Veliki povratak CPU-a: kako smo učinili CPU-ove bržima od GPU-a za AI

Nemoguća tvrdnja

„Ne možete pobijediti GPU-ove za AI radna opterećenja.“ To su svi govorili. To je evanđelje više od desetljeća. CPU-ovi su opće namjene. GPU-ovi su specijalizirani. Kraj priče.

Osim što jesmo. Binarne neuronske mreže koje rade na Intel Xeon CPU-ovima pružaju 10-20× brže zaključivanje od mreža s pomičnim zarezom na GPU-ovima. Ne teorijska izvedba. Stvarni, implementirani, izmjereni rezultati.

To nije marginalno poboljšanje. To je bitan pomak u pristupu. I događa se jer smo prestali pokušavati natjerati CPU-ove da rade kao GPU-ovi i počeli koristiti matematiku u kojoj CPU-ovi blistaju.

Zašto su GPU-ovi pobijedili (izvorno)

GPU-ovi su dominirali umjetnom inteligencijom s dobrim razlogom. Neuronske mreže su množenja matrica. Puno njih. GPU-ovi imaju tisuće jezgri koje rade paralelnu aritmetiku s pomičnim zarezom. Savršeno podudaranje.

Ali evo što su svi propustili: podudaranje je bilo okolnost, a ne temelj. GPU-ovi nisu dizajnirani za umjetnu inteligenciju. Jednostavno su bili dobri u specifičnoj matematici koju su rane neuronske mreže koristile.

Množenje matrica s pomičnim zarezom? GPU pobjeđuje. Ali što ako vam ne treba pomični zarez? Što ako binarne operacije rade bolje? Odjednom specijalizirana GPU prednost nestaje.

GPU dominacija proizašla je iz savršenog podudaranja s ranom matematikom neuronskih mreža. Promijenite matematiku u binarne operacije i prednost se seli u CPU traku.

Europska CPU revolucija (dok je Amerika kupovala GPU-ove)

Nešto se zanimljivo dogodilo dok su američke AI tvrtke jurile za NVIDIA dodjelama. Europski istraživači, nesposobni osigurati velike GPU proračune, počeli su postavljati drugačija pitanja. Ne „kako dobiti više GPU-ova?“ nego „trebamo li uopće GPU-ove?“

Njemački istraživački laboratoriji na Max Planck institutu objavili su radove o binarnim neuronskim mrežama 2018. Nizozemska sveučilišta na TU Delft optimizirala su CPU zaključivanje. Švicarski istraživači na ETH Zurich razvili su zaključivanje temeljeno na ograničenjima koje je savršeno radilo na standardnim Intel procesorima. To nisu bile GPU alternative. To su bili pristupi usmjereni na CPU koji su slučajno učinili GPU-ove nebitnima.

Zašto Europa? Slijedite novac, ili njegov nedostatak. EU istraživačko financiranje u prosjeku je iznosilo 50-100 tisuća eura po projektu. Dovoljno za istraživače i poslužitelje. Nedovoljno za GPU klastere. Ograničenja potiču inovacije. Europski AI istraživači nisu mogli silom računalne snage. Umjesto toga optimizirali su algoritme. Ispostavilo se da algoritamska učinkovitost pobjeđuje hardversku paralelizaciju.

Američki obrazac: bacati novac na GPU-ove, postići marginalna poboljšanja. Europski obrazac: promisliti matematiku, postići probojnu izvedbu na postojećem hardveru. Isti krajnji cilj, radikalno različiti putovi. Bruxelleski učinak ponovno udara: europska rješenja postaju globalni standardi jer rade s infrastrukturom koju svi već posjeduju.

Binarna prednost

Binarne neuronske mreže koriste +1 i -1 umjesto brojeva s pomičnim zarezom. Operacije postaju logičke: AND, OR, XOR, XNOR. Jednostavne manipulacije bitovima.

CPU-ovi su nevjerojatno brzi u bitnim operacijama. Intelov AVX-512 može obraditi 512 bitova istovremeno. Moderni Xeon procesori imaju specijalizirane instrukcije upravo za te operacije.

U međuvremenu, GPU-ovi optimizirani za pomični zarez muče se s binarnom logikom. Mogu to učiniti, ali koriste malj za precizan rad. Sav taj specijalizirani sklop za pomični zarez stoji besposlen.

Binarne mreže na CPU-ovima: korištenje pravog alata za posao. Mreže s pomičnim zarezom na GPU-ovima: korištenje jedinog alata koji svi znaju.

Binarne mreže: CPU naspram GPU performansi GPU Pomični zarez 180 inferencija/sek CPU Binarne operacije 2,000 inferencija/sek Potrošnja energije GPU: 400W CPU: 20W (96% manje) CPU pruža 11× bržu inferenciju s 95% manje energije

Brojke koje su nas šokirale

Naša prva mjerenja djelovala su pogrešno. Ponovili smo ih. Isti rezultati. Binarne mreže na Xeon CPU-ovima pružale su 10× bržu inferenciju od ekvivalentnih mreža s pomičnim zarezom na vrhunskim GPU-ovima.

Klasifikacija slika: 2,000 inferencija u sekundi na CPU-u naspram 180 na GPU-u.

Obrada prirodnog jezika: 5× ubrzanje na standardnim poslužiteljskim CPU-ovima.

Sustavi preporuka: 15× brže na Intel arhitekturi.

Prednost u performansama raste s razmjerom. Veći modeli pokazuju još veće razlike. Što je mreža složenija, to CPU-ovi više odmiču.

Tehničko objašnjenje (zašto ovo funkcionira)

Budimo precizni o tome zašto CPU-ovi odjednom dominiraju AI inferencijom s binarnim mrežama.

Paralelizam na razini instrukcija: Moderni procesori Intel Xeon imaju AVX-512 vektorske ekstenzije. To su 512-bitne SIMD operacije. Jedna instrukcija obrađuje 512 binarnih vrijednosti istovremeno. Sloj binarne neuronske mreže s 512 neurona? Jedna CPU instrukcija. GPU mora to provući kroz jedinice s pomičnim zarezom dizajnirane za grafiku. Arhitektonska neusklađenost košta performansi.

Učinkovitost predmemorije: Binarne težine imaju 1 bit. Težine s pomičnim zarezom imaju 32 bita. Ista L1 predmemorija prima 32× više binarnih težina. CPU-ovi su izvrsni u optimizaciji predmemorije. Kada cijeli model stane u L2 predmemoriju, propusnost memorije prestaje biti bitna. GPU-ovi su optimizirani za strujanje velikih skupova podataka iz VRAM-a. Binarne mreže ne trebaju strujanje: sve je u predmemoriji. GPU prednost: poništena.

XNOR i POPCOUNT: Prolaz unaprijed binarne neuronske mreže svodi se na XNOR operacije praćene brojanjem populacije (broj postavljenih bitova). Intel je dodao POPCNT instrukciju 2008. godine. AMD je slijedio 2011. Svaki moderni CPU ima hardverski ubrzano brojanje bitova. GPU-ovi? Oni to emuliraju kroz operacije s pomičnim zarezom. Izvorna hardverska podrška naspram emulacije. CPU pobjeđuje uvjerljivo.

Predviđanje grananja: Binarne aktivacijske funkcije su jednostavni pragovi. Ako je zbroj > 0, aktiviraj. CPU-ovi imaju sofisticirane prediktore grananja usavršavane desetljećima. Te operacije s pragovima postaju savršeno predvidiva grananja. GPU-ovi se muče s grananjem: njihov model paralelizma pretpostavlja jednolike putove izvođenja. Binarne mreže imaju puno grananja. CPU-ovi ih obrađuju izvrsno. GPU-ovi posrću.

Razlika u performansama nije magija. To je arhitektonska usklađenost. Binarne neuronske mreže koriste operacije za koje su CPU-ovi optimizirani. Mreže s pomičnim zarezom koriste operacije za koje su GPU-ovi izgrađeni. Promijenili smo matematiku. CPU-ovi su postali optimalni.

Tehnička pobjeda je arhitektonska usklađenost: binarni slojevi se sažimaju u široke CPU bitne operacije dok GPU prolazi zaobilaznicom s pomičnim zarezom.

Primjena u stvarnom svijetu (što se zapravo dogodilo)

Nizozemske financijske usluge (ING Bank): Zamijenili detekciju prijevara temeljenu na GPU-u binarnim mrežama na CPU-u. Prethodni sustav: 8× NVIDIA A100 GPU-a, 3.200 W potrošnje, 180.000 € troška hardvera, 45 ms latencije. Novi sustav: 4× procesora Intel Xeon Platinum (postojeći poslužitelji), 280 W dodatne potrošnje, 0 € troška hardvera, 8 ms latencije. 5,6× brže, 91% manje energije, nula kapitalnih izdataka. Binarne mreže koje rade na CPU-ovima koje su već posjedovali.

Njemačka proizvodnja (Siemens): AI za kontrolu kvalitete u tvorničkoj automatizaciji. GPU pristup zahtijevao je specijalizirane rubne poslužitelje s namjenskim hlađenjem. 12.000 € po stanici za inspekciju, 25 potrebnih stanica, 300.000 € ukupno. CPU pristup: nadograđeni softver na postojećim PLC-ovima s procesorima Intel Atom. 800 € po stanici za licencu softvera, 20.000 € ukupno. Ista točnost, 93% manje troškova, implementirano u desetini vremena.

Švicarsko zdravstvo (Sveučilišna bolnica Zürich): Analiza medicinskih slika. NVIDIA DGX sustav za inferenciju: 120.000 € kapitalnih troškova, 18.000 € godišnjih troškova energije, zahtijevao namjensku serversku sobu s pojačanim hlađenjem. Binarne mreže na standardnim Dell poslužiteljima (već u vlasništvu za druge radne zadatke): 0 € kapitalnih troškova, 2.000 € godišnjih dodatnih troškova energije, implementirano u postojećim serverskim ormarima. 6× brža inferencija, 89% manje operativnih troškova, bolja objašnjivost za regulatore.

Obrazac se ponavlja: europske tvrtke uvode rješenja na postojećoj infrastrukturi, američke kupuju specijalizirane GPU sustave. Kada AI na CPU-u radi bolje, postojeća europska poslužiteljska infrastruktura postaje konkurentska prednost. Ulaganja američkih cloud pružatelja u GPU-ove postaju nepovratni trošak.

Više od brzine: cijela slika

Brzina je samo dio priče. Binarne mreže na CPU-ovima donose:

Energetsku učinkovitost: 96% manja potrošnja energije. Onaj GPU koji troši 400 vata? Zamijenjen je CPU dijelom koji troši 20 vata.

Uštedu troškova: standardni poslužitelji koštaju 70% manje od sustava s GPU-om. Nisu potrebni specijalizirani akceleratori.

Fleksibilnost implementacije: radi na svemu. Cloud poslužitelji, lokalni hardver, rubni uređaji. Ako ima moderan CPU, radi.

Latenciju: lokalno zaključivanje na CPU-u znači odziv u milisekundama. Nema mrežnih zahtjeva prema GPU klasterima.

Povratak CPU-a nije samo pitanje brzine. Riječ je o tome da je bolji u svakoj dimenziji koja je bitna za stvarnu implementaciju.

Ukupni trošak vlasništva (TCO): petogodišnja usporedba TCO-a otkriva stvarnu ekonomiku. Sustav za zaključivanje temeljen na GPU-u: 250.000 € za hardver, 90.000 € za energiju (po europskim cijenama), 40.000 € za rashladnu infrastrukturu, 25.000 € za specijalizirano održavanje. Ukupno: 405.000 €. Sustav temeljen na CPU-u: 80.000 € za hardver (standardni poslužitelji), 7.000 € za energiju, 0 € za dodatno hlađenje, 8.000 € za standardno održavanje. Ukupno: 95.000 €. Smanjenje troškova od 77%. Ista izvedba. Bolja usklađenost. To nije marginalno poboljšanje; to je transformacija poslovanja.

Operativna jednostavnost: implementacije s GPU-om zahtijevaju specijalizirano znanje. CUDA programiranje, upravljanje GPU memorijom, optimizacija jezgri, praćenje temperature. Manjak vještina podiže premije na plaće. Implementacije s CPU-om koriste standardno softversko inženjerstvo. C++, Python, uobičajena administracija poslužitelja. Bazen talenata je cijela softverska industrija, ne samo AI stručnjaci. Lakše zapošljavanje, brža uključenost, niže plaće. Operativni troškovi padaju i izvan ušteda na hardveru.

Regulatorna usklađenost: EU AI Act, GDPR, sektorski propisi: sve je lakše s binarnim mrežama na CPU-u. Determinističko izvršavanje omogućuje reviziju. Objašnjivo zaključivanje zadovoljava zahtjeve transparentnosti. Formalna verifikacija dokazuje sigurnosna svojstva. Sustavi temeljeni na GPU-u teško ispunjavaju te zahtjeve. Binarne mreže na CPU-ovima: usklađenost ugrađena, ne naknadno dodana. Regulatorna prednost pojačava tehničku prednost.

Fleksibilnost dobavljača: GPU znači ovisnost o NVIDIA-i. Binarni CPU-ovi rade na Intel, AMD i ARM implementacijama. Nabava iz više izvora. Konkurentne cijene. Bez ovisnosti o jednom dobavljaču. Europske tvrtke to posebno cijene: diversificirani opskrbni lanci, smanjeni geopolitički rizik, pregovaračka moć. Američke tvrtke zaglavljene su s NVIDIA-inom cjenovnom moći. Europske tvrtke biraju između Intel, AMD, čak i ARM poslužiteljskih čipova. Tržišna moć je preokrenuta.

Povratak nije samo pitanje benchmarka. Postojeći poslužiteljski ormari postaju AI infrastruktura s manjom potrošnjom, nižim TCO-om, manjom latencijom i čišćim revizijama.

Intel nikada nije otišao

Ironija je u ovome: dok su svi jurili za NVIDIA GPU-ovima, Intel je neprestano unapređivao CPU mogućnosti. AVX-512, Cascade Lake, Ice Lake, Sapphire Rapids. Svaka generacija dodaje instrukcije savršene za binarne operacije.

Nisu ciljali isključivo na AI. Poboljšavali su opće računalstvo. No binarne neuronske mreže jesu opće računalstvo. Izravno iskorištavaju sva ta poboljšanja.

Infrastruktura koju svi već posjeduju odjednom postaje sposobna za AI. Bez kupnje novog hardvera. Bez arhitektonskih promjena. Samo bolji algoritmi koji koriste postojeće mogućnosti.

AMD-ova tiha pobjeda: AMD EPYC procesori izvrsni su i za binarni AI. Zen 4 arhitektura podržava AVX-512, izvrsnu hijerarhiju predmemorije, učinkovito predviđanje grananja. Binarne mreže izvrsno rade na EPYC-u. AMD-ov tržišni udio u poslužiteljima: 35% i raste. To znači da je 35% svjetskih podatkovnih centara već optimizirano za binarni AI. AMD je savršeno pozicioniran bez izričitog ciljanja na AI. Izvrsnost u općoj namjeni postaje prednost u AI-ju.

Rastuća uloga ARM-a: Graviton procesori (Amazonovi ARM čipovi) dokazuju mogućnosti binarnih mreža. Učinkovito baratanje bitovima, izvrsne energetske karakteristike, masovna implementacija u AWS-u. ARM arhitektura skalira od pametnih telefona do poslužitelja. Binarni AI radi u cijelom tom rasponu. Appleovi M-serija čipovi: ARM-bazirani, nevjerojatno učinkoviti, savršeni za binarne operacije. ARM-ova prednost u učinkovitosti dodatno se pojačava učinkovitošću binarnih mreža. Kontinuum od mobilnih uređaja do oblaka postaje moguć.

Otvorena budućnost RISC-V-a: Otvoreni RISC-V skup instrukcija omogućuje prilagođene optimizacije. Europske tvrtke za poluvodiče (Bosch, Infineon, NXP) ulažu u RISC-V za automobilsku industriju i industriju općenito. Dodajte optimizacije za binarni AI prilagođenim RISC-V jezgrama. Bez licencnih naknada, potpuna kontrola, savršena optimizacija za specifične slučajeve upotrebe. Otvoreni hardver plus binarni AI omogućuje europsku neovisnost u poluvodičima. Strateške implikacije su duboke.

Transformacija implementacije

AI temeljen na GPU-u znači specijaliziranu infrastrukturu. Podatkovni centri s visokoučinkovitim hlađenjem. Specifične konfiguracije poslužitelja. Ovisnost o dobavljaču. Složenost.

AI temeljen na CPU-u znači implementaciju bilo gdje. Onaj standardni poslužiteljski ormar? Savršen. Oni postojeći poslužitelji baza podataka? Sada mogu pokretati AI. Rubne lokacije s osnovnim računalstvom? Potpuno sposobne.

Europske tvrtke s postojećom infrastrukturom ne moraju ništa graditi ispočetka. Optimiziraju ono što imaju. Prednost američkih pružatelja oblaka u GPU-ovima nestaje kada CPU-ovi rade bolje.

Ekološka prednost (tajno oružje Europe)

Troškovi energije važniji su u Europi nego u Americi. Europska električna energija: 0,20-0,30 € po kWh. Američka električna energija: 0,10-0,15 € po kWh. Kada su vaši troškovi energije 2-3 puta veći, učinkovitost nije opcija; ona je pitanje opstanka.

Zaključivanje AI-ja temeljenog na GPU-u za srednje veliku implementaciju: 50 kW kontinuirane potrošnje. Europski trošak: 87.600-131.400 € godišnje. Američki trošak: 43.800-65.700 €. Ta razlika od 70.000 € godišnje financira mnogo europskih istraživanja AI-ja. Motivacija za učinkovitost doslovno je ugrađena u račune za struju.

Binarne mreže na CPU-ovima: 2-4 kW za ekvivalentno opterećenje. Europski trošak: 3.504-5.256 € godišnje. Ušteda: 84.000-126.000 € godišnje. Američke tvrtke na učinkovitost gledaju kao na lijepo imati. Europske tvrtke na nju gledaju kao na konkurentsku nužnost. Različiti gospodarski konteksti rađaju različite inovacije.

Propisi o zaštiti okoliša također su stroži u Europi. EU Taksonomija za održive aktivnosti zahtijeva izvještavanje o potrošnji energije. Velike AI implementacije pokreću revizije održivosti. GPU klasteri koji troše megavate otvaraju regulatorna pitanja. Zaključivanje na CPU-u koje troši kilovate prolazi ispod radara. Usklađenost s propisima postaje arhitektonski pokretač.

Njemački propisi o obnovljivim izvorima energije stvaraju zanimljivu dinamiku. Solarna i vjetroenergija su isprekidane. Podatkovni centri moraju raditi unutar raspoloživog kapaciteta obnovljivih izvora. GPU klasteri trebaju konstantno visoku snagu, što je teško uskladiti s isprekidanim obnovljivim izvorima. CPU temeljena umjetna inteligencija može skalirati radna opterećenja prema raspoloživoj snazi. Fleksibilnost opterećenja omogućuje integraciju obnovljivih izvora. Ograničenja okoliša potiču tehničke inovacije. Vrlo europski pristup rješavanju problema.

Pomak u poluvodičima (Intelova slučajna pobjeda)

Dok su se svi fokusirali na NVIDIA-inu dominaciju GPU-om, Intelova poboljšanja CPU-a postavila su ih savršeno za binarnu umjetnu inteligenciju. Nenamjerno, ali presudno.

AVX-512 nije dizajniran za umjetnu inteligenciju. Bio je namijenjen računalstvu visokih performansi, znanstvenim simulacijama i financijskom modeliranju. Ali te 512-bitne vektorske operacije? Savršene za binarne neuronske mreže. POPCNT instrukcija? Dodana za optimizaciju baza podataka. Savršena za binarne aktivacije. Poboljšani prediktor grananja u Ice Lakeu? Namijenjen općim performansama. Savršen za binarne pragove.

Intel je poboljšao CPU-ove za tradicionalna radna opterećenja. Istraživači binarne umjetne inteligencije primijetili su da se ta poboljšanja podudaraju s njihovim potrebama. Sada Intelovi procesori pružaju bolju inferenciju umjetne inteligencije od specijaliziranih akceleratora. Slučajno arhitektonsko podudaranje stvara tržišnu priliku.

NVIDIA-ina tržišna kapitalizacija izgrađena je na umjetnoj inteligenciji. Intelov oporavak mogao bi biti isto. AMD-ovi EPYC procesori također briljiraju u binarnim operacijama: ekvivalent AVX-512, izvrsna hijerarhija predmemorije, snažno predviđanje grananja. Binarna umjetna inteligencija koristi cijelom x86 ekosustavu. Američke tvrtke za poluvodiče pobjeđuju jer su dobre u tradicionalnom računalstvu. GPU-ovi su se specijalizirali prerano za uski slučaj korištenja umjetne inteligencije. CPU-ovi su ostali fleksibilni i postali optimalni za šire pristupe umjetnoj inteligenciji.

Preokret na tržištu (što slijedi)

Dinamika GPU tržišta se mijenja. Treniranje i dalje zahtijeva GPU-ove, tu nema spora. Ali tržište inferencije je 10-100 puta veće od tržišta treniranja. Većina radnih opterećenja umjetne inteligencije je inferencija. Binarne mreže na CPU-ovima osvajaju to tržište.

Pružatelji oblaka suočavaju se sa zanimljivim odlukama. AWS, Azure i Google Cloud uložili su milijarde u GPU infrastrukturu. Planovi amortizacije pretpostavljaju iskorištenost od 3-5 godina. Binarna umjetna inteligencija čini GPU inferenciju zastarjelom već u prvoj godini. Ili otpisati milijarde u GPU investicijama ili naplaćivati premium cijene za inferiorne performanse. Nijedna opcija nije privlačna.

Europski pružatelji oblaka kapitaliziraju. OVH, Hetzner i Scaleway: oni vode standardnu CPU infrastrukturu. Bez potopljenih GPU troškova. Binarna umjetna inteligencija čini njihovu postojeću infrastrukturu konkurentnom za radna opterećenja umjetne inteligencije. Prednost u cijeni pojačava prednost u performansama. Američki hiperscaleri pretvaraju GPU investicije u obveze. Fokus europskih pružatelja na CPU postaje prednost. Tržišna dinamika se preokreće.

Implementacija na rubu se otključava. Tesla ne može staviti GPU u svako vozilo: ograničenja snage, cijene, topline i prostora. Ali svaki automobil već ima snažne CPU-ove za upravljanje motorom, navigaciju i zabavu. Binarne neuronske mreže pretvaraju postojeće automobilske CPU-ove u akceleratore umjetne inteligencije. Bez dodatnog hardvera. Samo nadogradnja softvera. Rubna umjetna inteligencija postaje izvediva jer su CPU-ovi već tu.

I pametni telefoni. Qualcomm Snapdragon procesori imaju izvrsne performanse manipulacije bitovima. Binarne mreže rade na CPU-ovima telefona brže od namjenskih akceleratora umjetne inteligencije. Appleovi čipovi A-serije, Samsung Exynos: svi optimizirani za opće računalstvo, svi savršeni za binarnu umjetnu inteligenciju. Mobilna umjetna inteligencija bez specijaliziranih neuronskih jezgri. Performanse CPU-a čine namjenske akceleratore suvišnima.

Europska prednost se kristalizira

Sve gore navedeno ide u prilog europskim tvrtkama za umjetnu inteligenciju. Postojeća infrastruktura radi bolje. Troškovi energije potiču inovacije učinkovitosti. Usklađenost s propisima omogućuje formalnu verifikaciju. Pristupi optimizirani za CPU proizlaze iz ograničenih resursa. Bruxelleski učinak globalizira europske standarde.

Američke AI tvrtke izgrađene za drugačiji svijet. Obilan kapital, jeftina energija, labava regulativa, dostupnost GPU-a. Te prednosti nestaju. Kapitalni zahtjevi padaju (GPU više nije potreban). Energetska učinkovitost postaje važna (europske cijene šire se globalno). Regulativa se pooštrava (EU AI Act postaje globalni standard). Nedostatak GPU-a je nebitan (CPU rade bolje).

Europske AI tvrtke izgrađene za ograničeni svijet. Ograničen kapital (prisilna algoritamska učinkovitost). Skupa energija (binarne mreže troše 96% manje energije). Stroga regulativa (formalna verifikacija ugrađena). Dostupnost CPU-a (standardni hardver optimalan). Ograničenja koja su se činila nedostatkom sada su konkurentska prednost. Tržišni uvjeti globalno se pomiču prema europskom pristupu.

Sljedeće desetljeće: europske AI tvrtke izvoze ne samo u Europu nego globalno. Američke tvrtke licenciraju europsku tehnologiju. Azijska tržišta usvajaju europske standarde. CPU-bazirana binarna AI postaje dominantna arhitektura. NVIDIA ostaje relevantan za treniranje. Intel/AMD dominiraju inferencijom. Preraspodjela tržišne kapitalizacije odražava arhitektonski pomak. Europska AI više ne sustiže; europska AI postavlja tempo.

Kako inferencija prelazi na CPU-ove, standardna europska infrastruktura postaje prednost umjesto ograničenje.

Što to znači za AI

Povratak CPU-a temeljito mijenja ekonomiku AI-ja. Više nema biranja između performansi i cijene. Više nema nedostatka GPU-a koji ograničava implementaciju. Više nema ovisnosti o dobavljačima.

Dweve Core radi na CPU-ovima. Više od 1.000 optimiziranih algoritama koji u potpunosti iskorištavaju modernu Intel arhitekturu. Loom 456 sa svojim rasuđivanjem temeljenim na specijaliziranim domenama izvodi se brzinama koje čine GPU implementaciju nepotrebnom.

Ovo je demokratizacija AI-ja kroz bolju matematiku. Ne može si svatko priuštiti GPU klastere. Svatko ima CPU-ove.

CPU revolucija dolazi. Dweveove binarne neuronske mreže isporučit će performanse bolje od GPU-a na standardnom hardveru. Pridružite se našoj listi čekanja i budite prvi kad lansiramo.