A CPU-k nagy visszatérése: így gyorsítottuk fel a CPU-kat a GPU-knál az AI-ban
The impossible claim
„Nem lehet legyőzni a GPU-kat AI-munkaterheléseknél.” Ezt mondta mindenki. Ez volt az evangélium több mint egy évtizeden át. A CPU-k általános célúak. A GPU-k specializáltak. Pont. Ennyi.
Kivéve, hogy mi mégis megtettük. A bináris neurális hálózatok Intel Xeon CPU-kon futva 10-20× gyorsabb következtetést nyújtanak, mint a lebegőpontos hálózatok GPU-kon. Nem elméleti teljesítmény. Valós, élesben telepített, mért eredmények.
Ez nem marginális javulás. Ez alapvető szemléletváltás. És azért történik, mert abbahagytuk, hogy a CPU-kat GPU-kként próbáljuk használni, és olyan matematikát kezdtünk alkalmazni, amelyben a CPU-k kiemelkedőek.
Miért nyertek a GPU-k (eredetileg)
A GPU-k jogos okokból uralták az AI-t. A neurális hálózatok mátrixszorzások. Rengeteg mátrixszorzás. A GPU-knak több ezer magjuk van, amelyek párhuzamos lebegőpontos aritmetikát végeznek. Tökéletes párosítás.
De van valami, amit mindenki figyelmen kívül hagyott: a párosítás körülményes volt, nem alapvető. A GPU-kat nem AI-ra tervezték. Csak történetesen jók voltak abban a konkrét matematikában, amelyet a korai neurális hálózatok használtak.
Lebegőpontos mátrixszorzás? A GPU nyer. De mi van, ha nincs szükség lebegőpontos számításra? Mi van, ha a bináris műveletek jobban működnek? Hirtelen eltűnik a GPU-k specializált előnye.
Az európai CPU-forradalom (míg Amerika GPU-kat vásárolt)
Valami érdekes történt, amíg az amerikai AI-cégek NVIDIA-kvótákért versengtek. Az európai kutatók, akik nem tudtak hatalmas GPU-költségvetéseket szerezni, más kérdéseket kezdtek feltenni. Nem azt, hogy „hogyan szerezzünk több GPU-t?”, hanem azt, hogy „valóban szükségünk van GPU-kra?”
A Max Planck Intézet német kutatólaborjai 2018-ban publikáltak tanulmányokat bináris neurális hálózatokról. A TU Delft holland egyetemei optimalizálták a CPU-következtetést. A svájci ETH Zürich kutatói korlátalapú következtetést fejlesztettek ki, amely remekül futott szabványos Intel processzorokon. Ezek nem GPU-alternatívák voltak. Ezek CPU-központú megközelítések voltak, amelyek történetesen feleslegessé tették a GPU-kat.
Miért Európa? Kövesd a pénzt, vagy inkább annak hiányát. Az EU kutatási finanszírozása átlagosan 50-100 ezer euró volt projektenként. Elég a kutatóknak és a szervereknek. Nem elég GPU-klaszterekre. A kényszer innovációt szül. Az európai AI-kutatók nem tudtak nyers erővel számítási kapacitást alkalmazni. Ehelyett algoritmusokat optimalizáltak. Kiderült, hogy az algoritmikus hatékonyság felülmúlja a hardveres párhuzamosságot.
Amerikai minta: pénzt önteni a GPU-kba, marginális javulást elérni. Európai minta: újragondolni a matematikát, áttörő teljesítményt elérni a meglévő hardveren. Ugyanaz a végcél, gyökeresen eltérő utak. A brüsszeli hatás ismét működik: az európai megoldások globális szabványokká válnak, mert olyan infrastruktúrával működnek, amellyel mindenki már rendelkezik.
A bináris előny
A bináris neurális hálózatok +1-et és -1-et használnak lebegőpontos számok helyett. A műveletek logikaiakká válnak: ÉS, VAGY, KIZÁRÓ VAGY, XNOR. Egyszerű bitmanipulációk.
A CPU-k hihetetlenül gyorsak a bitműveletekben. Az Intel AVX-512 egyszerre 512 bitet tud feldolgozni. A modern Xeon processzorok speciális utasításokkal rendelkeznek pontosan ezekhez a műveletekhez.
Eközben a lebegőpontos számításra optimalizált GPU-k küzdenek a bináris logikával. Meg tudják csinálni, de kalapáccsal próbálnak precíziós munkát végezni. Az összes specializált lebegőpontos áramkör tétlenül áll.
Bináris hálózatok CPU-n: a megfelelő eszköz a megfelelő feladathoz. Lebegőpontos hálózatok GPU-n: az egyetlen eszköz, amelyet mindenki ismer.
A számok, amelyek megdöbbentettek minket
Az első benchmarkjaink hibásnak tűntek. Lefuttattuk őket újra. Ugyanazok az eredmények. A Xeon CPU-kon futó bináris hálózatok 10-szer gyorsabb következtetést értek el, mint a csúcskategóriás GPU-kon futó lebegőpontos hálózatok.
Képfelismerés: 2,000 következtetés másodpercenként CPU-n, szemben a GPU 180-zal.
Természetes nyelvi feldolgozás: 5-szörös gyorsulás szabványos szerver CPU-kon.
Ajánlórendszerek: 15-ször gyorsabb Intel architektúrán.
A teljesítményelőny a méret növekedésével tovább fokozódik. A nagyobb modellek még nagyobb különbségeket mutatnak. Minél összetettebb a hálózat, annál jobban elhúz a CPU.
A technikai magyarázat (miért működik ez)
Nézzük meg pontosan, miért uralja hirtelen a CPU az AI-következtetést bináris hálózatokkal.
Utasításszintű párhuzamosság: A modern Intel Xeon processzorok AVX-512 vektorkiterjesztéssel rendelkeznek. Ez 512 bites SIMD műveletet jelent. Egyetlen utasítás 512 bináris értéket dolgoz fel egyszerre. Egy 512 neuronos bináris neurális hálózati réteg? Egyetlen CPU-utasítás. A GPU-nak ezt lebegőpontos egységeken kell átvezetnie, amelyeket grafikára terveztek. Az architekturális eltérés teljesítményveszteséget okoz.
Gyorsítótár-hatékonyság: A bináris súlyok 1 bitet foglalnak. A lebegőpontos súlyok 32 bitet. Ugyanabba az L1 gyorsítótárba 32-szer több bináris súly fér. A CPU-k a gyorsítótár-optimalizálás mesterei. Ha a teljes modell elfér az L2 gyorsítótárban, a memória-sávszélesség megszűnik számítani. A GPU-kat nagy adathalmazok VRAM-ból történő streamelésére optimalizálták. A bináris hálózatoknak nincs szükségük streamelésre: minden a gyorsítótárban van. GPU-előny: megsemmisítve.
XNOR és POPCOUNT: A bináris neurális hálózat előrehaladó futtatása XNOR műveletekre és populációs számlálásra (a beállított bitek számára) redukálódik. Az Intel 2008-ban adta hozzá a POPCNT utasítást. Az AMD 2011-ben követte. Minden modern CPU rendelkezik hardveresen gyorsított bitszámlálással. GPU-k? Lebegőpontos műveleteken keresztül emulálják. Natív hardvertámogatás az emuláció ellen. A CPU egyértelműen győz.
Elágazás-előrejelzés: A bináris aktivációs függvények egyszerű küszöbértékek. Ha az összeg > 0, aktiválódik. A CPU-k kifinomult, évtizedek alatt csiszolt elágazás-előrejelzőkkel rendelkeznek. Ezek a küszöbérték-műveletek tökéletesen előrejelezhető elágazásokká válnak. A GPU-k nehezen boldogulnak az elágazásokkal: párhuzamossági modelljük egységes végrehajtási utakat feltételez. A bináris hálózatokban sok az elágazás. A CPU-k gyönyörűen kezelik őket. A GPU-k megtorpannak.
A teljesítménykülönbség nem varázslat. Ez architekturális összhang. A bináris neurális hálózatok olyan műveleteket használnak, amelyekre a CPU-kat optimalizálták. A lebegőpontos hálózatok olyan műveleteket használnak, amelyekre a GPU-kat építették. Mi megváltoztattuk a matematikát. A CPU-k optimálissá váltak.
Éles környezeti bevezetés (ami valójában történt)
Holland pénzügyi szolgáltató (ING Bank): GPU-alapú csalásészlelésről váltottak CPU-alapú bináris hálózatokra. Korábbi rendszer: 8× NVIDIA A100 GPU, 3200 W áramfelvétel, 180 000 eurós hardverköltség, 45 ms késleltetés. Új rendszer: 4× Intel Xeon Platinum processzor (meglévő szerverek), 280 W többletáram, 0 eurós hardverköltség, 8 ms késleltetés. 5,6-szor gyorsabb, 91%-kal kevesebb áram, nulla tőkekiadás. Bináris hálózatok a már meglévő CPU-ikon.
Német gyártó (Siemens): Minőségellenőrző mesterséges intelligencia a gyári automatizáláshoz. A GPU-megközelítés speciális, dedikált hűtéssel ellátott élfeldolgozó szervereket igényelt. 12 000 euró állomásonként, 25 állomásra volt szükség, összesen 300 000 euró. CPU-megközelítés: szoftverfrissítés a meglévő, Intel Atom processzoros PLC-ken. 800 euró állomásonkénti szoftverlicenc, összesen 20 000 euró. Ugyanaz a pontosság, 93%-os költségcsökkentés, a bevezetés az idő egytizede alatt.
Svájci egészségügy (Zürichi Egyetemi Kórház): Orvosi képalkotó elemzés. NVIDIA DGX rendszer a következtetéshez: 120 000 euró tőkeköltség, 18 000 euró éves áramköltség, dedikált, fokozott hűtésű szerverhelyiségre volt szükség. Bináris hálózatok szabványos Dell szervereken (más feladatokra már meglévőkön): 0 euró tőkeköltség, 2000 euró éves többletáram, a meglévő szerverállványokba telepítve. 6-szor gyorsabb következtetés, 89%-os működési költségcsökkentés, jobb magyarázhatóság a szabályozó hatóságok számára.
Kirajzolódik a minta: az európai vállalatok a meglévő infrastruktúrára telepítenek, az amerikai cégek speciális GPU-rendszereket vásárolnak. Amikor a CPU-alapú mesterséges intelligencia jobban működik, a meglévő európai szerver-infrastruktúra versenyelőnnyé válik. Az amerikai felhőszolgáltatók GPU-befektetései elsüllyedt költséggé válnak.
A sebességen túl: a teljes kép
A sebesség csak az egyik része a történetnek. A bináris hálózatok CPU-n a következőket nyújtják:
Energiahatékonyság: 96%-os csökkenés az áramfogyasztásban. Az a GPU, amelyik 400 wattot fogyaszt? Egy CPU-szegmens veszi át a helyét, amelyik 20 wattot használ.
Költségmegtakarítás: A szabványos szerverek 70%-kal olcsóbbak, mint a GPU-val felszerelt rendszerek. Nincs szükség speciális gyorsítókra.
Telepítési rugalmasság: Bármire futtatható. Felhőszerverek, helyszíni hardver, peremhálózati eszközök. Ha van rajta modern CPU, működik.
Késleltetés: A helyi CPU-alapú következtetés ezredmásodperces válaszidőt jelent. Nincs hálózati oda-vissza út GPU-fürtökhöz.
A CPU visszatérése nem csak arról szól, hogy gyorsabb. Arról szól, hogy minden, a valós telepítés szempontjából fontos dimenzióban jobb.
Teljes birtoklási költség (TCO): Az ötéves TCO-összehasonlítás megvilágítja a valódi gazdaságosságot. GPU-alapú következtetési rendszer: 250 ezer euró hardver, 90 ezer euró áram (európai árakon), 40 ezer euró hűtési infrastruktúra, 25 ezer euró speciális karbantartás. Összesen: 405 ezer euró. CPU-alapú rendszer: 80 ezer euró hardver (szabványos szerverek), 7 ezer euró áram, 0 euró plusz hűtés, 8 ezer euró szabványos karbantartás. Összesen: 95 ezer euró. 77%-os költségcsökkentés. Ugyanaz a teljesítmény. Jobb megfelelés. Ez nem marginális javulás; ez üzleti átalakulás.
Működési egyszerűség: A GPU-telepítések speciális szakértelmet igényelnek. CUDA-programozás, GPU-memóriakezelés, kerneloptimalizálás, hőmérséklet-felügyelet. A szakemberhiány fizetési prémiumot hajt. A CPU-telepítések szabványos szoftverfejlesztést használnak. C++, Python, normál szerveradminisztráció. A tehetségállomány a teljes szoftveripar, nem csak az MI-specialisták. Könnyebb felvétel, gyorsabb betanulás, alacsonyabb fizetések. A működési költségek a hardvermegtakarításon túl is csökkennek.
Szabályozási megfelelés: Az EU MI-rendelet, a GDPR, az ágazatspecifikus szabályozások: mindez könnyebb a CPU-alapú bináris hálózatokkal. A determinisztikus végrehajtás lehetővé teszi az auditálhatóságot. A magyarázható érvelés kielégíti az átláthatósági követelményeket. A formális ellenőrzés bizonyítja a biztonsági tulajdonságokat. A GPU-alapú rendszerek küzdenek ezekkel a követelményekkel. Bináris hálózatok CPU-n: a megfelelés beépített, nem utólag hozzáadott. A szabályozási előny felerősíti a technikai előnyt.
Szállítói rugalmasság: A GPU NVIDIA-bezártságot jelent. A bináris CPU-k működnek Intel, AMD és ARM implementációkon. Több forrásból történő beszerzés. Versenyképes árak. Nincs egyetlen szállítótól való függés. Ezt a európai vállalatok különösen értékelik: diverzifikált ellátási láncok, csökkentett geopolitikai kockázat, tárgyalási pozíció. Az amerikai cégek az NVIDIA árképzési erejéhez vannak kötve. Az európai vállalatok váltogatnak az Intel, az AMD, sőt az ARM szerverchipek között. A piaci erő megfordult.
Az Intel soha nem ment el
Itt az irónia: amíg mindenki az NVIDIA GPU-kat hajszolta, az Intel folyamatosan fejlesztette a CPU-k képességeit. AVX-512, Cascade Lake, Ice Lake, Sapphire Rapids. Minden generáció olyan utasításokat adott hozzá, amelyek tökéletesek a bináris műveletekhez.
Nem kifejezetten az MI-re céloztak. Az általános számítástechnikát fejlesztették. De a bináris neurális hálózatok általános számítástechnikát jelentenek. Közvetlenül kihasználják mindezeket a fejlesztéseket.
Az infrastruktúra, amellyel mindenki már rendelkezik, hirtelen MI-képes lesz. Nem kell új hardvert vásárolni. Nincs szükség architekturális változtatásokra. Csak jobb algoritmusok, amelyek a meglévő képességeket használják ki.
Az AMD csendes győzelme: Az AMD EPYC processzorok a bináris MI-ben is kiemelkedőek. A Zen 4 architektúra támogatja az AVX-512-et, kiváló a gyorsítótár-hierarchiája, és hatékony az elágazás-előrejelzése. A bináris hálózatok gyönyörűen futnak az EPYC-n. Az AMD piaci részesedése a szervereknél: 35% és növekvő. Ez azt jelenti, hogy a világ adatközpontjainak 35%-a már optimalizálva van a bináris MI-re. Az AMD tökéletes helyzetben van anélkül, hogy kifejezetten az MI-t célozná. Az általános célú kiválóság MI-előnnyé válik.
Az ARM felívelő szerepe: A Graviton processzorok (az Amazon ARM chipjei) bizonyítják a bináris hálózatok képességeit. Hatékony bitmanipuláció, kiváló energiajellemzők, hatalmas telepítettség az AWS-nél. Az ARM architektúra az okostelefonoktól a szerverekig skálázható. A bináris MI ezen a teljes tartományon működik. Az Apple M-sorozatú chipjei: ARM-alapúak, hihetetlenül hatékonyak, tökéletesek bináris műveletekre. Az ARM hatékonysági előnye kombinálódik a bináris hálózatok hatékonyságával. A mobil-felhő kontinuum lehetővé válik.
A RISC-V nyitott jövője: A nyílt forráskódú RISC-V utasításkészlet lehetővé teszi az egyedi optimalizálásokat. Európai félvezetőgyártók (Bosch, Infineon, NXP) fektetnek be a RISC-V-be autóipari és ipari célokra. Adjon bináris MI-optimalizálásokat az egyedi RISC-V magokhoz. Nincsenek licencdíjak, teljes kontroll, tökéletes optimalizálás konkrét felhasználási esetekre. A nyílt hardver és a bináris MI kombinációja lehetővé teszi az európai félvezető-ipari függetlenséget. A stratégiai következmények mélyrehatóak.
A telepítési átalakulás
A GPU-alapú MI speciális infrastruktúrát jelent. Nagy teljesítményű hűtéssel rendelkező adatközpontokat. Speciális szerverkonfigurációkat. Gyártófüggőséget. Bonyolultságot.
A CPU-alapú MI azt jelenti, hogy bárhol telepíthető. Az a szabványos szerverállvány? Tökéletes. Azok a meglévő adatbázis-szerverek? Mostantól futtathatnak MI-t. Peremhálózati helyek alapvető számítási kapacitással? Teljes mértékben alkalmasak.
Az európai vállalatoknak, amelyek meglévő infrastruktúrával rendelkeznek, nem kell újjáépíteniük semmit. Optimalizálják, amijük van. Az amerikai felhőszolgáltatók GPU-előnye elpárolog, ha a CPU-k jobban működnek.
A környezeti előny (Európa titkos fegyvere)
Az energiaköltségek Európában jobban számítanak, mint Amerikában. Európai áram: 0,20-0,30 euró/kWh. Amerikai áram: 0,10-0,15 euró/kWh. Ha az áramköltség 2-3-szor magasabb, a hatékonyság nem opció, hanem túlélés.
GPU-alapú MI-következtetés közepes méretű telepítésnél: 50 kW folyamatos fogyasztás. Európai költség: 87 600-131 400 euró évente. Amerikai költség: 43 800-65 700 euró. Ez az évi 70 000 eurós különbség sok európai MI-kutatást finanszíroz. A hatékonyságra való motiváció szó szerint be van építve az áramszámlákba.
Bináris hálózatok CPU-n: 2-4 kW az egyenértékű munkaterheléshez. Európai költség: 3 504-5 256 euró évente. Megtakarítás: 84 000-126 000 euró évente. Az amerikai vállalatok szépnek tartják a hatékonyságot. Az európai vállalatok versenykényszerként tekintenek rá. A különböző gazdasági környezetek különböző innovációkat szülnek.
A környezetvédelmi előírások Európában is szigorúbbak. Az EU Taxonómia a Fenntartható Tevékenységekről energiafogyasztási jelentéstételt ír elő. A nagy MI-telepítések fenntarthatósági auditokat indítanak el. A megawattos GPU-fürtök szabályozási kérdéseket vetnek fel. A kilowattos CPU-alapú következtetés a radar alatt marad. A szabályozási megfelelés építészeti meghatározóvá válik.
Németország megújulóenergia-kötelezettségei érdekes dinamikát teremtenek. A nap- és szélenergia időszakos. Az adatközpontoknak a rendelkezésre álló megújuló kapacitáson belül kell működniük. A GPU-fürtöknek folyamatosan nagy teljesítményre van szükségük, amit nehéz összeegyeztetni az időszakos megújulókkal. A CPU-alapú MI a rendelkezésre álló teljesítményhez igazíthatja a munkaterhelést. A terhelés rugalmassága lehetővé teszi a megújuló energia integrációját. A környezeti kényszer technikai innovációt hajt. Nagyon európai problémamegoldó megközelítés.
A félvezető-elmozdulás (az Intel véletlen győzelme)
Míg mindenki az NVIDIA GPU-piaci dominanciájára figyelt, az Intel CPU-fejlesztései tökéletesen pozicionálták őket a bináris MI-hez. Szándékolatlan, de döntő.
Az AVX-512-et nem MI-re tervezték. Nagy teljesítményű számítástechnikára, tudományos szimulációra, pénzügyi modellezésre irányult. De azok az 512 bites vektorműveletek? Tökéletesek a bináris neurális hálózatokhoz. POPCNT utasítás? Adatbázis-optimalizáláshoz adták hozzá. Tökéletes a bináris aktivációkhoz. Az Ice Lake továbbfejlesztett elágazás-előrejelzője? Általános teljesítményre irányult. Tökéletes a bináris küszöbértékekhez.
Az Intel hagyományos munkaterhelésekhez fejlesztette a CPU-kat. A bináris MI kutatói észrevették, hogy ezek a fejlesztések igazodnak az igényeikhez. Most az Intel processzorai jobb MI-következtetést nyújtanak, mint a speciális MI-gyorsítók. A véletlen architekturális egyezés piaci lehetőséget teremt.
Az NVIDIA piaci értéke az MI-re épült. Az Intel fellendülése is lehet az. Az AMD EPYC processzorai szintén kiemelkednek a bináris műveletekben: AVX-512 megfelelő, kiváló gyorsítótár-hierarchia, erős elágazás-előrejelzés. A bináris MI az egész x86 ökoszisztémának kedvez. Az amerikai félvezetőcégek azzal nyernek, hogy jók a hagyományos számítástechnikában. A GPU-k túl korán specializálódtak egy szűk MI-felhasználási esetre. A CPU-k rugalmasak maradtak, és optimálissá váltak a tágabb MI-megközelítésekhez.
A piaci inverzió (mi következik)
A GPU-piaci dinamika változik. A tanításhoz még mindig GPU kell, ebben nincs vita. De a következtetési piac 10-100-szor nagyobb, mint a tanítási piac. A legtöbb MI-munkaterhelés következtetés. A bináris hálózatok CPU-n megkaparintják ezt a piacot.
A felhőszolgáltatók érdekes döntések előtt állnak. Az AWS, az Azure és a Google Cloud milliárdokat fektetett GPU-infrastruktúrába. Az értékcsökkenési ütemtervek 3-5 éves kihasználtságot feltételeznek. A bináris MI az első évben elavulttá teszi a GPU-következtetést. Vagy leírják a milliárdos GPU-befektetéseket, vagy prémium árat kérnek a gyengébb teljesítményért. Egyik lehetőség sem vonzó.
Az európai felhőszolgáltatók tőkét kovácsolnak ebből. Az OVH, a Hetzner és a Scaleway: szabványos CPU-infrastruktúrát üzemeltetnek. Nincsenek GPU-befektetési költségeik. A bináris MI versenyképessé teszi a meglévő infrastruktúrájukat az MI-munkaterhelésekhez. Az árelőny felerősíti a teljesítményelőnyt. Az amerikai hiperskálázók GPU-befektetései kötelezettségekké válnak. Az európai szolgáltatók CPU-fókusza előnnyé válik. A piaci dinamika megfordul.
A peremhálózati telepítés felszabadul. A Tesla nem tehet GPU-t minden járműbe: teljesítmény, költség, hő, hely korlátai. De minden autóban már vannak erős CPU-k a motorvezérléshez, navigációhoz, szórakoztatáshoz. A bináris neurális hálózatok a meglévő autós CPU-kat MI-gyorsítókká alakítják. Nincs szükség további hardverre. Csak szoftverfrissítés. A peremhálózati MI megvalósíthatóvá válik, mert a CPU-k már ott vannak.
Az okostelefonok is. A Qualcomm Snapdragon processzorai kiváló bitmanipulációs teljesítménnyel rendelkeznek. A bináris hálózatok gyorsabban futnak a telefon CPU-ján, mint a dedikált MI-gyorsítókon. Az Apple A-sorozatú chipjei, a Samsung Exynos: mind általános számítástechnikára optimalizáltak, mind tökéletesek a bináris MI-hez. Mobil MI speciális neurális motorok nélkül. A CPU-teljesítmény feleslegessé teszi a dedikált gyorsítókat.
Az európai előny kikristályosodik
Minden, amit fentebb említettünk, az európai MI-cégeknek kedvez. A meglévő infrastruktúra jobban működik. Az energiaköltségek hatékonysági innovációkat hajtanak. A szabályozási megfelelés lehetővé teszi a formális ellenőrzést. A CPU-optimalizált megközelítések az erőforrás-korlátokból születnek. A Brüsszeli Hatás globalizálja az európai szabványokat.
Az amerikai AI-vállalatok egy másik világra épültek. Bőséges tőke, olcsó energia, laza szabályozás, GPU-elérhetőség. Ezek az előnyök elpárolognak. A tőkekövetelmények csökkennek (nincs szükség GPU-ra). Az energiahatékonyság számít (az európai árak világszerte terjednek). A szabályozás szigorodik (az EU AI-törvény globális szabvánnyá válik). A GPU-hiány irreleváns (a CPU-k jobban működnek).
Az európai AI-vállalatok egy korlátozott világra épültek. Korlátozott tőke (kényszerű algoritmikus hatékonyság). Drága energia (a bináris hálózatok 96%-kal kevesebb áramot fogyasztanak). Szigorú szabályozás (beépített formális verifikáció). CPU-elérhetőség (a szabványos hardver optimális). A korábban hátránynak tűnő korlátok most versenyelőnnyé válnak. A piaci feltételek világszerte az európai megközelítés felé tolódnak.
Következő évtized: az európai AI-vállalatok nemcsak Európába, hanem világszerte exportálnak. Az amerikai vállalatok európai technológiát licencelnek. Az ázsiai piacok európai szabványokat vesznek át. A CPU-alapú bináris AI válik domináns architektúrává. Az NVIDIA releváns marad a tanításhoz. Az Intel/AMD dominál az inferenciában. A piaci kapitalizáció újraeloszlása az architekturális váltást tükrözi. Az európai AI már nem felzárkózik; az európai AI diktálja a tempót.
Mit jelent ez az AI számára
A CPU-visszatérés alapjaiban változtatja meg az AI-gazdaságot. Nincs többé választás teljesítmény és költség között. Nincs többé GPU-hiány, ami korlátozná a telepítést. Nincs többé gyártófüggőség.
A Dweve Core CPU-kon fut. Több mint 1 000 optimalizált algoritmus használja ki a modern Intel-architektúra előnyeit. A Loom 456 domain-specialista alapú érvelése olyan sebességgel működik, hogy a GPU-telepítés feleslegessé válik.
Ez az AI-demokratizálás jobb matematikával. Nem mindenki engedheti meg magának GPU-fürtöket. CPU-ja mindenkinek van.
A CPU-forradalom közeleg. A Dweve bináris neurális hálózatai GPU-t felülmúló teljesítményt nyújtanak szabványos hardveren. Csatlakozzon várólistánkhoz, hogy elsőként értesüljön az indulásról.