Suuri CPU-paluu: näin teimme CPU:ista GPU:ita nopeampia tekoälyssä
Mahdoton väite
"GPU:ita ei voi voittaa tekoälytyökuormissa." Niin kaikki sanoivat. Se on ollut ehdoton totuus yli vuosikymmenen ajan. CPU:t ovat yleiskäyttöisiä. GPU:t ovat erikoistuneita. Siinä kaikki.
Paitsi että me voitimme. Binääriset neuroverkot Intel Xeon -suorittimilla tuottavat 10-20× nopeamman päättelyn kuin liukulukupohjaiset verkot GPU:illa. Ei teoreettista suorituskykyä. Oikeita, käyttöönotettuja, mitattuja tuloksia.
Tämä ei ole marginaalinen parannus. Se on merkittävä muutos lähestymistavassa. Ja se tapahtuu, koska lopetimme yritykset saada CPU:t toimimaan kuin GPU:t ja aloimme käyttää matematiikkaa, jossa CPU:t ovat erinomaisia.
Miksi GPU:t voittivat (alun perin)
GPU:t hallitsivat tekoälyä hyvistä syistä. Neuroverkot ovat matriisikertolaskuja. Paljon niitä. GPU:issa on tuhansia ytimiä tekemässä rinnakkaista liukulukuaritmetiikkaa. Täydellinen yhteensopivuus.
Mutta tässä se, minkä kaikki missasivat: yhteensopivuus oli olosuhteista johtuvaa, ei perustavanlaatuista. GPU:ita ei suunniteltu tekoälyä varten. Ne vain sattuivat olemaan hyviä siinä tietyssä matematiikassa, jota varhaiset neuroverkot käyttivät.
Liukulukupohjainen matriisikertolasku? GPU voittaa. Mutta entä jos et tarvitse liukulukuja? Entä jos binääriset operaatiot toimivat paremmin? Yhtäkkiä GPU:n erikoistunut etu katoaa.
Euroopan CPU-vallankumous (sillä välin kun Amerikka osti GPU:ita)
Jotain mielenkiintoista tapahtui, kun amerikkalaiset tekoälyyritykset kilpailivat NVIDIA-allokaatioista. Eurooppalaiset tutkijat, jotka eivät voineet turvata suuria GPU-budjetteja, alkoivat kysyä erilaisia kysymyksiä. Ei "miten saamme lisää GPU:ita?" vaan "tarvitsemmeko me oikeasti GPU:ita?"
Saksalaiset tutkimuslaboratoriot Max Planck -instituutissa julkaisivat tutkimuksia binäärisistä neuroverkoista vuonna 2018. Alankomaalaiset yliopistot TU Delftissä optimoivat CPU-päättelyä. Sveitsiläiset tutkijat ETH Zürichissä kehittivät rajoitteisiin perustuvaa päättelyä, joka toimi kauniisti tavallisilla Intel-suorittimilla. Nämä eivät olleet GPU-vaihtoehtoja. Nämä olivat CPU-ensimmäinen lähestymistapoja, jotka sattuivat tekemään GPU:ista tarpeettomia.
Miksi Eurooppa? Seuraa rahaa, tai sen puutetta. EU:n tutkimusrahoitus oli keskimäärin 50-100 tuhatta euroa projektia kohden. Tarpeeksi tutkijoille ja palvelimille. Ei tarpeeksi GPU-klustereille. Niukkuus synnyttää innovaatioita. Eurooppalaiset tekoälytutkijat eivät voineet käyttää raakaa laskentatehoa. Sen sijaan he optimoivat algoritmeja. Kävi ilmi, että algoritminen tehokkuus voittaa laitteistoparalleelisuuden.
Amerikkalainen malli: heittää rahaa GPU:ihin, saavuttaa marginaalisia parannuksia. Eurooppalainen malli: miettiä matematiikka uudelleen, saavuttaa läpimurtosuorituskyky olemassa olevalla laitteistolla. Sama päämäärä, täysin erilaiset tiet. Brysselin vaikutus iskee jälleen: eurooppalaisista ratkaisuista tulee maailmanlaajuisia standardeja, koska ne toimivat infrastruktuurilla, joka kaikilla on jo valmiina.
Binäärinen etu
Binääriset neuroverkot käyttävät +1 ja -1 liukulukujen sijaan. Operaatiot muuttuvat loogisiksi: AND, OR, XOR, XNOR. Yksinkertaisia bittimanipulaatioita.
CPU:t ovat uskomattoman nopeita bittioperaatioissa. Intelin AVX-512 pystyy käsittelemään 512 bittiä samanaikaisesti. Nykyaikaisissa Xeon-suorittimissa on erikoistuneita käskyjä juuri näihin operaatioihin.
Samaan aikaan GPU:t, jotka on optimoitu liukulukuja varten, kamppailevat binäärilogiikan kanssa. Ne pystyvät siihen, mutta ne käyttävät lekaa hienotyöhön. Kaikki se erikoistunut liukulukupiiristö istuu käyttämättömänä.
Binaariset verkot suorittimilla: oikea työkalu työhön. Liukulukuverkot näytönohjaimilla: ainoa työkalu, jonka kaikki tuntevat.
Luvut, jotka yllättivät meidät
Ensimmäiset vertailumme vaikuttivat virheellisiltä. Ajoimme ne uudelleen. Samat tulokset. Binaariset verkot Xeon-suorittimilla tuottivat 10× nopeamman päätelyn kuin vastaavat liukulukuverkot huipputason näytönohjaimilla.
Kuvanluokitus: 2 000 päätelmää sekunnissa suorittimella verrattuna 180:een näytönohjaimella.
Luonnollisen kielen käsittely: 5× nopeutus tavallisilla palvelinsuorittimilla.
Suositusjärjestelmät: 15× nopeampi Intel-arkkitehtuurilla.
Suorituskykyetu kasvaa mittakaavan myötä. Suuremmissa malleissa erot ovat vielä suurempia. Mitä monimutkaisempi verkko, sitä enemmän suorittimet vetävät pidemmälle.
Tekninen selitys (miksi tämä toimii)
Mennään yksityiskohtiin siitä, miksi suorittimet yhtäkkiä hallitsevat tekoälypäätelyä binaarisilla verkoilla.
Ohjeistason rinnakkaisuus: Nykyaikaisissa Intel Xeon -suorittimissa on AVX-512-vektorilaajennukset. Kyse on 512-bittisistä SIMD-operaatioista. Yksi käsky käsittelee 512 binaariarvoa samanaikaisesti. Binaarisen neuroverkon kerros, jossa on 512 neuronia? Yksi suorittimen käsky. GPU:n täytyy ohjata se grafiikkaan suunniteltujen liukulukuyksiköiden läpi. Arkkitehtoninen yhteensopimattomuus maksaa suorituskykyä.
Välimuistin tehokkuus: Binaariset painot ovat 1 bitti. Liukulukupainot ovat 32 bittiä. Samaan L1-välimuistiin mahtuu 32× enemmän binaarisia painoja. CPU:t ovat erinomaisia välimuistin optimoinnissa. Kun koko malli mahtuu L2-välimuistiin, muistikaistanleveys lakkaa olemasta merkityksellistä. GPU:t on optimoitu suurten tietoaineistojen suoratoistoon VRAM-muistista. Binaariset verkot eivät tarvitse suoratoistoa: kaikki on välimuistissa. GPU:n etu: mitätöity.
XNOR ja POPCOUNT: Binaarisen neuroverkon eteenpäinlasku pelkistyy XNOR-operaatioiksi, joita seuraa populaatiolaskenta (asetettujen bittien määrä). Intel lisäsi POPCNT-käskyn vuonna 2008. AMD seurasi vuonna 2011. Jokaisessa nykyaikaisessa CPU:ssa on laitteistokiihdytetty bittien laskenta. GPU:t? Ne emuloivat sen liukulukuoperaatioilla. Alkuperäinen laitteistotuki versus emulointi. CPU voittaa ratkaisevasti.
Haarojen ennustus: Binaariset aktivointifunktiot ovat yksinkertaisia kynnysarvoja. Jos summa > 0, aktivoi. CPU:ssa on kehittyneet haarojen ennustimet, joita on hiottu vuosikymmeniä. Näistä kynnysoperaatioista tulee täydellisesti ennustettuja haaroja. GPU:t kamppailevat haarautumisen kanssa: niiden rinnakkaisuusmalli olettaa yhtenäisiä suorituspolkuja. Binaarisissa verkoissa on paljon haaroja. CPU:t käsittelevät ne kauniisti. GPU:t kompuroivat.
Suorituskykyero ei ole taikuutta. Se on arkkitehtonista yhteensopivuutta. Binaariset neuroverkot käyttävät operaatioita, joihin CPU:t on optimoitu. Liukulukuverkot käyttävät operaatioita, joita varten GPU:t on rakennettu. Vaihdoimme matematiikan. CPU:ista tuli optimaalisia.
Käytännön käyttöönotto (mitä todella tapahtui)
Alankomaiden finanssipalvelut (ING Bank): Korvasi GPU-pohjaisen petostentorjunnan CPU-pohjaisilla binaariverkoilla. Aiempi järjestelmä: 8× NVIDIA A100 -GPU:ta, 3 200 W tehonkulutus, 180 000 € laitteistokustannukset, 45 ms viive. Uusi järjestelmä: 4× Intel Xeon Platinum -suoritinta (olemassa olevat palvelimet), 280 W lisäteho, 0 € laitteistokustannukset, 8 ms viive. 5,6× nopeampi, 91 % vähemmän tehoa, nolla pääomamenoa. Binaariset verkot toimivat CPU:illa, jotka heillä jo oli.
Saksalainen valmistus (Siemens): Laadunvalvonnan tekoäly tehdasautomaatioon. GPU-lähestymistapa vaati erikoistuneita reunalaskentapalvelimia, joissa oli oma jäähdytys. 12 000 € per tarkastusasema, 25 asemaa tarvittiin, yhteensä 300 000 €. CPU-lähestymistapa: päivitetty ohjelmisto olemassa oleviin PLC-ohjaimiin, joissa on Intel Atom -suorittimet. 800 € ohjelmistolisenssi per asema, yhteensä 20 000 €. Sama tarkkuus, 93 % kustannussäästö, käyttöönotto kymmenesosassa ajasta.
Sveitsiläinen terveydenhuolto (Zürichin yliopistollinen sairaala): Lääketieteellinen kuvantamisanalyysi. NVIDIA DGX -järjestelmä päättelyyn: 120 000 € pääomameno, 18 000 € vuotuiset sähkökustannukset, vaati oman palvelinhuoneen tehostetulla jäähdytyksellä. Binaariset verkot tavallisilla Dell-palvelimilla (jo omistettu muihin työkuormiin): 0 € pääomameno, 2 000 € vuotuinen lisäsähkö, käyttöönotto olemassa oleviin palvelintelineisiin. 6× nopeampi päättely, 89 % käyttökustannussäästö, parempi selitettävyys viranomaisille.
Kaava toistuu: eurooppalaiset yritykset ottavat käyttöön olemassa olevalla infrastruktuurilla, amerikkalaiset yritykset ostavat erikoistuneita GPU-järjestelmiä. Kun CPU-pohjainen tekoäly toimii paremmin, olemassa olevasta eurooppalaisesta palvelininfrastruktuurista tulee kilpailuetu. Amerikkalaisten pilvipalveluntarjoajien GPU-investoinneista tulee uponneita kustannuksia.
Nopeuden tuolle puolen: kokonaiskuva
Nopeus on vain osa tarinaa. Binaariverkot CPU:lla tarjoavat:
Energiatehokkuus: 96 prosentin vähennys virrankulutuksessa. Se GPU, joka kuluttaa 400 wattia? Korvataan CPU-osalla, joka käyttää 20 wattia.
Kustannussäästöt: Vakiopalvelimet maksavat 70 prosenttia vähemmän kuin GPU-varustetut järjestelmät. Erikoistuneita kiihdyttimiä ei tarvita.
Käyttöönoton joustavuus: Toimii millä tahansa. Pilvipalvelimet, omat laitteistot, reunalaiteet. Jos siinä on moderni CPU, se toimii.
Viive: Paikallinen CPU-päätely tarkoittaa millisekuntien vasteaikoja. Ei verkkokierroksia GPU-klustereihin.
CPU:n paluu ei ole vain nopeudesta kiinni. Kyse on siitä, että se on parempi joka ulottuvuudella, jolla on merkitystä todellisessa käyttöönotossa.
Kokonaisomistuskustannukset (TCO): Viiden vuoden TCO-vertailu valaisee todellista taloutta. GPU-pohjainen päätelyjärjestelmä: 250 000 euron laitteisto, 90 000 euron sähkökulut (eurooppalaisilla hinnoilla), 40 000 euron jäähdytysinfrastruktuuri, 25 000 euron erikoistunut ylläpito. Yhteensä: 405 000 euroa. CPU-pohjainen järjestelmä: 80 000 euron laitteisto (vakiopalvelimet), 7 000 euron sähkökulut, 0 euroa lisäjäähdytystä, 8 000 euron vakioylläpito. Yhteensä: 95 000 euroa. 77 prosentin kustannussäästö. Sama suorituskyky. Parempi vaatimustenmukaisuus. Tämä ei ole marginaalinen parannus; tämä on liiketoiminnan muutos.
Operatiivinen yksinkertaisuus: GPU-käyttöönotot vaativat erikoistunutta osaamista. CUDA-ohjelmointi, GPU-muistinhallinta, ytimen optimointi, lämmönvalvonta. Osaajapula nostaa palkkapreemioita. CPU-käyttöönotot käyttävät tavallista ohjelmistosuunnittelua. C++, Python, normaali palvelimen hallinta. Osaajapooli on koko ohjelmistoala, ei vain tekoälyn erikoistuneet. Helpompi rekrytointi, nopeampi perehdytys, matalammat palkat. Operatiiviset kustannukset laskevat laitteistosäästöjen lisäksi.
Sääntelyn vaatimustenmukaisuus: EU:n tekoälyasetus, GDPR, toimialakohtaiset säädökset: kaikki helpompia CPU-pohjaisilla binaariverkoilla. Deterministinen suoritus mahdollistaa auditoitavuuden. Selitettävä päättely täyttää läpinäkyvyysvaatimukset. Formaali verifiointi todistaa turvallisuusominaisuudet. GPU-pohjaiset järjestelmät kamppailevat näiden vaatimusten kanssa. Binaariverkot CPU:lla: vaatimustenmukaisuus sisäänrakennettuna, ei jälkikäteen lisättynä. Sääntelyetu vahvistaa teknistä etua.
Toimittajajoustavuus: GPU tarkoittaa NVIDIA-lukkiutumista. Binaariset CPU:t toimivat Intel-, AMD- ja ARM-toteutuksilla. Monilähteinen hankinta. Kilpailukykyinen hinnoittelu. Ei yksittäisen toimittajan riippuvuutta. Eurooppalaiset yritykset arvostavat tätä erityisesti: monipuoliset toimitusketjut, pienempi geopoliittinen riski, neuvotteluvoimaa. Amerikkalaiset yritykset ovat jumissa NVIDIA:n hinnoitteluvoiman kanssa. Eurooppalaiset yritykset vaihtavat Intelin, AMD:n ja jopa ARM-palvelinsirujen välillä. Markkinavoima kääntyy.
Intel ei koskaan lähtenyt
Tässä on ironia: kun kaikki jahtasivat NVIDIA:n GPU:ita, Intel jatkoi CPU-ominaisuuksien parantamista. AVX-512, Cascade Lake, Ice Lake, Sapphire Rapids. Jokainen sukupolvi lisäsi käskyjä, jotka ovat täydellisiä binaarioperaatioihin.
He eivät kohdistaneet tekoälyyn erityisesti. He paransivat yleistä laskentaa. Mutta binääriset neuroverkot ovat yleistä laskentaa. Ne hyödyntävät kaikki nämä parannukset suoraan.
Infrastruktuuri, jonka kaikki jo omistavat, muuttuu yhtäkkiä tekoälykykyiseksi. Ei uusia laitteistohankintoja. Ei arkkitehtuurimuutoksia. Vain parempia algoritmeja, jotka käyttävät olemassa olevia ominaisuuksia.
AMD:n hiljainen voitto: AMD EPYC -prosessorit loistavat myös binäärisessä tekoälyssä. Zen 4 -arkkitehtuuri tukee AVX-512:ta, erinomaista välimuistihierarkiaa ja tehokasta haarojen ennustusta. Binääriset verkot toimivat loistavasti EPYC:ssä. AMD:n markkinaosuus palvelimissa: 35 prosenttia ja kasvussa. Se on 35 prosenttia maailman datakeskuksista, jotka ovat jo optimoituja binääriselle tekoälylle. AMD on asemoitunut täydellisesti kohdistamatta erityisesti tekoälyyn. Yleinen erinomaisuus muuttuu tekoälyeduksi.
ARM:n nouseva rooli: Graviton-prosessorit (Amazonin ARM-sirut) osoittavat binääristen verkkojen kyvykkyyden. Tehokas bittien käsittely, erinomaiset teho-ominaisuudet, massiivinen käyttöönotto AWS:ssä. ARM-arkkitehtuuri skaalautuu älypuhelimista palvelimiin. Binäärinen tekoäly toimii koko tällä alueella. Applen M-sarjan sirut: ARM-pohjaisia, uskomattoman tehokkaita, täydellisiä binäärioperaatioihin. ARM:n tehokkuusetu vahvistuu binääristen verkkojen tehokkuuden myötä. Mobiilista pilveen ulottuva jatkumo tulee mahdolliseksi.
RISC-V:n avoin tulevaisuus: Avoimen lähdekoodin RISC-V-käskykanta mahdollistaa mukautetut optimoinnit. Eurooppalaiset puolijohdeyritykset (Bosch, Infineon, NXP) investoivat RISC-V:hen auto- ja teollisuussektoreilla. Lisää binäärisen tekoälyn optimointeja mukautettuihin RISC-V-ytimiin. Ei lisenssimaksuja, täysi hallinta, täydellinen optimointi tiettyihin käyttötapauksiin. Avoin laitteisto yhdistettynä binääriseen tekoälyyn mahdollistaa eurooppalaisen puolijohderiippumattomuuden. Strategiset vaikutukset ovat syvällisiä.
Käyttöönoton muutos
GPU-pohjainen tekoäly tarkoittaa erikoistunutta infrastruktuuria. Datakeskukset tehokkaalla jäähdytyksellä. Tietyt palvelinkokoonpanot. Toimittajalukkiutuminen. Monimutkaisuus.
CPU-pohjainen tekoäly tarkoittaa käyttöönottoa missä tahansa. Se tavallinen palvelinteline? Täydellinen. Ne olemassa olevat tietokantapalvelimet? Ne voivat ajaa tekoälyä nyt. Reuna-alueet peruslaskennalla? Täysin kykeneviä.
Eurooppalaisten yritysten, joilla on olemassa olevaa infrastruktuuria, ei tarvitse rakentaa uudelleen. Ne optimoivat sen, mitä niillä on. Amerikkalaisten pilvipalveluntarjoajien GPU-etu haihtuu, kun CPU:t toimivat paremmin.
Ympäristöetu (Euroopan salainen ase)
Energiakustannuksilla on enemmän merkitystä Euroopassa kuin Amerikassa. Eurooppalainen sähkö: 0,20-0,30 euroa kilowattitunnilta. Amerikkalainen sähkö: 0,10-0,15 euroa kilowattitunnilta. Kun sähkökustannuksesi ovat 2-3 kertaa suuremmat, tehokkuus ei ole valinnaista; se on selviytymistä.
GPU-pohjainen tekoälypäätelmä keskikokoisessa käyttöönotossa: 50 kW jatkuva tehonotto. Eurooppalainen kustannus: 87 600-131 400 euroa vuodessa. Amerikkalainen kustannus: 43 800-65 700 euroa. Se noin 70 000 euron vuotuinen ero rahoittaa paljon eurooppalaista tekoälytutkimusta. Motivaatio tehokkuuteen on kirjaimellisesti rakennettu sähkölaskuihin.
Binääriset verkot CPU:illa: 2-4 kW vastaavalle työmäärälle. Eurooppalainen kustannus: 3 504-5 256 euroa vuodessa. Säästöt: 84 000-126 000 euroa vuodessa. Amerikkalaiset yritykset pitävät tehokkuutta mukavana lisänä. Eurooppalaiset yritykset pitävät sitä kilpailullisena välttämättömyytenä. Erilaiset taloudelliset kontekstit synnyttävät erilaisia innovaatioita.
Ympäristösääntely iskee kovemmin myös Euroopassa. EU:n kestävän toiminnan luokitusjärjestelmä edellyttää raportointia energiankulutuksesta. Suuret tekoälykäyttöönotot laukaisevat kestävyystarkastuksia. Megawattien GPU-klusterit herättävät sääntelykysymyksiä. Kilowattien CPU-pohjainen päätelmä pysyy tutkan alla. Sääntelyn noudattamisesta tulee arkkitehtuurin ohjaava tekijä.
Saksan uusiutuvan energian velvoitteet luovat mielenkiintoisia dynamiikkoja. Aurinko- ja tuulivoima ovat vaihtelevia. Datakeskusten on toimittava käytettävissä olevan uusiutuvan kapasiteetin rajoissa. GPU-klusterit tarvitsevat jatkuvaa suurta tehoa, jota on vaikea yhdistää vaihtelevaan uusiutuvaan energiaan. CPU-pohjainen tekoäly voi skaalata työmäärät käytettävissä olevan tehon mukaan. Kuorman joustavuus mahdollistaa uusiutuvan energian integroinnin. Ympäristörajoitteet ajavat teknisiä innovaatioita. Hyvin eurooppalainen ongelmanratkaisutapa.
Puolijohdemurros (Intelin tahaton voitto)
Kun kaikki keskittyivät NVIDIA:n GPU-valta-asemaan, Intelin prosessorikehitys asemoi ne täydellisesti binääritekoälyyn. Tahatonta mutta ratkaisevaa.
AVX-512:aa ei suunniteltu tekoälyä varten. Se tähtäsi suorituskykyiseen laskentaan, tieteelliseen simulointiin ja taloudelliseen mallinnukseen. Mutta ne 512-bittiset vektorioperaatiot? Täydellisiä binääriseen neuroverkkoon. POPCNT-käsky? Lisätty tietokantaoptimointia varten. Täydellinen binääriaktivaatioihin. Ice Laken parannettu haarojen ennustaja? Tähtäsi yleiseen suorituskykyyn. Täydellinen binäärikynnyksiin.
Intel paransi prosessoreitaan perinteisiin työmääriin. Binääritekoälyn tutkijat huomasivat, että nämä parannukset sopivat heidän tarpeisiinsa. Nyt Intelin prosessorit tuottavat paremman tekoälypäätelyn kuin erikoistuneet tekoälykiihdyttimet. Tahaton arkkitehtoninen yhteensopivuus luo markkinamahdollisuuden.
NVIDIA:n markkina-arvo perustuu tekoälyyn. Intelin elpyminen saattaa myös. AMDr:n EPYC-prosessorit loistavat myös binäärioperaatioissa: AVX-512-vastine, erinomainen välimuistihierarkia, vahva haarojen ennustus. Binääritekoäly hyödyttää koko x86-ekosysteemiä. Amerikkalaiset puolijohdeyritykset voittavat olemalla hyviä perinteisessä laskennassa. GPU:t erikoistuivat liian aikaisin kapeaan tekoälykäyttöön. CPU:t pysyivät joustavina ja niistä tuli optimaalisia laajempiin tekoälyratkaisuihin.
Markkinakäänteet (mitä tapahtuu seuraavaksi)
GPU-markkinan dynamiikka muuttuu. Harjoitus vaatii edelleen GPU:ita, siitä ei ole kiistää. Mutta päätelymarkkina on 10-100 kertaa suurempi kuin harjoitusmarkkina. Suurin osa tekoälytyömääristä on päätelyä. CPU:illa toimivat binääriverkot valloittavat sen markkinan.
Pilvipalveluntarjoajat kohtaavat mielenkiintoisia päätöksiä. AWS, Azure ja Google Cloud ovat investoineet miljardeja GPU-infrastruktuuriin. Poistosuunnitelmat olettavat 3-5 vuoden käyttöastetta. Binääritekoäly tekee GPU-päätelystä vanhentunutta ensimmäisenä vuonna. Joko kirjataan miljardien GPU-investoinnit alas tai veloitetaan premium-hintoja huonommasta suorituskyvystä. Kumpikaan vaihtoehto ei houkuttele.
Eurooppalaiset pilvipalveluntarjoajat hyötyvät. OVH, Hetzner, Scaleway: ne pyörittävät tavallista CPU-infrastruktuuria. Ei GPU-upotettuja kustannuksia. Binääritekoäly tekee niiden olemassa olevasta infrastruktuurista kilpailukykyistä tekoälytyömäärille. Hintaetu vahvistaa suorituskykyetua. Amerikkalaisten hyperskaalayritysten GPU-investoinnit muuttuvat rasitteiksi. Eurooppalaisten tarjoajien CPU-keskittyminen muuttuu eduksi. Markkinadynamiikka kääntyy.
Reunalaskenta avautuu. Tesla ei voi laittaa GPU:ta jokaiseen ajoneuvoon: teho-, kustannus-, lämpö- ja tilanrajoitteet. Mutta jokaisessa autossa on jo tehokkaat CPU:t moottorinhallintaan, navigointiin ja viihdejärjestelmiin. Binäär neuroverkot muuttavat olemassa olevat autojen CPU:t tekoälykiihdyttimiksi. Ei lisälaitteistoa. Vain ohjelmistopäivitys. Reunatekoälystä tulee mahdollista, koska CPU:t ovat jo paikalla.
Myös älypuhelimet. Qualcomm Snapdragon -prosessoreissa on erinomainen bittimanipulaatiosuorituskyky. Binääriverkot toimivat puhelinten CPU:illa nopeammin kuin erilliset tekoälykiihdyttimet. Applen A-sarjan sirut, Samsung Exynos: kaikki optimoitu yleiseen laskentaan, kaikki täydellisiä binääritekoälyyn. Mobiili tekoäly ilman erikoistuneita neuroprosessoreita. CPU-suorituskyky tekee erillisistä kiihdyttimistä tarpeettomia.
Euroopan etu kiteytyy
Kaikki edellä mainittu suosii eurooppalaisia tekoälyyrityksiä. Olemassa oleva infrastruktuuri toimii paremmin. Energiakustannukset ajavat tehokkuusinnovaatioita. Sääntelyn noudattaminen mahdollistaa formaalin verifioinnin. CPU-optimoituja lähestymistapoja syntyy resurssirajoitteista. Brysselin vaikutus globalisoi eurooppalaiset standardit.
Yhdysvaltalaiset tekoälyyritykset on rakennettu erilaiseen maailmaan. Runsas pääoma, halpa energia, löyhä sääntely, GPU-saatavuus. Nämä edut ovat katoamassa. Pääomavaatimukset laskevat (GPU:ta ei tarvita). Energiatehokkuus merkitsee (eurooppalaiset hinnat leviävät maailmalle). Sääntely kiristyy (EU:n tekoälyasetus on tulossa maailmanlaajuiseksi standardiksi). GPU-pula on merkityksetön (suorittimet toimivat paremmin).
Eurooppalaiset tekoälyyritykset on rakennettu rajalliseen maailmaan. Rajallinen pääoma (pakottaa algoritmiseen tehokkuuteen). Kallis energia (binaariverkot käyttävät 96 prosenttia vähemmän virtaa). Tiukka sääntely (muodollinen todentaminen sisäänrakennettuna). Suorittimien saatavuus (tavallinen laitteisto on optimaalista). Rajoitteet, jotka vaikuttivat haitoilta, ovat nyt kilpailuetuja. Markkinaolosuhteet ovat siirtymässä maailmanlaajuisesti kohti eurooppalaista lähestymistapaa.
Seuraava vuosikymmen: eurooppalaiset tekoälyyritykset vievät tuotteitaan paitsi Eurooppaan myös maailmanlaajuisesti. Yhdysvaltalaiset yritykset lisensoivat eurooppalaista teknologiaa. Aasian markkinat omaksuvat eurooppalaiset standardit. Suoritinpohjaisesta binaarisesta tekoälystä on tulossa hallitseva arkkitehtuuri. NVIDIA pysyy merkityksellisenä koulutuksessa. Intel/AMD hallitsevat päättelyä. Markkina-arvon uudelleenjakauma heijastaa arkkitehtuurin muutosta. Eurooppalainen tekoäly ei ole enää kiinni ottamassa; eurooppalainen tekoäly määrää tahdin.
Mitä tämä tarkoittaa tekoälylle
Suorittimien paluu muuttaa tekoälyn talouden perusteellisesti. Ei enää valintaa suorituskyvyn ja kustannusten välillä. Ei enää GPU-pulaa rajoittamassa käyttöönottoa. Ei enää toimittajariippuvuuksia.
Dweve Core toimii suorittimilla. Yli 1 000 optimoitua algoritmia hyödyntää täysimääräisesti modernia Intel-arkkitehtuuria. Loom 456 ja sen asiantuntijapohjainen päättely toimivat nopeuksilla, jotka tekevät GPU-käytöstä tarpeetonta.
Tämä on tekoälyn demokratisointia paremman matematiikan avulla. Kaikilla ei ole varaa GPU-klustereihin. Kaikilla on suorittimia.
Suoritinten vallankumous on tulossa. Dweven binaariset neuroverkot tuottavat GPU:ta paremman suorituskyvyn tavallisella laitteistolla. Liity jonotuslistallemme ollaksesi ensimmäisenä jonossa, kun julkaisemme.