CPU vs GPU tehisintellektis: miks kõik kasutavad GPU-sid (ja miks see võib muutuda)
GPU-kinnisidee
Rääkige kellegagi tehisintellekti käitamisest ja nad ütlevad: "Sul on vaja GPU-d. CPU-d on liiga aeglased. Kõik kasutavad GPU-sid."
Ja neil on õigus. Enamasti. GPU-d domineerivad tehisintellektis põhjustega. Kuid lugu pole nii lihtne.
Mõistmine, miks GPU-d võitsid, milleks CPU-d tegelikult head on ja miks tasakaal võib nihkuda, on oluline. Eriti kui maksate arveid. Või oma elektripakkuja arveid. Või imestate, miks teie andmekeskus vajab oma alajaama.
Tavapärane tarkus ütleb: ujukomaarvudega närvivõrgud vajavad massiivset paralleelsust, GPU-d pakuvad massiivset paralleelsust, seega GPU-d võidavad. Kuid see on vaid pool lugu. Teine pool puudutab seda, mis juhtub, kui muudate matemaatikat.
Mis CPU-d ja GPU-d tegelikult on
Alustame põhitõdedest:
Keskprotsessor (CPU):
Teie arvuti aju. Loodud üldotstarbeliste ülesannete jaoks. Käitab teie operatsioonisüsteemi. Avab faile. Haldab mälu. Täidab programme. Teeb natuke kõike.
Kaasaegsetel CPU-del on 8-64 tuuma. Iga tuum on võimas. Suudab hakkama saada keerulise loogikaga. Hargnemisega. Järjestikuste ülesannetega. Suurepärane erinevate asjade kiireks tegemiseks. Mõelge CPU-le kui väikesele meeskonnale väga oskuslikke insenere, kellest igaüks suudab keerulisi probleeme iseseisvalt lahendada.
GPU (graafikaprotsessor):
Algselt loodud graafika jaoks. 3D-stseenide renderdamine nõuab sama lihtsat matemaatikat miljonitel pikslitel üheaegselt. GPU-d on selles suurepärased: lihtsad toimingud, massiivne paralleelsus.
Kaasaegsetel GPU-del on tuhandeid tuumasid. Iga tuum on lihtsam kui CPU tuum. Aga tuhanded koos töötamas? Tohutu arvutusvõimsus paralleelsete ülesannete jaoks. Mõelge GPU-le kui tehasepõrandale tuhandete töötajatega, kellest igaüks teeb ühte lihtsat ülesannet väga kiiresti.
See on põhiline erinevus: CPU-d on mitmekülgsed generalistid. GPU-d on spetsialiseeritud paralleeltöötlejad.
Siin on visuaalne võrdlus:
Miks GPU-d AI-s domineerivad
AI töökoormused, eriti närvivõrgud, on piinlikult paralleelsed. Siin on, miks GPU-d võidavad:
Maatrikskorrutamine kõikjal:
Närvivõrgud koosnevad enamasti maatrikskorrutamisest. Korruta sisend kaaludega. Miljoneid korrutamisi. Kõik sõltumatud. Täiuslik paralleeltöötluseks.
GPU: Tee kõik korrutamised korraga tuhandete tuumade vahel. Kiire.
CPU: Tee korrutamisi järjestikku või piiratud arvu tuumadega. Palju aeglasem.
Näide: Üks kiht suures keelemudelis võib korrutada 1024×4096 maatriksi 4096×1024 maatriksiga. See on üle 4 miljardi korruta-liida operatsiooni. GPU-l tensor-tuumadega võtab see millisekundeid. CPU-l sekundeid. Vahe on tohutu.
Sama operatsioon, erinevad andmed:
Iga neuron teeb sama operatsiooni: korruta-liida. Lihtsalt erinevate andmetega. Seda nimetatakse SIMD-ks (Single Instruction, Multiple Data). GPU-d on selleks ehitatud.
GPU: Üks käsk edastatakse tuhandetele tuumadele. Igaüks rakendab seda erinevatele andmetele. Tõhus.
CPU: Saab SIMD-d kasutada vektorjuhistega (AVX-512), kuid ainult väikeste laiuste ulatuses (8-16 operatsiooni). Ei skaleeru nagu GPU-d.
See on nagu sama retsepti andmine tuhandele kokale versus kaheksale kokale. Tuhat kokka lõpetavad oma road üheaegselt. Kaheksa kokka peavad töötama partiidena. Lihtne matemaatika.
Mälulaius:
AI peab liigutama tohutul hulgal andmeid. Miljardeid kaalusid. Miljardeid aktiveerimisi. Mälulaius loeb.
GPU: Optimeeritud mäluarhitektuur. Kõrge ribalaiusega mälu (HBM). Loodud andmemahukate töökoormuste jaoks. Sajad GB/s.
CPU: Madalam mälulaius. Optimeeritud latentsuse, mitte läbilaskevõime jaoks. Kümned GB/s.
Mõtle sellest nagu veetorudest. GPU-del on tohutud torud, mis suudavad kiiresti liigutada suuri andmekoguseid. CPU-del on kitsamad torud, optimeeritud kiireks juurdepääsuks väiksematele andmekogustele. AI andmete tsunami jaoks tahad suuremaid torusid.
Spetsialiseeritud riistvara:
Kaasaegsetel GPU-del on tensor-tuumad. Riistvara, mis on spetsiaalselt maatrikskorrutamiseks. Äärmiselt kiire AI töökoormuste jaoks.
NVIDIA A100, näiteks, pakub kuni 624 TFLOPS FP16 jõudlust oma kolmanda põlvkonna tensor-tuumadega. H200 tõstab seda veelgi parema HBM3e mäluga. Need pole lihtsalt kiired; need on loodud täpselt nende operatsioonide jaoks, mida närvivõrgud vajavad.
CPU-d on üldotstarbelised. Ei ole spetsialiseeritud AI riistvara (enamasti). Teevad kõike okei, mitte midagi erakordselt.
Traditsiooniliste närvivõrkude puhul ujukomaoperatsioonidega on GPU-d 10-100× kiiremad kui CPU-d. Vahe on reaalne.
Milleks CPU-d tegelikult head on
CPU-d pole AI jaoks kasutud. Need paistavad silma erinevates asjades:
Keeruline loogika ja hargnemine:
CPU-d käsitlevad tingimuslikku loogikat hästi. Kui-siis-muidu. Switch-laused. Keeruline juhtvoog. GPU-del on sellega raskusi. Hargnemine põhjustab lahknemist, tappes paralleelsuse.
AI-ülesannete puhul, kus on palju tingimuslikku loogikat, suudavad CPU-d konkureerida.
Kujutage ette GPU-d tuhandete tuumadega, mis üritab täita erinevaid kooditeid. Pooled tuumad tahavad minna vasakule, pooled paremale. GPU peab täitma mõlemad teed ja maskeerima tulemused. Raev. CPU täidab lihtsalt selle tee, mida vaja. Tõhus hargneva loogika jaoks.
Madala latentsusega inferents:
Väikeste mudelite puhul, millel on ranged latentsusnõuded, võidavad CPU-d. Puudub andmeedastuse ülekulu. Puudub GPU initsialiseerimine. Lihtsalt vahetu täitmine.
Servaseadmed, reaalajasüsteemid, interaktiivsed rakendused. CPU-inferents on praktiline.
PCIe-ülekanne üksi võib lisada 1-10 millisekundit. Mudeli puhul, mis töötab 2 millisekundiga, on see ülekulu vastuvõetamatu. CPU-d täidavad kohe. Null ülekande latentsust. See on oluline reageerivate rakenduste jaoks.
Täisarv- ja binaartehted:
CPU-d on suurepärased täisarvmatemaatikas. Bititehted. Loogikatehted. Need on CPU põhitehted, optimeeritud aastakümnete jooksul.
Binaarsete närvivõrkude või täisarvkvantiseeritud mudelite puhul kitseneb CPU-GPU lõhe dramaatiliselt.
XNOR-väravad on olnud CPU-des nende algusest peale. Bitiloendus (popcount) on tänapäevastel CPU-del ühe tsükli käsk. Need tehted on nii põhilised, et ränidisainerid optimeerisid neid halastamatult. Kui teie AI-mudel kasutab neid primitiivseid tehteid ujukoma korrutamise-liitmise asemel, hakkavad CPU aastakümnete optimeeringud äkki rohkem tähtsust omama kui GPU paralleelsed tuumad.
Üldine kättesaadavus:
Igal seadmel on CPU. Mitte igal seadmel pole GPU-d. Kõikjal kasutuselevõtuks on CPU-d ainus universaalne valik.
Telefonid, IoT-seadmed, manussüsteemid. CPU-inferents on sageli ainus valik.
Euroopal on ranged andmete asukoha nõuded GDPR-i alusel. AI kohalik käitamine CPU-del väldib pilvesõltuvust ja piiriülest andmeedastuse keerukust. Teie kasutaja telefonil on juba CPU. Pole vaja lisariistvara. Andmed ei lahku seadmest. Vastavus korras.
Binaarse närvivõrgu mängumuutja
Siin muutub asi huvitavaks. Mäletate neid binaartehteid, milles CPU-d head on?
Binaarsed närvivõrgud kasutavad XNOR-i ja popcounti ujukoma korrutamise-liitmise asemel. Need on CPU loomulikud tehted. CPU-del äärmiselt kiired.
Matemaatika on elegantne: 32-bitiste ujukomaarvude korrutamise asemel võrrelda 1-bitiseid väärtusi XNOR-iga ja seejärel loendada sobivad bitid popcountiga. Sama loogiline võrdlus, oluliselt lihtsam teostus. Ja CPU-d on seda teinud alates 1970. aastatest.
CPU jõudlus binaarvõrkudega:
Binaarvõrkude puhul suudavad CPU-d GPU jõudlust saavutada või ületada. Miks?
XNOR ja popcount on CPU-del odavad. 6 transistorit XNOR-i jaoks. Ühe tsükli tehted. Puudub ujukoma ülekulu.
GPU-d on optimeeritud ujukomaarvude jaoks. Nende tensor-tuumad ei aita binaartehete puhul. Spetsialiseerumine muutub piiranguks.
See on nagu Vormel 1 auto toomine ralli võistlusele. Muidugi on see kiire siledatel radadel. Aga kui maastik muutub, vaevleb spetsialiseeritud võidusõiduauto, samas kui mitmekülgne ralliauto paistab silma. Binaartehted muutsid maastikku.
Dweve lähenemine:
XNOR-popcount is wat CPU's zijn ontworpen om te doen. Logische bewerkingen. Bit tellen. Snel.
See ei ole teoreetiline. See on mõõdetav. Binaarvõrgud muudavad riistvaravõrrandi põhjalikult. Kui saad binaarsete piirangute abil aktiveerida 528 võimalikust valikust ainult 4–8 valdkonnaspetsialisti ja iga valdkonnaspetsialist on 64–128 MB puhast loogikareeglit, saavad protsessorid sellega suurepäraselt hakkama. Ujukomaaritmeetikat pole vaja. Ainult kiired ja tõhusad bititehted.
Energieverbruik (de verborgen kosten)
Jõudlus ei ole kõik. Energiatarve loeb. Eriti Euroopas, kus energiakulud on kõrged ja jätkusuutlikkuse nõuded ranged.
GPU-stroomverbruik:
High-end AI GPU's verbruiken 300-700 watt. Onder belasting, constant. Uren of dagen tijdens het trainen.
GPU-sid täis andmekeskused tarbivad megavatte. Elektrijaama jagu elektrit. Tohutu jahutusvajadus. Tegevuskulu on hiiglaslik.
Tulevased tehisintellekti protsessorid tarbivad prognooside kohaselt kuni 15 360 vatti tükk. See ei ole kirjaviga. Viisteist kilovatti. Ühe kiibi kohta. Vajad eksootilisi jahutuslahendusi ja eraldi toiteinfrastruktuuri. ELi energiatõhususe direktiiv nõuab, et üle 500 kilovati võimsusega andmekeskused teataksid oma energiatarbest. Selliste graafikaprotsessoritega jõuad selle piirini kiiresti.
CPU-stroomverbruik:
Kaasaegsed CPU-d tarbivad AI-koormuse all 50–150 vatti. Palju vähem kui GPU-d.
Voor inferentie, vooral bij edge-implementaties, is energie-efficiëntie belangrijk. Batterijduur. Thermische limieten. Operationele kosten.
AMD heeft onlangs aangekondigd dat het tegen 2030 een 20× verbetering van de energie-efficiëntie op rackschaal voor AI-systemen wil bereiken, bijna 3× meer dan de industrietrends. Maar zelfs met deze verbeteringen blijven GPU's voor veel workloads energie-intensiever dan CPU's.
Binaarsete operatsioonide eelis:
Binaarsed operatsioonid tarbivad palju vähem energiat kui ujukomaarvutus. Lihtsamad skeemid. Vähem lülitustegevust. Väiksem energia operatsiooni kohta.
See loeb jätkusuutlikkuse seisukohalt. Tegevuskulude seisukohalt. Kasutuspiirangute seisukohalt. Kui Euroopa elektrihinnad on maailmas ühed kõrgeimad, ei ole tehisintellekti käitamine protsessoritel binaartehetega mitte ainult tõhus, vaid ka majanduslikult mõistlik. Sinu raamatupidaja hindab väiksemaid elektriarveid. Sinu jätkusuutlikkuse eest vastutav töötaja hindab väiksemat süsiniku jalajälge.
Kostenoverwegingen (de zakelijke realiteit)
Riistvara maksab raha. Räägime konkreetselt:
- GPU-kosten: High-end AI-GPU's kosten tienduizenden per stuk. Datacenterhuur varieert, maar telt snel op. Het trainen van grote modellen vereist honderden GPU's gedurende weken. De rekening loopt in de miljoenen.
- Protsessorite kulud: tipptasemel protsessorid maksavad tuhandeid, mitte kümneid tuhandeid. Palju odavam. Need on juba igas serveris olemas. Täiendavat riistvaraostu pole vaja.
- TCO (omamise kogukulu): GPU-d nõuavad riistvarakulu pluss energiatarbimist pluss jahutust pluss spetsialiseeritud taristut. Kõrge TCO.
CPU's: Lagere hardwarekosten plus lager stroomverbruik plus standaardinfrastructuur. Lagere total cost of ownership.
Suuremahulise järelduste tegemise puhul, eriti binaarvõrkude korral, võivad keskprotsessorid olla kulutõhusamad. Jõudluse vahe väheneb, kulude vahe suureneb keskprotsessori kasuks.
Siin on praktiline näide: inferentsi käitamine miljoni päringu jaoks päevas. Ujukoma-mudelitega GPU-del võib vaja minna spetsiaalseid GPU-servereid, jahutusinfrastruktuuri ja märkimisväärseid energiavarusid. Binaarsete võrkudega CPU-del saate kasutada olemasolevat serveriinfrastruktuuri, standardset jahutust ja murdosa energiast. Samad võimalused, tohutult erinev majanduslik pool.
Euroopa ettevõtted seisavad silmitsi täiendava kaalutlusega: riistvara suveräänsus. Enamik tipptasemel AI-GPUsid pärineb Ameerika tootjatelt. Tarneahela sõltuvused loovad riske. CPUd pakuvad mitmekesisemaid hankimisvõimalusi, sealhulgas Euroopa tootjaid. Kui geopoliitilised pinged mõjutavad kiibitarnet, on alternatiivide olemasolu oluline.
Millal kumba kasutada
Õige valik sõltub teie kasutusjuhust:
Kasutage GPUsid, kui:
Treening suurte ujukoma-mudelitega. Jõudlus on kriitiline. Eelarve lubab. Energia pole piiratud. Traditsioonilised närvivõrgu arhitektuurid.
GPUd paistavad siin silma. Pole küsimustki. Kui treenite 70-miljardi parameetriga transformer-mudelit, on GPUd teie sõbrad. Nende paralleelarhitektuur ja tensor-tuumad muudavad need ilmseks valikuks massiivsete ujukoma-maatrikskorrutiste jaoks.
Kasutage CPUsid, kui:
Inferentsi käitamine servas. Energia on piiratud. Kulud loevad. Latentsusnõuded on ranged. Binaarsed või kvantiseeritud mudelid. Kasutuselevõtt kõikjal.
CPUd on mõistlikud. Tihti ainus võimalus.
Kaaluge CPUsid ka siis, kui vajate GDPR-i vastavust kohaliku töötlemisega, kui kasutate mitmekesist riistvara ilma GPU kättesaadavuseta, kui energiatõhusus loeb rohkem kui toores läbilaskevõime, või kui kasutate binaarseid närvivõrke, mis kasutavad CPUde tugevusi.
Hübriidne lähenemine:
Treening GPUdel (kui kasutate ujukoma). Kasutuselevõtt CPUdel (kasutades binaarseid/kvantiseeritud versioone). Parim mõlemast maailmast.
Või treenige binaarseid võrke CPUdel algusest peale. Jätke GPUd täielikult vahele. See on Dweve lähenemine.
Universaalset vastust pole. Dogma, et "vajate GPUd", eirab nüansse. Teie töökoormus, juurutamiskeskkond, eelarvepiirangud ja arhitektuurilised valikud loevad kõik. Tehke teadlik otsus, mitte refleksne.
Tulevik (riistvara areng)
Riistvaramaastik on muutumas:
Spetsialiseeritud AI-kiibid:
TPUd (Google). Neural engines (Apple). Kohandatud ASICid. Optimeeritud konkreetsete AI-töökoormuste jaoks. Ei puhas CPU ega puhas GPU.
Need võivad domineerida konkreetsetes niššides. Kuid CPUd ja GPUd jäävad üldotstarbelisteks. Ja spetsialiseeritud kiibid toovad kaasa müüjast sõltuvuse riskid. Kui Google kontrollib TPUsid ja Apple neural enginesid, sõltute nende teekaartidest ja hinnakujundusest. Euroopa ettevõtted peaksid neid suveräänsuse mõjusid kaaluma.
CPU AI-laiendused:
Intel AMX (Advanced Matrix Extensions). ARM SVE2. RISC-V vektorlaiendused. CPUd lisavad AI-spetsiifilisi juhiseid.
CPU-GPU lõhe AI jaoks kitseneb. Eriti täisarvu- ja binaartehte puhul.
Need laiendused toovad maatrikskorrutuse kiirenduse otse CPUsse. Mitte nii võimsad kui spetsiaalsed GPUd ujukoma puhul, kuid piisavad paljude töökoormuste jaoks. Ja need tulevad standardvarustuses, ilma täiendava riistvarata.
Energiatõhusad arhitektuurid:
Energiahindade tõustes on tõhusus olulisem kui toores jõudlus. Binaartehted. Neuromorfsed kiibid. Analoogarvutus.
Tulevik soosib tõhusust. Binaartehtetega protsessorid sobivad selle suundumusega paremini kui energianäljas GPU-de ujukomaarvutus.
Euroopa energiahinnad ja jätkusuutlikkuse nõuded kiirendavad seda muutust. Kui maksad elektri eest kõrget hinda ja pead täitma süsiniku vähendamise kohustusi, pole tõhusus vabatahtlik. See on kohustuslik. Riistvara, mis teeb vähema võimsusega rohkem, võidab.
Servaarvutuse kasv:
AI liigub pilvest serva. Telefonid. Autod. IoT-seadmed. Nendes on protsessorid, mitte GPU-d.
Tõhus AI protsessoritel muutub kohustuslikuks, mitte vabatahtlikuks.
ELi tehisintellekti määrus rõhutab teatud rakenduste puhul kohalikku töötlemist. Protsessoripõhine AI servaarvutuses sobib nende regulatiivsete nõuetega ideaalselt. Andmed jäävad kohalikuks. Töötlemine toimub kohalikult. Vastavus on lihtsam.
Reaalse maailma jõudlusnumbrid
Läheme konkreetseks tegelike mõõtmistega:
Ujukomaarvutusega närvivõrgud:
GPU: 100-300 TFLOPS (triljonit ujukomaoperatsiooni sekundis). Tipptasemel mudelid nagu A100 ulatuvad FP16 puhul 624 TFLOPS-ni. Uuem H200 jõuab veelgi kõrgemale.
1-5 TFLOPS
Võitja: GPU (20-100× kiirem)
Erinevus on vaieldamatu. Traditsiooniliste närvivõrkude puhul domineerivad GPU-d. Seetõttu eeldasid kõik, et AI jaoks on vaja GPU-sid. Aastakümne jooksul oli neil õigus.
Binaarsed närvivõrgud:
GPU: Piiratud spetsialiseeritud riistvara puudumise tõttu. Kasutab INT8 või kohandatud kerneli. Võib-olla 10-30× kiirem kui CPU binaartehete puhul.
CPU: XNOR ja popcount on loomulikud. Väga kiired. Paralleelsed tuumade vahel AVX-512-ga.
Võitja: CPU suudab GPU-le järele jõuda või sellest üle olla
See pööre pole maagia. See on matemaatika kohtumine riistvara disainiga. Binaartehted mängivad CPU tugevustele sama hästi, nagu ujukomaarvutus mängib GPU tugevustele.
Latentsus:
GPU: PCIe ülekande üldkulud. 1-10ms ainult andmete liigutamiseks.
CPU: Null ülekande üldkulusid. All-millisekundiline inferents on võimalik.
Võitja: CPU väikese latentsusega rakenduste jaoks
See PCIe üldkulu on püsiv. Ükski optimeerimine ei kõrvalda seda. Reaalaja rakenduste puhul, kus iga millisekund loeb, võidavad CPU-d disaini poolest.
Energiatõhusus (operatsiooni vati kohta):
GPU: ~500-1000 GFLOPS/W (ujukomaarvutus)
CPU: ~100-200 GFLOPS/W (ujukomaarvutus)
Võitja: GPU ujukomaarvutuse puhul
Binaartehted muudavad seda:
CPU binaartehtega: 10-50× parem ops/W kui GPU ujukomaarvutusega
Võitja: CPU binaartehtega
Kui Euroopa elektrihinnad on 3-4× kõrgemad kui USAs, muutuvad need tõhususe erinevused otseselt tegevuskuludeks. Protsessoripõhise AI ärijuhtum muutub kiiresti veenvaks.
Mida pead meeles pidama
Kui sa ei võta siit midagi muud, jäta meelde:
- 1. GPU's domineren floating-point AI. Matrixvermenigvuldigingsparallelisme. Gespecialiseerde tensor-cores. 20-100× sneller dan CPU's voor traditionele neurale netwerken. Voor floating-point workloads zijn ze de duidelijke keuze.
- 2. CPU's blinken uit in andere zaken. Complexe logica. Lage latentie. Integer/binaire bewerkingen. Universele beschikbaarheid. AVG-conforme lokale verwerking.
- 3. Binaire netwerken veranderen de vergelijking. XNOR en popcount zijn native CPU-bewerkingen. CPU's kunnen GPU-prestaties voor binaire AI evenaren of overtreffen. De wiskundige verschuiving is gunstig voor CPU-architectuur.
- 4. Stroomverbruik wordt steeds belangrijker. GPU's: 300-700W vandaag, tot 15.360W geprojecteerd. CPU's: 50-150W. Met Europese energiekosten en duurzaamheidsverplichtingen is efficiëntie geen optie meer.
- 5. Kulu ei ole ainult riistvara. Energia. Jahutus. Infrastruktuur. Tarneahela suveräänsus. Kogukulu loeb. Protsessorid on suuremahulise järelduste tegemise jaoks sageli odavamad, eriti binaarvõrkude puhul.
- 6. Kies op basis van workload, niet op dogma. Grote floating-point modellen trainen? GPU. Inferentie aan de rand? CPU. Binaire netwerken? CPU. AVG-naleving? CPU. Hybride benaderingen werken ook.
- 7. Tulevik eelistab tõhusust. Servtöötlus. Kasvavad energiakulud. ELi jätkusuutlikkuse nõuded. Tehisintellekti määruse nõuded. Protsessorisõbralikud arhitektuurid tõusevad, mitte ei taandu.
De kern
Graafikaprotsessorid võitsid tehisintellekti esimese vooru, sest närvivõrgud olid loodud ujukomatehete ja massilise paralleelsuse jaoks. Graafikaprotsessorid olid loodud täpselt selleks. Aastakümne kestnud ülemvõim tekitas eelduse, et tehisintellekt nõuab graafikaprotsessoreid. Ujukomatöökoormuste puhul kehtib see endiselt.
Kuid tehisintellekt areneb. Binaarvõrgud. Täisarvuline kvantimine. Tõhusad arhitektuurid. Need soosivad protsessoreid. Matemaatilised alused on muutunud ja koos nendega ka optimaalne riistvara.
Jutt "sul on vaja graafikaprotsessorit" on paljude kasutusjuhtumite puhul aegunud. Servtöötlusega järelduste tegemine? Binaarvõrgud? Kulutundlik kasutuselevõtt? Isikuandmete kaitse üldmääruse järgimine? Protsessorid on konkurentsivõimelised. Sageli paremad.
Riistvaramaastik muutub. Tekivad spetsialiseeritud kiibid. Saabuvad protsessorite tehisintellektilaiendused. Graafikaprotsessorite monopol lõpeb. Euroopa ettevõtetel on selles muutuses erilised eelised: ranged andmekaitse-eeskirjad soosivad kohalikku protsessoritöötlust, kõrged energiakulud tasustavad tõhusust ja mure riistvaralise suveräänsuse pärast soodustab mitmekesist protsessorite hankimist.
Mõistmine, milles iga protsessor hea on, aitab sul teha õige valiku. Mitte hüüdlausete põhjal. Vaid sinu tegelike vajaduste põhjal. Jõudlus, võimsus, kulu, kasutuspiirangud, õigusnormide järgimine.
Graafikaprotsessorid domineerivad endiselt suurte ujukomamudelite treenimisel. Aga järelduste tegemine? Kasutuselevõtt? Servtöötlus? Tasakaal nihkub. Ja binaartehted protsessoritel juhivad seda nihet. Tehisintellekti järgmine aastakümme ei näe välja nagu eelmine. Riistvara, mis tundus hädavajalik, võib osutuda valikuliseks. Riistvara, mis tundus ebapiisav, võib osutuda ideaalseks.
Sinu valik ei ole graafikaprotsessor või protsessor. See on mõistmine, milline töökoormus sobib millise riistvaraga. Ja üha enam osutab see mõistmine protsessoritele rohkemate kasutusjuhtumite puhul, kui tavapärane tarkus soovitab.
Soovite näha CPU-optimeeritud tehisintellekti tegevuses? Tutvuge Dweve Loomiga. Binaarse piirangutega arutlus tavalistel CPU-del. Disainilt GDPR-ile vastav. Selline tehisintellekt, mis töötab riistvaraga, mis teil juba on. Euroopas loodud Euroopa nõuete jaoks.