Riistvarasõltumatus: miks kõik kaardid NVIDIAlt ühele kaardile panna on strateegiline risk
Monokultuuri lõks
Kujutage ette, et 95% maailma autodest saaksid sõita ainult teatud tüüpi bensiiniga, mida müüb täpselt üks ettevõte. Kujutage ette, et selle ettevõtte rafineerimistehas asub geoloogiliselt ebastabiilsel saarel. Kujutage ette, et iga teine autotootja peaks oma mootorid kujundama nii, et need sobiksid just selle kütuseseguga.
Kui sellel ettevõttel tekiks tootmishäire või tõstaks ta hindu 400% võrra või kui blokaad lõikaks saare ülejäänud maailmast ära, jääks globaalne majandus seisma. Transport lakkaks.
See kõlab nagu düstoopiline ulme, kuid see on täpne reaalsus tänases tehisintellekti tööstuses.
2025. aastal toimub ligikaudu 95% AI-treeningust ja tipptasemel inferentsist GPU-del, mida toodab üks ettevõte: NVIDIA. Kogu globaalne AI-tehnoloogiavirn (alates PyTorchi raamistikest kuni andmekeskuste jahutuslahendusteni) on optimeeritud NVIDIA arhitektuuri jaoks. Tööstus on sõltuvuses CUDA-st, NVIDIA patenteeritud tarkvaraplatvormist.
NVIDIA on suurepärane ettevõte. Nad on loonud uskumatu tehnoloogia. Kuid see monokultuur on strateegiline õudusunenägu. See loob ühe rikkepunkti (SPOF) kogu inimliku intelligentsuse tuleviku jaoks.
Struktuurne puudus
Me kõik oleme läbi elanud H100 puudused 2023. ja 2024. aastal. Idufirmad ootasid riistvara 12 kuud. Valitsused varusid kiipe nagu kullakange. Arvutusvõimsuse hind tõusis hüppeliselt.
See polnud lihtsalt ajutine tarneahela tõrge. See oli struktuurne kitsaskoht. Nende kiipide tootmine sõltub uskumatult keerulisest protsessist, mida nimetatakse CoWoS (Chip-on-Wafer-on-Substrate) arenenud pakendamiseks, mida teostab peamiselt TSMC Taiwanis. Nende pakendite ehitamise võimsus on piiratud. Füüsikaseadused on piiratud.
Kui teie AI-strategia sõltub juurdepääsust kõige uuemale ja parimale NVIDIA-kiibile, panustate oma ettevõtte ellujäämise tarneahelale, mida te ei kontrolli, tootele, mida pakutakse enampakkumisel kõrgeima pakkumise tegijale.
CUDA vallikraav
Tegelik lukustus ei ole riistvara, vaid tarkvara. CUDA on AI keel. 15 aastat on teadlased ja üliõpilased õppinud CUDA kerneli kirjutamist. Raamatukogud on CUDA jaoks optimeeritud. Kui proovite käitada standardset AI-koodi AMD-kaardil või Inteli kiirendil, satute sageli valude maailma: katkised sõltuvused, puuduvad kernelid ja kehv jõudlus.
See "CUDA-müür" hoiab konkurendid eemal. See tagab, et isegi kui AMD ehitab kiibi, mis on kiirem ja odavam (nagu nad on teinud), ei osta seda keegi, sest tarkvara lihtsalt ei "tööta".
Dweve'i filosoofia: tööta kõikjal
Dweve'is tegime varakult radikaalse otsuse. Vaatasime CUDA-lõksu ja ütlesime: "Ei."
Otsustasime, et me ei kirjuta ühtegi rida CUDA-d. Me ei võta sõltuvust patenteeritud riistvaravirnast.
Selle asemel ehitasime oma virna avatud standarditele. Kasutame Vulkanit (graafika API, mis töötab kõigel alates Androidi telefonidest kuni Linuxi serveriteni). Kasutame OpenCL-i. Kasutame SPIR-V-d. Toetume vaheesitustele (IR), nagu MLIR (mitmetasandiline vaheesitus).
Kuid tõeline salaretsept pole ainult API; see on matemaatika.
Kuna meie binaarsed närvivõrgud (BNN) tuginevad lihtsatele täisarvutehtele (XNOR ja POPCNT), mitte keerukale ujukoma maatrikskorrutisele, ei sõltu me spetsiifilistest "Tensor Cores" tuumadest, mida ainult NVIDIA oskab hästi.
Tensor Cores on spetsialiseeritud riistvaraüksused, mis on loodud 16-bitise ujukoma matemaatika kiireks töötlemiseks. Kui teie algoritm tugineb FP16-le, vajate Tensor Core'i. Kui teie algoritm tugineb 1-bitisele loogikale, siis te seda ei vaja. Teil on vaja ainult põhilisi digitaalloogika lülitusi.
See arhitektuuriline vabadus võimaldab meil tõhusalt töötada hämmastavalt mitmekesisel riistvaral:
1. AMD ROCm
AMDi Instinct GPU-d pakuvad tohutut toorarvutusvõimsust ja mälulaiust dollari kohta. Ujukomaarvudega töötlemise puhul on tarkvarapinu (ROCm) olnud ajalooliselt nõrk koht. Kuid meie binaarsete töökoormuste puhul kompileerime otse ISA-sse (Instruction Set Architecture). Möödume ebausaldusväärsetest teekidest. AMD-riistvaral Dweve mudelid kihutavad.
2. Inteli protsessorid (AVX-512)
Kõik ignoreerivad tagasihoidlikku protsessorit. Kuid kaasaegsetel Inteli Xeoni protsessoritel on käsustik nimega AVX-512. See võimaldab protsessoril töödelda 512 bitti andmeid ühe tsükli jooksul. Binaarse närvivõrgu jaoks tähendab see 512 neuronit, mida töödeldakse silmapilkselt. Me suudame käitada suure jõudlusega inferentsi standardsetel serveritel, mis ettevõtetel juba olemas on. GPU-d pole vaja.
3. RISC-V
RISC-V on tuleviku avatud lähtekoodiga riistvaraarhitektuur. See on kiipidele see, mis Linux oli operatsioonisüsteemidele. Me töötame natiivselt RISC-V kiirenditel. See on ülioluline Euroopale ja arengumaadele, kes soovivad luua oma kodumaist kiibitööstust, mis oleks sõltumatu USA ekspordikontrollist.
4. FPGA-d (Field Programmable Gate Arrays)
See on kõige põnevam piiriala. FPGA on "tühi lõuend" kiip, mida saab millisekunditega ümber juhtida. Kuna meie võrgud kasutavad lihtsaid loogikaväravaid, saame kiibi füüsiliselt juhtida nii, et see vastaks närvivõrgu struktuurile. Andmed voolavad läbi kiibi nagu vesi läbi torude, ilma igasuguse lisakoormuseta. See tagab ülimadala latentsuse (mikrosekundid) ja äärmusliku energiatõhususe.
Strateegiline vastupidavus ja suveräänsus
Meie klientidele (eriti valitsustele, kaitseagentuuridele ja kriitilise taristu pakkujatele) on see riistvaraagnostilisus tapjaomadus.
See tähendab, et nad pole sanktsioonilukus. Kui geopoliitiline kriis katkestab juurdepääsu Ameerika kiipidele, saavad nad käitada oma Dweve mudeleid Euroopa kiipidel või laialdaselt kättesaadaval vanemal ränil. Neil on "plaan B".
See tähendab, et neil on läbirääkimisjõud. Nad pole seotud ühe müüja hinnakapriisidega. Kui NVIDIA tõstab hindu, saavad nad üle minna AMD-le või spetsiaalsetele ASIC-kiipidele ilma tarkvara ümber kirjutamata.
See tähendab ka pikaealisust. NVIDIA H100 on 3 aasta pärast vananenud. Tööstuskeskkondades (rongid, tehased, elektrijaamad) peab seadmed vastu pidama 20 aastat. Tavaline FPGA või standardne protsessor on kasutatav aastakümneid. Me ehitame tarkvara, mis austab füüsilise maailma elutsüklit.
GPU-järgne ajastu
Me usume, et üldotstarbelise GPU (GPGPU) domineerimine tehisintellekti vallas on ajalooline anomaalia. See oli õige tööriist tehisintellekti prototüüpimise faasis, sest see oli paindlik ja kättesaadav. Kuid kui tehisintellekt liigub kasutuselevõtu faasi, näeme Kambriumi plahvatust spetsialiseeritud riistvaras.
Me näeme analoogarvutust. Optilist arvutust. Neuromorfset arvutust. Mälu-sisest arvutust. Need arhitektuurid on kõik põhimõtteliselt kokkusobimatud CUDA-ga. Need nõuavad uut tarkvaravirna.
Eraldades oma tarkvara täna riistvaramonopolist, on Dweve tulevikukindel homme. Me ei ehita ainult 2025. aasta kiipidele; me ehitame 2035. aasta füüsika jaoks.
Tahad tehisintellekti, mis töötab sinu tingimustel, mitte NVIDIA omadel? Dweve riistvara-agnostiline arhitektuur annab sulle strateegilise vabaduse, kulukontrolli ja suveräänse vastupidavuse. Võta meiega ühendust, et avastada, kuidas meie binaarsed närvivõrgud saavad töötada riistvaral, mis sul juba on, või homse avatud ränil.