Stack tal-Kompjuter għall-AI għat-Taħriġ u l-Inferenza | Dweve Core
Dweve Core huwa stack komplet tal-kompjuter għall-AI għat-taħriġ u l-inferenza fuq mogħdijiet appoġġjati ta' CPU, GPU, FPGA u browser, b'kuntratti espliċiti...
Choose the audience that matches your question
The page contains three selectable readings of the same subject.
For consumers
L-istack tal-kompjuters AI wara l-prodotti Dweve, li jmexxi kalkoli fuq proċessuri ordinarji u hardware speċjalizzat mingħajr ma jbiddel il-prodott ta' fuqu.
For businesses
Stack komplut tal-kompjuters AI għat-taħriġ u l-inferenza li jżomm l-awtur tal-mudell, l-ottimizzazzjoni, l-eżekuzzjoni, is-servizz u l-verifika f'sistema operattiva waħda.
For engineers
Reġistru ta' ċelluli ta' eżekuzzjoni li jkopri aktar minn 2,900 operazzjonijiet, 76 kategorija, 25 familja ta' formati u tnax-il familja ta' backends fil-mira.
Dweve Core in one sentence
Dweve Core is a complete AI compute stack for training and inference that keeps model authoring, training, numerical representation, execution, serving and verification in one machine across supported CPU, GPU, FPGA and browser paths.
- The implementation registry spans more than 2,900 operations, 76 operation categories and 25 registered numerical format families.
- Core Native is the broad Rust-native execution foundation. Core on Kera is an optional execution foundation available in selected strategic licence packages.
- Each supported execution cell carries an explicit determinism contract: pure Core Native, seeded Core Native or pure supported Core on Kera.
- On supported binary workloads, Core uses 96% less energy than a GPU stack.
Aġent tal-kodifikazzjoni u assistenza għall-operatur. Il-metriċi tad-dimostrazzjoni huma illustrattivi.
Terminal, tfittxija, lint, test, git, u aktar.
Jiftakar il-kodiċi tiegħek u l-kuntest tat-tim.
Aġenti speċjalizzati jikkollaboraw fuq diversi oqsma.
Kull pass jiġi rreġistrat bi timbri tal-ħin.
Politiki, kontrolli, u testijiet dejjem jimxu.
Irrevedi d-diffs, itlob bidliet, iffirma finalment.
Irriproduċi kwalunkwe sessjoni bit għal bit meta xi ħaġa teħtieġ reviżjoni.
Aġenti awtonomi li jiktbu kodiċi u jżommu r-reċevuti
biex jimmaniġġja timeouts tan-netwerk, risponsi 5xx, u kundizzjonijiet idempotenti-sikuri. Helper pur, ittestjat kompletament.
Kapaċità u determinism indikati għal kull ċellula
Operazzjoni diretta fuq infrastruttura kkontrollata mill-klijent
Mudell wieħed, diversi toroq miżmuma mill-fornitur
id-definizzjoni u l-eżekuzzjoni bil-mod ma jaqblux
Jaħdem fuq kompjuters ordinarji, fejn appoġġjat
L-affarijiet tiegħek jistgħu jibqgħu d-dar, fl-Ewropa.
M'hemmx bżonn tixtri kompjuter speċjali.
L-algoritmi jiggruppaw skont it-tip ta' data
Matriċi ta' kapaċitajiet li tista' tiskrollja
ċellula ta' eżekuzzjoni u kuntratt ta' replay irreġistrati
Il-format tal-ħażna mhuwiex tat-tip akkumulatur
Dweve Core huwa stack komplut ta' kompjuters AI għat-taħriġ u l-inferenza. Il-biċċa l-kbira tal-pjattaformi AI jkopru sezzjoni u jħallu l-bqija f'idejn fornituri oħra. Core iżomm l-awtur tal-mudell, it-taħriġ, l-inferenza, il-kernels, id-dispatch u t-tqegħid fis-seħħ f'sistema waħda koerenti. Fuq xogħol binarju appoġġjat, Core juża 96% inqas enerġija minn stack GPU.
25 familji ta' formati numeriċi rreġistrati
Sistemi parzjali joħolqu dipendenza permanenti
Id-definizzjoni u l-eżekuzzjoni bil-mod ma jaqblux.
Il-kompressjoni tgħix fl-għodda ta' ħaddieħor.
Hardware ġdid, sistema ta' servizz ġdida, imġiba ġdida.
Il-pjan direzzjonali tal-venditur isir il-pjan direzzjonali tiegħek.
L-ebda sistema waħda ma tista' tispjega r-riżultat.
Id-dipendenza tibqa' għax l-ispazju komputazzjonali taħt huwa biss parzjalment kopert.
L-implimentazzjoni hija l-assi strateġiku
Core iżomm il-bidliet fil-wisa' numerika, l-ippakkjar, il-hardware u d-deploy fi ħdan sistema waħda ta' implimentazzjoni. Algoritmu ma jsirx prodott differenti għax jiċċaqlaq minn server x86 għal ARM, GPU, browser jew mira speċjalizzata. L-operazzjoni tibqa' msemmija, ispezzjonabbli u proprjetà matul il-moviment kollu, u kull triq hija rreġistrata aktar milli dedotta minn tikketta ta' format.
Ir-reġistru tal-implimentazzjoni jkopri aktar minn 2,900 operazzjoni, 76 kategorija ta' operazzjonijiet u 25 familja rreġistrata ta' formati numeriċi. Kull triq hija determinata fuq disa' dimensjonijiet: algoritmu, datatype, wisa', ippakkjar, akkumulatur, backend, sett ta' istruzzjonijiet, politika ta' dispatch u mod ta' determinism. Il-kuntratt tar-rappreżentazzjoni jżomm dawk l-għażliet numeriċi u fiżiċi marbuta mal-operazzjoni. Il-vizwali hawn taħt jiffissa ħafna minn dawk id-dimensjonijiet sabiex sezzjoni żgħira rappreżentattiva tibqa' leġġibbli. L-għadd jiddeskrivi reġistru ta' ċelloli u kuntratti konkreti, mhux pretensjoni li tikketta ta' format jew badge wiesa' ta' kapaċità waħedhom jispjegaw triq ta' eżekuzzjoni.
Liema triq tintgħażel, taħt liema kuntratt.
Il-kampjun huwa żgħir għax ir-reġistru tal-implimentazzjoni mhuwiex.
Algoritmu wieħed jgħix kull restrizzjoni
Waslet wisa', ippakkjar, host jew kuntratt ġdid.
Il-magna tagħżel it-triq għaċ-ċellola l-ġdida.
Liema kodiċi dam, fuq liema magna, iddikjarat.
L-istess assi, l-istess proprjetarju, kundizzjoni ġdida.
L-ewwel suppożizzjoni li Core ineħħi hija li datatype wieħed għandu jiddomina kollox.
l-ebda livell mhuwa karatteristika ta' riċerka
Il-proċessur għandu jkun sostitwibbli daqs it-tip ta' dejta.
Core ma jittrattax ekosistema waħda ta' aċċeleratur bħala d-definizzjoni tal-AI u kull ħaġa oħra bħala port inferjuri. L-operazzjonijiet tiegħu għandhom implimentazzjonijiet ta' referenza skalari u mogħdijiet speċifiċi għall-mira fuq il-backends appoġġjati ta' CPU, GPU, FPGA, browser, u deployment. Ir-runtime jagħżel implimentazzjoni skont il-magna disponibbli u l-politika marbuta max-xogħol.
Proċessur modern x86 jista' juża l-istruzzjonijiet vettorjali tiegħu. ARM u Apple silicon jistgħu jużaw il-mogħdijiet nattivi tagħhom. Il-GPUs ta' NVIDIA, AMD, u Apple jistgħu jużaw il-backends rispettivi tagħhom. L-eżekuzzjoni fil-browser tista' tuża WebAssembly jew WebGPU fejn xieraq. Programm ta' deployment jistgħu jimmiraw hardware speċjalizzat. Il-proċessur huwa destinazzjoni għall-operazzjoni. Mhuwiex is-sid tal-mudell.
vettori x86, mogħdijiet nattivi ta' ARM u Apple silicon.
GPUs ta' NVIDIA, AMD, u Apple fuq il-backends tagħhom stess.
Hardware speċjalizzat għal programmi ta' deployment.
Tikketti wesgħin ta' mira huma irħas. Li jkollok il-mogħdija vera huwa iktar diffiċli.
It-tip ta' dejta ma kienx appoġġjat, il-hardware fil-mira nbidel, u l-kwantizzatur kellu bżonn runtime ieħor.
L-istack ta' serving ma setax jirriproduċi r-riżultat. L-akkwist fetaħ reviżjoni oħra tal-fornitur.
Il-kwantizzatur kellu bżonn runtime ieħor
Inti ma żidtx karatteristika waħda. Inti esponajt toqba oħra fil-magna.
Imfassal bl-idejn ifisser li xi ħadd għandu r-riżultat
API wiesa' huwa faċli biex tirreklama. Sjieda wiesgħa fil-livell tal-magna hija ħafna iktar diffiċli. Core ma jgħoddx operazzjoni bħala koperta sempliċement għax implimentazzjoni ġenerika tikkompila fuq mira oħra. Il-mogħdijiet appoġġjati huma implimentati u sintonizzati għall-kombinazzjoni attwali tagħhom ta' operazzjoni, rappreżentazzjoni, ippakkjar, backend, u sett ta' struzzjonijiet.
Il-multiplikazzjoni ta' matriċi binarja fuq AVX-512 mhijiex trattata bħala multiplikazzjoni ta' matriċi b'punt li jvarja b'valuri iżgħar. L-operazzjonijiet b'bits ippakkjati jużaw l-istruzzjonijiet tal-bits disponibbli għall-magna. L-operazzjonijiet b'numri sħaħ u b'punt fiss jużaw l-akkumulatur korrett u l-imġiba ta' overflow. Il-mogħdijiet tal-GPU jużaw l-istruttura ta' eżekuzzjoni tal-mira. L-implimentazzjonijiet skalari jibqgħu preżenti bħala r-referenza u l-art universali. Dan joħloq tweġiba responsabbli għal mistoqsija sempliċi: liema kodiċi fil-fatt wettaq din l-operazzjoni fuq din il-magna? Core jista' jsemmi l-mogħdija.
Miktuba għal dak li fil-fatt jiġi kkalkulat.
Struzzjonijiet tal-bits għall-bits, mhux floats skalati.
Imġiba korretta ta' overflow, bid-disinn.
Kernels NEON miktuba għall-arkitettura vettorjali ta' ARM stess.
Dik is-sjieda trid tkompli lil hinn mill-kernel u matul iċ-ċiklu kollu tal-ħajja tal-mudell.
Magna waħda mid-definizzjoni sal-inferenza
l-istazzjonijiet li l-mudell qatt ma jħalli
Il-mudell huwa miktub f'termini ta' Core.
Imħarreġ għar-rappreżentazzjoni li se juża.
Mibgħut lill-mogħdija sintonizzata għall-host.
Ladarba ċ-ċiklu tal-ħajja jkun koerenti, il-varjazzjoni tista' ssir kuntratt aktar milli inċident.
Core jiddikjara l-kuntratt tal-mogħdija li fil-fatt damet. Il-mogħdijiet nattivi ta' Core Native għal numri sħaħ binarji, ternarji, b'sinjal u mingħajr sinjal, b'punt fiss, adattivi u eżatti huma purament deterministiċi fejn koperti, mingħajr żerriegħa. Il-mogħdijiet ta' Core Native b'punt f'wiċċ l-ilma, bfloat, b'skala ta' blokki u b'skala mikro jużaw replikazzjoni b'żerriegħa. Core fakultattiv fuq Kera jagħmel il-mogħdijiet appoġġati f'dawk il-familji b'punt f'wiċċ l-ilma purament deterministiċi wkoll.
Fluss ta' xogħol regolat b'bit baxx, Q-format jew adattiv jista' jitlob replikazzjoni bit-identika ta' Core Native. Fluss ta' xogħol b'familja b'punt f'wiċċ l-ilma jista' juża żerriegħa mwaħħla u rekord sħiħ taħt Core Native. Kampjunar kreattiv jibqa' għażla separata ta' ġenerazzjoni. Deployiment li jeħtieġ eżekuzzjoni purament deterministika b'bfloat, b'skala ta' blokki, b'skala mikro jew b'punt f'wiċċ l-ilma konvenzjonali jista' juża Core fuq Kera u jneħħi ż-żerriegħa. Dawn huma kuntratti ddikjarati differenti għaċ-ċellula magħżula, mhux ismijiet ta' kummerċjalizzazzjoni interkambjabbli għal kull tweġiba ripetuta.
il-mogħdija magħżula tgħid liema tapplika
Mogħdijiet binarji, sħaħ, Q, adattivi u eżatti. L-ebda żerriegħa.
Replikazzjoni b'punt f'wiċċ l-ilma, bfloat, b'skala ta' blokki u b'skala mikro.
Mogħdijiet appoġġati b'familja b'punt f'wiċċ l-ilma, mingħajr żerriegħa meħtieġa.
Meta l-imġiba tinbidel, sistema waħda għandha xorta jkollha l-ispjegazzjoni.
Meta riżultat ta' produzzjoni jinbidel fi stack frammentat, ir-responsabbiltà titqassam. Il-framework jwaħħal fl-esportatur. L-esportatur iwaħħal fir-runtime. Ir-runtime iwaħħal fil-kernel. Il-kernel iwaħħal fid-driver. Id-driver iwaħħal fil-hardware. Core iġib dawk ir-responsabbiltajiet f'sistema waħda.
Id-definizzjoni tal-mudell, l-għażliet numeriċi, il-backend magħżul, il-mogħdija tad-dispatch, il-mod ta' determinism, u r-rekord ta' eżekuzzjoni li jirriżulta jistgħu jiġu eżaminati flimkien. Dan ma jfissirx li kull dipendenza esterna tisparixxi. Sorsi ta' data, applikazzjonijiet, sistemi operattivi, u hardware għadhom jeżistu. Ifisser li l-magna tal-AI nnifisha għandha fruntiera waħda responsabbli. Reviżjoni tista' tistaqsi liema implimentazzjoni damet, fuq liema mira appoġġata u taħt liema kuntratt ta' replikazzjoni, mingħajr ma tgħaqqad it-tweġiba minn sistemi interni ta' diversi bejjiegħa.