Dweve

Dweve Core | AI skaičiavimų kaminai mokymui ir išvadoms

Dweve Core yra pilnas AI skaičiavimų kaminas mokymui ir išvadoms per palaikomus CPU, GPU, FPGA ir naršyklės kelius, su aiškiomis determinizmo sutartimis.

Choose the audience that matches your question

The page contains three selectable readings of the same subject.

For consumers

AI skaičiavimo kamino technologija, naudojama Dweve produktuose, vykdanti skaičiavimus įprastuose procesoriuose ir specializuotoje įrangoje nekeičiant produkto, esančio virš jos.

For businesses

Pilnas AI skaičiavimo kamino rinkinys mokymui ir išvadoms, kuris laiko modelio kūrimą, optimizavimą, vykdymą, aptarnavimą ir patikrą vienoje operatoriaus sistemoje.

For engineers

Vykdymo ląstelių registras, apimantis daugiau nei 2 900 operacijų, 76 kategorijas, 25 formatų šeimas ir dvylika backend tikslinių šeimų.

Dweve Core in one sentence

Dweve Core is a complete AI compute stack for training and inference that keeps model authoring, training, numerical representation, execution, serving and verification in one machine across supported CPU, GPU, FPGA and browser paths.

  • The implementation registry spans more than 2,900 operations, 76 operation categories and 25 registered numerical format families.
  • Core Native is the broad Rust-native execution foundation. Core on Kera is an optional execution foundation available in selected strategic licence packages.
  • Each supported execution cell carries an explicit determinism contract: pure Core Native, seeded Core Native or pure supported Core on Kera.
  • On supported binary workloads, Core uses 96% less energy than a GPU stack.

Kodavimo agentas ir operatoriaus pagalba. Demonstraciniai rodikliai yra iliustratyvūs.

Terminalas, paieška, lint, testai, git ir kt.

Prisimena jūsų kodų bazę ir komandos kontekstą.

Specializuoti agentai bendradarbiauja įvairiose srityse.

Kiekvienas veiksmas įrašomas su laiko žymomis.

Politikos, patikros ir testai visada vykdomi.

Peržiūrėkite pakeitimus, prašykite pakeitimų, galutinis patvirtinimas.

Atkurkite bet kurią sesiją bitas po bito, kai reikia peržiūros.

Autonominiai agentai, kurie rašo kodą ir saugo įrašus

kad būtų tvarkomi tinklo laiko limitai, 5xx atsakymai ir idempotentiškai saugios sąlygos. Gryna pagalbinė funkcija, visiškai padengta testais.

Gebos ir determinizmas nurodyti kiekvienai ląstelei

Tiesioginis veikimas kliento kontroliuojamoje infrastruktūroje

Vienas modelis, keli tiekėjo valdomi keliai

apibrėžimas ir vykdymas pamažu nesutaria

Veikia įprastuose kompiuteriuose, kur palaikoma

Gali veikti neprisijungus, kur palaikoma.

Jūsų daiktai gali likti namuose, Europoje.

model.dsl, tipais saugus autorinis rašymas

siuntimas išspręstas, branduolys pavadintas

vykdymo ląstelė ir atkūrimo sutartis užfiksuota

blokų masteliuotas ir mikro masteliuotas

dvejetainis iki įprasto slankiojo kablelio

Saugyklos formatas nėra akumuliatoriaus tipas

Dweve Core yra pilnas AI skaičiavimo krūvis mokymui ir išvadoms. Dauguma AI platformų apima dalį ir perduoda likusią dalį kitiems tiekėjams. Core laiko modelio kūrimą, mokymą, išvadas, branduolius, paskirstymą ir diegimą vienoje darnioje sistemoje. Palaikomose dvejetainėse darbo krūviuose Core naudoja 96% mažiau energijos nei GPU krūvis.

Palaikomose dvejetainėse darbo krūviuose.

Dalinės sistemos sukuria nuolatinę priklausomybę

Apibrėžimas ir vykdymas pamažu nesutampa.

Suspaudimas gyvena kažkieno kito įrankyje.

Nauja aparatinė įranga, nauja aptarnavimo sistema, naujas elgesys.

Jokia viena sistema negali paaiškinti rezultato.

Priklausomybė išlieka, nes pagrindinė skaičiavimo erdvė yra tik iš dalies padengta.

„Core“ išlaiko skaitinio pločio, pakavimo, aparatinės įrangos ir diegimo pakeitimus vienoje įgyvendinimo sistemoje. Algoritmas netampa kitu produktu, kai perkeliamas iš x86 serverio į ARM, GPU, naršyklę ar specializuotą tikslą. Operacija išlieka pavadinta, tikrinama ir valdoma viso perkėlimo metu, o kiekvienas kelias yra registruojamas, o ne spėjamas iš formato etiketės.

Įgyvendinimo registras apima daugiau nei 2 900 operacijų, 76 operacijų kategorijas ir 25 registruotas skaitinių formatų šeimas. Kiekvienas kelias nustatomas pagal devynias dimensijas: algoritmą, duomenų tipą, plotį, pakavimą, akumuliatorių, backendą, komandų rinkinį, paskirstymo politiką ir determinizmo režimą. Atvaizdavimo sutartis išlaiko šiuos skaitinius ir fizinius pasirinkimus pririštus prie operacijos. Toliau pateiktas vaizdas užfiksuoja daugumą šių dimensijų, kad mažas reprezentatyvus pjūvis liktų skaitomas. Skaičius apibūdina konkrečių langelių ir sutarčių registrą, o ne teiginį, kad formato etiketė ar platus galimybių ženklelis vienas paaiškina vykdymo kelią.

Kuris kelias pasirenkamas, pagal kokią sutartį.

Pavyzdys mažas, nes įgyvendinimo registras nėra.

Vienas algoritmas išgyvena kiekvieną apribojimą

Atsiranda naujas plotis, pakavimas, pagrindinė sistema ar sutartis.

Mašina pasirenka kelią naujam langeliui.

Kuris kodas vyko, kurioje mašinoje, nurodyta.

Tas pats turtas, tas pats savininkas, nauja sąlyga.

Pirmoji paveldėta prielaida, kurią „Core“ pašalina, yra ta, kad vienas duomenų tipas turėtų dominuoti viską.

Procesorius turėtų būti toks pat keičiamas kaip ir duomenų tipas.

„Core“ nevertina vienos greitintuvų ekosistemos kaip dirbtinio intelekto apibrėžties, o visko kito kaip prastesnio porto. Jo operacijos turi skaliarines atskaitos įgyvendinimo versijas ir konkrečiai tikslui pritaikytus kelius visose palaikomose CPU, GPU, FPGA, naršyklės ir diegimo aplinkose. Vykdymo laikas parenka įgyvendinimą pagal turimą mašiną ir prie darbo pridedamą politiką.

Šiuolaikinis x86 procesorius gali naudoti savo vektorines instrukcijas. ARM ir „Apple silicon“ gali naudoti savo vietinius kelius. NVIDIA, AMD ir „Apple“ GPU gali naudoti savo atitinkamus backendus. Naršyklės vykdymas gali naudoti WebAssembly arba WebGPU, kur tinka. Diegimo programos gali nukreipti į specializuotą aparatinę įrangą. Procesorius yra operacijos paskirties vieta. Jis nėra modelio savininkas.

x86 vektoriai, ARM ir „Apple silicon“ vietiniai keliai.

NVIDIA, AMD ir „Apple“ GPU savo backenduose.

Specializuota aparatinė įranga diegimo programoms.

Plačios tikslinės etiketės yra pigios. Turėti tikrą kelią yra sunkiau.

Duomenų tipas buvo nepalaikomas, tikslinė aparatinė įranga pasikeitė, o kvantizatoriui reikėjo kito vykdymo laiko.

Pateikimo sistema negalėjo atkartoti rezultato. Pirkimai pradėjo dar vieną tiekėjo peržiūrą.

Kvantizatoriui reikėjo kito vykdymo laiko

Jūs nepridėjote vienos funkcijos. Jūs atidengėte dar vieną mašinos skylę.

Rankiniu būdu suderinta reiškia, kad kažkas yra atsakingas už rezultatą

Plačią API lengva reklamuoti. Plati mašinos lygio nuosavybė yra daug sunkiau. „Core“ nelaiko operacijos aprėpta vien todėl, kad bendra implementacija kompiliuojasi kitame tiksliniame įrenginyje. Palaikomi keliai yra įgyvendinti ir suderinti pagal faktinį operacijos, atvaizdavimo, pakavimo, backend ir instrukcijų rinkinio derinį.

Dvejetainė matricos daugyba AVX-512 nėra traktuojama kaip slankiojo kablelio matricos daugyba su mažesnėmis reikšmėmis. Supakuotų bitų operacijos naudoja mašinos bitų instrukcijas. Sveikųjų skaičių ir fiksuoto kablelio operacijos naudoja teisingą akumuliatorių ir perpildymo elgesį. GPU keliai naudoja tikslinės mašinos vykdymo struktūrą. Skaliarinės implementacijos lieka kaip etalonas ir universalus pagrindas. Tai sukuria atskaitingą atsakymą į paprastą klausimą: koks kodas iš tikrųjų atliko šią operaciją šioje mašinoje? „Core“ gali įvardyti kelią.

Parašyta tam, kas iš tikrųjų skaičiuojama.

Bitų instrukcijos bitams, ne mastelio slankieji skaičiai.

Teisingas perpildymo elgesys, sukurtas sąmoningai.

NEON branduoliai, parašyti ARM vektorinei architektūrai.

Ši nuosavybė turi tęstis už branduolio ribų ir per visą modelio gyvavimo ciklą.

Treniruotas reprezentacijai, kurią naudos.

Nukreiptas į suderintą kelią pagal pagrindinę sistemą.

Vertinamas ir atkuriamas toje pačioje mašinoje.

Kai gyvavimo ciklas yra nuoseklus, variacija gali tapti sutartimi, o ne atsitiktinumu.

Core nurodo susitarimą dėl kelio, kuris iš tikrųjų vyko. Core Native dvejetainiai, trejetainiai, ženkliniai ir neženkliniai sveikieji, fiksuoto taško, adaptyvūs ir tikslūs keliai yra gryno determinizmo, kai taikoma, be sėklos. Core Native slankiojo, bfloat, blokų mastelio ir mikro mastelio keliai naudoja sėklos atkūrimą. Pasirinktinis Core su Kera daro palaikomus šių slankiojo tipo šeimų kelius taip pat gryno determinizmo.

Reguliuojamas žemo bitų, Q formato ar adaptyvus darbo srautas gali reikalauti bitų identiško Core Native atkūrimo. Slankiojo tipo darbo srautas gali naudoti fiksuotą sėklą ir pilną įrašą pagal Core Native. Kūrybinis atrankos procesas lieka atskiras generavimo pasirinkimas. Diegimas, kuriam reikia gryno determinizmo bfloat, blokų mastelio, mikro mastelio ar įprasto slankiojo vykdymo, gali naudoti Core su Kera ir pašalinti sėklą. Tai skirtingi deklaruoti susitarimai pasirinktai ląstelei, ne keičiami rinkodaros pavadinimai kiekvienam pakartotam atsakymui.

pasirinktas kelias nurodo, kuris taikomas

Dvejetainiai, sveikieji, Q, adaptyvūs ir tikslūs keliai. Be sėklos.

Slankiojo, bfloat, blokų mastelio ir mikro mastelio atkūrimas.

Palaikomi slankiojo tipo šeimų keliai, sėklos nereikia.

kūrybinis atrankos procesas yra atskiras

Kai elgsena keičiasi, viena sistema vis tiek turėtų turėti paaiškinimą.

Kai gamybos rezultatas pasikeičia suskaidytoje struktūroje, atsakomybė yra paskirstyta. Sistema kaltina eksportuotoją. Eksportuotojas kaltina vykdymo aplinką. Vykdymo aplinka kaltina branduolį. Branduolys kaltina tvarkyklę. Tvarkyklė kaltina aparatinę įrangą. Core sujungia šias atsakomybes į vieną sistemą.

Modelio apibrėžimas, skaitiniai pasirinkimai, pasirinktas pagrindas, siuntimo kelias, determinizmo režimas ir gautas vykdymo įrašas gali būti nagrinėjami kartu. Tai nereiškia, kad visos išorinės priklausomybės išnyksta. Duomenų šaltiniai, programos, operacinės sistemos ir aparatinė įranga vis dar egzistuoja. Tai reiškia, kad pati AI mašina turi vieną atskaitingą ribą. Peržiūra gali paklausti, kuri implementacija vyko, kuriame palaikomame taikinyje ir pagal kurį atkūrimo susitarimą, be poreikio siūti atsakymą iš kelių tiekėjų vidinių sistemų.

Apibrėžimas ir jo skaitiniai pasirinkimai.

Reprezentacija, plotis, akumuliatorius, režimas.

Pasirinktas kelias ir mašina, kurioje jis vyko.

Įrašas, leidžiantis vykdymą nagrinėti dar kartą.

Core turi vieną AI mašiną, bet dvi vykdymo pozicijas.

Bet kuri laikysena turėtų leisti diegimui judėti nepakeičiant AI sistemos.

Aparatinė įranga gali keistis nepakeičiant AI sistemos

Infrastruktūros sprendimai neturėtų priversti perrašyti modelio. Core laiko modelį, operatoriaus sąsają, skaitinį dizainą ir vykdymo sutartį toje pačioje sistemoje, kol diegimo laikysena keičiasi. Pasirinktas backend gali skirtis. Organizacijai nereikia atstatyti AI krūvos aplink jį.