AI Compute Stack for Training and Inference | Dweve Core

Pomoč pri kodiranju in operaterska pomoč. Metrike v demu so ilustrativne.

Terminal, iskanje, lint, testi, git in več.

Zapomni si vašo bazo kode in kontekst ekipe.

Specializirani agenti sodelujejo pri različnih zadevah.

Vsak korak je zabeležen s časovnimi žigi.

Pravilniki, preverjanja in testi se vedno izvajajo.

Preglejte razlike, zahtevajte spremembe, končna potrditev.

Ponovite katero koli sejo bit za bitom, ko je treba nekaj pregledati.

Preberi retry.ts, izsledil napako pri časovni omejitvi

Avtonomni agenti, ki pišejo kodo in hranijo dokaze

za obravnavo omrežnih časovnih omejitev, odzivov 5xx in pogojev, varnih za idempotentnost. Čista pomožna funkcija, v celoti enotno testirana.

Deployment target, synthesis scaffolding

Runtime dispatcher, picks per call by target and policy

One operator definition, hand tuned kernels per ISA. If your silicon shipped in the last eight years, Core has a path to it.

Zmogljivost in determinizem, navedena za vsako celico

Neposredno delovanje na infrastrukturi, ki jo upravlja stranka

En model, več poti, ki jih ima dobavitelj

definicija in izvajanje se počasi razhajata

Ena operaterska površina za ogrodje, pogon in prevajalnik. Brez zunanjega lepila.

Core deluje na Keri, deterministični vmesni predstavitvi. Kera je sama IR, ne ovoj okoli MLIR in ne temelji na LLVM. Večnivojsko spuščanje pripelje nevronski graf do strojno specifične izvorne kode z združevanjem.

Celoten vadbeni pogon s kvantizacijsko ozaveščenim učenjem, destilacijo znanja, progresivno natančnostjo in porazdeljenim učenjem. Sklepalni pogon ponuja tri načine determinizma in produkcijsko streženje.

Tipno varen DSL za poljubno arhitekturo in poljubno bitno širino. Sestavljaj iz primitivov ali obstoječih plasti in dodaj svoje z enako testno infrastrukturo kot vgrajene.

Ali izvorna Rust jedra za vsako izvajalno okolje

Poljuben podatkovni tip, poljubna bitna širina

Deluje na običajnih računalnikih, kjer je podprto

Lahko deluje brez povezave, kjer je podprto.

Vaše stvari lahko ostanejo doma, v Evropi.

Dokaz, začet prek upravljanega Fabric, lahko podpre poznejši prehod na licenčno delovanje Core, vključno s fizično izoliranim licenčnim okoljem. Upravljani Fabric sam ne vključuje Core.

ena pot dokaza, dve licenčni delovni drži

Obveznosti glede podatkov, navedene za vsako držo

Pravice prenosa le, kjer so pogodbeno določene

Fizično izolirana licenčna namestitev za okolja, ki ne prenesejo zunanje povezave. Pravice do prenosa tehnologije in neodvisnosti so na voljo le, kjer jih izbrana raven Government in Critical Infrastructure izrecno navaja.

Licenčni Core upravljajte na svojih strežnikih v svojem podatkovnem centru. Ključe imajo vaši operaterji; hramba izvorne kode in pravice do izvorne kode ostanejo ločene, razen če jih pogodba izrecno vključuje.

Zgrajeno na Nizozemskem; meja delovanja je določena v pogodbi

Upravljani Fabric je ločena storitev v javnem Mesh in ne vključuje dostopa do Core ali delovanja Core. Neposredno delovanje Core se začne z licenco za infrastrukturo, ki jo nadzoruje stranka.

Dokaz z upravljanim Fabric, brez dostopa do Core

Determinizem je nastavitev, ne aspiracija. Testna zbirka to potrjuje, ni obljubljeno v prozi.

Preklop na zahtevo, brez ponovne namestitve.

razpis: isti model s fiksno aritmetiko v vsakem načinu

core.infer(model, x, determinism="creative", temp=0.8)

Popoln nedeterminizem, kjer je želen. Vzorčenje s temperaturo, top k in top p. Isti razpisni model s sproščenim determinizmom, brez ločene poti v kodi.

core.infer(model, x, determinism="seeded", seed=42)

Ponovljivo z istim semenom, različna semena dajo različne izhode. Uporabno za A/B testiranje, Monte Carlo izvajanja in vse poteke dela, kjer želimo nadzorovano variacijo.

zgoščena vrednost izhoda: stabilna na vsaki tarči

core.infer(model, x, determinism="hard")

Usmerja skozi deklarirano celoštevilsko in fiksno aritmetiko, kar odstrani od arhitekture odvisen aritmetični odmik. Bitno identični izhodi na vseh podprtih tarčah. Način, ki se uporabi, ko pogodba ali regulator zahteva ponovljivost.

Core računa na preprostejši in lažji način kot večina umetne inteligence. Zato ne potrebuje prostora, polnega požrešnih čipov. Dovolj je računalnik, ki ga že imate.

Ker deluje na vašem računalniku, vašim vprašanjem in dokumentom ni treba potovati do oddaljenega podjetja. Kar vnesete, ostane tam, kjer to lahko vidite.

Ko vam Core poda odgovor, lahko prikaže korake, s katerimi je prišel do njega, kot učitelj matematike, ki zapiše račun. Nikoli vam ni treba verjeti na besedo.

Motorja nikoli ne dotaknete. Toda vse, kar občutite, hitrost, gladkost, tišina, izhaja iz tega, kako dobro je zgrajen. Večina umetne inteligence je zgrajena iz motorjev, kupljenih na polici. Dweve je zgradil svojega, zato dobro deluje na običajnih računalnikih in ohranja vaše stvari pri vas.

Core, tihi motor pod vsakim izdelkom Dweve

Preprosto za uporabo, prijazno do denarnice in ostane vaše

Dweve je zgrajen na Nizozemskem s strani ljudi, ki odgovarjajo evropskemu pravu. Za motorjem, ki ga uporabljate, stoji pravo podjetje in pravi kraj.

Porabi veliko manj elektrike kot umetna inteligenca, ki potrebuje ogromne stroje. To ohranja ceno nizko in omogoča, da brezplačna različica sploh obstaja.

Ko vam nekaj pove, vam lahko pokaže, kako je do tega prišel, korak za korakom. Če ni prepričan, to pove, namesto da bi ugibal in upal.

Ker motor živi na vaši napravi, deluje tudi, ko povezava odpade. Kot kalkulator ne potrebuje klica domov, da bi opravil svoje delo.

Vaša pisma, fotografije in vprašanja se ne pošiljajo na oddaljen računalnik. Ostanejo pri vas, v Evropi, pod evropskimi pravili.

Ni vam treba kupiti ničesar novega ali dragega. Če vaš prenosnik lahko prikaže video, lahko poganja Dweve. Pametni del je vgrajen v motor, ne v drag stroj.

Skupine algoritmov glede na vrsto podatkov

izvedbena celica in pogodba za ponovitev sta zabeleženi

pravilno velikostno prilagojeno glede na nalogo

Core spremeni podlago, ne vmesnika, ki ga že poznate.

Trdna determinističnost ponovi rezultat bit za bit, na zahtevo.

Skladnost se sestavi šele, ko pridejo težka vprašanja.

Podatkovne poti samo znotraj EU, zgrajeno in upravljano iz Nizozemske.

Podatki pristanejo pri tujem ponudniku v oblaku pod tujo zakonodajo.

96 % manj energije kot sklad GPU, enaki odgovori za delček obratovalnih stroškov.

Generativni sklad GPU porablja energijo v megavatih.

Najprej CPU, na strežnikih, ki jih že imate.

Gruče GPU, za katere licitirate proti ponudnikom v oblaku.

Raziskave robnih in nizkobitnih pristopov. Del zgodbe o 96 % manjši porabi energije.

Kvantizirani GEMM, Q-zapis, bitna ravnina

Kvantizirano sklepanje in deterministična fiksna vejica.

Q8.8, Q12.4, celoštevilska lestvica po skupinah

Notranje usposabljanje in plasti, občutljive na natančnost.

Široka fiksna vejica ali natančno prek Numerus

Pogodbe o determinizmu in referenčna preverjanja.

23 numeričnih družin, brez notranje FP poti

Izberite notranje shranjevanje, akumulator in politiko razporejanja za vsak operator. Zunanji plavajoči vhod se pretvori na meji, preden prevajalnik zniža mešanico na cilj.

Vsaka notranja predstavitev je prvovrstni državljan, vgrajena v operator in ne konfigurirana naknadno.

Zgrajen na Kera, determinističen po zasnovi

Enako delo, ki ga opravi en sam pogon, ki ga imate v lasti, namesto kopice prodajalčevih orodij, zlepljenih skupaj.

Pet nadgradnih ciklov, pet varnostnih površin, pet mest, kjer lahko odpove.

Vsak rezultat je mogoče ponoviti in preveriti.

Podatki ostanejo v Evropi, na infrastrukturi, ki jo nadzorujete.

Brez nabave GPE, brez dražbe med hiperiskalci.

Ena pogodba, ena podporna linija, en nadgradni cikel.

Vrsta shranjevanja ni vrsta akumulatorja

Dweve Core, celoten stroj za umetno inteligenco

Dweve Core je celoten računalniški sklad za umetno inteligenco za usposabljanje in inferenco. Večina platform za umetno inteligenco pokriva le del in preostalo prepusti drugim ponudnikom. Core ohranja avtorstvo modelov, usposabljanje, inferenco, jedra, razporejanje in uvajanje v enem povezanem sistemu. Pri podprtih dvojiških obremenitvah Core porabi 96 % manj energije kot sklad z grafičnimi procesorji.

25 registriranih družin številčnih formatov

manj energije kot sklad z grafičnimi procesorji

Delni sistemi ustvarjajo trajno odvisnost

Definicija in izvajanje se počasi razhajata.

Nova strojna oprema, nov sistem za strežbo, novo vedenje.

Noben posamezen sistem ne more pojasniti rezultata.

Odvisnost ostaja, ker je računski prostor spodaj le delno pokrit.

Core ohranja spremembe v numerični širini, pakiranju, strojni opremi in uvajanju znotraj enega implementacijskega sistema. Algoritem ne postane drugačen izdelek, ker se premakne s strežnika x86 na ARM, GPU, brskalnik ali specializiran cilj. Operacija ostane poimenovana, pregledna in v lasti skozi celoten premik, vsaka pot pa je registrirana in ne sklepana iz oznake formata.

Register implementacij obsega več kot 2.900 operacij, 76 kategorij operacij in 25 registriranih družin numeričnih formatov. Vsaka pot je določena po devetih razsežnostih: algoritem, podatkovni tip, širina, pakiranje, akumulator, zaledje, nabor ukazov, politika razporejanja in način determinizma. Pogodba o predstavitvi ohranja te numerične in fizične izbire pripete k operaciji. Spodnja vizualizacija večino teh razsežnosti fiksira, da ostane majhen reprezentativen izrez berljiv. Število opisuje register konkretnih celic in pogodb, ne pa trditve, da oznaka formata ali široka značka zmogljivosti sama pojasni izvedbeno pot.