Računalniški sklad za usposabljanje in sklepanje | Dweve Core

Choose the audience that matches your question

The page contains three selectable readings of the same subject.

Pomoč pri kodiranju in operaterska pomoč. Metrike v demu so ilustrativne.

Terminal, iskanje, lint, testi, git in več.

Zapomni si vašo bazo kode in kontekst ekipe.

Specializirani agenti sodelujejo pri različnih zadevah.

Vsak korak je zabeležen s časovnimi žigi.

Pravilniki, preverjanja in testi se vedno izvajajo.

Preglejte razlike, zahtevajte spremembe, končna potrditev.

Ponovite katero koli sejo bit za bitom, ko je treba nekaj pregledati.

Preberi retry.ts, izsledil napako pri časovni omejitvi

Avtonomni agenti, ki pišejo kodo in hranijo dokaze

za obravnavo omrežnih časovnih omejitev, odzivov 5xx in pogojev, varnih za idempotentnost. Čista pomožna funkcija, v celoti enotno testirana.

Zmogljivost in determinizem, navedena za vsako celico

Neposredno delovanje na infrastrukturi, ki jo upravlja stranka

En model, več poti, ki jih ima dobavitelj

definicija in izvajanje se počasi razhajata

Deluje na običajnih računalnikih, kjer je podprto

Lahko deluje brez povezave, kjer je podprto.

Vaše stvari lahko ostanejo doma, v Evropi.

Skupine algoritmov glede na vrsto podatkov

izvedbena celica in pogodba za ponovitev sta zabeleženi

pravilno velikostno prilagojeno glede na nalogo

Vrsta shranjevanja ni vrsta akumulatorja

Dweve Core, celoten stroj za umetno inteligenco

Dweve Core je celoten računalniški sklad za umetno inteligenco za usposabljanje in inferenco. Večina platform za umetno inteligenco pokriva le del in preostalo prepusti drugim ponudnikom. Core ohranja avtorstvo modelov, usposabljanje, inferenco, jedra, razporejanje in uvajanje v enem povezanem sistemu. Pri podprtih dvojiških obremenitvah Core porabi 96 % manj energije kot sklad z grafičnimi procesorji.

25 registriranih družin številčnih formatov

manj energije kot sklad z grafičnimi procesorji

Delni sistemi ustvarjajo trajno odvisnost

Definicija in izvajanje se počasi razhajata.

Nova strojna oprema, nov sistem za strežbo, novo vedenje.

Noben posamezen sistem ne more pojasniti rezultata.

Odvisnost ostaja, ker je računski prostor spodaj le delno pokrit.

Core ohranja spremembe v numerični širini, pakiranju, strojni opremi in uvajanju znotraj enega implementacijskega sistema. Algoritem ne postane drugačen izdelek, ker se premakne s strežnika x86 na ARM, GPU, brskalnik ali specializiran cilj. Operacija ostane poimenovana, pregledna in v lasti skozi celoten premik, vsaka pot pa je registrirana in ne sklepana iz oznake formata.

Register implementacij obsega več kot 2.900 operacij, 76 kategorij operacij in 25 registriranih družin numeričnih formatov. Vsaka pot je določena po devetih razsežnostih: algoritem, podatkovni tip, širina, pakiranje, akumulator, zaledje, nabor ukazov, politika razporejanja in način determinizma. Pogodba o predstavitvi ohranja te numerične in fizične izbire pripete k operaciji. Spodnja vizualizacija večino teh razsežnosti fiksira, da ostane majhen reprezentativen izrez berljiv. Število opisuje register konkretnih celic in pogodb, ne pa trditve, da oznaka formata ali široka značka zmogljivosti sama pojasni izvedbeno pot.

Katera pot je izbrana, pod katero pogodbo.

Vzorec je majhen, ker register implementacij ni.

Prispe nova širina, pakiranje, gostitelj ali pogodba.

Katera koda je tekla, na katerem stroju, je navedeno.

Prva podedovana predpostavka, ki jo Core odstrani, je, da bi moral en podatkovni tip prevladovati nad vsem.

Procesor bi moral biti prav tako zamenljiv kot podatkovni tip.

Core ne obravnava enega ekosistema pospeševalnikov kot definicije umetne inteligence in vsega drugega kot manjvrednega prenosa. Njegove operacije imajo skalarne referenčne implementacije in poti, specifične za cilj, na podprtih povratnih, grafičnih, FPGA, brskalniških in namestitvenih zaledjih. Izvajalnik izbere implementacijo glede na razpoložljivi stroj in politiko, priloženo delu.

Sodoben x86 procesor lahko uporablja svoje vektorske ukaze. ARM in Apple silicon lahko uporabljata svoje izvorne poti. Grafične kartice NVIDIA, AMD in Apple lahko uporabljajo svoja ustrezna zaledja. Izvajanje v brskalniku lahko uporablja WebAssembly ali WebGPU, kjer je primerno. Namestitveni programi lahko ciljajo na specializirano strojno opremo. Procesor je cilj za operacijo. Ni lastnik modela.

x86 vektorji, izvorne poti ARM in Apple silicon.

Grafične kartice NVIDIA, AMD in Apple na svojih zaledjih.

WebAssembly ali WebGPU, kjer je primerno.

Specializirana strojna oprema za namestitvene programe.

Široke ciljne oznake so poceni. Lastništvo dejanske poti je težje.

Podatkovni tip ni bil podprt, ciljna strojna oprema se je spremenila, kvantizator pa je potreboval drugo izvajalno okolje.

Strežniški sklad ni mogel ponoviti rezultata. Nabava je odprla nov pregled dobavitelja.

Kvantizator je potreboval drugo izvajalno okolje

Niste dodali ene funkcije. Odkrili ste še eno luknjo v stroju.

Core, celoten stroj za umetno inteligenco

Ročno prilagojeno pomeni, da nekdo lastni rezultat

Širok API je enostavno oglaševati. Široko lastništvo na ravni stroja je veliko težje. Core ne šteje operacije kot pokrite samo zato, ker se generična implementacija prevede na drugem cilju. Podprte poti so implementirane in prilagojene za dejansko kombinacijo operacije, predstavitve, pakiranja, zaledja in nabora ukazov.

Binarno matrično množenje na AVX-512 se ne obravnava kot množenje matrik s plavajočo vejico z manjšimi vrednostmi. Operacije s pakiranimi biti uporabljajo bitne ukaze, ki so na voljo stroju. Cele in fiksne operacije uporabljajo pravilen akumulator in obnašanje pri prelivu. Poti GPU uporabljajo izvedbeno strukturo cilja. Skalarne implementacije ostajajo prisotne kot referenca in univerzalni temelj. To ustvarja odgovoren odgovor na preprosto vprašanje: katera koda je dejansko izvedla to operacijo na tem stroju? Core lahko poimenuje pot.

Napisana za to, kar se dejansko izračuna.

Bitni ukazi za bite, ne skalirani floati.

Pravilno obnašanje pri prelivu, po načrtu.

NEON jedra, napisana za ARM-ovo lastno vektorsko arhitekturo.

To lastništvo se mora nadaljevati prek jedra in skozi celoten življenjski cikel modela.

Usposobljen za predstavitev, ki jo bo uporabljal.

Usmerjen na prilagojeno pot za gostitelja.

Ovrednoten in ponovno predvajan v istem stroju.

Ko je življenjski cikel skladen, lahko variacija postane pogodba in ne naključje.

Core navaja pogodbo poti, ki je dejansko potekala. Core Native binarne, ternarne, predznačene in nepredznačene cele, fiksne, prilagodljive in natančne poti so čisto deterministične, kjer so zajete, brez semena. Core Native plavajoče, bfloat, blokovno skalirane in mikroskalirane poti uporabljajo ponovno predvajanje s semenom. Izbirni Core na Kera naredi podprte poti v teh plavajočih družinah prav tako čisto deterministične.

Reguliran potek dela z nizkim bitnim številom, Q-formatom ali prilagodljivim načinom lahko zahteva bitno identično ponovno predvajanje Core Native. Potek dela s plavajočo družino lahko uporablja pritrjeno seme in popoln zapis pod Core Native. Ustvarjalno vzorčenje ostaja ločena izbira generiranja. Uvedba, ki zahteva čisto deterministično bfloat, blokovno skalirano, mikroskalirano ali običajno plavajoče izvajanje, lahko uporabi Core na Kera in odstrani seme. To so različne razglašene pogodbe za izbrano celico, ne zamenljiva tržna imena za vsak ponovljen odgovor.

Binarne, cele, Q, prilagodljive in natančne poti. Brez semena.

Ponovno predvajanje plavajočih, bfloat, blokovno skaliranih in mikroskaliranih poti.

Podprte poti plavajoče družine, brez potrebe po semenu.

Ko se vedenje spremeni, mora en sistem še vedno imeti razlago.

Ko se rezultat proizvodnje spremeni v razdrobljenem skladu, je odgovornost porazdeljena. Ogrodje krivi izvoznik. Izvoznik krivi izvajalno okolje. Izvajalno okolje krivi jedro. Jedro krivi gonilnik. Gonilnik krivi strojno opremo. Core združuje te odgovornosti v enem sistemu.

Opredelitev modela, numerične izbire, izbrani zaledni sistem, pot razporejanja, način determinizma in nastali izvedbeni zapis je mogoče pregledati skupaj. To ne pomeni, da vsaka zunanja odvisnost izgine. Viri podatkov, aplikacije, operacijski sistemi in strojna oprema še vedno obstajajo. Pomeni, da ima sam AI stroj eno odgovorno mejo. Pregled lahko vpraša, katera izvedba je potekala, na katerem podprtem cilju in pod katero pogodbo o ponovnem predvajanju, ne da bi moral odgovor sestaviti iz notranjih sistemov več prodajalcev.

Predstavitev, širina, akumulator, način.

Izbrana pot in stroj, na katerem je potekala.

Zapis, ki omogoča ponovni pregled zagona.

Core ohranja en AI stroj, vendar ima dve izvedbeni drži.

Vsaka drža naj omogoči premik namestitve brez zamenjave sistema AI.

Strojna oprema se lahko spremeni brez zamenjave sistema AI

Odločitve o infrastrukturi ne smejo prisiliti v prepis modela. Core ohranja model, operatersko površino, numerično zasnovo in izvedbeno pogodbo v istem sistemu, medtem ko se drža namestitve spreminja. Izbrani zaledni sistem se lahko razlikuje. Organizaciji ni treba znova zgraditi sklada AI okoli tega.

Licencirana ekipa lahko upravlja Core na gručah ali delovnih postajah, ki jih nadzoruje organizacija. Reguliran program lahko zahteva popolnoma izolirano okolje. Izdelek lahko del sklepanja premakne na rob, medtem ko lahko spletna aplikacija potrebuje lokalni izvedbeni cilj. Core ohranja te licencirane operativne drže znotraj enega stroja, ne da bi trdil, da vsak zaledni sistem podpira vsako celico. Core ni produkt upravljane storitve. Licenca opisuje operativno držo in njen podprti obseg, ne pa zahteve po vsakem možnem cilju ali obremenitvi.