AI-laskentapino harjoitukseen ja päättelyyn | Dweve Core
Dweve Core on täydellinen AI-laskentapino harjoitukseen ja päättelyyn tuetuilla CPU-, GPU-, FPGA- ja selainpoluilla, ja siinä on selkeät determinismisopimukset.
Choose the audience that matches your question
The page contains three selectable readings of the same subject.
For consumers
Dweve-tuotteiden taustalla toimiva tekoälyn laskentapino, joka suorittaa laskutoimituksia tavallisilla prosessoreilla ja erikoistuneella laitteistolla muuttamatta sen yläpuolella olevaa tuotetta.
For businesses
Täydellinen tekoälyn laskentapino harjoitukseen ja päättelyyn, joka pitää mallien kirjoittamisen, optimoinnin, suorituksen, palvelun ja varmennuksen yhdessä operaattorijärjestelmässä.
For engineers
Suorituskennorekisteri, joka kattaa yli 2 900 operaatiota, 76 luokkaa, 25 formaattiperhettä ja kaksitoista taustajärjestelmäkohdeperhettä.
Dweve Core in one sentence
Dweve Core is a complete AI compute stack for training and inference that keeps model authoring, training, numerical representation, execution, serving and verification in one machine across supported CPU, GPU, FPGA and browser paths.
- The implementation registry spans more than 2,900 operations, 76 operation categories and 25 registered numerical format families.
- Core Native is the broad Rust-native execution foundation. Core on Kera is an optional execution foundation available in selected strategic licence packages.
- Each supported execution cell carries an explicit determinism contract: pure Core Native, seeded Core Native or pure supported Core on Kera.
- On supported binary workloads, Core uses 96% less energy than a GPU stack.
Koodausagentti ja operaattorin apuri. Demomittarit ovat havainnollistavia.
Pääte, haku, lint, testi, git ja paljon muuta.
Muistaa koodikantasi ja tiimisi kontekstin.
Erikoistuneet agentit tekevät yhteistyötä eri osa-alueilla.
Jokainen vaihe tallennetaan aikaleimoilla.
Käytännöt, tarkistukset ja testit ajetaan aina.
Tarkista diffit, pyydä muutoksia, lopullinen hyväksyntä.
Toista mikä tahansa istunto bitti bitiltä, kun jotain on tarkistettava.
Erota guard + rajoita uudelleenyritykset
Autonomiset agentit, jotka kirjoittavat koodia ja pitävät kirjaa
käsittelemään verkon aikakatkaisuja, 5xx-vastauksia ja idempotentteja ehtoja. Puhdas apufunktio, täysin yksikkötestattu.
käsittelemään verkon aikakatkaisuja, 5xx-vastauksia ja idempotenttiturvallisia ehtoja. Puhdas apufunktio, täysin yksikkötestattu.
Kyvykkyys ja determinismi ilmoitettu solukohtaisesti
Suora toiminta asiakkaan hallinnoimassa infrastruktuurissa
Yksi malli, useita toimittajan hallussa olevia polkuja
määritelmä ja suoritus alkavat hitaasti erota
Toimii tavallisilla tietokoneilla, tuetuissa ympäristöissä
Voi toimia offline-tilassa, tuetuissa ympäristöissä.
suorituskenno ja toistokontrakti tallennettu
Tallennusmuoto ei ole akkumulaattorityyppi
Dweve Core on täydellinen tekoälyn laskentapino koulutukseen ja päätelmiin. Useimmat tekoälyalustat kattavat vain osan ja jättävät loput muille toimittajille. Core pitää mallien kirjoittamisen, koulutuksen, päätelmät, ytimet, lähetyksen ja käyttöönoton yhdessä yhtenäisessä järjestelmässä. Tuetuissa binäärityökuormissa Core käyttää 96 % vähemmän energiaa kuin GPU-pino.
25 rekisteröityä numeerista formaattiperhettä
Osittaiset järjestelmät luovat pysyvän riippuvuuden
Määritelmä ja suoritus erkaantuvat hitaasti toisistaan.
Uusi laitteisto, uusi palvelujärjestelmä, uusi käyttäytyminen.
Toimittajan tiekartasta tulee sinun tiekarttasi.
Mikään yksittäinen järjestelmä ei voi selittää tulosta.
Riippuvuus säilyy, koska alla oleva laskennallinen tila on vain osittain katettu.
Core pitää muutokset numeerisessa leveydessä, pakkauksessa, laitteistossa ja käyttöönotossa yhden toteutusjärjestelmän sisällä. Algoritmi ei muutu eri tuotteeksi, kun se siirtyy x86-palvelimesta ARM:ään, GPU:hun, selaimeen tai erikoistuneeseen kohteeseen. Operaatio pysyy nimettynä, tarkastettavana ja omistettuna koko siirron ajan, ja jokainen polku on rekisteröity, ei päätelty muototunnisteesta.
Toteutusrekisteri kattaa yli 2 900 operaatiota, 76 operaatiokategoriaa ja 25 rekisteröityä numeerista muotoperhettä. Jokainen polku määräytyy yhdeksän ulottuvuuden mukaan: algoritmi, datatyyppi, leveys, pakkaus, akkumulaattori, taustajärjestelmä, käskykanta, lähetyskäytäntö ja determinismitila. Esitystapasopimus pitää nämä numeeriset ja fyysiset valinnat kiinnitettyinä operaatioon. Alla oleva visualisointi kiinnittää suurimman osan näistä ulottuvuuksista, jotta pieni edustava osa pysyy luettavana. Luku kuvaa konkreettisten solujen ja sopimusten rekisteriä, ei väitettä siitä, että muototunniste tai laaja ominaisuusmerkki yksinään selittäisi suorituspolun.
Miten se tallennetaan, miten se summataan.
Missä se suoritetaan, millä todellisella polulla.
Mikä polku valitaan, minkä sopimuksen mukaan.
Otos on pieni, koska toteutusrekisteri ei ole.
Yksi algoritmi selviää jokaisesta rajoitteesta
Uusi leveys, pakkaus, isäntä tai sopimus saapuu.
Mikä koodi suoritettiin, millä koneella, ilmoitettuna.
Sama voimavara, sama omistaja, uusi ehto.
Ensimmäinen peritty oletus, jonka Core poistaa, on, että yhden datatyypin pitäisi hallita kaikkea.
mikään askelma ei ole tutkimusominaisuus
Suorittimen pitäisi olla yhtä vaihdettavissa kuin tietotyypin.
Core ei käsittele yhtä kiihdytinekosysteemiä tekoälyn määritelmänä ja kaikkea muuta huonompana siirtona. Sen operaatioilla on skalaariset referenssitoteutukset ja kohdekohtaiset polut tuetuilla CPU-, GPU-, FPGA-, selain- ja käyttöönottotaustajärjestelmillä. Suoritusaika valitsee toteutuksen käytettävissä olevan koneen ja työhön liitetyn käytännön mukaan.
Nykyaikainen x86-suoritin voi käyttää vektorikäskyjään. ARM ja Apple Silicon voivat käyttää omia natiivipolkujaan. NVIDIA-, AMD- ja Apple-GPU:t voivat käyttää omia taustajärjestelmiään. Selainsuoritus voi käyttää WebAssemblya tai WebGPU:ta tarvittaessa. Käyttöönotto-ohjelmat voivat kohdistua erikoistuneeseen laitteistoon. Suoritin on operaation kohde. Se ei ole mallin omistaja.
x86-vektorit, ARM- ja Apple Silicon -natiivipolut.
NVIDIA-, AMD- ja Apple-GPU:t omilla taustajärjestelmillään.
Erikoistunut laitteisto käyttöönotto-ohjelmille.
Laajat kohdeotsikot ovat halpoja. Todellisen polun omistaminen on vaikeampaa.
Tietotyyppiä ei tuettu, kohdelaitteisto vaihtui ja kvantisoija tarvitsi toisen suoritusympäristön.
Palvelupino ei voinut toistaa tulosta. Hankinta avasi toisen toimittaja-arvioinnin.
Kvantisoija tarvitsi toisen suoritusympäristön
Et lisännyt yhtä ominaisuutta. Paljastit toisen aukon koneessa.
Käsinsäätö tarkoittaa, että joku omistaa tuloksen
Laajaa APIa on helppo mainostaa. Laaja koneen tasoinen omistajuus on paljon vaikeampaa. Core ei laske operaatiota katetuksi pelkästään siksi, että geneerinen toteutus kääntyy toiselle kohteelle. Tuetut polut on toteutettu ja viritetty niiden todelliselle operaatio-, esitys-, pakkaus-, tausta- ja käskykantayhdistelmälle.
Binäärinen matriisikertolasku AVX-512:lla ei ole liukulukumatriisikertolasku pienemmillä arvoilla. Pakattujen bittien operaatiot käyttävät koneen käytettävissä olevia bittikäskyjä. Kokonaisluku- ja kiintolukuoperaatiot käyttävät oikeaa akkumulaattori- ja ylivuotokäyttäytymistä. GPU-polku käyttää kohteen suoritusrakennetta. Skalaaritoteutukset ovat edelleen olemassa referenssinä ja universaalina lattiana. Tämä luo vastuullisen vastauksen yksinkertaiseen kysymykseen: mikä koodi todella suoritti tämän operaation tällä koneella? Core voi nimetä polun.
Kirjoitettu sille, mitä todella lasketaan.
Bittikäskyt biteille, ei skaalatuille liukuluvuille.
Oikea ylivuotokäyttäytyminen suunnitellusti.
NEON-ytimet kirjoitettu ARM:n omalle vektoriarkkitehtuurille.
Tämän omistajuuden on jatkuttava ytimen jälkeen ja koko mallin elinkaaren ajan.
Koulutettu sitä esitystä varten, jota se käyttää.
Suorittaa järjestelmä, joka sen koulutti.
Kun elinkaari on yhtenäinen, vaihtelusta voi tulla sopimus eikä sattuma.
Core ilmaisee sopimuksen polusta, joka todella ajettiin. Core Natiivin binääri-, kolmiarvo-, etumerkillinen ja etumerkitön kokonaisluku-, kiinteäpiste-, adaptiivinen ja tarkka polku ovat puhtaan deterministisiä siellä, missä ne on katettu, ilman siementä. Core Natiivin liukuluku-, bfloat-, lohkoskaalattu- ja mikroskaalattu polut käyttävät siemenellistä toistoa. Valinnainen Core Kera-alustalla tekee tuetuista poluista näissä liukulukuperheissä myös puhtaan deterministisiä.
Säännelty matalabittinen, Q-muotoinen tai adaptiivinen työnkulku voi vaatia bittitarkan Core Natiivin toiston. Liukulukuperheen työnkulku voi käyttää kiinnitettyä siementä ja täydellistä tallennetta Core Natiivissa. Luova näytteenotto pysyy erillisenä generointivalintana. Käyttöönotto, joka vaatii puhtaan determinististä bfloat-, lohkoskaalattua-, mikroskaalattua- tai tavanomaista liukulukusuoritusta, voi käyttää Corea Kera-alustalla ja poistaa siemenen. Nämä ovat erilaisia ilmoitettuja sopimuksia valitulle solulle, eivät vaihtokelpoisia markkinointinimiä jokaiselle toistetulle vastaukselle.
Binääri-, kokonaisluku-, Q-, adaptiivinen ja tarkka polku. Ei siementä.
Liukuluku-, bfloat-, lohkoskaalattu- ja mikroskaalattu toisto.
Tuetut liukulukuperheen polut, ei siementä vaadita.
Kun käyttäytyminen muuttuu, yhden järjestelmän tulisi silti omistaa selitys.
Kun tuotantotulos muuttuu pirstaleisessa pinossa, vastuu jakautuu. Kehys syyttää viejää. Viejä syyttää ajonaikaista ympäristöä. Ajonaikainen ympäristö syyttää ydintä. Ydin syyttää ajuria. Ajuri syyttää laitteistoa. Core tuo nämä vastuut yhden järjestelmän sisään.
Mallin määritelmä, numeeriset valinnat, valittu tausta, välityspolku, determinismitila ja tuloksena oleva suoritustallenne voidaan tarkastella yhdessä. Se ei tarkoita, että kaikki ulkoiset riippuvuudet katoavat. Tietolähteet, sovellukset, käyttöjärjestelmät ja laitteisto ovat edelleen olemassa. Se tarkoittaa, että itse tekoälykoneella on yksi vastuullinen raja. Katselmus voi kysyä, mikä toteutus ajettiin, millä tuetulla kohteella ja minkä toistosopimuksen alla, ilman että vastaus kootaan useiden toimittajien sisäisistä järjestelmistä.
tarkasteltu yhdessä, ei toimittajien välillä
Valittu polku ja kone, jolla se ajettiin.
Tallenne, joka mahdollistaa ajon tarkastelun uudelleen.
Core pitää yhden tekoälykoneen, mutta sillä on kaksi suoritusasentoa.
Kumman tahansa asennon pitäisi antaa käyttöönoton liikkua ilman, että AI-järjestelmää vaihdetaan.
Laitteisto voi vaihtua ilman, että AI-järjestelmää vaihdetaan
Infrastruktuuripäätösten ei pitäisi pakottaa mallin uudelleenkirjoitusta. Core pitää mallin, käyttäjäpinnan, numeerisen suunnittelun ja suoritussopimuksen samassa järjestelmässä, kun käyttöönoton asento muuttuu. Valittu tausta voi erota. Organisaation ei tarvitse rakentaa AI-pinoa uudelleen sen ympärille.