AI Compute Stack for Training and Inference | Dweve Core

Kodeerimisagent ja operaatori abiline. Demomeetrika on illustreeriv.

Terminal, otsing, lint, test, git ja palju muud.

Mäletab sinu koodibaasi ja meeskonna konteksti.

Spetsialiseeritud agendid teevad koostööd eri valdkondade vahel.

Poliitikad, kontrollid ja testid käivitatakse alati.

Vaata diffe, nõua muudatusi, lõplik heakskiit.

Esita iga seanss biti-biti haaval, kui midagi vajab ülevaatamist.

Autonoomsed agendid, mis kirjutavad koodi ja peavad arvet

käsitlemaks võrgu ajalõppe, 5xx vastuseid ja idempotentseid tingimusi. Puhas abifunktsioon, täielikult unit-testitud.

Juurutamise sihtmärk, sünteesi tellingud

Käitusaja dispetšer, valib iga kutse jaoks sihtmärgi ja poliitika järgi

Üks operaatori definitsioon, käsitsi häälestatud kernelid iga ISA jaoks. Kui teie riistvara on müüdud viimase kaheksa aasta jooksul, on Core'il sellele tee.

Võimekus ja determinism iga lahtri kohta

Otsene töö kliendi kontrollitaval infrastruktuuril

definitsioon ja täitmine lähevad aeglaselt lahku

Üks operaatori pind raamistiku, mootori ja kompilaatori jaoks. Ei mingit välist liimi.

Core töötab Kera peal, deterministlikul vaheesitusel. Kera on IR ise, mitte MLIR-i ümbris ega LLVM-i peale ehitatud. Mitmetasandiline allalaskmine viib neuraalse graafi riistvaraspetsiifilise natiivkoodini fusiooniga.

Täielik treeningumootor kvantimisteadliku treeningu, teadmiste destilleerimise, progressiivse täpsuse ja hajutatud treeninguga. Inferentsimootor pakub kolme determinismirežiimi ja tootmiskõlblikku serveerimist.

Tüübikindel DSL igale arhitektuurile ja igale bitilaiusele. Koosta primitiividest või olemasolevatest kihtidest ning lisa omad sama testimisinfrastruktuuriga nagu sisseehitatud.

Või natiivsed Rusti kernelid iga käitusaja jaoks

Mitmetasandiline allalaskmine fusiooniga

Kohandatud operatsioonid, sama testiraamistik

Mis tahes andmetüüp, mis tahes bitilaius

Töötab tavalistes arvutites, kus toetatud

See oskab näidata, kuidas ta sinna jõudis.

Saab töötada võrguühenduseta, kus toetatud.

Sinu asjad võivad koju jääda, Euroopasse.

Tõendusprotsess, mis algab hallatava Fabrici kaudu, võib hiljem toetada üleminekut litsentseeritud Core'i opereerimisele, sealhulgas füüsiliselt isoleeritud litsentseeritud keskkonnale. Hallatav Fabric ise ei hõlma Core'i.

Mis saab üle kanduda kasutuselevõtu teel

üks tõendusprotsess, kaks litsentseeritud opereerimisviisi

Andmete kohustused on iga opereerimisviisi kohta esitatud

Ülekandeõigused ainult seal, kus lepingus on need ette nähtud

Füüsiliselt isoleeritud litsentseeritud juurutamine keskkondadele, mis ei talu välist ühendust. Tehnoloogia ülekande ja sõltumatuse õigused on saadaval ainult seal, kus valitud valitsuse ja kriitilise taristu tase need sätestab.

Opereerige litsentseeritud Core'i oma serverites oma andmekeskuses. Teie operaatorid hoiavad võtmeid; lähtekoodi deposiit ja lähtekoodi õigused jäävad eraldi, välja arvatud juhul, kui leping need sõnaselgelt hõlmab.

Ehitatud Hollandis; opereerimispiir on määratud lepingus

Hallatav Fabric on eraldi teenus avalikus Mesh'is ega hõlma Core'i juurdepääsu ega Core'i opereerimist. Otsene Core'i opereerimine algab litsentsiga kliendi kontrollitavale taristule.

Hallatava Fabrici tõendusprotsess, ilma Core'i juurdepääsuta

Determinism on seade, mitte püüdlus. Testikomplekt kinnitab seda, mitte ei luba seda proosas.

Lülita taotluse põhjal, ilma uuesti juurutamata.

determinism: taotluse põhjal leevendatud

väljastus: sama täisarv/mudel igas režiimis

core.infer(model, x, determinism="creative", temp=0.8)

Täielik mittedeterminism seal, kus soovitakse. Temperatuuri, top k ja top p valim. Sama väljastusmudel leevendatud determinismiga, ilma eraldi kooditeeta.

seeme: 42, sama seeme annab sama väljundi

core.infer(model, x, determinism="seeded", seed=42)

Korratav sama seemne korral, erinevad seemned annavad erinevad väljundid. Kasulik A/B testimiseks, Monte Carlo käivitusteks ja igasuguste töövoogude jaoks, kus soovitakse kontrollitud varieeruvust.

väljundi räsi: stabiilne igal sihtmärgil

core.infer(model, x, determinism="hard")

Marsruudib deklareeritud täis- ja fikseeritud punkti aritmeetika kaudu, eemaldades platvormist sõltuva aritmeetilise triivi. Biti-identsed väljundid kõigil toetatud sihtmärkidel. Režiim, mida kasutatakse, kui leping või regulaator nõuab korratavust.

Core teeb oma arvutused lihtsamal ja kergemal moel kui enamik tehisintellekte. Seega ei vaja ta ruumitäit kiibilõmblejaid. Piisab arvutist, mis sul juba on.

Kuna see töötab sinu enda masinal, ei pea sinu küsimused ja dokumendid reisima kaugele ettevõttesse. See, mida sa kirjutad, jääb sinna, kus sa seda näed.

Kui Core annab sulle vastuse, saab ta näidata samme, mida ta selle saamiseks tegi, nagu matemaatikaõpetaja, kes kirjutab välja arvutuskäigu. Sa ei pea kunagi seda usku võtma.

Sa ei puuduta kunagi mootorit. Kuid kõik, mida tunned, kiirus, sujuvus, vaikus, tuleb sellest, kui hästi see on ehitatud. Enamik tehisintellekte on ehitatud ostetud mootoritest. Dweve ehitas oma, nii et see töötab hästi tavalistel arvutitel ja hoiab sinu asjad sinu juures.

Lihtne kasutada, sõbralik rahakotile ja jääb sinu omaks

Dweve on loodud Hollandis inimeste poolt, kes vastutavad Euroopa seaduste ees. Mootori taga, mida sa kasutad, on tõeline ettevõte ja tõeline koht.

See kasutab palju vähem elektrit kui AI, mis vajab hiiglaslikke masinaid. See hoiab hinna madalal ja võimaldab tasuta versiooni üldse olemas olla.

Kui see sulle midagi ütleb, saab see näidata, kuidas see sinna jõudis, samm-sammult. Kui see on kunagi ebakindel, ütleb ta seda, selle asemel et arvata ja loota.

Kuna mootor elab sinu enda seadmes, töötab see edasi ka siis, kui ühendus katkeb. Nagu kalkulaator, ei pea see oma töö tegemiseks kellelegi helistama.

Sinu kirjad, fotod ja küsimused ei saadeta kaugele arvutisse. Need jäävad sinu juurde, Euroopasse, Euroopa reeglite alla.

Sa ei pea ostma midagi uut ega kallist. Kui sinu sülearvuti suudab videot näidata, suudab see käitada Dweve't. Nutikas osa on ehitatud mootorisse, mitte kallisse masinasse.

Algoritmide rühmitamine andmetüübi järgi

täitmise rakk ja taasesituse leping salvestatud

Core muudab aluskihti, mitte liidest, mida sa juba tunned.

Range determinism taasesitab tulemuse bitihaaval, nõudmisel.

Vastavus pannakse kokku pärast seda, kui rasked küsimused on saabunud.

Ainult EL-i andmeteed, ehitatud ja käitatud Hollandist.

Andmed jõuavad välismaisele hüperskaalerile välismaise seaduse alla.

96% vähem energiat kui GPU-virn, samad vastused murdosa käituskuludest.

Generatiivne GPU-virn tarbib võimsust megavatites.

CPU esikohal, serveritel, mis sul juba on.

GPU-klastrid, mille nimel pakud hüperskaalerite vastu.

Serva- ja madalbitiuuringud. Osa 96% väiksema energiatarbega loost.

Kvantiseeritud GEMM, Q-tähistus, bititasand

Kvantiseeritud järeldamine ja deterministlik fikseeritud punkt.

Q8.8, Q12.4, rühmapõhine täisarvuline skaala

Sisemine treening ja täpsustundlikud kihid.

lai fikseeritud punkt või täpne Numeruse kaudu

Determinismilepingud ja võrdluskontrollid.

25 numbrilist perekonda, sisemist FP-teed pole

Valige iga operaatori jaoks sisemine salvestus, akumulaator ja edastuspoliitika. Väline ujukoma sisend teisendatakse piiril enne, kui kompilaator segumassi sihtmärgile alandab.

Iga sisemine esitus on esmaklassiline kodanik, mis on operaatorisse sisse ehitatud, mitte pärast fakte konfigureeritud.

Ehitatud Kerale, deterministlik disainilt

Sama töö, mille teeb üks mootor, mis on sinu oma, mitte hunnik kokku liimitud müüjatööriistu.

Viis uuendustsüklit, viis turvapinda, viis kohta, kus see võib puruneda.

Iga tulemust saab uuesti esitada ja kontrollida.

Andmed jäävad Euroopasse, infrastruktuurile, mida sina kontrollid.

Pole vaja GPU hankimist ega hüperskaalerite pakkumissõda.

Üks leping, üks tugiliin, üks uuendustsükkel.

Salvestusvorming ei ole akumulaatori tüüp

Dweve Core on täielik AI-arvutusvirn treenimiseks ja inferentsiks. Enamik AI-platvorme katab vaid osa ja annab ülejäänu teistele müüjatele. Core hoiab mudeli loomise, treenimise, inferentsi, kernelid, jaotuse ja juurutamise ühes koherentses süsteemis. Toetatud binaarsete töökoormuste korral kasutab Core 96% vähem energiat kui GPU-virn.

25 registreeritud numbrivormingute perekonda

Toetatud binaarsete töökoormuste korral.

Osalised süsteemid loovad püsiva sõltuvuse

Definitsioon ja täitmine lähevad aeglaselt lahku.

Tihendamine elab kellegi teise tööriistas.

Uus riistvara, uus teenindussüsteem, uus käitumine.

Ükski süsteem ei suuda tulemust selgitada.

Sõltuvus püsib, sest aluseks olev arvutusruum on vaid osaliselt kaetud.

Core hoiab muutused numbrilises laiuses, pakkimises, riistvaras ja juurutuses ühe rakendussüsteemi sees. Algoritm ei muutu teiseks tooteks sellepärast, et see liigub x86-serverilt ARM-ile, GPU-le, brauserisse või spetsialiseeritud sihtmärgile. Toiming jääb kogu liikumise vältel nimetatuks, kontrollitavaks ja omatuks ning iga tee registreeritakse, mitte ei tuletata vormingusildist.

Rakenduste register hõlmab enam kui 2900 toimingut, 76 toimingukategooriat ja 25 registreeritud numbrilist vorminguperekonda. Iga tee määratakse üheksa mõõtme kaupa: algoritm, andmetüüp, laius, pakkimine, akumulaator, taustsüsteem, käsustik, edastuspoliitika ja determinismirežiim. Esitusleping hoiab need numbrilised ja füüsilised valikud toimingu küljes. Allolev visuaal fikseerib enamiku neist mõõtmetest, et väike esinduslik lõik jääks loetavaks. Arv kirjeldab konkreetsete lahtrite ja lepingute registrit, mitte väidet, et vormingusilt või lai võimekuse märk üksi selgitab täitmisteed.