AI-computestak til træning og inferens | Dweve Core

Choose the audience that matches your question

The page contains three selectable readings of the same subject.

Coding agent og operatørassistance. Demomålinger er illustrative.

Terminal, søgning, lint, test, git og mere.

Specialiserede agenter samarbejder på tværs af områder.

Hvert trin registreres med tidsstempler.

Politikker, kontroller og tests kører altid.

Gennemgå diffs, anmod om ændringer, endelig godkendelse.

Afspil enhver session bit-for-bit, når noget skal gennemgås.

Autonome agenter, der skriver kode og holder styr på kvitteringer

til at håndtere netværkstimeouts, 5xx-svar og idempotente-sikre betingelser. Ren hjælpefunktion, fuldt enhedstestet.

Kapacitet og determinisme angivet pr. celle

Direkte drift på kundestyret infrastruktur

definitionen og udførelsen er langsomt uenige

Kører på almindelige computere, hvor det understøttes

Den kan vise, hvordan den kom frem til svaret.

Kan arbejde offline, hvor det understøttes.

model.dsl, typesikker forfatteroplevelse

eksekveringscelle og replay-kontrakt registreret

Dweve Core er en komplet AI-beregningsstack til træning og inferens. De fleste AI-platforme dækker en skive og overlader resten til andre leverandører. Core holder modeludvikling, træning, inferens, kerner, dispatch og drift i ét sammenhængende system. På understøttede binære arbejdsbyrder bruger Core 96% mindre energi end en GPU-stack.

Partial systems create permanent dependence

Definitionen og udførelsen kommer langsomt i uoverensstemmelse.

Compression lives in someone else's tool.

Ny hardware, nyt serveringssystem, ny adfærd.

Leverandørens køreplan bliver din køreplan.

Intet enkelt system kan forklare resultatet.

Afhængigheden består, fordi det beregningsmæssige rum under den kun er delvist dækket.

Core holder ændringer i numerisk bredde, pakning, hardware og implementering inden for ét implementeringssystem. En algoritme bliver ikke et andet produkt, fordi den flytter fra en x86-server til ARM, en GPU, en browser eller et specialiseret mål. Operationen forbliver navngivet, inspicerbar og ejet under hele flytningen, og hver sti er registreret frem for udledt fra en formatetiket.

Implementeringsregistret spænder over mere end 2.900 operationer, 76 operationskategorier og 25 registrerede numeriske formatfamilier. Hver sti er bestemt på tværs af ni dimensioner: algoritme, datatype, bredde, pakning, akkumulator, backend, instruktionssæt, dispatcheringspolitik og determinismetilstand. Repræsentationskontrakten holder disse numeriske og fysiske valg knyttet til operationen. Visualiseringen nedenfor fastlåser de fleste af disse dimensioner, så et lille repræsentativt udsnit forbliver læsbart. Antallet beskriver et register over konkrete celler og kontrakter, ikke en påstand om, at en formatetiket eller et bredt kapacitetsmærke alene forklarer en eksekveringssti.

Hvad der bærer det, med hvilken præcision.

Hvordan det lagres, hvordan det summeres.

Hvilken sti vælges, under hvilken kontrakt.

Udsnittet er lille, fordi implementeringsregistret ikke er det.

Én algoritme overlever enhver begrænsning

En ny bredde, pakning, vært eller kontrakt ankommer.

Maskinen vælger stien for den nye celle.

Hvilken kode der kørte, på hvilken maskine, angivet.

Den første nedarvede antagelse, Core fjerner, er, at én datatype skal dominere alt.

Processoren bør være lige så udskiftelig som datatypen.

Core behandler ikke ét acceleratorøkosystem som definitionen på AI og alt andet som en ringere port. Dets operationer har skalære referenceimplementeringer og målspecifikke stier på tværs af understøttede CPU-, GPU-, FPGA-, browser- og deployment-backends. Runtime vælger en implementering ud fra den tilgængelige maskine og den politik, der er knyttet til arbejdet.

En moderne x86-processor kan bruge sine vektorinstruktioner. ARM og Apple silicon kan bruge deres native stier. NVIDIA-, AMD- og Apple-GPU'er kan bruge deres respektive backends. Browserudførelse kan bruge WebAssembly eller WebGPU, hvor det er relevant. Deployment-programmer kan målrette specialiseret hardware. Processoren er en destination for operationen. Den er ikke ejer af modellen.

x86-vektorer, ARM- og Apple silicon-native stier.

NVIDIA-, AMD- og Apple-GPU'er på deres egne backends.

WebAssembly eller WebGPU, hvor det er relevant.

Specialiseret hardware til deployment-programmer.

Brede måletiketter er billige. At eje den reelle sti er sværere.

Datatypen blev ikke understøttet, målhardwaren ændrede sig, og quantizeren krævede en anden runtime.

Serving-stakken kunne ikke afspille resultatet. Indkøb åbnede endnu en leverandørgennemgang.

Du tilføjede ikke én funktion. Du afslørede endnu et hul i maskinen.

Håndjusteret betyder, at nogen ejer resultatet

En bred API er let at reklamere for. Bred maskinniveau-ejerskab er meget sværere. Core tæller ikke en operation som dækket, blot fordi en generisk implementering kompilerer på et andet mål. De understøttede stier er implementeret og justeret til deres faktiske kombination af operation, repræsentation, pakning, backend og instruktionssæt.

Binær matrixmultiplikation på AVX-512 behandles ikke som flydende komma-matrixmultiplikation med mindre værdier. Pakkede bit-operationer bruger de bit-instruktioner, der er tilgængelige på maskinen. Heltals- og fixed-point-operationer bruger den korrekte akkumulator og overflow-adfærd. GPU-stier bruger målets eksekveringsstruktur. Skalære implementeringer forbliver til stede som reference og universelt gulv. Det skaber et ansvarligt svar på et simpelt spørgsmål: hvilken kode udførte faktisk denne operation på denne maskine? Core kan navngive stien.

Bit-instruktioner til bits, ikke skalerede flydende tal.

NEON-kerner skrevet til ARMs egen vektorarkitektur.

Det ejerskab skal fortsætte ud over kernen og på tværs af hele modellens livscyklus.

Trænet til den repræsentation, den vil bruge.

Ruteret til den afstemte sti for værten.

Benchmarket og afspillet i samme maskine.

Når livscyklussen er sammenhængende, kan variation blive en kontrakt snarere end et uheld.

Core angiver kontrakten for den sti, der faktisk kørte. Core Native binære, ternære, fortegnede og ufortegnede heltals-, fastpunkts-, adaptive og eksakte stier er rent deterministiske, hvor de er dækket, uden frø. Core Native flydende, bfloat, blokskalerede og mikroskalerede stier bruger seedet afspilning. Valgfri Core på Kera gør understøttede stier i disse flydende familier også rent deterministiske.

En reguleret lavbit-, Q-format- eller adaptiv arbejdsgang kan kræve bit-identisk Core Native-afspilning. En arbejdsgang med flydende familie kan bruge et fastlåst frø og en fuldstændig registrering under Core Native. Kreativ sampling forbliver et separat generationsvalg. En implementering, der kræver rent deterministisk bfloat, blokskaleret, mikroskaleret eller konventionel flydende udførelse, kan bruge Core på Kera og fjerne frøet. Disse er forskellige erklærede kontrakter for den valgte celle, ikke udskiftelige marketingnavne for hvert gentaget svar.

den valgte sti angiver, hvilken der gælder

Binære, heltals-, Q-, adaptive og eksakte stier. Intet frø.

Flydende, bfloat, blokskaleret og mikroskaleret afspilning.

Understøttede stier i flydende familie, intet frø nødvendigt.

Når adfærd ændrer sig, bør ét system stadig eje forklaringen.

Når et produktionsresultat ændrer sig i en fragmenteret stak, er ansvaret fordelt. Frameworket bebrejder eksportøren. Eksportøren bebrejder runtime. Runtime bebrejder kernen. Kernen bebrejder driveren. Driveren bebrejder hardwaren. Core samler disse ansvarsområder i ét system.

Modeldefinitionen, numeriske valg, valgt backend, dispatchersti, determinismetilstand og den resulterende udførelsesregistrering kan undersøges sammen. Det betyder ikke, at enhver ekstern afhængighed forsvinder. Datakilder, applikationer, operativsystemer og hardware findes stadig. Det betyder, at AI-maskinen selv har én ansvarlig grænse. En gennemgang kan spørge, hvilken implementering der kørte, på hvilket understøttet mål og under hvilken afspilningskontrakt, uden at skulle sy svaret sammen fra flere leverandørers interne systemer.

undersøgt sammen, ikke på tværs af leverandører

Repræsentation, bredde, akkumulator, tilstand.

Den valgte sti og den maskine, den kørte på.

Registreringen, der gør det muligt at undersøge kørslen igen.

Core holder én AI-maskine, men den har to udførelsesholdninger.

Begge positioner bør lade implementeringen flytte sig uden at udskifte AI-systemet.

Hardwaren kan ændres uden at udskifte AI-systemet

Infrastrukturbeslutninger bør ikke tvinge en modelomskrivning. Core holder modellen, operatørfladen, den numeriske udformning og eksekveringskontrakten i samme system, mens implementeringspositionen ændres. Den valgte backend kan være forskellig. Organisationen behøver ikke at rekonstruere AI-stakken omkring det.

Et licenseret team kan drive Core på organisationens egne klynger eller arbejdsstationer. Et reguleret program kan kræve et fuldt isoleret miljø. Et produkt kan flytte en del af sin inferens til kanten, mens en browserapplikation kan have brug for et lokalt eksekveringsmål. Core holder disse licenserede driftspositioner i én maskine uden at hævde, at hver backend understøtter hver celle. Core er ikke et administreret serviceprodukt. Licensen beskriver en driftsposition og dens understøttede omfang, ikke et krav om alle mulige mål eller arbejdsbelastninger.