AI-beräkningsstack för träning och inferens | Dweve Core

Choose the audience that matches your question

The page contains three selectable readings of the same subject.

Kodagent och operatörsassistans. Demomätvärdena är illustrativa.

Terminal, sökning, lint, test, git med mera.

Specialiserade agenter samarbetar över olika områden.

Varje steg registreras med tidsstämplar.

Policyer, kontroller och tester körs alltid.

Granska diffar, begär ändringar, slutgiltigt godkännande.

Spela upp valfri session bit för bit när något behöver granskas.

Autonoma agenter som skriver kod och lämnar kvitton

för att hantera nätverkstimeouts, 5xx-svar och idempotenta villkor. Ren hjälpfunktion, fullt enhetstestad.

Kapacitet och determinism angiven per cell

definitionen och exekveringen börjar gradvis avvika

exekveringscell och replay-kontrakt registrerade

Lagringsformatet är inte av ackumulatortyp

Dweve Core är en komplett AI-beräkningsstack för träning och inferens. De flesta AI-plattformar täcker en del och lämnar resten till andra leverantörer. Core håller modellskapande, träning, inferens, kärnor, dispatch och distribution i ett sammanhållet system. För stödda binära arbetsbelastningar använder Core 96 % mindre energi än en GPU-stack.

25 registrerade numeriska formatfamiljer

Delvisa system skapar permanent beroende

Definitionen och exekveringen börjar sakta avvika.

Komprimering ligger i någon annans verktyg.

Ny hårdvara, nytt serveringssystem, nytt beteende.

Leverantörens färdplan blir din färdplan.

Inget enskilt system kan förklara resultatet.

Beroendet kvarstår eftersom det beräkningsutrymme som ligger under bara är delvis täckt.

Implementeringen är den strategiska tillgången

Core håller ändringar i numerisk bredd, packning, hårdvara och driftsättning inom ett enda implementationssystem. En algoritm blir inte en annan produkt för att den flyttas från en x86-server till ARM, en GPU, en webbläsare eller ett specialiserat mål. Operationen förblir namngiven, inspekterbar och ägd under hela flytten, och varje väg registreras snarare än härleds från en formatetikett.

Implementeringsregistret omfattar fler än 2 900 operationer, 76 operationskategorier och 25 registrerade numeriska formatfamiljer. Varje väg bestäms utifrån nio dimensioner: algoritm, datatyp, bredd, packning, ackumulator, backend, instruktionsuppsättning, dispatchningspolicy och determinismläge. Representationskontraktet håller dessa numeriska och fysiska val kopplade till operationen. Den visuella bilden nedan fixerar de flesta av dessa dimensioner så att en liten representativ del förblir läsbar. Antalet beskriver ett register över konkreta celler och kontrakt, inte ett påstående om att en formatetikett eller en bred kapacitetsmärkning ensam förklarar en exekveringsväg.

Vilken väg som väljs, under vilket kontrakt.

Provet är litet eftersom implementeringsregistret inte är det.

En ny bredd, packning, värd eller ett nytt kontrakt anländer.

Maskinen väljer vägen för den nya cellen.

Vilken kod som kördes, på vilken maskin, anges.

Samma tillgång, samma ägare, nytt villkor.

Det första nedärvda antagandet som Core tar bort är att en datatyp ska dominera allt.

Processorn borde vara lika utbytbar som datatypen.

Core behandlar inte ett accelerator-ekosystem som definitionen av AI och allt annat som en mindre port. Dess operationer har skalära referensimplementationer och målspecifika sökvägar över stödda CPU-, GPU-, FPGA-, webbläsar- och driftsättningsbackendar. Körtiden väljer en implementation baserat på tillgänglig maskin och den policy som är kopplad till arbetet.

En modern x86-processor kan använda sina vektorinstruktioner. ARM och Apple silicon kan använda sina inbyggda sökvägar. NVIDIA-, AMD- och Apple-GPU:er kan använda sina respektive backendar. Webbläsarexekvering kan använda WebAssembly eller WebGPU där det är lämpligt. Driftsättningsprogram kan rikta in sig på specialiserad hårdvara. Processorn är en destination för operationen. Den äger inte modellen.

x86-vektorer, ARM- och Apple silicon-inbyggda sökvägar.

NVIDIA-, AMD- och Apple-GPU:er på sina egna backendar.

WebAssembly eller WebGPU där det är lämpligt.

Specialiserad hårdvara för driftsättningsprogram.

Breda måletiketter är billiga. Att äga den verkliga sökvägen är svårare.

Datatypen stöddes inte, målhårdvaran ändrades och kvantiseraren behövde en annan körtid.

Serveringsstacken kunde inte spela upp resultatet. Inköp öppnade en ny leverantörsgranskning.

Du lade inte till en funktion. Du blottade ett annat hål i maskinen.

Handjusterad betyder att någon äger resultatet

En bred API är lätt att marknadsföra. Bred maskinnivåägande är mycket svårare. Core räknar inte en operation som täckt bara för att en generisk implementation kompilerar på ett annat mål. De stödda sökvägarna är implementerade och justerade för sin faktiska kombination av operation, representation, packning, backend och instruktionsuppsättning.

Binär matrismultiplikation på AVX-512 behandlas inte som flyttalsmatrismultiplikation med mindre värden. Packade bitoperationer använder de bitinstruktioner som finns tillgängliga på maskinen. Heltals- och fixpunktsoperationer använder korrekt ackumulator- och overflow-beteende. GPU-sökvägar använder målarkitekturens exekveringsstruktur. Skalära implementationer finns kvar som referens och universellt golv. Det skapar ett ansvarsfullt svar på en enkel fråga: vilken kod utförde faktiskt denna operation på denna maskin? Core kan namnge sökvägen.

Bitinstruktioner för bitar, inte skalade flyttal.

Korrekt overflow-beteende, genom design.

NEON-kärnor skrivna för ARMs egen vektorarkitektur.

Det ägandet måste fortsätta bortom kärnan och genom hela modellens livscykel.

Tränad för representationen den kommer att använda.

Dirigerad till den anpassade sökvägen för värden.

Prestandatestad och uppspelad i samma maskin.

När livscykeln är sammanhållen kan variation bli ett kontrakt snarare än en olycka.

Core anger kontraktet för den sökväg som faktiskt kördes. Core Native binära, ternära, tecknade och otecknade heltals-, fixpunkts-, adaptiva och exakta sökvägar är rent deterministiska där de täcks, utan frö. Core Native flyttals-, bfloat-, blockskalade och mikroskalade sökvägar använder fröbaserad uppspelning. Valfri Core på Kera gör stödda sökvägar i dessa flyttalsfamiljer rent deterministiska också.

Ett reglerat lågbits-, Q-format- eller adaptivt arbetsflöde kan kräva bitidentisk Core Native-uppspelning. Ett flyttalsfamiljsarbetsflöde kan använda ett fast frö och fullständig registrering under Core Native. Kreativ sampling förblir ett separat generationsval. En driftsättning som kräver rent deterministisk bfloat-, blockskalad-, mikroskalad- eller konventionell flyttalsexekvering kan använda Core på Kera och ta bort fröet. Dessa är olika deklarerade kontrakt för den valda cellen, inte utbytbara marknadsföringsnamn för varje upprepat svar.

den valda sökvägen anger vilket som gäller

Binära, heltals-, Q-, adaptiva och exakta sökvägar. Inget frö.

Flyttals-, bfloat-, blockskalad- och mikroskalad uppspelning.

Stödda flyttalsfamiljssökvägar, inget frö krävs.

När beteendet ändras bör ett system fortfarande äga förklaringen.

När ett produktionsresultat ändras i en fragmenterad stack är ansvaret fördelat. Ramverket skyller på exportören. Exportören skyller på körtiden. Körtiden skyller på kärnan. Kärnan skyller på drivrutinen. Drivrutinen skyller på hårdvaran. Core samlar dessa ansvarsområden inom ett system.

Modelldefinitionen, numeriska val, vald backend, dispatch-sökväg, determinismläge och resulterande exekveringspost kan granskas tillsammans. Det betyder inte att varje extern beroende försvinner. Datakällor, applikationer, operativsystem och hårdvara finns fortfarande. Det betyder att AI-maskinen själv har en ansvarsgräns. En granskning kan fråga vilken implementation som kördes, på vilket stött mål och under vilket uppspelningskontrakt, utan att sy ihop svaret från flera leverantörers interna system.

granskad tillsammans, inte över leverantörer

Representation, bredd, ackumulator, läge.

Den valda sökvägen och maskinen den kördes på.

Posten som gör att körningen kan granskas igen.

Core håller en AI-maskin, men den har två exekveringspositioner.

Båda förhållningssätten bör låta driftsättningen flyttas utan att AI-systemet byts ut.

Hårdvaran kan ändras utan att AI-systemet byts ut

Infrastrukturbeslut bör inte tvinga fram en omskrivning av modellen. Kärnan håller modellen, operatörsytan, numerisk design och exekveringskontrakt inom samma system medan driftsättningsförhållningssättet ändras. Den valda backend kan skilja sig. Organisationen behöver inte bygga om AI-stacken runt den.

Ett licensierat team kan driva Kärnan på organisationens kontrollerade kluster eller arbetsstationer. Ett reglerat program kan kräva en helt isolerad miljö. En produkt kan flytta delar av sin inferens till kanten, medan en webbläsarapplikation kan behöva ett lokalt exekveringsmål. Kärnan håller dessa licensierade driftsförhållningssätt inom en maskin utan att hävda att varje backend stöder varje cell. Kärnan är inte en hanterad tjänsteprodukt. Licensen beskriver ett driftsförhållningssätt och dess stödda omfattning, inte ett anspråk på varje möjligt mål eller arbetsbelastning.