AI Compute Stack for Training and Inference | Dweve Core

Asistencia pri kódovaní a prevádzke agentov. Ukazovatele sú len ilustračné.

Terminál, vyhľadávanie, lint, testy, git a ďalšie.

Pamätá si vašu kódovú základňu a kontext tímu.

Špecializovaní agenti spolupracujú naprieč oblasťami.

Každý krok je zaznamenaný s časovými pečiatkami.

Pravidlá, kontroly a testy sa vždy spúšťajú.

Skontrolujte diffy, požiadajte o zmeny, finálny súhlas.

Prehrajte ľubovoľnú reláciu bit po bite, keď treba niečo skontrolovať.

Prečítať retry.ts, vystopovať chybu s timeoutom

Autonómni agenti, ktorí píšu kód a vedú záznamy

na spracovanie sieťových timeoutov, odpovedí 5xx a idempotentne bezpečných podmienok. Čistá pomocná funkcia, plne pokrytá testami.

Deployment target, synthesis scaffolding

Runtime dispatcher, picks per call by target and policy

One operator definition, hand tuned kernels per ISA. If your silicon shipped in the last eight years, Core has a path to it.

Schopnosť a determinizmus uvedené pre každú bunku

Priama prevádzka na infraštruktúre spravovanej zákazníkom

Jeden model, niekoľko ciest spravovaných dodávateľom

definícia a vykonávanie sa pomaly rozchádzajú

Jedna operátorská plocha pre framework, engine aj kompilátor. Žiadne externé lepidlo.

Core beží na Kera, deterministickom medzireprezentovaní. Kera je samotné IR, nie obal okolo MLIR a nie je postavené na LLVM. Viacúrovňové znižovanie prevádza neurónový graf na hardvérovo špecifický natívny kód s fúziou.

Kompletný tréningový engine s kvantizáciou uvedomujúcou si tréning, znalostnou destiláciou, progresívnou presnosťou a distribuovaným tréningom. Inference engine ponúka tri režimy determinizmu a produkčné nasadenie.

Typovo bezpečný DSL pre akúkoľvek architektúru a akúkoľvek šírku bitu. Zostavte z primitív alebo existujúcich vrstiev a pridajte vlastné s rovnakou testovacou infraštruktúrou ako vstavané.

Alebo natívne Rust jadrá pre každý runtime

Vlastné operácie, rovnaký testovací rámec

Akýkoľvek dátový typ, akákoľvek šírka bitu

Beží na bežných počítačoch, kde je to podporované

Môže fungovať offline, kde je to podporované.

Dôkaz spustený cez spravovaný Fabric môže neskôr podporiť prechod na licencovanú prevádzku Core, vrátane fyzicky izolovaného licencovaného prostredia. Spravovaný Fabric samotný nezahŕňa Core.

Čo možno preniesť v rámci adopčnej cesty

jedna cesta dôkazu, dve licencované prevádzkové pozície

Povinnosti týkajúce sa údajov uvedené pre každú pozíciu

Práva na prenos len tam, kde sú zmluvne stanovené

Fyzicky izolované licencované nasadenie pre prostredia, ktoré neznesú externé pripojenie. Práva na technologický prenos a nezávislosť sú dostupné len tam, kde ich vybraná vládna a kritická infraštruktúrna úroveň výslovne uvádza.

Úschova zdrojového kódu spoplatnená samostatne

Prevádzkujte licencovaný Core na vlastných serveroch vo vlastnom dátovom centre. Vaši operátori držia kľúče; úschova zdrojového kódu a práva na zdrojový kód zostávajú samostatné, pokiaľ zmluva výslovne nezahŕňa ich.

Postavené v Holandsku; prevádzková hranica stanovená v zmluve

Spravovaný Fabric je samostatná služba na verejnom Mesh a nezahŕňa prístup k Core ani prevádzku Core. Priama prevádzka Core začína licenciou pre infraštruktúru riadenú zákazníkom.

Dôkaz cez spravovaný Fabric, bez prístupu k Core

Determinizmus je nastavenie, nie ambícia. Testovacia sada ho presadzuje, nie je sľubovaný v texte.

Prepnutie na požiadanie, bez nového nasadenia.

odoslanie: rovnaký celočíselný/pevný model v každom režime

core.infer(model, x, determinism="creative", temp=0.8)

Úplný nedeterminizmus tam, kde je to žiaduce. Vzorkovanie s teplotou, top k a top p. Rovnaký model odoslania s uvoľneným determinizmom, bez samostatnej vetvy kódu.

seed: 42, rovnaký seed dáva rovnaký výstup

core.infer(model, x, determinism="seeded", seed=42)

Reprodukovateľné pri rovnakom semene, rôzne semená produkujú rôzne výstupy. Užitočné pre A/B testovanie, Monte Carlo behy a akýkoľvek pracovný postup, kde je žiaduca riadená variabilita.

core.infer(model, x, determinism="hard")

Smeruje cez deklarovanú celočíselnú a pevnú aritmetiku, čím odstraňuje platformovo závislý aritmetický drift. Bitovo identické výstupy naprieč podporovanými cieľmi. Režim používaný, keď zmluva alebo regulátor vyžaduje reprodukovateľnosť.

Core počíta jednoduchšie a ľahšie ako väčšina AI. Nepotrebuje preto miestnosť plnú hladných čipov. Stačí počítač, ktorý už máte.

Keďže beží na vašom vlastnom zariadení, vaše otázky a dokumenty nemusia cestovať do vzdialenej spoločnosti. To, čo napíšete, zostane tam, kde to vidíte.

Keď vám Core dá odpoveď, môže ukázať kroky, ktoré k nej viedli, ako učiteľ matematiky, ktorý vypisuje príklad. Nikdy to nemusíte brať na vieru.

Motora sa nikdy nedotknete. Ale všetko, čo cítite, rýchlosť, plynulosť, ticho, pochádza z toho, ako dobre je postavený. Väčšina AI je postavená z motorov kúpených z regálu. Dweve postavil vlastný, takže beží dobre na bežných počítačoch a vaše veci zostávajú s vami.

Core, tichý motor pod každým produktom Dweve

Jednoduché na používanie, šetrné k vašej peňaženke a navždy vaše

Dweve je postavený v Holandsku ľuďmi, ktorí sa zodpovedajú európskemu právu. Za strojom, ktorý používate, stojí skutočná spoločnosť a skutočné miesto.

Spotrebúva oveľa menej elektriny ako AI, ktorá potrebuje obrovské stroje. To udržiava cenu nízku a umožňuje, aby vôbec existovala bezplatná verzia.

Keď vám niečo povie, môže vám ukázať, ako sa k tomu dopracoval, krok za krokom. Ak si nie je istý, povie to namiesto toho, aby hádal a dúfal.

Keďže stroj žije priamo vo vašom zariadení, funguje aj vtedy, keď spojenie vypadne. Ako kalkulačka nepotrebuje nikomu telefonovať, aby urobil svoju prácu.

Vaše listy, fotky a otázky sa neposielajú do vzdialeného počítača. Zostávajú u vás, v Európe, podľa európskych pravidiel.

Nemusíte kupovať nič nové ani drahé. Ak váš notebook dokáže prehrať video, dokáže spustiť Dweve. Tá šikovná časť je zabudovaná v stroji, nie v drahom zariadení.

model.dsl, autorovanie s typovou bezpečnosťou

zaznamenané vykonávacie bunky a kontrakt prehrávania

Core mení substrát, nie rozhranie, ktoré už poznáte.

Pevná deterministickosť prehrá výsledok bit po bite, na požiadanie.

Súlad sa zostavuje až po tom, čo prídu ťažké otázky.

Iba dátové cesty v EÚ, postavené a prevádzkované z Holandska.

Dáta pristávajú na zahraničnom hyperscaleri pod cudzím právom.

O 96 % menej energie ako GPU stack, rovnaké odpovede za zlomok prevádzkových nákladov.

Generatívny GPU stack čerpá energiu po megawattoch.

CPU na prvom mieste, na serveroch, ktoré už vlastníte.

GPU klastre, o ktoré súťažíte s hyperscalermi.

XNOR + POPCNT, bitové maticové násobenie

Výskum okrajov a nízkych bitov. Súčasť príbehu o 96 % nižšej spotrebe energie.

Kvantizované GEMM, Q-notácia, bitová rovina

Kvantizovaná inferencia a deterministická pevná rádová čiarka.

Q8.8, Q12.4, celočíselná mierka pre skupiny

Interné trénovanie a vrstvy citlivé na presnosť.

široká pevná rádová čiarka alebo presná cez Numerus

Kontrakty determinizmu a referenčné kontroly.

25 numerických rodín, žiadna interná FP cesta

Vyberte interné úložisko, akumulátor a politiku odosielania pre každý operátor. Externý plávajúci vstup sa konvertuje na hranici predtým, ako kompilátor zníži zmes na cieľ.

Každá interná reprezentácia je občanom prvej triedy, vstavaná do operátora, nie konfigurovaná dodatočne.

binárne na adaptívnu pevnú rádovú čiarku

Postavené na Kera, deterministické už návrhom

Rovnaká práca, vykonaná jedným enginom, ktorý vlastníte, namiesto hromady nástrojov od rôznych dodávateľov zlepených dokopy.

Päť cyklov aktualizácií, päť bezpečnostných povrchov, päť miest, kde sa to môže pokaziť.

Každý výsledok sa dá prehrať a skontrolovať.

Dáta zostávajú v Európe, na infraštruktúre, ktorú ovládate.

Žiadne obstarávanie GPU, žiadna vojna ponúk s hyperscalermi.

Jedna zmluva, jedna linka podpory, jeden cyklus aktualizácií.

Dweve Core je kompletný výpočtový zásobník AI na trénovanie a inferenciu. Väčšina AI platforiem pokrýva len časť a zvyšok prenecháva iným dodávateľom. Core udržiava tvorbu modelov, trénovanie, inferenciu, jadrá, dispatch a nasadenie v jednom koherentnom systéme. Pri podporovaných binárnych záťažiach spotrebuje Core o 96 % menej energie ako GPU zásobník.

25 registrovaných rodín číselných formátov

Čiastočné systémy vytvárajú trvalú závislosť

Definícia a vykonávanie sa pomaly rozchádzajú.

Kompresia žije v nástroji niekoho iného.

Nový hardvér, nový servisný systém, nové správanie.

Žiadny jednotný systém nedokáže vysvetliť výsledok.

Závislosť pretrváva, pretože výpočtový priestor pod ňou je pokrytý len čiastočne.

Core udržiava zmeny v numerickej šírke, balení, hardvéri a nasadení v rámci jedného implementačného systému. Algoritmus sa nestáva iným produktom, keď sa presunie zo servera x86 na ARM, GPU, prehliadač alebo špecializovaný cieľ. Operácia zostáva počas celého presunu pomenovaná, kontrolovateľná a vlastnená a každá cesta je registrovaná, nie odvodená z označenia formátu.

Register implementácií pokrýva viac ako 2 900 operácií, 76 kategórií operácií a 25 registrovaných rodín numerických formátov. Každá cesta je určená v deviatich dimenziách: algoritmus, dátový typ, šírka, balenie, akumulátor, backend, inštrukčná sada, politika odosielania a režim determinizmu. Zmluva o reprezentácii udržiava tieto numerické a fyzické voľby pripojené k operácii. Vizuál nižšie fixuje väčšinu týchto dimenzií, aby zostal čitateľný malý reprezentatívny výrez. Počet opisuje register konkrétnych buniek a zmlúv, nie tvrdenie, že samotné označenie formátu alebo široký odznak schopnosti vysvetľuje vykonávaciu cestu.