AI-számítás tanításhoz és következtetéshez | Dweve Core

Choose the audience that matches your question

The page contains three selectable readings of the same subject.

Kódolási ügynök és operátori segítség. A bemutató mérőszámok illusztratívak.

Terminál, keresés, lint, teszt, git és egyebek.

Megjegyzi a kódbázis és a csapat kontextusát.

Speciális ügynökök együttműködnek a különböző területeken.

A szabályzatok, ellenőrzések és tesztek mindig futnak.

Diffek áttekintése, változtatások kérése, végső jóváhagyás.

Bármely munkamenet bitre pontosan visszajátszható, ha valamit ellenőrizni kell.

retry.ts olvasása, időtúllépési hiba nyomon követése

Guard kivonása + újrapróbálkozások korlátozása

Autonóm ügynökök, amelyek kódot írnak és nyomot hagynak

hálózati időtúllépések, 5xx válaszok és idempotens-biztos feltételek kezelésére. Tiszta segédfüggvény, teljesen egységtesztelve.

Képesség és determinizmus cellánként megadva

Közvetlen működés az ügyfél által felügyelt infrastruktúrán

Egy modell, több szállító által kezelt út

a definíció és a végrehajtás lassan eltér

Hétköznapi számítógépeken fut, ahol támogatott

A dolgaid itthon maradhatnak, Európában.

model.dsl, típusbiztos szerzői környezet

végrehajtási cella és visszajátszási szerződés rögzítve

A tárolási formátum nem akkumulátor típus

A Dweve Core egy teljes AI számítási verem tanításhoz és következtetéshez. A legtöbb AI platform csak egy szeletet fed le, a többit más szállítókra bízza. A Core a modellalkotást, a tanítást, a következtetést, a kerneleket, az ütemezést és a telepítést egy koherens rendszerben tartja. Támogatott bináris munkaterheléseknél a Core 96%-kal kevesebb energiát használ, mint egy GPU verem.

A részleges rendszerek állandó függőséget teremtenek

A definíció és a végrehajtás lassan eltér egymástól.

Új hardver, új kiszolgálórendszer, új viselkedés.

A szállító ütemterve lesz az Ön ütemterve.

Egyetlen rendszer sem tudja megmagyarázni az eredményt.

A függőség fennmarad, mert az alatta lévő számítási tér csak részben lefedett.

A Core a numerikus szélesség, a csomagolás, a hardver és a telepítés változásait egyetlen megvalósítási rendszeren belül tartja. Egy algoritmus nem válik más termékké attól, hogy x86-os szerverről ARM-ra, GPU-ra, böngészőre vagy speciális célra költözik. A művelet a költözés során végig nevesített, ellenőrizhető és tulajdonolt marad, és minden út regisztrálva van, nem pedig formátumcímkéből következtetve.

A megvalósítási nyilvántartás több mint 2900 műveletet, 76 műveleti kategóriát és 25 regisztrált numerikus formátumcsaládot ölel fel. Minden út kilenc dimenzió mentén van meghatározva: algoritmus, adattípus, szélesség, csomagolás, akkumulátor, háttérrendszer, utasításkészlet, ütemezési szabályzat és determinizmusmód. A reprezentációs szerződés ezeket a numerikus és fizikai választásokat a művelethez kötve tartja. Az alábbi vizuális ábra a dimenziók nagy részét rögzíti, hogy egy kis reprezentatív szelet olvasható maradjon. A szám konkrét cellák és szerződések nyilvántartását írja le, nem pedig azt az állítást, hogy egy formátumcímke vagy egy tág képességjelvény önmagában megmagyaráz egy végrehajtási utat.

Melyik út van kiválasztva, milyen szerződés alapján.

A minta kicsi, mert a megvalósítási nyilvántartás nem az.

Új szélesség, csomagolás, gazdagép vagy szerződés érkezik.

A gép kiválasztja az utat az új cellához.

Melyik kód futott, melyik gépen, kimondva.

Ugyanaz az eszköz, ugyanaz a tulajdonos, új feltétel.

Az első örökölt feltételezés, amelyet a Core eltávolít, az, hogy egy adattípusnak mindent uralnia kell.

nincs olyan fokozat, ami kutatási funkció lenne

A processzornak ugyanolyan cserélhetőnek kell lennie, mint az adattípusnak.

A Core nem tekinti az egyik gyorsítóökoszisztémát az AI definíciójának, és minden mást alsóbbrendű portnak. Műveletei skaláris referenciaimplementációkkal és cél-specifikus útvonalakkal rendelkeznek a támogatott CPU-, GPU-, FPGA-, böngésző- és telepítési háttérrendszereken. A futási idő a rendelkezésre álló gép és a munkához rendelt szabályzat alapján választ implementációt.

Egy modern x86-os processzor használhatja vektorutasításait. Az ARM és az Apple silicon használhatja natív útvonalait. Az NVIDIA, AMD és Apple GPU-k használhatják a saját háttérrendszereiket. A böngészős végrehajtás használhat WebAssembly-t vagy WebGPU-t, ahol indokolt. A telepítési programok célzott hardvert célozhatnak meg. A processzor a művelet célpontja. Nem a modell tulajdonosa.

x86 vektorok, ARM és Apple silicon natív útvonalak.

NVIDIA, AMD és Apple GPU-k a saját háttérrendszereiken.

Speciális hardver telepítési programokhoz.

A tág célcímkék olcsók. A valódi útvonal birtoklása nehezebb.

Az adattípus nem volt támogatott, a célhardver megváltozott, és a kvantálónak új futási időre volt szüksége.

A kiszolgáló verem nem tudta visszajátszani az eredményt. A beszerzés új szállítói felülvizsgálatot indított.

A kvantálónak új futási időre volt szüksége

Az eredményt nem lehetett visszajátszani

A beszerzés új felülvizsgálatot indított

Nem egy funkciót adtál hozzá. Egy újabb lyukat tártál fel a gépben.

A kézzel hangolás azt jelenti, hogy valaki birtokolja az eredményt

A széles API-t könnyű hirdetni. A széles gépszintű birtoklás sokkal nehezebb. A Core nem tekint egy műveletet lefedettnek pusztán azért, mert egy általános implementáció lefordul egy másik célra. A támogatott útvonalak a művelet, reprezentáció, csomagolás, háttérrendszer és utasításkészlet tényleges kombinációjára vannak implementálva és hangolva.

A bináris mátrixszorzás AVX-512-en nem számít lebegőpontos mátrixszorzásnak kisebb értékekkel. A csomagolt bitműveletek a gép rendelkezésére álló bitutasításokat használják. Az egész és fixpontos műveletek a helyes akkumulátort és túlcsordulási viselkedést használják. A GPU-útvonalak a cél végrehajtási szerkezetét használják. A skaláris implementációk megmaradnak referenciaként és univerzális padlóként. Ez elszámoltatható választ ad egy egyszerű kérdésre: milyen kód hajtotta végre ténylegesen ezt a műveletet ezen a gépen? A Core meg tudja nevezni az útvonalat.

Bitutasítások bitekhez, nem skálázott lebegőpontosok.

Helyes túlcsordulási viselkedés, tervezésből.

NEON kernel az ARM saját vektorarchitektúrájához írva.

Ennek a birtoklásnak a kernelen túl, a teljes modell-életcikluson át kell folytatódnia.

Egy gép a definíciótól a következtetésig

az állomások, amelyeket a modell soha nem hagy el

A modell szerzője Core kifejezésekkel dolgozik.

Arra a reprezentációra tanítva, amelyet használni fog.

A rendszer hajtja végre, amelyik tanította.

A gazdagéphez hangolt útvonalra irányítva.

Ugyanabban a gépben benchmarkolva és újra lejátszva.

Ha az életciklus koherens, a variáció szerződéssé válhat, nem véletlenné.

A Core megadja a ténylegesen futott útvonal szerződését. A Core Native bináris, hármas, előjeles és előjel nélküli egész, fixpontos, adaptív és egzakt útvonalai tiszta determinisztikusak, ahol lefedettek, mag nélkül. A Core Native lebegőpontos, bfloat, blokk-skálázott és mikro-skálázott útvonalai magozott újrajátszást használnak. Az opcionális Core a Kera-n támogatott útvonalakat tesz tiszta determinisztikussá ezekben a lebegőpontos családokban.

Egy szabályozott alacsony bitű, Q-formátumú vagy adaptív munkafolyamat megkövetelheti a bit-azonos Core Native újrajátszást. Egy lebegőpontos családú munkafolyamat használhat rögzített magot és teljes rekordot a Core Native alatt. A kreatív mintavételezés külön generációs döntés marad. Egy olyan telepítés, amely tiszta determinisztikus bfloat, blokk-skálázott, mikro-skálázott vagy hagyományos lebegőpontos végrehajtást igényel, használhatja a Core-t a Kera-n, és eltávolíthatja a magot. Ezek különböző deklarált szerződések a kiválasztott cellára, nem felcserélhető marketingnevek minden ismételt válaszra.

a kiválasztott útvonal megmondja, melyik érvényes

Bináris, egész, Q, adaptív és egzakt útvonalak. Mag nélkül.

Lebegőpontos, bfloat, blokk-skálázott és mikro-skálázott újrajátszás.

Támogatott lebegőpontos családú útvonalak, mag nélkül.

Amikor a viselkedés változik, egy rendszernek kell birtokolnia a magyarázatot.

Amikor egy termelési eredmény megváltozik egy töredezett stackben, a felelősség szétoszlik. A keretrendszer az exportőrt hibáztatja. Az exportőr a futásidőt hibáztatja. A futásidő a kernelt hibáztatja. A kernel az illesztőprogramot hibáztatja. Az illesztőprogram a hardvert hibáztatja. A Core ezeket a felelősségeket egy rendszeren belülre hozza.

A modell definíciója, numerikus döntések, kiválasztott háttér, dispatch útvonal, determinizmus mód és az eredményül kapott végrehajtási rekord együtt vizsgálható. Ez nem jelenti azt, hogy minden külső függőség eltűnik. Adatforrások, alkalmazások, operációs rendszerek és hardver továbbra is léteznek. Azt jelenti, hogy az AI gépnek egy elszámoltatható határa van. Egy felülvizsgálat megkérdezheti, hogy melyik implementáció futott, melyik támogatott célon és melyik újrajátszási szerződés alatt, anélkül hogy több szállító belső rendszeréből kellene összevarrni a választ.

A definíció és annak numerikus döntései.

Reprezentáció, szélesség, akkumulátor, mód.

A kiválasztott útvonal és a gép, amelyen futott.

A rekord, amely lehetővé teszi a futás újbóli vizsgálatát.

A Core egy AI gépet tart fenn, de két végrehajtási módja van.