Stos obliczeniowy AI do trenowania i wnioskowania | Dweve Core

Choose the audience that matches your question

The page contains three selectable readings of the same subject.

Asystent kodowania i wsparcie operatora. Metryki demonstracyjne mają charakter poglądowy.

Terminal, wyszukiwanie, lint, testy, git i więcej.

Zapamiętuje kontekst Twojej bazy kodu i zespołu.

Wyspecjalizowani agenci współpracują w różnych obszarach.

Każdy krok jest rejestrowany z datą i godziną.

Zasady, kontrole i testy są zawsze uruchamiane.

Przeglądaj diffy, żądaj zmian, finalnie zatwierdzaj.

Odtwórz dowolną sesję bit po bicie, gdy coś wymaga przeglądu.

Przeczytaj retry.ts, wykryto błąd przekroczenia limitu czasu

Wyodrębnij guard + ogranicz liczbę ponowień

Autonomiczne agenty, które piszą kod i zostawiają ślad

do obsługi limitów czasu sieci, odpowiedzi 5xx i warunków bezpiecznych dla idempotencji. Czysta funkcja pomocnicza, w pełni pokryta testami jednostkowymi.

Możliwość i determinizm określone dla każdej komórki

Bezpośrednie działanie na infrastrukturze kontrolowanej przez klienta

Jeden model, kilka ścieżek kontrolowanych przez dostawcę

definicja i wykonanie powoli się rozjeżdżają

Runs on ordinary computers, where supported

zapisano komórkę wykonawczą i kontrakt powtórki

12 rodzin docelowych, odniesienie skalarne

od binarnego do konwencjonalnego zmiennoprzecinkowego

Format przechowywania nie jest typem akumulatora

Dweve Core to kompletny stos obliczeniowy AI do trenowania i wnioskowania. Większość platform AI obejmuje tylko wycinek, a resztę zostawia innym dostawcom. Core utrzymuje tworzenie modeli, trenowanie, wnioskowanie, jądra, dyspozytora i wdrażanie w jednym spójnym systemie. Przy obsługiwanych obciążeniach binarnych Core zużywa o 96% mniej energii niż stos GPU.

25 zarejestrowanych rodzin formatów numerycznych

Przy obsługiwanych obciążeniach binarnych.

Systemy częściowe tworzą trwałą zależność

Definicja i wykonanie powoli się rozjeżdżają.

Kompresja żyje w czyimś innym narzędziu.

Nowy sprzęt, nowy system obsługi, nowe zachowanie.

Mapa drogowa dostawcy staje się Twoją mapą drogową.

Żaden pojedynczy system nie wyjaśnia wyniku.

Zależność utrzymuje się, ponieważ przestrzeń obliczeniowa pod spodem jest tylko częściowo pokryta.

Implementacja jest strategicznym zasobem

Core utrzymuje zmiany szerokości numerycznej, pakowania, sprzętu i wdrożenia w jednym systemie implementacji. Algorytm nie staje się innym produktem, ponieważ przenosi się z serwera x86 na ARM, GPU, przeglądarkę lub wyspecjalizowany cel. Operacja pozostaje nazwana, możliwa do sprawdzenia i będąca własnością przez cały czas przenoszenia, a każda ścieżka jest rejestrowana, a nie wnioskowana z etykiety formatu.

Rejestr implementacji obejmuje ponad 2900 operacji, 76 kategorii operacji i 25 zarejestrowanych rodzin formatów numerycznych. Każda ścieżka jest określana na podstawie dziewięciu wymiarów: algorytmu, typu danych, szerokości, pakowania, akumulatora, backendu, zestawu instrukcji, polityki wysyłki i trybu determinizmu. Kontrakt reprezentacji utrzymuje te wybory numeryczne i fizyczne przywiązane do operacji. Poniższy rysunek ustala większość tych wymiarów, aby mały reprezentatywny wycinek pozostał czytelny. Liczba opisuje rejestr konkretnych komórek i kontraktów, a nie twierdzenie, że sama etykieta formatu lub szeroka odznaka możliwości wyjaśnia ścieżkę wykonywania.

Jak jest przechowywane, jak jest sumowane.

Gdzie działa, na której rzeczywistej ścieżce.

Która ścieżka jest wybierana, na podstawie którego kontraktu.

Próbka jest mała, ponieważ rejestr implementacji nie jest.

Jeden algorytm przetrwa każde ograniczenie

Pojawia się nowa szerokość, pakowanie, host lub kontrakt.

Maszyna wybiera ścieżkę dla nowej komórki.

Który kod działał, na której maszynie, stwierdzone.

Ten sam zasób, ten sam właściciel, nowy warunek.

Pierwszym odziedziczonym założeniem, które Core usuwa, jest to, że jeden typ danych powinien dominować nad wszystkim.

żaden szczebel nie jest funkcją badawczą

Procesor powinien być tak samo wymienialny jak typ danych.

Core nie traktuje jednego ekosystemu akceleratorów jako definicji AI, a wszystkiego innego jako gorszego portu. Jego operacje mają skalarną implementację referencyjną oraz ścieżki specyficzne dla obsługiwanych backendów CPU, GPU, FPGA, przeglądarek i wdrożeń. Środowisko uruchomieniowe wybiera implementację zgodnie z dostępną maszyną i polityką przypisaną do zadania.

Nowoczesny procesor x86 może używać swoich instrukcji wektorowych. ARM i Apple silicon mogą korzystać ze swoich natywnych ścieżek. GPU NVIDIA, AMD i Apple mogą używać swoich odpowiednich backendów. Wykonywanie w przeglądarce może używać WebAssembly lub WebGPU, gdzie to właściwe. Programy wdrożeniowe mogą celować w specjalistyczny sprzęt. Procesor jest celem operacji. Nie jest właścicielem modelu.

Wektory x86, natywne ścieżki ARM i Apple silicon.

GPU NVIDIA, AMD i Apple na własnych backendach.

WebAssembly lub WebGPU, gdzie to właściwe.

Specjalistyczny sprzęt dla programów wdrożeniowych.

Szerokie etykiety celów są tanie. Posiadanie prawdziwej ścieżki jest trudniejsze.

Typ danych był nieobsługiwany, sprzęt docelowy się zmienił, a kwantyzator wymagał innego środowiska uruchomieniowego.

Stos serwujący nie mógł odtworzyć wyniku. Zakupy otworzyły kolejny przegląd dostawcy.

Kwantyzator wymagał innego środowiska uruchomieniowego

Nie dodałeś jednej funkcji. Odkryłeś kolejną dziurę w maszynie.

Ręczne dostrojenie oznacza, że ktoś jest właścicielem wyniku

Szerokie API łatwo reklamować. Szerokie posiadanie na poziomie maszyny jest znacznie trudniejsze. Core nie uznaje operacji za pokrytą tylko dlatego, że ogólna implementacja kompiluje się na innym celu. Obsługiwane ścieżki są zaimplementowane i dostrojone do rzeczywistej kombinacji operacji, reprezentacji, pakowania, backendu i zestawu instrukcji.

Binarna multiplikacja macierzy na AVX-512 nie jest traktowana jako zmiennoprzecinkowa multiplikacja macierzy z mniejszymi wartościami. Operacje na bitach pakowanych używają instrukcji bitowych dostępnych na maszynie. Operacje na liczbach całkowitych i stałoprzecinkowych używają poprawnego akumulatora i zachowania przepełnienia. Ścieżki GPU używają struktury wykonawczej celu. Implementacje skalarne pozostają obecne jako referencja i uniwersalna podłoga. To tworzy odpowiedzialną odpowiedź na proste pytanie: jaki kod faktycznie wykonał tę operację na tej maszynie? Core może nazwać ścieżkę.

Napisana dla tego, co faktycznie jest obliczane.

Instrukcje bitowe dla bitów, nie skalowane liczby zmiennoprzecinkowe.

Poprawne zachowanie przepełnienia, z założenia.

Jądra NEON napisane dla własnej architektury wektorowej ARM.

To posiadanie musi trwać poza jądrem i przez cały cykl życia modelu.

Jedna maszyna od definicji do wnioskowania

stacje, których model nigdy nie opuszcza

Wytrenowany dla reprezentacji, której będzie używał.

Wykonywany przez system, który go wytrenował.

Kierowany do dostrojonej ścieżki dla hosta.

Testowany i odtwarzany w tej samej maszynie.

Gdy cykl życia jest spójny, zmienność może stać się kontraktem, a nie przypadkiem.

czysto zmiennoprzecinkowy tam, gdzie opcjonalny

Core określa kontrakt ścieżki, która faktycznie działała. Natywne ścieżki Core dla liczb binarnych, trójkowych, całkowitych ze znakiem i bez, stałoprzecinkowych, adaptacyjnych i dokładnych są czysto deterministyczne tam, gdzie są objęte, bez ziarna. Natywne ścieżki Core dla zmiennoprzecinkowych, bfloat, blokowo skalowanych i mikroskalowanych używają odtwarzania z ziarnem. Opcjonalny Core na Kera sprawia, że obsługiwane ścieżki w tych rodzinach zmiennoprzecinkowych są również czysto deterministyczne.

Regulowany przepływ pracy o niskiej liczbie bitów, formacie Q lub adaptacyjny może wymagać bitowo identycznego natywnego odtwarzania Core. Przepływ pracy z rodziną zmiennoprzecinkową może używać przypiętego ziarna i pełnego zapisu w ramach Core Native. Kreatywne próbkowanie pozostaje osobnym wyborem generacji. Wdrożenie wymagające czysto deterministycznego bfloat, blokowo skalowanego, mikroskalowanego lub konwencjonalnego wykonania zmiennoprzecinkowego może używać Core na Kera i usunąć ziarno. To różne zadeklarowane kontrakty dla wybranej komórki, a nie wymienne nazwy marketingowe dla każdej powtórzonej odpowiedzi.

wybrana ścieżka określa, który ma zastosowanie

Ścieżki binarne, całkowite, Q, adaptacyjne i dokładne. Bez ziarna.

Odtwarzanie zmiennoprzecinkowe, bfloat, blokowo skalowane i mikroskalowane.

Obsługiwane ścieżki z rodziny zmiennoprzecinkowej, bez wymaganego ziarna.

Gdy zachowanie się zmienia, jeden system powinien nadal posiadać wyjaśnienie.

Gdy wynik produkcji zmienia się w rozdrobnionym stosie, odpowiedzialność jest rozproszona. Struktura obwinia eksportera. Eksporter obwinia środowisko uruchomieniowe. Środowisko uruchomieniowe obwinia jądro. Jądro obwinia sterownik. Sterownik obwinia sprzęt. Core przenosi te odpowiedzialności do jednego systemu.

Definicja modelu, wybory numeryczne, wybrany backend, ścieżka wysyłki, tryb determinizmu i wynikowy zapis wykonania mogą być badane razem. To nie znaczy, że każda zewnętrzna zależność znika. Źródła danych, aplikacje, systemy operacyjne i sprzęt nadal istnieją. To znaczy, że sama maszyna AI ma jedną odpowiedzialną granicę. Przegląd może zapytać, która implementacja działała, na którym obsługiwanym celu i pod którym kontraktem odtwarzania, bez składania odpowiedzi z wewnętrznych systemów kilku dostawców.