AI изчислителен стек за обучение и извод | Dweve Core

Choose the audience that matches your question

The page contains three selectable readings of the same subject.

Асистент за кодиране и операторска помощ. Демо метриките са илюстративни.

Терминал, търсене, lint, тестове, git и други.

Запомня вашата кодова база и контекста на екипа.

Специализирани агенти си сътрудничат по различни аспекти.

Всяка стъпка се записва с времеви клейма.

Политики, проверки и тестове винаги се изпълняват.

Прегледайте дифовете, поискайте промени, финален подпис.

Възпроизведете всяка сесия бит за бит, когато нещо трябва да се прегледа.

Прочети retry.ts, откри грешка с таймаут

Извади guard + ограничи повторните опити

Автономни агенти, които пишат код и водят отчетност

за обработка на мрежови таймаути, 5xx отговори и идемпотентно безопасни условия. Чист помощник, напълно покрит с unit тестове.

Възможности и детерминизъм, посочени за всяка клетка

Директна работа върху инфраструктура, контролирана от клиента

Един модел, няколко пътя, поддържани от доставчика

определението и изпълнението постепенно се разминават

Работи на обикновени компютри, където се поддържа

Може да работи офлайн, където се поддържа.

Нещата ви могат да си останат вкъщи, в Европа.

model.dsl, авторство с типова безопасност

диспечирането разрешено, ядрото именувано

клетка за изпълнение и договор за повторение записани

12 целеви семейства, скаларна референция

Форматът за съхранение не е от тип accumulator

Dweve Core е цялостен AI изчислителен стек за обучение и inference. Повечето AI платформи покриват част и прехвърлят останалото на други доставчици. Core държи създаването на модели, обучението, inference, ядрата, диспечирането и разгръщането в една съгласувана система. При поддържани двоични натоварвания Core използва 96% по-малко енергия от GPU стек.

25 регистрирани семейства числови формати

Частичните системи създават постоянна зависимост

Дефиницията и изпълнението бавно се разминават.

Нов хардуер, нова система за обслужване, ново поведение.

Пътната карта на доставчика става твоята пътна карта.

Нито една система не може да обясни резултата.

Зависимостта продължава, защото изчислителното пространство отдолу е само частично покрито.

Core държи промените в числовата ширина, опаковането, хардуера и разгръщането в една система за имплементация. Един алгоритъм не се превръща в различен продукт, защото преминава от x86 сървър към ARM, GPU, браузър или специализирана цел. Операцията остава именувана, инспектируема и собственост през целия преход, а всеки път е регистриран, а не изведен от етикет на формат.

Регистърът на имплементациите обхваща над 2 900 операции, 76 категории операции и 25 регистрирани семейства числови формати. Всеки път се определя по девет измерения: алгоритъм, тип данни, ширина, опаковане, акумулатор, бекенд, набор от инструкции, политика на диспечиране и режим на детерминизъм. Договорът за представяне държи тези числови и физически избори прикрепени към операцията. Визуализацията по-долу фиксира повечето от тези измерения, така че малък представителен отрязък остава четим. Броят описва регистър от конкретни клетки и договори, а не твърдение, че етикет на формат или широк знак за възможност сам по себе си обяснява път на изпълнение.

Извадката е малка, защото регистърът на имплементациите не е.

Един алгоритъм оцелява при всяко ограничение

Пристига нова ширина, опаковане, хост или договор.

Кой код е изпълнен, на коя машина, заявено.

Същият актив, същият собственик, ново условие.

Първото наследено предположение, което Core премахва, е, че един тип данни трябва да доминира над всичко.

няма стъпало, което да е изследователска функция

Процесорът трябва да е също толкова заменяем, колкото и типът данни.

Core не третира една екосистема за ускорители като определение за ИИ, а всичко останало като по-малък порт. Неговите операции имат скаларни референтни реализации и пътища, специфични за целите, в поддържаните CPU, GPU, FPGA, браузър и deployment бекенди. Изпълнителната среда избира реализация според наличната машина и политиката, прикачена към работата.

Съвременен x86 процесор може да използва векторните си инструкции. ARM и Apple silicon могат да използват собствените си пътища. NVIDIA, AMD и Apple GPU могат да използват съответните си бекенди. Изпълнението в браузър може да използва WebAssembly или WebGPU, където е подходящо. Deployment програмите могат да се насочват към специализиран хардуер. Процесорът е дестинация за операцията. Той не е собственик на модела.

x86 вектори, собствени пътища за ARM и Apple silicon.

NVIDIA, AMD и Apple GPU на собствените си бекенди.

WebAssembly или WebGPU, където е подходящо.

Специализиран хардуер за deployment програми.

Широките етикети за цели са евтини. Да притежаваш истинския път е по-трудно.

Типът данни не се поддържаше, целевият хардуер се промени, а кванторът имаше нужда от друга среда за изпълнение.

Сервизният стек не можеше да възпроизведе резултата. Снабдяването отвори нов преглед на доставчик.

Кванторът имаше нужда от друга среда за изпълнение

Резултатът не можеше да бъде възпроизведен

Не сте добавили една функция. Вие сте разкрили още една дупка в машината.

Ръчно настроен означава, че някой притежава резултата

Широк API е лесен за рекламиране. Широкото притежаване на машинно ниво е много по-трудно. Core не брои дадена операция за покрита само защото обща реализация се компилира на друга цел. Поддържаните пътища са реализирани и настроени за действителната си комбинация от операция, представяне, опаковане, бекенд и набор от инструкции.

Бинарното матрично умножение на AVX-512 не се третира като умножение на матрици с плаваща запетая с по-малки стойности. Операциите с опаковани битове използват битовите инструкции, налични на машината. Целочислените операции и операциите с фиксирана запетая използват правилния акумулатор и поведение при препълване. GPU пътищата използват структурата за изпълнение на целта. Скаларните реализации остават налични като референтен и универсален под. Това създава отговорен отговор на прост въпрос: какъв код всъщност е изпълнил тази операция на тази машина? Core може да назове пътя.

Написана за това, което всъщност се изчислява.

Битови инструкции за битове, не мащабирани плаващи числа.

Правилно поведение при препълване, по дизайн.

NEON ядра, написани за собствената векторна архитектура на ARM.

Това притежаване трябва да продължи отвъд ядрото и през целия жизнен цикъл на модела.

станциите, които моделът никога не напуска

Обучен за представянето, което ще използва.

Изпълнен от системата, която го е обучила.

Маршрутизиран към настроения път за хоста.

След като жизненият цикъл е последователен, вариацията може да стане договор, а не случайност.

чист с плаваща запетая там, където е по избор

Core заявява договора на пътя, който реално е изпълнен. Нативните двоични, троични, целочислени със и без знак, с фиксирана запетая, адаптивни и точни пътища на Core Native са чисто детерминистични там, където са покрити, без семе. Пътищата с плаваща запетая, bfloat, блоково мащабирани и микроскалирани на Core Native използват повторение със семе. По избор Core на Kera прави поддържаните пътища в тези семейства с плаваща запетая също чисто детерминистични.

Регулиран работен процес с ниска битовост, Q-формат или адаптивен може да изисква битово идентично повторение на Core Native. Работен процес със семейство с плаваща запетая може да използва фиксирано семе и пълен запис под Core Native. Творческото семплиране остава отделен избор за генериране. Разгръщане, което изисква чисто детерминистично изпълнение с bfloat, блоково мащабирано, микроскалирано или конвенционално с плаваща запетая, може да използва Core на Kera и да премахне семето. Това са различни обявени договори за избраната клетка, а не взаимозаменяеми маркетингови имена за всеки повтарящ се отговор.

Двоични, целочислени, Q, адаптивни и точни пътища. Без семе.

Повторение с плаваща запетая, bfloat, блоково мащабирано и микроскалирано.

Поддържани пътища от семейството с плаваща запетая, без изискване за семе.

Когато поведението се промени, една система трябва да продължи да притежава обяснението.

Когато производствен резултат се промени в фрагментиран стек, отговорността е разпределена. Рамката обвинява експортьора. Експортьорът обвинява рантайма. Рантаймът обвинява ядрото. Ядрото обвинява драйвера. Драйверът обвинява хардуера. Core събира тези отговорности в една система.

Дефиницията на модела, числените избори, избраният бекенд, пътят на диспечиране, режимът на детерминизъм и произтичащият запис на изпълнение могат да бъдат разгледани заедно. Това не означава, че всяка външна зависимост изчезва. Източниците на данни, приложенията, операционните системи и хардуерът все още съществуват. Това означава, че самата AI машина има една отговорна граница. Преглед може да попита коя реализация е изпълнена, на коя поддържана цел и под кой договор за повторение, без да сглобява отговора от вътрешните системи на няколко доставчици.

Избраният път и машината, на която е изпълнен.

Записът, който позволява изпълнението да бъде разгледано отново.

Core поддържа една AI машина, но има две позиции за изпълнение.

Всяка позиция трябва да позволи на внедряването да се движи, без да се заменя AI системата.

Хардуерът може да се промени, без да се заменя AI системата