AI-arvutusplatvorm treenimiseks ja inferentsiks | Dweve Core

Choose the audience that matches your question

The page contains three selectable readings of the same subject.

Kodeerimisagent ja operaatori abiline. Demomeetrika on illustreeriv.

Terminal, otsing, lint, test, git ja palju muud.

Mäletab sinu koodibaasi ja meeskonna konteksti.

Spetsialiseeritud agendid teevad koostööd eri valdkondade vahel.

Poliitikad, kontrollid ja testid käivitatakse alati.

Vaata diffe, nõua muudatusi, lõplik heakskiit.

Esita iga seanss biti-biti haaval, kui midagi vajab ülevaatamist.

Autonoomsed agendid, mis kirjutavad koodi ja peavad arvet

käsitlemaks võrgu ajalõppe, 5xx vastuseid ja idempotentseid tingimusi. Puhas abifunktsioon, täielikult unit-testitud.

Võimekus ja determinism iga lahtri kohta

Otsene töö kliendi kontrollitaval infrastruktuuril

definitsioon ja täitmine lähevad aeglaselt lahku

Töötab tavalistes arvutites, kus toetatud

See oskab näidata, kuidas ta sinna jõudis.

Saab töötada võrguühenduseta, kus toetatud.

Sinu asjad võivad koju jääda, Euroopasse.

Algoritmide rühmitamine andmetüübi järgi

täitmise rakk ja taasesituse leping salvestatud

Salvestusvorming ei ole akumulaatori tüüp

Dweve Core on täielik AI-arvutusvirn treenimiseks ja inferentsiks. Enamik AI-platvorme katab vaid osa ja annab ülejäänu teistele müüjatele. Core hoiab mudeli loomise, treenimise, inferentsi, kernelid, jaotuse ja juurutamise ühes koherentses süsteemis. Toetatud binaarsete töökoormuste korral kasutab Core 96% vähem energiat kui GPU-virn.

25 registreeritud numbrivormingute perekonda

Toetatud binaarsete töökoormuste korral.

Osalised süsteemid loovad püsiva sõltuvuse

Definitsioon ja täitmine lähevad aeglaselt lahku.

Tihendamine elab kellegi teise tööriistas.

Uus riistvara, uus teenindussüsteem, uus käitumine.

Ükski süsteem ei suuda tulemust selgitada.

Sõltuvus püsib, sest aluseks olev arvutusruum on vaid osaliselt kaetud.

Core hoiab muutused numbrilises laiuses, pakkimises, riistvaras ja juurutuses ühe rakendussüsteemi sees. Algoritm ei muutu teiseks tooteks sellepärast, et see liigub x86-serverilt ARM-ile, GPU-le, brauserisse või spetsialiseeritud sihtmärgile. Toiming jääb kogu liikumise vältel nimetatuks, kontrollitavaks ja omatuks ning iga tee registreeritakse, mitte ei tuletata vormingusildist.

Rakenduste register hõlmab enam kui 2900 toimingut, 76 toimingukategooriat ja 25 registreeritud numbrilist vorminguperekonda. Iga tee määratakse üheksa mõõtme kaupa: algoritm, andmetüüp, laius, pakkimine, akumulaator, taustsüsteem, käsustik, edastuspoliitika ja determinismirežiim. Esitusleping hoiab need numbrilised ja füüsilised valikud toimingu küljes. Allolev visuaal fikseerib enamiku neist mõõtmetest, et väike esinduslik lõik jääks loetavaks. Arv kirjeldab konkreetsete lahtrite ja lepingute registrit, mitte väidet, et vormingusilt või lai võimekuse märk üksi selgitab täitmisteed.

Kuidas seda hoitakse, kuidas seda summeeritakse.

Kus see töötab, millisel tegelikul teel.

Milline tee valitakse, millise lepingu alusel.

Valim on väike, sest rakenduste register ei ole.

Üks algoritm peab vastu igale piirangule

Saabub uus laius, pakkimine, host või leping.

Milline kood jooksis, millisel masinal, on välja toodud.

Esimene päritud eeldus, mille Core eemaldab, on see, et üks andmetüüp peaks kõike domineerima.

Protsessor peaks olema sama asendatav kui andmetüüp.

Core ei kohtle üht kiirendi ökosüsteemi kui AI määratlust ja kõike muud kui halvemat porti. Selle operatsioonidel on skalaarsed referentsimplementatsioonid ja sihtspetsiifilised teed toetatud CPU, GPU, FPGA, brauseri ja juurutamise tagasüsteemide vahel. Käitusaeg valib implementatsiooni vastavalt saadaolevale masinale ja töö külge kinnitatud poliitikale.

Kaasaegne x86 protsessor saab kasutada oma vektorjuhiseid. ARM ja Apple silicon saavad kasutada oma loomulikke teid. NVIDIA, AMD ja Apple GPU-d saavad kasutada oma vastavaid tagasüsteeme. Brauseri täitmine saab kasutada WebAssemblyt või WebGPU-d, kus see on asjakohane. Juurutamisprogrammid saavad sihtida spetsiaalset riistvara. Protsessor on operatsiooni sihtkoht. See ei ole mudeli omanik.

x86 vektorid, ARM ja Apple siliconi loomulikud teed.

NVIDIA, AMD ja Apple GPU-d oma tagasüsteemidel.

WebAssembly või WebGPU, kus see on asjakohane.

Spetsiaalne riistvara juurutamisprogrammidele.

Laialdased sihtmärgid on odavad. Päris tee omamine on raskem.

Andmetüüp oli toetamata, sihtriistvara muutus ja kvantiseerija vajas teist käitusaega.

Serveerimisvirn ei suutnud tulemust taasesitada. Hangete osakond avas teise tarnija ülevaate.

Te ei lisanud ühte funktsiooni. Te avastasite masinas veel ühe augu.

Käsitsi häälestatud tähendab, et keegi omab tulemust

Laia API-t on lihtne reklaamida. Lai masinatasandi omand on palju raskem. Core ei loe operatsiooni kaetuks lihtsalt sellepärast, et üldine implementatsioon kompileerub teisel sihtplatvormil. Toetatud teed on implementeeritud ja häälestatud nende tegeliku operatsiooni, esituse, pakkimise, tagasüsteemi ja juhiskomplekti kombinatsiooni jaoks.

Binaarne maatrikskorrutis AVX-512-l ei ole käsitletud ujukoma maatrikskorrutisena väiksemate väärtustega. Pakitud-bitide operatsioonid kasutavad masinale saadaolevaid bitijuhiseid. Täisarvu ja fikseeritud punkti operatsioonid kasutavad õiget akumulaatorit ja ületuskäitumist. GPU teed kasutavad sihtplatvormi täitmisstruktuuri. Skalaarsed implementatsioonid jäävad alles referentsi ja universaalse põrandana. See loob vastutustundliku vastuse lihtsale küsimusele: milline kood tegelikult selle operatsiooni sellel masinal sooritas? Core saab nimetada tee.

Kirjutatud selle jaoks, mida tegelikult arvutatakse.

Bitijuhised bittide jaoks, mitte skaleeritud ujukomaarvud.

NEON kernelid kirjutatud ARM-i enda vektorarhitektuuri jaoks.

See omand peab jätkuma kaugemale kernelist ja kogu mudeli elutsükli ulatuses.

Koolitatud selle esituse jaoks, mida ta kasutab.

Käivitatud süsteemi poolt, mis selle koolitas.

Suunatud hosti jaoks häälestatud rajale.

Võrdlusuuring ja taasesitus samas masinas.

Kui elutsükkel on sidus, saab varieerumisest leping, mitte õnnetus.

Core esitab tegelikult käinud raja lepingu. Core Native binaarsed, kolmend-, märg- ja märgita täisarvu-, fikseeritud punkti, adaptiivsed ja täpsed rajad on puhtalt deterministlikud, kus hõlmatud, ilma seemneta. Core Native ujukoma-, bfloat-, plokk-skaala- ja mikro-skaalarajad kasutavad seemnestatud taasesitust. Valikuline Core Kera peal muudab toetatud rajad nendes ujukomaperedes samuti puhtalt deterministlikuks.

Reguleeritud madala biti, Q-vormingu või adaptiivne töövoog võib nõuda biti-identset Core Native taasesitust. Ujukomaperekonna töövoog võib kasutada kinnitatud seemet ja täielikku kirjet Core Native all. Loominguline valim jääb eraldi genereerimisvalikuks. Kasutuselevõtt, mis nõuab puhast deterministlikku bfloat-, plokk-skaala-, mikro-skaala- või tavalist ujukoma täitmist, saab kasutada Core't Kera peal ja eemaldada seemne. Need on erinevad deklareeritud lepingud valitud raku jaoks, mitte vahetatavad turundusnimed iga korduva vastuse jaoks.

Binaarsed, täisarvu-, Q-, adaptiivsed ja täpsed rajad. Ilma seemneta.

Ujukoma-, bfloat-, plokk-skaala- ja mikro-skaala taasesitus.

Toetatud ujukomaperekonna rajad, ilma seemneta.

Kui käitumine muutub, peaks üks süsteem siiski selgituse omama.

Kui tootmistulemus muutub killustatud virnas, on vastutus jaotatud. Raamistik süüdistab eksportijat. Eksportija süüdistab käitusaega. Käitusaeg süüdistab kernelit. Kernel süüdistab draiverit. Draiver süüdistab riistvara. Core toob need vastutused ühte süsteemi.

Mudeli definitsiooni, numbrilisi valikuid, valitud taustsüsteemi, dispetširaja, determinismirežiimi ja sellest tulenevat täitmiskirjet saab koos uurida. See ei tähenda, et kõik välised sõltuvused kaovad. Andmeallikad, rakendused, operatsioonisüsteemid ja riistvara on endiselt olemas. See tähendab, et AI-masin ise omab ühte vastutavat piiri. Ülevaade saab küsida, milline rakendus jooksis, millisel toetatud sihtmärgil ja millise taasesituslepingu all, ilma et peaks vastust kokku õmblema mitme müüja sisemistest süsteemidest.

Definitsioon ja selle numbrilised valikud.

Valitud rada ja masin, millel see jooksis.

Kirje, mis võimaldab käivitust uuesti uurida.

Core hoiab ühte AI-masinat, kuid sellel on kaks täitmishoiakut.

Kumbki hoiak peaks võimaldama juurutuse liikuda ilma AI-süsteemi välja vahetamata.

Riistvara saab muutuda ilma AI-süsteemi välja vahetamata

Infrastruktuuriotsused ei tohiks sundida mudeli ümberkirjutamist. Core hoiab mudeli, operaatoriliidese, numbrilise kujunduse ja täitmiskokkuleppe samas süsteemis, samal ajal kui juurutushoiak muutub. Valitud taustsüsteem võib erineda. Organisatsioon ei pea AI-virna selle ümber uuesti üles ehitama.

Litsentseeritud meeskond võib käitada Core'i organisatsiooni kontrollitud klastrites või tööjaamades. Reguleeritud programm võib nõuda täielikult isoleeritud keskkonda. Toode võib viia osa oma järelduste tegemisest serva, samas kui brauserirakendus võib vajada kohalikku täitmise sihtmärki. Core hoiab need litsentseeritud käitushoiakud ühes masinas, väitmata, et iga taustsüsteem toetab iga lahtrit. Core ei ole hallatud teenuse toode. Litsents kirjeldab käitushoiakut ja selle toetatud ulatust, mitte väidet iga võimaliku sihtmärgi või töökoormuse kohta.