Token Efficient Data Format for LLMs | Dweve HEDL
HEDL names a table columns once and writes each record behind a pipe, so a table sent to a language model carries under half the bytes it does as JSON.
Multi-agent-orchestrering med HEDL genomgående.
Hämtning på under millisekund för rikare prompter.
Installera HEDL, kör MCP-servern framför dina verktyg och se tokenförbrukningen sjunka. Benchmarkkorpus finns i repot.
Samma semantik, tätare kodning, återställs exakt.
Ta bort proxyn så är du tillbaka på JSON.
Rust-kärna med noll beroenden och ingen osäker kod.
Ingen leverantör i kedjan. Konvertering sker lokalt.
HEDL levereras som ett Rust-bibliotek, MCP-server och WASM-komponent. Kärnparsern har noll beroenden och ingen osäker kod; konverteringen är lokal, dubbelriktad och förlustfri över de format som stöds.
Bibliotek, MCP-server och WASM exponerar samma förlustfria konverteringsväg.
Agentpipelines, hämtning, batch-extraktion, överallt där LLM-token debiteras per volym. Besparingarna växer när verktygskedjorna blir längre. Samma data går in, samma svar kommer ut, det enda som ändras är siffran på fakturan.
Schemaparsern, positionskodare, MCP-adapter
Lägg in MCP-servern så pratar din agentstack HEDL uppströms och JSON nedströms utan någon kodändring i applikationen. Proxyn loggar tokenantal före och efter varje begäran. En Rust-crate, en CLI och en WASM-bygge täcker inbäddad och webbläsaranvändning.
Uppmätt på 571 extraktionsuppgifter över 7 dataset, körda på Mistral Large, DeepSeek Chat och NVIDIA GLM-4.7.
Värdena du tänkt skicka. I HEDL återstår nästan bara det.
Ett citatteckenpar runt varje sträng, även de entydiga.
Klamrar och hakparenteser som markerar struktur som schemat redan känner till.
Samma fältnamn, betalda igen för varje post.
JSON är det universella utbytesformatet, men som LLM-indata är det slösaktigt. Upprepade fältnamn, strukturella klamrar och citattecken runt varje sträng är byte du betalar för utan att de bär någon mening. Isolera varje del nedan för att se exakt vad din tokenbudget köper.
Tur och retur JSON till HEDL och tillbaka.
Genomsnitt över de 7 benchmarkdataseten.
Genomsnitt över 3 modeller och 7 dataset
Vi antog inte att LLM:er skulle förstå ett tätare format. Vi testade det. I en uppmätt körning över 571 strukturerade extraktionsfrågor på 7 verkliga dataset använde HEDL 56 procent färre tokens än JSON och uppnådde högst noggrannhet bland formaten i den körningen. Resultatet tillhör den modellen, korpusen och testuppställningen.
JSON till HEDL och tillbaka, byte för byte.
Samma poster, schema deklarerat en gång.
HEDL deklarerar ett schema en gång och kodar sedan poster positionellt. Inga upprepade fältnamn. Inga parenteser för nästling. Strängar utan citattecken som standard. Välj ett dataset och se tokenantalet sjunka medan datan förblir identisk. Rundturen är förlustfri.
Designat och underhållet i Europa, med konvertering som körs var du än distribuerar det.
Rust-kärnan har noll beroenden och ingen osäker kod.
Den ringer inte hem. Inget passerar en gräns du inte har godkänt.
Ingen leverantör i vägen. Konverteringen körs lokalt på dina egna maskiner.
Konverteringen körs på dina egna maskiner, i en EU-region eller helt offline. HEDL ringer inte hem och behöver ingen extern tjänst, så strukturerade poster stannar inom den gräns du redan driver.
Ta bort proxyn och alla nedströms system fortsätter med vanlig JSON.
Verkliga tokenantal, loggade per förfrågan.
Det finns ingen storsmällsmigrering att planera. Placera konverteraren framför ett AI-arbetsflöde, jämför de loggade tokenantalen och expandera bara där besparingen håller. Vägen är reversibel: ta bort proxyn och alla nedströms system fortsätter med vanlig JSON.
Ta bort konverteraren; databaser och rapporter fortsätter att ta emot vanlig JSON.
Den konverterar i kanten, så dina databaser och rapporter ändras aldrig.
Parquet för datasjöar och Neo4j Cypher för grafdatabaser, i båda riktningarna.
JSON, YAML, XML och CSV, de former de flesta team redan utbyter varje dag.
Ingen behöver riva ut något. HEDL konverterar till och från de format dina system redan använder, i båda riktningarna, och sitter framför dina AI-verktyg som en enda drop-in. Den täta versionen finns bara på vägen till modellen. Allt nedströms ser de former det alltid gjorde.
Mätaren skalar i samma takt upp och ner, så du kan avläsa en siffra nära din faktiska användning.
Besparingen är helt enkelt de tokens HEDL tar bort. Mindre att skicka innebär mindre att betala för, med samma data.
Den publicerade referensen: en tjänst på en miljard tokens i månaden sparar 1 680 dollar i månaden genom att byta från JSON.
Tokens faktureras efter volym, och HEDL skickar 56 procent färre av dem för samma data. Välj en storlek som liknar din användning och se hur månads- och årsbeloppen ändras. Den publicerade referenspunkten är en tjänst på en miljard tokens i månaden, som sparar 1 680 dollar i månaden.
Varje AI-anrop prissätts per token, och mycket av den budgeten är syntax snarare än data. HEDL skickade samma begäran med 56 procent färre tokens i den uppmätta körningen och visade en skillnad på +10,3 pp i noggrannhet jämfört med JSON där. Det är bevis från den här uppställningen, tillsammans med en lägre räkning, utan att ändra nedströmsystem.
Vad det sparar, vad det minskar risken för
Benchmark-korpus och round-trip-kontroller gör effekten synlig innan produktion.
Det talar vanlig JSON till resten av din stack. Ta bort det och du är tillbaka på JSON, byte för byte.
Ett kompakt lager ligger före modellen; resten av dina system fortsätter att tala JSON.
HEDL lägger till ett kompakt utväxlingslager före modellen medan varje databas, rapport och applikation fortsätter att tala JSON. Kör konverteringen lokalt, mät den på ett arbetsflöde och ta bort den utan datamigrering om siffrorna inte håller.
Färre ord att betala för, med samma svar i slutändan.
Varje kompakt meddelande återställs och kontrolleras innan svaret når dig.
Det ändrar bara hur meddelandet viks för sändning.
Du ser aldrig HEDL eller rör det. Det ligger bakom hjälpen.
HEDL är en liten del som gör AI-hjälpare billigare att driva, utan att ändra vad de säger tillbaka till dig. Du installerar det inte, du konfigurerar det inte och du behöver inte förstå det. Här är hela löftet, i fyra korta rader.
Nej. Hela meddelandet återställs innan det används.
Fullversionen kommer tillbaka ord för ord.
Du installerar det aldrig eller sätter på det.
Det är normalt att ha frågor, och det finns inga dumma frågor. Här är de fem som folk oftast ställer, var och en med ett rakt svar och inget dolt bakom. Tryck på en fråga för att läsa svaret.
Den kommer tillbaka exakt som den började.
Etiketterna skrivs en gång, inte på varje rad.
Dubbelt så mycket av det får plats på en gång.
Hjälparen läser mindre för att svara dig.
Du kommer aldrig att starta HEDL eller ens se det. Men varje gång en av dessa AI-hjälpare gör ett jobb åt dig, är det tyst där, och gör hjälparen billigare att köra. Välj ett ögonblick och se vad det gör bakom kulisserna.
Det kompakta meddelandet förvandlas tillbaka till fullversionen och kontrolleras innan det används.
Ja. Den korta vägen viker tillbaka till den långa vägen, ord för ord.
Nej. Betydelsen förblir exakt densamma, varje gång.
Nej. Du ser det aldrig eller ställer in det. Det gör sitt arbete på egen hand.
Tänk dig att skriva samma adress på hundra kuvert. Du kan skriva den i sin helhet varje gång, eller skriva den en gång och hålla den kort på resten. Breven kommer ändå fram. HEDL gör det korta sättet åt dig, och här är vad det innebär för din del.
Färre ord innebär mindre att betala för.
Inga tekniska ord, inga diagram. Bara idén, så som du skulle förklara den för en vän. HEDL är ett kortare sätt för datorer att säga samma sak till en AI-assistent, så att samma svar kostar mindre att få.
+10,3 procentenheter jämfört med JSON-genomsnitt
HEDL sitter framför dina AI-verktyg och skickar samma förfrågningar med 56 procent färre tokens samtidigt som det talar vanlig JSON med resten av din stack. Ingenting nedströms ändras: resultatet är en lägre tokenräkning, en skillnad i noggrannhet mätt i en enda benchmarkkörning, och konvertering som kan köras på dina egna maskiner utan att flytta data till en annan tjänst.
Du behöver inte kunna några tekniska ord för att följa med. När en dator pratar med en av dessa AI-assistenter skickar den många ord, och varje ord betalas för, lite som en telefonräkning räknad per ord. HEDL är ett sätt att säga exakt samma sak med betydligt färre ord. Ingenting utelämnas, innebörden förblir densamma, och svaret du får tillbaka ändras inte. Det kostar bara mindre, och du behöver aldrig röra det.
Varje API-anrop till en stor språkmodell prissätts per token. Det mesta av den tokenbudgeten är inte data; det är overhead: upprepade fältnamn, kapslade parenteser, citattecken runt varje sträng. HEDL skickade exakt samma information med 56 procent färre tokens i en benchmarkkörning över 571 extraktionsuppgifter och 7 dataset, med en skillnad på +10,3 procentenheter i noggrannhet jämfört med JSON i den körningen. Lägg till MCP-servern så fortsätter din befintliga JSON-pipeline att fungera precis som tidigare.
HEDL (Hierarchical Entity Data Language) är ett öppen källkod-baserat, tokeneffektivt textdataformat under Apache 2.0 för LLM:er och strukturerade poster. Dess Rust-läsare, skrivare, validerare och servrar håller formatet inspekterbart och reversibelt.