Tokenkímélő adatformátum LLM-ekhez | Dweve HEDL

Choose the audience that matches your question

The page contains three selectable readings of the same subject.

A HEDL (Hierarchical Entity Data Language) egy nyílt forráskódú, token-hatékony szöveges adatformátum Apache 2.0 licenc alatt, LLM-ek és strukturált rekordok számára. Rust olvasója, írója, validátorai és szerverei biztosítják, hogy a formátum áttekinthető és visszafordítható maradjon.

A HEDL (Hierarchical Entity Data Language) egy nyílt forráskódú, token-hatékony táblázatformátum Apache 2.0 licenc alatt, LLM-kérésekhez. Kezdje helyben a cargo add hedl paranccsal; az ismétlődő címkék eltűnnek, miközben a konverzió helyi és visszafordítható marad. Egy mért futásban 500 lapos rekord 48,7%-kal kisebb volt, mint a minifikált JSON.

A HEDL (Hierarchical Entity Data Language) egy nyílt forráskódú szövegformátum Apache 2.0 licenc alatt, LLM-eknek küldött listákhoz. Az oszlopcímkéket egyszer írja ki a tetejére, majd ugyanazokat a tényeket tartja meg minden sorban.

Adja hozzá a Rust könyvtárat a cargo add hedl paranccsal, vagy telepítse a CLI-t a cargo install hedl-cli paranccsal. Futtassa az olvasót helyben, és vizsgálja meg a bájtokat saját maga.

Sub-milliszekundumos visszakeresés gazdagabb promptokhoz.

Többágensű vezénylés HEDL-lel mindenhol.

A benchmark korpusz és a módszertan a repóban található.

több helyes válasz tokenenként, mint a JSON

A magasabb jobb. A HEDL 2,4-szer több helyes választ ad tokenenként, mint a JSON.

A magasabb jobb. A HEDL 80,4%-ot nyer ki, 10,3 ponttal többet, mint a JSON.

A rövidebb jobb. A HEDL ugyanazokat a válaszokat 56 százalékkal kevesebb tokenben adja meg, mint a JSON.

JSON · YAML · XML · CSV · Parquet · TOON

Ugyanazok a kérések, ugyanazok a válaszok

48,7%-kal kisebb a minifikált JSON-hoz képest ebben a futtatásban

Kétirányú, veszteségmentes konverzió. Ugyanaz a szemantika, sűrűbben kódolva, pontosan visszaállítva.

Közvetlen proxy. Távolítsa el, és a rendszer visszaáll a sima JSON-ra, migráció nélkül.

A Rust mag nulla függőséggel és nem biztonságos kód nélkül működik; a szállított eszközök futásidejű függőségei explicit módon maradnak.

Nincs szállító az útvonalban. A konverzió helyben fut, így a rekordok soha nem hagyják el az Ön infrastruktúráját.

Egy maroknyi, folyamatosan használt AI-funkció.

Tömeges kinyerés, mennyiség alapján számlázva.

ugyanaz az adat, 56 százalékkal kevesebb token

Az adatok a közzétett referenciát követik: egy havi 1B tokenes szolgáltatás havi 1680 dollárt takarít meg.

Ezt soha nem te indítod el. Ez magától történik, minden alkalommal, amikor egy segítő dolgozik, akármelyiket is csinálod ezek közül.

A HEDL csak az üzenet alakját változtatja meg az oda- és visszaútra. Amivel elindultál, pontosan ugyanúgy tér vissza, semmi hozzáadva, semmi elveszve.

Megkéred a segítőt, hogy valamit az egyik alakban vegyen át, és egy másikban, rendezetten és használatra készen adjon vissza.

Egy egyszerű lista minden egyes sorban ugyanazokat a kis címkéket ismétli. A HEDL egyszer írja meg a címkéket a tetejére, majd csak a bejegyzéseket, így a lista sokkal kevesebb szót igényel az elküldéshez.

Megkéred a segítőt, hogy menjen végig egy hosszú listán, nevek, rendelések vagy időpontok listáján, és tegye rendbe.

Egy hosszú dokumentum sok szót jelent elküldeni. HEDL-módon összehajtva kétszer annyi fér bele egy menetben, így a segítő egyszerre többet lát az oldalból.

Átadsz a segítőnek egy hosszú levelet vagy jelentést, és megkéred, hogy emelje ki a számodra fontos részeket.

A függöny mögött a segítőnek először sok háttérinformációt kellett elolvasnia. A HEDL ezt a hátteret kicsire hajtogatja, így ugyanazt olvassa, sokkal kevesebb ráfordítással.

Beírsz egy kérdést az egyik ilyen AI segítőbe, és az egy pillanat alatt választ ír vissza.

Ugyanaz a válasz, kevesebb szóval. Csak ez változik.

A rövid utat bármikor visszaalakíthatod a hosszú úttá, szóról szóra.

Elgondolkodsz, hogy visszakaphatod-e valaha a teljes verziót, ha szükséged van rá.

Semmi sem marad ki. A rövidebb út pontosan ugyanazt a jelentést hordozza, mint a hosszú út.

Aggódsz, hogy a rövidebb megfogalmazás kihagyhat valamit, vagy megváltoztathatja a jelentést.

Ugyanaz az üzenet, sokkal kevesebb szóval, így a végén kisebb a számla.

Minden szóért fizetni kell, amit a segítő elolvas, még azokért is, amelyeket újra és újra megismétel.

Az AI-eszközeid elé kerül, és a szélén konvertál. A meglévő rendszereid továbbra is a megszokott formátumokban küldenek és fogadnak.

Az adatbázisaid, jelentéseid és táblázataid ugyanazokat a formákat látják, mint korábban. A sűrűbb formátum csak a modellhez vezető úton létezik.

Hét formátum lép be és ki ugyanazon a veszteségmentes hídon; a tömör reprezentáció csak a modellhívás körül létezik.

A modell a sűrű változatot kapja. A stack továbbra is a megszokott formátumokban beszél.

Egy beépíthető konverter ül a rendszereid és a modell között.

havi megtakarítás egymilliárd token esetén, ha JSON-ról HEDL-re váltasz.

API-hívásonként elpazarolt adat az ismétlődő kulcsok miatt 10 000 felhasználós adatkészletnél.

Séma egyszer. Utána csak az adatok, vesszővel elválasztva.

Most szorozd meg a strukturális bájtokat tízezer rekorddal.

vigyél egy részt az egérrel az izoláláshoz

Az értékek, amelyeket valójában küldeni akartál. A HEDL-ben szinte csak ezek maradnak.

Idézőjelpár minden sztring körül, még az egyértelműeknél is.

Objektumkapcsos zárójelek és tömbök szögletes zárójelei, amelyek olyan struktúrát jelölnek, amit a séma már ismer.

Ugyanazok a mezőnevek, "id", "név", "szerep", minden egyes rekordnál újra fizetve.

Egy kompakt réteg helyezkedik el a modell előtt, miközben a rendszer többi része továbbra is JSON-ban kommunikál.

A modellnek HEDL-t mond, a saját rendszereinek pedig sima JSON-t ad vissza, így a rendszer többi része nem változik. Vegye ki, és pontosan ott tart, ahol elkezdte.

A konverzió futhat a saját gépein, egy EU-s régióban, vagy teljesen offline, külső szolgáltatás nélkül az útvonalban.

A token-csökkentést, a válaszpontosságot és a veszteségmentes oda-vissza átalakítást valós adathalmazokon mérik a bevezetés előtt.

Illessze be egy munkafolyamat elé, hasonlítsa össze az eredményt, majd csak ott bővítsen, ahol megéri.

A HEDL egy apró alkatrész, amely olcsóbbá teszi az AI-asszisztensek működtetését anélkül, hogy megváltoztatná, amit visszamondanak neked. Nem telepíted, nem állítod be, és nem is kell értened hozzá. Íme a rövid verziója annak, amit ígér.

Erről a részről többé nem kell aggódnod.

Mivel ugyanazt mondja kevesebb szóval, az azt használó asszisztensek olcsóbban működtethetők.

Minden tömör üzenet visszaállításra és ellenőrzésre kerül, mielőtt az asszisztens használná, így semmi sem tűnik el útközben.

Csak azt változtatja meg, hogyan hajtogatják az üzenetet küldéshez. A jelentés pontosan ugyanaz marad.

Soha nem látod a HEDL-t, és nem is érinted. Az AI-asszisztens mögött ül, és magától végzi a dolgát.

Ha még mindig bizonytalan vagy, az rendben van. Sosem kell hozzányúlnod a HEDL-hez ahhoz, hogy elvégezze a dolgát.

Koppints egy kérdésre, és elolvashatod az egyszerű választ. Nincs rossz kérdés.

A kérdések, amelyeket először tesznek fel az emberek

A segítők, amelyeket használsz, pénzbe kerülnek, és úgy számolódnak, mint egy telefon számla, szavanként. Ha ugyanazt kevesebb szóval mondod, az kisebb számlát jelent, ami olcsóbbá teszi ezeknek a segítőknek a kínálatát.

Minden tömör üzenet visszaállításra és ellenőrzésre kerül, mielőtt felhasználnák. Ha a teljes változat nem jön vissza pontosan, az átalakítás meghiúsul, ahelyett, hogy csendben eldobná annak egy részét.

Igen. A rövid forma visszahajtogatható a hosszú formába, amikor csak szükséges, szóról szóra, semmi hozzáadásával és semmi elvesztésével. Ez olyan, mintha összehajtanád a levelet, hogy feladd, majd kihajtanád, hogy elolvasd.

Nem. Csak azt változtatja meg, hogyan van az üzenet összehajtva az útra a segítőhöz és vissza. A jelentés pontosan ugyanaz marad, így a válasz, amit olvasol, az a válasz, amit egyébként is kaptál volna.

Megváltoztathatja a választ, amit visszakapok?

Nem. Nincs semmi, amit le kellene töltened, be kellene kapcsolnod, vagy meg kellene tanulnod. A HEDL az AI segítők mögött van, amelyeket mások építenek, és magától végzi a munkáját. Soha nem fogod látni.

Kell valamit telepítenem vagy beállítanom?

Nem kell telepítenie semmit, és nem kell értenie ehhez. Csendben működik a háttérben, így az Ön által használt segítők olcsóbbak lesznek, és ugyanolyan világosak maradnak.

Képzelje el, hogy ugyanazt a címet írja száz borítékra. Megírhatná a teljes címet minden alkalommal. Vagy megírná egyszer, majd csak a házszámot a többi borítékra. A levelek akkor is megérkeznek. Egyszerűen kevesebbet írt. Ez az egész ötlet a HEDL mögött.

A rövid formát bármikor visszaalakíthatja a hosszú formává, szóról szóra, semmi sem változik. Olyan, mintha összehajtaná a levelet, hogy beférjen a borítékba, majd később kibontaná, hogy elolvassa.

Minden szó, amit egy AI segítőnek küldenek, fizetős, kicsit olyan, mint egy szavakkal számolt telefonszámla. Ugyanazt kevesebb szóval mondani kisebb számlát jelent, ugyanazzal a válasszal a végén.

Amikor egy számítógép beszél az egyik ilyen AI segítővel, sok szót küld. A HEDL egy módja annak, hogy pontosan ugyanazt mondjuk, sokkal kevesebb szóval. Semmi sem marad ki, csak egyszerűbben van elmondva.