Token-tehokas datamuoto LLM:ille | Dweve HEDL

Choose the audience that matches your question

The page contains three selectable readings of the same subject.

HEDL (Hierarchical Entity Data Language) on avoimen lähdekoodin, tokenitehokas tekstidataformaatti Apache 2.0 -lisenssillä LLM:ille ja jäsennellyille tietueille. Sen Rust-pohjaiset lukija, kirjoittaja, validaattorit ja palvelimet pitävät formaatin tarkastettavana ja palautuvana.

HEDL (Hierarchical Entity Data Language) on avoimen lähdekoodin, tokenitehokas taulukkoformaatti Apache 2.0 -lisenssillä LLM-pyynnöille. Aloita paikallisesti komennolla cargo add hedl; toistuvat otsikot katoavat, kun muunnos pysyy paikallisena ja palautuvana. Yhdessä mitatussa ajossa 500 tasaista tietuetta oli 48,7 % pienempi kuin minifioitu JSON.

HEDL (Hierarchical Entity Data Language) on avoimen lähdekoodin tekstiformaatti Apache 2.0 -lisenssillä LLM:ille lähetettäville listoille. Se kirjoittaa sarakeotsikot kerran ylös ja pitää sitten samat tiedot jokaisella rivillä.

Lisää Rust-kirjasto komennolla cargo add hedl tai asenna CLI komennolla cargo install hedl-cli. Suorita lukija paikallisesti ja tarkastele tavuja itse.

Alle millisekunnin haku rikkaampiin kehotteisiin.

Multi-agenttiorkestrointi HEDL:llä kauttaaltaan.

Vertailukorpus ja menetelmä toimitetaan repositoriossa.

enemmän oikeita vastauksia tokenia kohden kuin JSON

Korkeampi on parempi. HEDL palauttaa 2,4 kertaa enemmän oikeita vastauksia tokenia kohden kuin JSON.

Korkeampi on parempi. HEDL poimii 80,4 %, 10,3 prosenttiyksikköä enemmän kuin JSON.

Lyhyempi on parempi. HEDL välittää samat vastaukset 56 prosenttia vähemmillä tokeneilla kuin JSON.

571 kysymystä, 7 tietoaineistoa, 6 muotoa

JSON · YAML · XML · CSV · Parquet · TOON

48,7 % pienempi verrattuna minifioituun JSONiin tässä ajossa

Kaksisuuntainen, häviötön muunnos. Samat datan semantiikat, tiiviimmin koodattuina, palautettuina tarkasti.

Suora korvaava välityspalvelin. Poista se, niin pino on taas puhtaassa JSONissa, eikä mitään siirtoa tarvitse perua.

Rust-ytimellä ei ole riippuvuuksia eikä epäturvallista koodia; toimitetut työkalut pitävät ajonaikaiset riippuvuutensa eriteltyinä.

Mikään toimittaja ei ole polun varrella. Muunnos tapahtuu paikallisesti, joten tietueet eivät koskaan poistu omasta infrastruktuuristasi.

Molemmat kirjeet päätyvät samaan paikkaan

Sama asia, sanottuna vähemmillä sanoilla

Kourallinen tekoälyominaisuuksia säännöllisessä käytössä.

sama data, 56 prosenttia vähemmän tokeneita

Luvut noudattavat julkaistua viitettä: palvelu, jossa on 1B tokenia kuukaudessa, säästää 1 680 dollaria kuukaudessa.

Et aloita tätä itse. Se tapahtuu itsestään aina, kun avustaja on töissä, riippumatta siitä, mitä näistä olet tekemässä.

HEDL muuttaa vain viestin muotoa matkalla sinne ja takaisin. Se, mistä aloitit, palaa täsmälleen samanlaisena, ilman mitään lisättyä tai kadotettua.

Pyydät avustajaa ottamaan jotakin yhdessä muodossa ja palauttamaan sen toisessa, siistinä ja käyttövalmiina.

Tavallinen lista toistaa samoja pieniä merkintöjä joka rivillä. HEDL kirjoittaa merkinnät kerran ylös, sitten vain merkinnät, joten lista vie paljon vähemmän sanoja lähetettäväksi.

Pyydät avustajaa käymään läpi pitkän listan, listan nimistä, tilauksista tai ajoista, ja siistimään sen.

Pitkä asiakirja on paljon sanoja lähetettäväksi. Taitettuna HEDL:n tapaan siitä mahtuu kaksi kertaa enemmän kerralla, joten avustaja näkee enemmän sivua kerrallaan.

Annat avustajalle pitkän kirjeen tai raportin ja pyydät sitä poimimaan osat, joista välität.

Kulissien takana avustajan on täytynyt lukea paljon taustatietoa ensin. HEDL taittaa taustatiedon pieneksi, joten se lukee saman asian paljon vähemmällä pureksittavalla.

Kirjoitat kysymyksen johonkin noista tekoälyavustajista, ja se kirjoittaa vastauksen hetkessä.

Sama vastaus, sanottu vähemmillä sanoilla. Siinä kaikki, mikä muuttuu.

Voit muuttaa lyhyen tavan takaisin pitkäksi tavaksi milloin tahansa, sanasta sanaan.

Mietit, voitko koskaan saada täyden version takaisin, jos tarvitset sitä.

Mikään ei jää pois. Lyhyempi tapa välittää täsmälleen saman merkityksen kuin pitkä tapa.

Pelkäät, että lyhyemmin sanominen saattaa jättää jotain pois tai muuttaa merkitystä.

Sama viesti, sanottu huomattavasti vähemmillä sanoilla, joten lasku lopussa on pienempi.

Jokainen sana, jonka avustaja lukee, maksetaan, myös sanat, joita se toistaa yhä uudelleen.

Mitattu tiedostokoko · 500 tasaista tietuetta

Se toimii tekoälytyökalujesi edessä ja muuntaa reunalla. Nykyiset järjestelmäsi lähettävät ja vastaanottavat edelleen niiden käyttämiä formaatteja.

Tietokantasi, raporttisi ja laskentataulukkosi näkevät samat muodot kuin ennen. Tiheämpi formaatti on olemassa vain matkalla malliin ja takaisin.

Seitsemän formaattia kulkee sisään ja ulos saman häviöttömän sillan kautta; kompakti esitys on olemassa vain mallikutsun ympärillä.

Malli vastaanottaa tiiviin version. Järjestelmäsi puhuvat edelleen niitä formaatteja, joita ne aina ovat puhuneet.

56 prosenttia vähemmän tokeneita matkalla

Yksi drop-in-muunnin toimii järjestelmiesi ja mallin välissä.

säästetään kuukaudessa miljardilla tokenilla vaihtamalla JSON HEDL:ään.

hukkaan per API-kutsu toistuviin avaimiin 10 000 käyttäjän tietoaineistossa.

Skeema kerran. Sitten vain data pilkulla erotettuna.

Kerro rakenteen tavut kymmenellä tuhannella tietueella.

Arvot, jotka todella halusit lähettää. HEDL:ssä tämä on lähes kaikki, mikä jää jäljelle.

Lainausmerkkipari jokaisen merkkijonon ympärillä, myös yksiselitteisten.

Oliivin aaltosulkeet ja taulukon hakasulkeet, jotka merkitsevät rakenteen, jonka skeema jo tietää.

Samat kenttänimet, "id", "name", "role", maksetaan uudelleen joka ainoassa tietueessa.

Yksi kompakti kerros sijaitsee ennen mallia, kun muu pino jatkaa JSONin puhumista.

Se puhuu HEDLiä mallille ja palauttaa tavallista JSONia omiin järjestelmiisi, joten muu pino ei muutu. Ota se pois ja olet täsmälleen siinä, mistä aloitit.

Muunnos voi toimia omilla koneillasi, EU-alueella tai täysin offline-tilassa ilman ulkoista palvelua polussa.

Tokenien vähennys, vastausten tarkkuus ja häviöttömät edestakaiset muunnokset mitataan oikeilla tietoaineistoilla ennen käyttöönottoa.

Lisää se yhden työnkulun eteen, vertaa tulosta ja laajenna vain siellä, missä se kannattaa.

HEDL on yksi pieni osa, joka tekee tekoälyavustajien käytöstä halvempaa muuttamatta sitä, mitä ne sanovat sinulle takaisin. Et asenna sitä, et määritä sitä, eikä sinun tarvitse ymmärtää sitä. Tässä on lyhyt versio siitä, mitä se lupaa.

Voit lopettaa tästä osasta huolehtimisen.

Koska se sanoo saman asian vähemmillä sanoilla, sitä käyttävät avustajat maksavat vähemmän käyttää.

Jokainen tiivis viesti palautetaan ja tarkistetaan ennen kuin avustaja käyttää sitä, joten mikään ei katoa matkalla.

Se muuttaa vain sitä, miten viesti taitetaan lähetystä varten. Merkitys säilyy täsmälleen samana.

Et koskaan näe HEDL:ää tai kosketa sitä. Se toimii tekoälyavustajan takana ja tekee työnsä itsenäisesti.

Jos olet vielä epävarma, se on ihan ok. Sinun ei tarvitse koskaan koskea HEDL:ään, jotta se hoitaa tehtävänsä.

Napauta kysymystä lukeaksesi suoran vastauksen. Ei ole olemassa vääriä kysymyksiä.

Käyttämäsi apurit maksavat toimiessaan, ja laskutus muistuttaa hieman puhelinlaskua sanojen mukaan. Sanomalla sama asia vähemmillä sanoilla lasku pienenee, mikä pitää apurit halvempina tarjottavina.

Jokainen tiivistetty viesti palautetaan ja tarkistetaan ennen käyttöä. Jos täysi versio ei palaa täsmälleen samanlaisena, muunnos epäonnistuu sen sijaan, että osa siitä hiljaa katoaisi.

Kyllä. Lyhyt muoto taittuu takaisin pitkäksi aina tarvittaessa, sana sanalta, ilman lisäyksiä ja ilman menetyksiä. Se on kuin kirjeen taittaminen postitusta varten ja avaaminen lukemista varten.

Ei. Se muuttaa vain sen, miten viesti taitetaan matkaa varten apurille ja takaisin. Merkitys säilyy täsmälleen samana, joten lukemasi vastaus on sama, jonka olisit saanut muutenkin.

Ei. Sinun ei tarvitse ladata, kytkeä päälle tai opetella mitään. HEDL toimii muiden rakentamien tekoälyapurien taustalla ja hoitaa työnsä itsenäisesti. Et koskaan näe sitä.

Täytyykö minun asentaa tai määrittää jotain?

Sinun ei tarvitse asentaa mitään tai ymmärtää tästä mitään. Se toimii hiljaa taustalla, joten käyttämäsi apurit maksavat vähemmän ja pysyvät yhtä selkeinä.

Kuvittele, että kirjoitat saman osoitteen sataan kirjekuoreen. Voisit kirjoittaa koko osoitteen joka kerta. Tai voisit kirjoittaa sen kerran ja sitten vain talon numeron muihin. Kirjeet saapuvat silti perille. Teit vain vähemmän kirjoittamista. Tämä on koko HEDL:n idea.

Voit muuttaa lyhyen tavan takaisin pitkäksi tavaksi milloin haluat, sana sanalta, ilman että mikään muuttuu. Kuin taittaisit kirjeen kirjekuoreen sopivaksi ja avaisit sen myöhemmin luettavaksi.

Jokainen tekoälyapurille lähetetty sana maksaa, vähän kuin puhelinlasku, jota laskutetaan sanoittain. Sanomalla sama asia vähemmillä sanoilla lasku on pienempi, ja lopputulos on sama vastaus.

Kun tietokone puhuu yhdelle näistä tekoälyapureista, se lähettää paljon sanoja. HEDL on tapa sanoa täsmälleen sama asia paljon vähemmillä sanoilla. Mitään ei jätetä pois, se vain sanotaan yksinkertaisemmin.

Tiimisi sijoittaa muuntimen yhden tekoälytyönkulun eteen. Mikään muu pinossa ei muutu, ja muu yritys jatkaa täsmälleen kuten ennen.