Tokenitõhus andmevorming LLM-idele | Dweve HEDL

Choose the audience that matches your question

The page contains three selectable readings of the same subject.

Algoritmide rühmitamine andmetüübi järgi

HEDL (Hierarchical Entity Data Language) on avatud lähtekoodiga, tõhus tekstipõhine andmevorming Apache 2.0 litsentsi all, mõeldud LLM-idele ja struktureeritud kirjetele. Selle Rust-põhine lugeja, kirjutaja, valideerijad ja serverid hoiavad vormingu läbipaistva ja pöörduvana.

HEDL (Hierarchical Entity Data Language) on avatud lähtekoodiga, tõhus tabelivorming Apache 2.0 litsentsi all LLM-päringute jaoks. Alusta kohalikult käsuga cargo add hedl; korduvad sildid kaovad, samal ajal kui teisendus jääb kohalikuks ja pöörduvaks. Ühes mõõdetud käivituses olid 500 tasast kirjet 48,7% väiksemad kui minifitseeritud JSON.

HEDL (Hierarchical Entity Data Language) on avatud lähtekoodiga tekstivorming Apache 2.0 litsentsi all, mõeldud LLM-idele saadetavate loendite jaoks. See kirjutab veerupealkirjad üks kord üles, seejärel hoiab igas reas samu fakte.

Lisa Rust-teek käsuga cargo add hedl või installi CLI käsuga cargo install hedl-cli. Käivita lugeja kohalikult ja kontrolli baite ise.

All-millisekundiline otsing rikkalikumate päringute jaoks.

Multi-agent orkestreerimine HEDL-iga kogu ulatuses.

Võrdlusandmestik ja metoodika on hoidlas.

rohkem õigeid vastuseid märgi kohta kui JSON

Suurem on parem. HEDL annab 2,4 korda rohkem õigeid vastuseid märgi kohta kui JSON.

Suurem on parem. HEDL eraldab 80,4%, 10,3 punkti rohkem kui JSON.

Lühem on parem. HEDL kannab samu vastuseid 56 protsenti vähemate märkidega kui JSON.

571 küsimust, 7 andmestikku, 6 vormingut

JSON · YAML · XML · CSV · Parquet · TOON

48,7% väiksem vs minifitseeritud JSON selles käituses

Kahesuunaline, kadudeta teisendus. Samad andmesemantika, tihedamalt kodeeritud, täpselt taastatud.

Asendusproksi. Eemalda see ja su virn on tagasi tavalise JSON-i peal, ilma et peaksid migratsiooni tagasi võtma.

Rusti tuumal pole sõltuvusi ja seal pole ebaturvalist koodi; kaasasolevad tööriistad hoiavad oma käitusaja sõltuvused selgesõnalisena.

Ükski müüja ei ole teel. Teisendus toimub kohalikult, nii et kirjed ei lahku kunagi sinu enda infrastruktuurist.

Peotäis AI-funktsioone, mida kasutatakse pidevalt.

Hulgi väljavõte, mille eest arveldatakse mahu järgi.

sama andmemaht, 56 protsenti vähem tokeneid

Arvud järgivad avaldatud viidet: teenus, mille maht on 1 miljard tokenit kuus, säästab 1680 dollarit kuus.

Sa ei alusta seda kunagi ise. See juhtub iseenesest, iga kord, kui abiline töötab, ükskõik millist neist asjadest sa ka teed.

HEDL muudab ainult sõnumi kuju teel sinna ja tagasi. See, millega alustasid, tuleb tagasi täpselt samasugusena, ilma et midagi oleks lisatud või kadunud.

Sa palud abilisel võtta midagi ühes kujus ja anda see tagasi teises kujus, korras ja kasutusvalmis.

Tavaline loend kordab samu väikeseid silte igal real. HEDL kirjutab sildid üks kord üles, seejärel ainult kirjed, nii et loendi saatmiseks kulub palju vähem sõnu.

Sa palud abilisel minna läbi pika loendi, nimede, tellimuste või kohtumiste loendi, ja see korda teha.

Pikk dokument on palju sõnu, mida saata. HEDL-i viisil kokku voldituna mahub sellest korraga kaks korda rohkem, nii et abiline näeb korraga rohkem lehekülge.

Sa annad abilisele pika kirja või aruande ja palud tal välja tuua osad, mis sind huvitavad.

Kulisside taga pidi abiline kõigepealt palju tausta lugema. HEDL voltib selle tausta väikeseks, nii et ta loeb sama asja palju vähemaga läbi.

Sa kirjutad küsimuse ühte neist AI-abilistest ja see kirjutab hetkega vastuse tagasi.

Sama vastus, öeldud vähemate sõnadega. See on ainus muudatus.

Lühikese tee saab igal ajal sõna-sõnalt tagasi muuta pikaks teeks.

Sa mõtled, kas saad vajadusel kunagi täisversiooni tagasi.

Midagi ei jää välja. Lühem tee kannab täpselt sama tähendust kui pikk tee.

Sa muretsed, et lühemalt öeldes võib midagi välja jääda või tähendus muutuda.

Sama sõnum, öeldud palju vähemate sõnadega, nii et arve lõpus on väiksem.

Iga sõna, mida abiline loeb, on tasuline, isegi sõnad, mida ta ikka ja jälle kordab.

Mõõdetud faili suurus · 500 tasast kirjet

See asub teie AI-tööriistade ees ja teisendab servas. Teie olemasolevad süsteemid jätkavad nende vormingute saatmist ja vastuvõtmist, mida nad juba kasutavad.

Teie andmebaasid, aruanded ja tabelid näevad samu kujundeid nagu varem. Tihedam vorming eksisteerib ainult teekonnal mudelini ja tagasi.

Seitse vormingut sisenevad ja väljuvad sama kadudeta silla kaudu; kompaktne esitus eksisteerib ainult mudelikõne ümber.

Mudel saab tiheda versiooni. Teie tehnoloogia jätkab nende vormingute kasutamist, mida ta alati on kasutanud.

Üks asendatav konverter asub teie süsteemide ja mudeli vahel.

säästetud kuus ühe miljardi tokeni juures, lülitades JSON-i ümber HEDL-ile.

raiskamine API-kõne kohta korduvate võtmete tõttu 10 000 kasutaja andmestiku puhul.

Skeem üks kord. Seejärel ainult andmed, komadega eraldatud.

Nüüd korruta struktuuri baidid kümne tuhande kirjega.

Väärtused, mida sa tegelikult saata tahtsid. HEDL-is on see peaaegu kõik, mis alles jääb.

Jutumärgipaari ümber iga stringi, isegi nende ümber, mis on üheselt mõistetavad.

Objekti loogelised sulud ja massiivi nurksulud, mis tähistavad struktuuri, mida skeem juba teab.

Samad väljanimed, "id", "name", "role", makstakse uuesti iga üksiku kirje puhul.

Üks kompaktne kiht asub mudeli ees, samal ajal kui ülejäänud sinu tehnoloogiapinu jätkab JSON-is suhtlemist.

See räägib mudeliga HEDL-i ja sinu enda süsteemidega tavalist JSON-i, nii et ülejäänud tehnoloogiapinu ei muutu. Võta see välja ja oled täpselt seal, kust alustasid.

Teisendamine saab toimuda sinu enda masinates, EL-i piirkonnas või täiesti võrguühenduseta, ilma välise teenuseta teekonnal.

Tokenite vähenemine, vastuste täpsus ja kadudeta ringteekonnad mõõdetakse reaalsete andmekogumite peal enne kasutuselevõttu.

Sisesta see enne ühte töövoogu, võrdle tulemust ja laienda ainult seal, kus see tasub end ära.

HEDL on üks väike osa, mis muudab AI-abiliste käitamise odavamaks, ilma et see muudaks seda, mida nad sulle vastu ütlevad. Sa ei installi seda, sa ei seadista seda ja sa ei pea sellest aru saama. Siin on lühike versioon sellest, mida see lubab.

Kuna see ütleb sama asja vähemate sõnadega, maksavad seda kasutavad abilised vähem käitada.

Iga kompaktne sõnum taastatakse ja kontrollitakse enne, kui abiline seda kasutab, nii et miski ei kao teel.

See muudab ainult seda, kuidas sõnum saatmiseks kokku pakitakse. Tähendus jääb täpselt samaks.

Sa ei näe HEDL-i ega puuduta seda. See asub AI-abilise taga ja teeb oma tööd iseseisvalt.

Kui te ikka veel kahtlete, on see okei. Te ei pea kunagi HEDL-i puudutama, et see oma tööd teeks.

Puudutage küsimust, et lugeda selget vastust. Pole olemas valesid küsimusi.

Abilised, mida kasutate, maksavad raha, mida arvestatakse natuke nagu telefoniarve sõnade kaupa. Sama asja ütlemine vähemate sõnadega tähendab väiksemat arvet, mis hoiab need abilised odavamana.

Iga kompaktne sõnum taastatakse ja kontrollitakse enne kasutamist. Kui täisversioon ei tule tagasi täpselt, ebaõnnestub teisendus selle asemel, et osa vaikselt kaotada.

Jah. Lühike viis voldib tagasi pikaks viisiks alati, kui vaja, sõna-sõnalt, ilma et midagi lisataks või kaoks. See on nagu kirja voltimine postitamiseks ja siis lahtivoltimine lugemiseks.

Kas täisversiooni saab alati tagasi tuua?

Ei. See muudab ainult seda, kuidas sõnum on kokku volditud teekonnaks abilise juurde ja tagasi. Tähendus jääb täpselt samaks, nii et vastus, mida loete, on vastus, mille oleksite niikuinii saanud.

Kas see võib muuta vastust, mille ma tagasi saan?

Ei. Teil pole midagi alla laadida, sisse lülitada ega õppida. HEDL asub teiste loodud AI-abiliste taga ja teeb oma tööd iseseisvalt. Te ei näe seda kunagi.

Kas ma pean midagi installima või seadistama?

Te ei pea midagi installima ega sellest aru saama. See töötab vaikselt taustal, nii et kasutatavad abilised maksavad vähem ja jäävad sama selgeks.

Kujutage ette, et kirjutate sama aadressi sajale ümbrikule. Võiksite iga kord kirjutada täieliku aadressi. Või võiksite selle kirjutada üks kord ja seejärel ülejäänutele ainult majanumbri. Kirjad jõuavad ikkagi kohale. Te lihtsalt kirjutasite vähem. See ongi HEDLi põhiidee.

Saate lühikese viisi alati tagasi pikaks muuta, sõna-sõnalt, ilma et midagi muutuks. Nagu kirja voltimine, et see ümbrikusse mahuks, ja hiljem lahti voltimine, et seda lugeda.

Iga AI-abilisele saadetud sõna eest makstakse, natuke nagu telefoniarve, mida loetakse sõnade kaupa. Sama asja vähemate sõnadega ütlemine tähendab väiksemat arvet, kuid sama vastust lõpus.

Kui arvuti räägib ühe nende AI-abilistega, saadab see palju sõnu. HEDL on viis öelda täpselt sama asi palju vähemate sõnadega. Midagi ei jäeta välja, see on lihtsalt öeldud selgemalt.

Teie meeskond paigutab konverteri ühe AI töövoo ette. Muud virnas olevat ei puudutata ja ülejäänud ettevõte jätkab täpselt nagu enne.

Konverter salvestab iga päringu puhul tokenite arvu enne ja pärast, nii et näete selget kõrvutust selle kohta, mida varem saatsite ja mida nüüd saadate.

Tegelikud tokenite arvud, mitte hinnangud.

Kui sääst on pilootprojektis tõestatud, paigutatakse sama konverter ülejäänud AI töövoogude ette. Sääst kordub kõikjal, kus tokenite eest mahu järgi arveldatakse.