L-Irdum tal-Ispejjeż tal-Cloud: Għaliex l-AI Edge hija l-Unika Futur Ekonomiku

L-Irdum tal-Ispejjeż tal-Cloud: Għaliex l-AI Edge hija l-Unika Futur Ekonomiku

Il-Mudell tan-Negozju tal-Bejjiegħ tad-Droga

Fid-dinja tas-sustanzi illegali, hemm strateġija ta' kummerċjalizzazzjoni famuża: "L-ewwel doża b'xejn." Tġiegħel lill-klijent jintrabat mas-sentiment, u mbagħad, ladarba jkun dipendenti, tibda tiċċarġja. U tibqa' tiċċarġja, għal dejjem.

Dan huwa, fil-fond, il-mudell tan-negozju tal-fornituri tal-Cloud AI illum.

Jagħtuk kreditu b'xejn. Jagħmlu l-APIs faċli b'mod inkredibbli biex jiġu integrati. Biss ftit linji ta' Python: import openai. import anthropic. Iħossu maġiku. Tibni demo fi pomeriggio. Taħdem perfettament. Tiswa frazzjoni ta' ċenteżmu biex tiġġenera rispons. L-investituri tiegħek huma impressjonati. It-tim tiegħek huwa eċċitat. Il-futur iħossu bla limitu.

Imbagħad tniedi. Tiskala. Tniedi l-karatteristika tiegħek imsaħħa bl-AI lil 100,000 utent. U f'daqqa waħda, tiltaqa' mal-Irdum tal-Ispiża tal-Cloud.

Il-kont tal-AWS jew tal-OpenAI tiegħek m'għadux biss oġġett fil-lista; huwa r-rata tal-ħruq tiegħek. Rajna startups fejn l-ispiża tal-inferenza tal-AI taqbeż id-dħul mill-abbonament tal-utent. Dik hija marġni gross negattiv. Fid-dinja tal-fiżika tan-negozju, dik hija toqba sewda. Dak huwa mudell tan-negozju li huwa mejjet mal-wasla, ma jimpurtax kemm it-teknoloġija tkun brillanti.

Dan mhux problema teoretika. Qed jiġri issa stess, madwar l-ekosistema kollha tal-startups tal-AI. Il-mistoqsija mhix jekk l-ispejjeż tal-AI tiegħek se jisplodux fuq skala. Il-mistoqsija hija jekk inti se ssib l-ekonomija qabel ma jispiċċa r-runway tiegħek.

Nifhmu t-Taxxa tat-Tokens

Biex tifhem għaliex l-ispejjeż tal-AI fil-cloud jisplodu, trid tifhem kif jaħdem il-prezz. Mhux bħall-infrastruttura tradizzjonali tas-software.

Is-servizzi tal-AI fil-cloud jiċċarġjaw bil-"token." Token huwa bejn wieħed u ieħor kelma jew biċċa kelma (madwar 4 karattri bħala medja). GPT-4o jiċċarġja madwar $2.50 għal kull miljun token ta' input u $10 għal kull miljun token ta' output. Claude 3.5 Sonnet jiċċarġja $3 għal kull miljun token ta' input u $15 għal kull miljun token ta' output. Dawn jidhru bħala numri żgħar sakemm tagħmel il-matematika fuq skala kbira.

Ikkunsidra interazzjoni tipika ta' chatbot tal-AI. L-utent jagħmel mistoqsija (forsi 50 token). Is-sistema tiegħek, l-istorja tal-konversazzjoni, u l-kuntest miġbur iżidu 2,000 token ieħor. L-AI tiġġenera rispons ta' 300 token. Dan ifisser 2,350 token b'kollox għal kull interazzjoni.

B'$3 għal kull miljun token ta' input u $15 għal kull miljun token ta' output, dik l-interazzjoni waħda tiswa bejn wieħed u ieħor:

• Spiża tal-input: 2,050 token x ($3 / 1,000,000) = $0.00615
• Spiża tal-output: 300 token x ($15 / 1,000,000) = $0.0045
• Total għal kull interazzjoni: ~$0.01

Ċenteżmu għal kull interazzjoni. Dak jidher trivjali. Imma issa ikkunsidra applikazzjoni għall-konsumatur fejn l-utenti jinteraġixxu 20 darba kuljum. Dan ifisser $0.20 għal kull utent kuljum, jew $6 għal kull utent fix-xahar fi spejjeż tal-AI biss.

Jekk qed tiċċarġja $9.99/xahar għall-prodott tiegħek u tħallas $6 fix-xahar fi spejjeż tal-AI, jibqgħalek 40% tad-dħul għal kull ħaġa oħra: servers, bandwidth, appoġġ għall-klijenti, marketing, salarji tal-inġiniera, u profitt. Dak mhux negozju SaaS. Dak magna li tispiċċa break-even fl-aħjar każ.

U jsir agħar. L-utenti tqal (li spiss jinkludu l-aqwa klijenti tiegħek u l-aktar sostenituri leħinhom) jiswew ferm aktar. Utent qawwi li jagħmel 100 interazzjoni kuljum jiswik $30 fix-xahar. Huma litteralment qed iġiegħluk titlef il-flus kull xahar li jibqgħu abbonati. Aktar ma jħobbu l-prodott tiegħek, aktar malajr ibattlu l-kont bankarju tiegħek.

Il-Miraklu tas-Software Tradizzjonali

Biex tapprezza kemm hi miksura l-mudell tal-AI fil-cloud, qabblu mal-ekonomija tradizzjonali tas-SaaS.

Netflix jistrimja vidjows lil aktar minn 230 miljun abbonat. L-ispiża marġinali li tistrimja film ieħor lil persuna oħra hija effettivament żero. Il-bits diġà huma maħżuna fuq servers CDN. Il-bandwidth jitħallas minn qabel fi kuntratti bl-ingrossa. Iż-żieda ta' abbonat tiswa lil Netflix kważi xejn ladarba l-infrastruttura tkun mibnija.

Dan jissejjaħ "operating leverage." In-negozji tradizzjonali tas-software għandhom operating leverage inkredibbli għaliex l-ispiża marġinali biex isservi aktar utenti toqrob lejn iż-żero. Huwa għalhekk li l-kumpaniji tas-software jistgħu jilħqu marġini grossi ta' 80%+ u għaliex l-investituri jħobbuhom.

L-ekonomija tidher hekk:

In-Numri Reali: Studju ta' Każ

Ħallini nimxi miegħek permezz ta' numri reali minn kumpanija li aħna tajnieha parir (id-dettalji huma anonimizzati iżda l-proporzjonijiet huma ppreservati).

Din kienet għodda ta' produttività B2B li kienet titlob $29 fix-xahar għal kull siġġu. Huma integraw karatteristiċi ta' sommarizzazzjoni u assistenza fil-kitba bl-AI mħaddma minn GPT-4. Fl-ambjent tad-dimostrazzjoni tagħhom b'50 utent beta, kollox deher tajjeb. L-ispejjeż tal-AI kienu $200 fix-xahar b'kollox. Id-dħul kien $1,450 fix-xahar. Marġni gross b'saħħtu ta' 86%.

Huma nedew. Sitt xhur wara, kellhom 15,000 utent li jħallsu. Id-dħul kien $435,000 fix-xahar. Tkabbir impressjonanti. Iżda l-kont tagħhom ma' OpenAI kien $380,000 fix-xahar. Il-marġni gross kien waqa' għal 12.6%. Wara li ħallsu għas-servers, l-istaff ta' appoġġ, u l-inġinerija, kienu qed jitilfu l-flus fuq kull klijent ġdid.

X'inhu li mar ħażin? L-utent medju tagħhom kien qed jagħmel 40 talba lill-AI kuljum (huma kienu bnew prodott tajjeb li n-nies verament użaw). Kull talba kienet bħala medja ta' 3,500 token bil-kuntest. Bil-prezzijiet ta' GPT-4, dan kien bejn wieħed u ieħor $0.84 għal kull utent kuljum, jew $25.20 għal kull utent fix-xahar.

Huma kienu qed jitolbu $29 u jħallsu $25.20 fi spejjeż tal-AI. Prodott li deher li kellu marġni gross ta' 86% fil-beta kien sar diżastru ta' marġni gross ta' 13% fuq skala kbira. U aktar ma kisbu utenti, aktar kienet tmur għall-agħar.

Din hija l-Irdum tal-Ispiża tal-Cloud. Mhijiex inklinazzjoni gradwali. Huwa rdum li minnu taqa' meta tirnexxi.

L-Inverżjoni tal-AI fuq it-Tarf: Taqleb CapEx u OpEx

Is-soluzzjoni mhijiex li tinnegozja rati aħjar ma' OpenAI (għalkemm dan jgħin b'mod marġinali). Is-soluzzjoni hija li tirristruttura fundamentalment fejn isseħħ il-komputazzjoni.

L-AI fuq it-tarf taqleb il-mudell ekonomiku. Minflok tikri l-intelliġenza bit-token fil-cloud, inti tippossjedi l-intelliġenza fuq il-ħardwer tiegħek. Minflok nefqa operattiva (OpEx) li tikber mal-użu, għandek nefqa kapitali (CapEx) li tħallas darba waħda.

Ikkunsidra l-paragun tal-ispejjeż għal manifattur ta' apparat intelliġenti:

Għaliex l-Edge AI Ma Kienx Vijabbli Sa Issa

Jekk l-edge AI huwa daqshekk ovvjament aħjar ekonomikament, għaliex ma adottawh kulħadd diġà? It-tweġiba tinsab fir-rekwiżiti tekniċi tal-mudelli tradizzjonali tal-AI.

Mudelli tal-klassi GPT-4 jeħtieġu madwar 1.8 triljun parametru maħżuna bħala numri b'punt li jvarja ta' 32-bit. Dan huwa bejn wieħed u ieħor 7.2 terabytes ta' piżijiet tal-mudell. Ma tistax idaħħal dan fuq apparat edge. Ma tistax tħaddmu fuq smartphone. Żgur li ma tistax tħaddmu fuq mikrokontrollur ta' $4.

Il-mudell tal-cloud jeżisti għaliex il-mudelli huma tant massivi li biss infrastruttura fuq skala ta' cloud tista' tħaddimhom. Għandek bżonn GPUs H100 ta' $25,000 kull waħda, clusters b'eluf minnhom, u l-infrastruttura tal-enerġija ta' belt żgħira biex iżżommhom jaħdmu.

Hawnhekk l-arkitettura ta' Binary Constraint Discovery ta' Dweve tbiddel kollox.

Dweve ma jużax netwerks newrali tradizzjonali b'punt li jvarja. Aħna nużaw settijiet ta' restrizzjonijiet binarji: komputazzjoni ta' 1-bit b'operaturi bitwise (XNOR, AND, OR, POPCNT). Dan mhuwiex kompromess. Huwa approċċ fundamentalment differenti għall-intelliġenza tal-magni.

Il-vantaġġi huma tal-għaġeb:

• Kompressjoni ta' 32x: Fejn il-mudelli tradizzjonali jużaw floats ta' 32-bit, aħna nużaw 1-bit. L-istess kapaċità loġika, 32x iżgħar.
• 96% inqas enerġija: L-operazzjonijiet binarji jikkunsmaw ~0.15 picojoules meta mqabbla ma' ~4.6 picojoules għall-punt li jvarja. Il-batterija tiegħek iddum aktar. Il-kont tad-dawl tiegħek ikun aktar baxx.
• Effiċjenza tal-hardware: Il-CPUs moderni għandhom istruzzjonijiet ottimizzati ħafna għall-operazzjonijiet binarji. L-1,937 algoritmi tagħna f'Dweve Core huma ddisinjati speċifikament biex jisfruttaw l-istruzzjonijiet SIMD bħal AVX-512 għal parallelizmu massiv.
• Disinn edge-first: Is-456 settijiet ta' restrizzjonijiet speċjalizzati ta' Dweve Loom jammontaw għal madwar 150GB kompressati. Iżda biss 4-8 speċjalisti tad-dominju jattivaw għal kull query, li jfisser li l-memorja tax-xogħol attiva hija biss 256MB-1GB. Dan joqgħod fuq smartphone. Dan joqgħod fuq kelliem intelliġenti. Dan joqgħod fuq apparati edge industrijali.

Għall-ewwel darba, tista' tħaddem inferenza sofistikata tal-AI fuq hardware edge mingħajr ma tikkomprometti l-kwalità. L-ekonomija tinbidel minn OpEx għal CapEx. Il-irdum jisparixxi.

Id-Dividend tal-Latenza: Jirbaħ il-Fiżika

Lil hinn mill-ekonomija, hemm restrizzjoni iebsa li l-ebda ammont ta' flus ma jista' jsolvi: il-veloċità tad-dawl.

Id-dawl jivvjaġġa b'madwar 300,000 kilometru kull sekonda. Sinjal minn fabbrika f'Munich għal data center f'Virginia u lura jkopri bejn wieħed u ieħor 14,000 kilometru, u jieħu madwar 47 millisekonda bil-veloċità tad-dawl. Fil-prattika, bir-routing, l-iswiċċjar, il-queueing, u l-ipproċessar, il-latenza tar-ritorn sħiħ hija tipikament 150-300 millisekondi.

Għal ħafna applikazzjonijiet, din il-latenza hija ta' tfixkil:

• Robotika industrijali: Driegħ ta' robot li jħoss ħaddiem uman fit-triq tiegħu ma jistax jistenna 200ms biex server tal-cloud jipproċessa l-immaġni u jibgħat kmand ta' waqfien. Bil-veloċitajiet tipiċi tar-robots, dak id-dewmien ifisser li d-driegħ jivvjaġġa 20-50 ċentimetru qabel ma jirreaġixxi. F'applikazzjonijiet kritiċi għas-sigurtà, l-AI trid tiddeċiedi f'inqas minn 10 millisekondi.
• Vetturi awtonomi: Karozza li tivvjaġġa b'130 km/h tkopri 36 metru kull sekonda. Ritorn ta' 200ms fil-cloud ifisser li ssuq għomja għal 7.2 metri. F'dik id-distanza, persuna tista' titla' mill-bankina. Mutur jista' joħroġ. Il-fiżika ma jimpurtahiex mill-arkitettura tal-cloud tiegħek.
• Interfaces tal-vuċi: Il-bnedmin huma sensittivi b'mod inkredibbli għall-ħin tal-konversazzjoni. Ir-riċerka turi li waqfiet itwal minn 200ms iħossuhom "laggy" jew "dumb." Aħna ninterrompu lil xulxin, nitkellmu fuq il-waqfiet. L-assistenti tal-vuċi bbażati fuq il-cloud iħossuhom mhux naturali għaliex il-latenza tan-netwerk toħloq silenzji skomdi.
• Logħob u midja f'ħin reali: Il-gamers jinnutaw latenza 'l fuq minn 20ms. Għal-logħob imtejjeb bl-AI, l-inferenza fil-cloud sempliċement mhix għażla. L-esperjenza trid tkun f'ħin reali.

L-Edge AI jaħdem bil-veloċità tas-silikonju. L-inferenza binarja ta' Dweve tista' tipproċessa mistoqsijiet f'mikrosekondi, mhux f'millisekondi. M'hemm l-ebda jitter tan-netwerk, l-ebda kju ta' servers, l-ebda telf ta' konnessjoni WiFi, l-ebda limitu ta' rata tal-API. Għal applikazzjonijiet f'ħin reali, l-edge mhux biss irħas; hija l-unika arkitettura li taħdem.

Il-Privatezza bħala Iffrankar ta' Spejjeż

Hemm benefiċċju ekonomiku sekondarju, spiss injorat, tal-AI fuq it-tarf: m'għandekx għalfejn timmaniġġja d-dejta tal-utenti xejn.

Id-dejta hija responsabbiltà, mhux assi. Meta taħżen id-dejta tal-utenti fil-cloud, ikollok diversi spejjeż:

• Spejjeż ta' ħażna: Kull reġistrazzjoni tal-vuċi, kull traskrizzjoni ta' chat, kull reġistru ta' interazzjoni jieħu spazju. L-ispejjeż tal-ħażna S3 jammontaw. L-ispejjeż tal-backup jimmultiplikawhom.
• Spejjeż ta' bandwidth: It-tlugħ ta' streams tal-awdjo, frejms tal-vidjo, jew dejta tas-sensuri fil-cloud jikkonsma bandwidth. Fuq skala kbira, il-bandwidth spiss ikun l-akbar spiża tal-infrastruttura.
• Spejjeż tas-sigurtà: Id-dejta tattira attakkanti. Għandek bżonn timijiet tas-sigurtà, ittestjar ta' penetrazzjoni, pjanijiet ta' rispons għal inċidenti, bug bounties. Għandek bżonn assigurazzjoni ċibernetika, li ssir aktar għalja kull sena.
• Spejjeż ta' konformità: GDPR, CCPA, HIPAA, u għexieren ta' regolamenti oħra jeħtieġu proċeduri speċifiċi għall-immaniġġjar tad-dejta. Għandek bżonn avukati, uffiċjali tal-konformità, audit trails, ftehimiet għall-ipproċessar tad-dejta. Ksur wieħed tal-GDPR jista' jiswa 4% tad-dħul globali.
• Riskju ta' litigazzjoni: Jekk id-dejta tal-utenti tiegħek tinkiser, tiffaċċja kawżi ta' azzjoni kollettiva, multi regolatorji, u ħsara lir-reputazzjoni. L-ispiża medja ta' ksur tad-dejta fl-2024 kienet $4.45 miljun.

Bl-AI fuq it-tarf, id-dejta qatt ma titlaq mill-apparat tal-utent. M'hemmx xejn x'taħżen, xejn x'tassigura, xejn x'tikser, xejn x'tikxef fi proċeduri legali. Il-piż tal-konformità jonqos b'mod drammatiku. L-aktar dejta irħisa biex tipproteġi hija d-dejta li qatt ma tmiss.

Għal applikazzjonijiet sensittivi għall-privatezza (kura tas-saħħa, finanzjarji, prodotti għat-tfal), l-AI fuq it-tarf mhijiex biss għażla ekonomika. Ħafna drabi hija l-uniku mod biex jinkiseb konformità regolatorja bi spiża raġonevoli.

Ħarba min-Nassa tal-Kera

Il-fornituri ewlenin tal-cloud (Amazon, Google, Microsoft) u l-kumpaniji tal-API tal-AI (OpenAI, Anthropic) għandhom interess dirett fl-istatus quo. Il-mudelli tan-negozju tagħhom jiddependu fuqek tikri minflok tkun proprjetarju.

Iridu li temmen li l-AI hija kumplessa wisq, massiva wisq, u sofistikata wisq biex taħdem fuq il-ħardwer tiegħek stess. Iridu li temmen li għandek bżonn il-mudelli proprjetarji tagħhom fuq il-GPUs mikrija tagħhom. Jikkummerċjalizzaw il-konvenjenza: "Ċempel biss lill-API tagħna! Aħna nittrattaw il-kumplessità!"

Dak li ma jgħidulekx huwa li qed tibni n-negozju kollu tiegħek fuq il-marġni tagħhom. Meta tuża l-AI fil-cloud, porzjon sinifikanti tal-ekonomija tal-unità tiegħek jinqabad mill-fornitur tal-infrastruttura. Qed tħallashom biex ikunu proprjetarji tar-relazzjoni mal-konsumatur waqt li inti tagħmel il-marketing u l-appoġġ.

Agħar minn hekk, qed toħloq lock-in. Il-prompts tiegħek huma sintonizzati għall-mudelli tagħhom. L-utenti tiegħek jistennew l-imġiba tagħhom. L-ispejjeż tal-bidla jammontaw. U mbagħad, meta ma jkollok l-ebda alternattiva, il-prezzijiet jogħlew.

Din hija n-nassa tal-kera. Hija l-istess dinamika li saqet l-ispejjeż tad-djar fil-bliet kbar: is-sidien għandhom l-infrastruttura essenzjali, l-inkwilini jħallsu għal dejjem, il-ġid jittrasferixxi mill-utenti lis-sidien.

L-AI fuq it-tarf tkisser in-nassa tal-kera. Meta jkollok l-intelliġenza fuq il-ħardwer tiegħek stess, ikollok il-kapaċità. M'intix qed tħalli kera. Qed tibni ekwità. Kull apparat li tibgħat bl-AI fuq it-tarf huwa assi, mhux responsabbiltà.

L-Approċċ ta' Dweve: Intelliġenza Binarja għall-Implimentazzjoni fuq it-Tarf

Il-pjattaforma ta' Dweve hija mfassla speċifikament għall-użu fuq it-tarf (edge). L-arkitettura tagħna ta' Binary Constraint Discovery tikseb intelliġenza ta' kwalità ta' cloud f'daqsijiet kompatibbli mat-tarf.

Hawn kif nippermettu l-inverżjoni ekonomika:

• Dweve Core: 1,937 algoritmi ottimizzati għall-hardware f'6 kategoriji u 132 taqsima. Appoġġ sħiħ għal CPU (SSE2, AVX2, AVX-512, ARM NEON, ARM SVE), GPU (CUDA, ROCm, Metal, Vulkan), FPGA, u WebAssembly. Inti tagħżel il-hardware li jaqbel mal-BOM tiegħek.
• Dweve Loom: 456 settijiet ta' restrizzjonijiet speċjalizzati b'attivazzjoni ultra-sparsa. Jattivaw biss 4-8 speċjalisti tad-dominju għal kull mistoqsija. Rekwiżit ta' memorja ta' ħidma: 256MB-1GB. Kapaċità sħiħa, footprint kompatibbli mat-tarf.
• Kompressjoni Binarja: 32 darba iżgħar minn mudelli ekwivalenti b'punt li jvarja. Kapaċità li teħtieġ 7GB f'format tradizzjonali tidħol f'220MB bir-rappreżentazzjoni binarja tagħna.
• Effiċjenza tal-Enerġija: 96% inqas enerġija għal kull inferenza. Il-ħajja tal-batterija tiegħek titwal. L-ispejjeż tal-elettriku tiegħek jonqsu. Ir-rekwiżiti termali tiegħek jirrilassaw.

Nipprovdu l-għodda kollha: kwantizzazzjoni tal-mudelli, frameworks għall-użu fuq it-tarf, SDKs għall-apparati, u appoġġ kontinwu għall-ottimizzazzjoni. Inti tiffoka fuq il-bini tal-prodott tiegħek. Aħna nittrattaw li l-AI tidħol fuq il-hardware tiegħek.

Min Għandu Jieħu Ħsieb Dan

L-irdum tal-ispiża tal-cloud jaffettwa kull kumpanija li tibni prodotti b'AI. Iżda xi kategoriji jiffaċċjaw pressjoni aktar akuta:

Manifatturi ta' hardware għall-konsumatur: Kelliema intelliġenti, apparati li jintlibsu, awtomazzjoni tad-dar, ġugarelli. Dawn huma prodotti ta' marġni baxx u volum għoli fejn $5 għal kull apparat fl-ispejjeż tal-cloud jistgħu jaqbżu l-marġni kollu tal-profitt tiegħek. L-AI fuq it-tarf mhijiex għażla. Hija sopravivenza.

IoT Industrijali: Fabbriki, loġistika, agrikoltura, enerġija. Dawn l-applikazzjonijiet jeħtieġu rispons f'ħin reali u ma jistgħux jittolleraw dipendenza fuq in-netwerk. Waħda mill-interruzzjonijiet tal-cloud ma tistax twaqqaf il-fabbrika tiegħek. Żieda fil-latenza ma tistax tikkraxxja d-drone tiegħek. It-tarf huwa l-unika arkitettura.

Karozzi: ADAS, infotainment, ġestjoni tal-flotot. Il-vetturi joperaw f'żoni mejta ta' konnettività. Jeħtieġu ħinijiet ta' rispons kritiċi għas-sigurtà. Għandhom ħajja ta' 10-15-il sena fejn l-ispejjeż kontinwi tal-cloud jakkumulaw b'mod katastrofiku. It-tarf huwa obbligatorju.

Apparati tas-saħħa: Monitoraġġ tal-pazjenti, għodod dijanjostiċi, apparati terapewtiċi. Ir-regolamenti dwar il-privatezza jirrestrinġu severament l-immaniġġjar tad-dejta fil-cloud. Ir-rekwiżiti ta' ħin reali jitolbu proċessar lokali. It-tħassib dwar ir-responsabbiltà jeħtieġ sistemi provabbli u verifikabbli. It-tarf huwa t-triq għall-konformità.

B2B SaaS b'użu qawwi tal-AI: Kull prodott fejn l-utenti jinteraġixxu mal-AI ta' spiss jiffaċċja l-problema tal-kompressjoni tal-marġni. Jekk l-utenti tiegħek iħobbu l-karatteristiċi tal-AI tiegħek, se jużawhom kontinwament, u l-marġnijiet tiegħek se jevaporaw. Arkitetturi fuq it-tarf jew ibridi jistgħu jirrestawraw il-vijabbiltà ekonomika.

It-Triq tat-Tranżizzjoni

Il-moviment mill-cloud għat-tarf mhuwiex bidla f'lejl u nhar. Jeħtieġ ippjanar, iżda t-triq hija ċara:

1. Irrevedi l-ispejjeż attwali tiegħek: Ifhem eżattament kemm tħallas għal kull utent, għal kull interazzjoni, għal kull karatteristika. Ħafna kumpaniji jissottovalutaw l-ispejjeż tal-AI tagħhom għax huma midfuna fil-kontijiet ġenerali tal-cloud.
2. Identifika l-kompiti ta' frekwenza għolja u kumplessità baxxa: Mhux kollox jeħtieġ GPT-4. Ħafna kompiti komuni tal-AI (klassifikazzjoni tal-intenzjoni, estrazzjoni ta' entitajiet, sommarizzazzjoni ta' testi qosra) jistgħu jaħdmu fuq mudelli ħafna iżgħar fl-edge.
3. Ibda b'mudell ibridu: Żomm il-kompiti kumplessi u rari fil-cloud. Mexxi l-kompiti sempliċi u frekwenti lejn l-edge. Dan itejjeb immedjatament il-marġni tiegħek waqt li tiżviluppa l-kapaċitajiet sħaħ tal-edge.
4. Ibni l-kapaċità tal-edge: Aħdem ma' Dweve biex tiskjera mudelli ottimizzati fuq il-ħardwer fil-mira tiegħek. It-tim tagħna jgħinek tinnaviga l-kompromessi bejn il-kapaċità tal-mudell, ir-rekwiżiti tal-ħardwer, u l-latenza tal-inferenza.
5. Irrepeti: Hekk kif il-kapaċità tal-edge timmatura, mexxi aktar xogħol mill-cloud lejn l-edge. Kull migrazzjoni ttejjeb il-marġnijiet tiegħek u tnaqqas id-dipendenza tiegħek fuq il-cloud.

L-għan mhux neċessarjament li jkollok żero cloud. Xi kompiti jistgħu dejjem jibbenefikaw minn mudelli fuq skala tal-cloud. L-għan huwa s-sostenibbiltà ekonomika: struttura tal-ispejjeż fejn it-tkabbir joħloq profitt aktar milli telf.

Il-Futur Jappartjeni lis-Sjieda

L-era attwali tad-dominanza tal-AI fil-cloud hija anormalità storika. teżisti għax l-ewwel ġenerazzjoni ta' mudelli tal-AI kapaċi kienu kbar wisq għal kwalunkwe ħaġa ħlief skjerament fil-cloud. Hekk kif it-tekniki tal-ottimizzazzjoni jimmaturaw, hekk kif il-ħardwer speċjalizzat jitjieb, hekk kif kumpaniji bħal Dweve jippijunieraw arkitetturi effiċjenti, l-ekonomija tinbidel bla waqfien lejn l-edge.

Ir-rebbieħa fid-deċennju li jmiss mhux se jkunu l-kumpaniji li jħallsu l-ogħla kontijiet tal-cloud. Huma se jkunu l-kumpaniji li jippossjedu l-intelliġenza tagħhom, li inkorporaw il-kapaċità tal-AI fil-prodotti tagħhom fil-livell tal-ħardwer, li biddlu t-Taxxa tat-Tokens fid-Dividend tal-Edge.

Ieqaf tħallas il-kera. Ibda tibni ekwità. Il-irdum tal-ispiża tal-cloud qed jasal għal kulmin għadu wieqaf fuqu.

Dweve jista' jgħinek titla' mill-irdum qabel ma taqa'. Il-pjattaforma tal-AI ottimizzata binarjament tagħna taħdem fuq apparati edge b'rekwiżiti minimi ta' ħardwer, u telimina t-Taxxa tat-Tokens li teqred il-marġnijiet. Ngħinuk timxi mill-kera perpetwa tal-cloud għal CapEx ta' darba waħda, u b'hekk tippermetti mudelli ta' negozju li fil-fatt jiskalaw b'mod profittabbli.

Kemm jekk qed tibni apparati IoT, awtomazzjoni industrijali, elettronika għall-konsumatur, jew softwer imtejjeb bl-AI, għandna l-għodod, il-kompetenza, u r-rekord ta' implimentazzjoni biex nagħmlu l-AI edge ekonomikament vijabbli għall-prodott tiegħek.

Il-kera għolja wisq. Wasal iż-żmien li tkun proprjetà tiegħek.