Mākoņskaitļošanas izmaksu krauja: kāpēc Edge AI ir vienīgā ekonomiski iespējamā nākotne

Lēts demo, bet postošs mērogā. „Izmaksas par tokenu” modelis, kas lieliski izskatās prezentācijā, kļūst par peļņu graujošu briesmoni, kad ierodas īsti...

Mākoņskaitļošanas izmaksu krauja: kāpēc Edge AI ir vienīgā ekonomiski iespējamā nākotne

Narkotiku tirgotāja biznesa modelis

Nelegālo vielu pasaulē ir slavena mārketinga stratēģija: "Pirmā deva ir bez maksas." Jūs panākat, ka klients iecienījis šo sajūtu, un tad, kad viņš ir kļuvis atkarīgs, sākat prasīt samaksu. Un jūs prasāt samaksu mūžīgi.

Tas būtībā ir mūsdienu mākoņdatošanas mākslīgā intelekta pakalpojumu sniedzēju biznesa modelis.

Viņi jums piešķir bezmaksas kredītus. Viņi padara API integrāciju neticami vienkāršu. Tikai dažas Python rindiņas: import openai. import anthropic. Tas šķiet maģiski. Jūs pēcpusdienā izveidojat demonstrācijas versiju. Tā darbojas nevainojami. Atbildes ģenerēšana izmaksā niecīgu centa daļu. Jūsu investori ir pārsteigti. Jūsu komanda ir sajūsmā. Nākotne šķiet neierobežota.

Tad jūs uzsākat darbību. Jūs paplašināties. Jūs ieviešat savu uz mākslīgo intelektu balstīto funkciju 100 000 lietotāju. Un pēkšņi jūs ietriecaties mākoņdatošanas izmaksu klintī.

Jūsu AWS vai OpenAI rēķins vairs nav tikai izmaksu pozīcija; tas ir jūsu naudas patēriņa temps. Mēs esam redzējuši jaunuzņēmumus, kuros mākslīgā intelekta secinājumu izmaksas pārsniedz lietotāju abonēšanas ieņēmumus. Tā ir negatīva bruto peļņa. Biznesa fizikas pasaulē tas ir melnais caurums. Tas ir biznesa modelis, kas ir lemts neveiksmei jau no paša sākuma, lai cik izcila būtu tehnoloģija.

Šī nav tikai teorētiska problēma. Tā notiek tieši tagad visā mākslīgā intelekta jaunuzņēmumu ekosistēmā. Jautājums nav par to, vai jūsu mākslīgā intelekta izmaksas pieaugs līdz ar apjomu. Jautājums ir par to, vai jūs izpratīsiet ekonomiku, pirms beigsies jūsu finanšu rezerve.

Mākoņa izmaksu krauja: demonstrācija pret mēroga ekonomiku Kāpēc AI jaunuzņēmumi mirst, kad gūst panākumus: apgrieztā mērogošanas lamatas IZMAKSAS / IEŅĒMUMI (USD) AKTĪVI LIETOTĀJI MĒNESĪ 10 1K 10K 100K 500K 1M Ieņēmumi (Lineāra izaugsme) Mākoņa AI izmaksas (Superlineāra izaugsme) Edge AI izmaksas (Plakanas mērogā) KRAUJA Izmaksas pārsniedz ieņēmumus Negatīva bruto peļņa Uzņēmējdarbības modeļa neveiksme "DEMONSTRĀCIJAS ZONA" Izskatās ienesīgi! Investoriem patīk! Izmaksas ir niecīgas! Līdzsvara punkts (~50K lietotāju) Jo veiksmīgāks esi, jo ātrāk bankrotē. Panākumi = nāve.

Izpratne par tokenu nodokli

Lai saprastu, kāpēc mākoņa mākslīgā intelekta izmaksas eksplodē, ir jāsaprot, kā darbojas cenu noteikšana. Tā nav kā tradicionālā programmatūras infrastruktūra.

Mākoņa mākslīgā intelekta pakalpojumi iekasē maksu par "tokenu". Tokens aptuveni atbilst vārdam vai vārda daļai (vidēji apmēram 4 rakstzīmes). GPT-4o maksā aptuveni 2,50 ASV dolārus par miljonu ievades tokenu un 10 ASV dolārus par miljonu izvades tokenu. Claude 3.5 Sonnet maksā 3 ASV dolārus par miljonu ievades tokenu un 15 ASV dolārus par miljonu izvades tokenu. Tie izklausās kā mazi skaitļi, līdz veicat aprēķinus lielā mērogā.

Aplūkosim tipisku AI tērzēšanas robota mijiedarbību. Lietotājs uzdod jautājumu (varbūt 50 tokenu). Jūsu sistēmas uzvedne, sarunu vēsture un izgūtais konteksts pievieno vēl 2000 tokenu. AI ģenerē atbildi 300 tokenu garumā. Kopā vienā mijiedarbībā tas ir 2350 tokenu.

Par 3 ASV dolāriem par miljonu ievades tokenu un 15 ASV dolāriem par miljonu izvades tokenu šī viena mijiedarbība maksā aptuveni:

  • Ievades izmaksas: 2050 tokenu x (3 ASV dolāri / 1 000 000) = 0,00615 ASV dolāri
  • Izvades izmaksas: 300 tokenu x (15 ASV dolāri / 1 000 000) = 0,0045 ASV dolāri
  • Kopā par mijiedarbību: aptuveni 0,01 ASV dolāri

Viens cents par mijiedarbību. Tas izklausās niecīgi. Bet tagad aplūkosim patērētāju lietotni, kurā lietotāji mijiedarbojas 20 reizes dienā. Tas ir 0,20 ASV dolāri par lietotāju dienā jeb 6 ASV dolāri par lietotāju mēnesī tikai AI izmaksās.

Ja par savu produktu iekasējat 9,99 ASV dolārus mēnesī un maksājat 6 ASV dolārus mēnesī par AI, jums paliek 40% ieņēmumu visam pārējam: serveriem, joslas platumam, klientu atbalstam, mārketingam, inženieru algām un peļņai. Tas nav SaaS bizness. Labākajā gadījumā tā ir pašizmaksas mašīna.

Un kļūst vēl sliktāk. Aktīvi lietotāji (kas bieži vien ir jūsu labākie klienti un skaļākie atbalstītāji) izmaksā nesamērīgi vairāk. Jaudīgs lietotājs, kurš veic 100 mijiedarbības dienā, jums izmaksā 30 ASV dolārus mēnesī. Viņi burtiski liek jums zaudēt naudu katru mēnesi, kamēr saglabā abonementu. Jo vairāk viņiem patīk jūsu produkts, jo ātrāk viņi iztukšo jūsu bankas kontu.

Tokenu nodoklis pārvērš viena centa mijiedarbību par atkārtotu ikmēneša peļņas normas samazinājumu.

Tradicionālās programmatūras brīnums

Lai novērtētu, cik sagrauts ir mākoņa AI modelis, salīdziniet to ar tradicionālo SaaS ekonomiku.

Netflix straumē video vairāk nekā 230 miljoniem abonentu. Vienas papildu filmas straumēšanas vienam papildu cilvēkam robežizmaksas ir praktiski nulle. Biti jau ir kešoti CDN serveros. Joslas platums ir iepriekš apmaksāts lielapjoma līgumos. Pievienojot abonentu, Netflix izmaksas gandrīz nepalielinās, kad infrastruktūra jau ir izbūvēta.

To sauc par "darbības sviru". Tradicionālajiem programmatūras uzņēmumiem ir neticama darbības svira, jo papildu lietotāju apkalpošanas robežizmaksas tuvojas nullei. Tāpēc programmatūras uzņēmumi var sasniegt 80%+ bruto peļņas normu un tāpēc investori tos mīl.

Ekonomika izskatās šādi:

SaaS ekonomiskais modelis: kāpēc programmatūra ir maģiska Robežizmaksas tuvojas nullei, pieaugot mērogam TRADICIONĀLAIS SaaS (Netflix, Slack, Salesforce) IZMAKSU STRUKTŪRA Fiksētās: serveri, izstrāde, infrastruktūra Mainīgās: gandrīz nekas uz vienu lietotāju Robežizmaksas: ~$0.00 VIENĪBAS EKONOMIKA Ieņēmumi uz lietotāju: $10/mēnesī Izmaksas uz lietotāju: $0.05/mēnesī (joslas platums) BRUTO PEĻŅA: 99.5% MĀKOŅA AI SaaS (Lielākā daļa AI jaunuzņēmumu šodien) IZMAKSU STRUKTŪRA Fiksētās: serveri, izstrāde, infrastruktūra Mainīgās: AI secinājumi par katru mijiedarbību Robežizmaksas: $0.01-0.10 par mijiedarbību VIENĪBAS EKONOMIKA Ieņēmumi uz lietotāju: $10/mēnesī Izmaksas uz lietotāju: $6-30/mēnesī (AI secinājumi) BRUTO PEĻŅA: -200% līdz 40% Mākoņa AI iznīcina darbības sviras efektu, kas padara programmatūras biznesu ienesīgu

Reālie skaitļi: gadījuma izpēte

Ļaujiet man parādīt reālus skaitļus no uzņēmuma, kuram mēs konsultējām (detaļas anonimizētas, bet proporcijas saglabātas).

Tas bija B2B produktivitātes rīks, kas maksāja 29 $ mēnesī par vienu lietotāja vietu. Viņi integrēja AI kopsavilkuma un rakstīšanas palīdzības funkcijas, ko nodrošināja GPT-4. Viņu demonstrācijas vidē ar 50 beta lietotājiem viss izskatījās lieliski. AI izmaksas bija 200 $ mēnesī kopā. Ieņēmumi bija 1 450 $ mēnesī. Veselīga 86% bruto peļņa.

Viņi uzsāka darbību. Pēc sešiem mēnešiem viņiem bija 15 000 maksājošu lietotāju. Ieņēmumi bija 435 000 $ mēnesī. Iespaidīga izaugsme. Bet viņu OpenAI rēķins bija 380 000 $ mēnesī. Bruto peļņa bija sabrukusi līdz 12,6%. Pēc serveru, atbalsta personāla un inženierijas apmaksas viņi zaudēja naudu par katru jaunu klientu.

Kas nogāja greizi? Viņu vidusmēra lietotājs veica 40 AI pieprasījumus dienā (viņi bija izveidojuši labu produktu, ko cilvēki patiešām lietoja). Katrs pieprasījums vidēji patērēja 3 500 žetonu ar kontekstu. Pie GPT-4 cenām tas bija aptuveni 0,84 $ par lietotāju dienā jeb 25,20 $ par lietotāju mēnesī.

Viņi iekasēja 29 $ un maksāja 25,20 $ par AI izmaksām. Produkts, kas beta versijā izskatījās kā 86% bruto peļņa, mērogā bija kļuvis par 13% bruto peļņas katastrofu. Un jo vairāk lietotāju viņi piesaistīja, jo sliktāk kļuva.

Šī ir Cloud Cost Cliff. Tā nav pakāpeniska nogāze. Tā ir klints, no kuras jūs nobraucat, kad gūstat panākumus.

Tas pats produkts, kas beta versijā izskatās veselīgs, nobrauc no klints, kad iestājas reāla lietošana.

Edge AI inversija: Kapitālizdevumu un ekspluatācijas izdevumu maiņa

Risinājums nav panākt labākas cenas ar OpenAI (lai gan tas nedaudz palīdz). Risinājums ir būtiski pārstrukturēt to, kur notiek aprēķini.

Edge AI apvērš ekonomikas modeli. Tā vietā, lai īrētu intelektu par žetonu mākonī, jūs piederat intelekts jūsu aparatūrā. Tā vietā, lai ekspluatācijas izdevumi (OpEx) pieaugtu līdz ar lietošanu, jums ir kapitālizdevumi (CapEx), ko maksājat vienreiz.

Apsveriet izmaksu salīdzinājumu viedierīču ražotājam:

OpEx mūžīgi pret CapEx vienreiz: 10 gadu kopējo izmaksu salīdzinājums Viedās mājas ierīce ar balss vadību: kurš modelis ir jēgpilns? MĀKONA AI (OpEx mūžīgi) Ekonomika par pieprasījumu Izmaksas par balss secinājumu: $0.002 Balss komandas dienā: 25 (tipiska lietošana) Dienas izmaksas: $0.05 10 gadu prognoze Gada mākoņa izmaksas: $0.05 x 365 = $18.25 10 gadu mākoņa izmaksas: $18.25 x 10 = $182.50 Ierīces aparatūras izmaksas (BOM): $12.00 Mazumtirdzniecības cena: $49.99 10 GADU KOPĒJĀS IZMAKSAS: $194.50 Izmaksas ražotājam par ierīces kalpošanas laiku ZAUDĒJUMI $144.51 PAR IERĪCI GALAPUNKTA AI (CapEx vienreiz) Sākotnējā ekonomika Pamata ierīces BOM: $12.00 Galapunkta AI mikroshēmas jauninājums: +$4.00 (Dweve optimizēts) Kopējais ierīces BOM: $16.00 10 gadu prognoze Izmaksas par secinājumu: $0.00 (darbojas lokāli) Gada mākoņa izmaksas: $0.00 10 gadu mākoņa izmaksas: $0.00 Mazumtirdzniecības cena: $49.99 10 GADU KOPĒJĀS IZMAKSAS: $16.00 Izmaksas ražotājam par ierīces kalpošanas laiku PEĻŅA: $33.99 PAR IERĪCI Galapunkta AI 10 gadu laikā ietaupa 91.7% un pārvērš zaudējumus peļņā

Kāpēc Edge AI līdz šim nebija dzīvotspējīgs

Ja edge AI ekonomiski ir tik acīmredzami labāks, kāpēc gan visi to vēl nav ieviesuši? Atbilde slēpjas tradicionālo AI modeļu tehniskajās prasībās.

GPT-4 klases modeļiem ir nepieciešami aptuveni 1,8 triljoni parametru, kas glabājas kā 32 bitu peldošā komata skaitļi. Tas ir aptuveni 7,2 terabaiti modeļa svaru. Jūs to nevarat ievietot edge ierīcē. Jūs to nevarat palaist viedtālrunī. Jūs noteikti to nevarat palaist uz 4 $ mikrokontrollera.

Mākoņa modelis pastāv tāpēc, ka modeļi ir tik apjomīgi, ka tos var darbināt tikai mākoņa mēroga infrastruktūra. Jums ir nepieciešamas H100 GPU par 25 000 $ katra, klasteri ar tūkstošiem šādu GPU un mazas pilsētas enerģijas infrastruktūra, lai tos uzturētu darbībā.

Šeit Dweve Binary Constraint Discovery arhitektūra maina visu.

Dweve neizmanto tradicionālus peldošā komata neironu tīklus. Mēs izmantojam bināro ierobežojumu kopas: 1 bitu aprēķinus ar bitu operatoriem (XNOR, AND, OR, POPCNT). Tas nav kompromiss. Tā ir fundamentāli atšķirīga pieeja mašīnu intelektam.

Priekšrocības ir satriecošas:

  • 32x saspiešana: Kur tradicionālie modeļi izmanto 32 bitu peldošā komata skaitļus, mēs izmantojam 1 bitu. Tāda pati loģiskā kapacitāte, 32x mazāka.
  • 96% mazāk enerģijas: Binārās darbības patērē aptuveni 0,15 piko džoulus, salīdzinot ar aptuveni 4,6 piko džouliem peldošā komata darbībām. Jūsu akumulators darbosies ilgāk. Jūsu elektrības rēķins būs mazāks.
  • Aparatūras efektivitāte: Mūsdienu CPU ir ļoti optimizētas instrukcijas binārajām darbībām. Mūsu 1 937 algoritmi Dweve Core ir īpaši izstrādāti, lai izmantotu SIMD instrukcijas, piemēram, AVX-512, masveida paralēlismam.
  • Edge-first dizains: Dweve Loom 456 specializētās ierobežojumu kopas kopumā aizņem aptuveni 150 GB saspiestā veidā. Bet katrā vaicājumā aktivizējas tikai 4-8 domēna speciālisti, kas nozīmē, ka aktīvā darba atmiņa ir tikai 256 MB-1 GB. Tas ietilpst viedtālrunī. Tas ietilpst viedajā skaļrunī. Tas ietilpst industriālās edge ierīcēs.

Pirmo reizi jūs varat palaist sarežģītu AI secinājumu apstrādi uz edge aparatūras, nezaudējot kvalitāti. Ekonomika mainās no OpEx uz CapEx. Krauja pazūd.

Latences dividende: pārspējot fiziku

Papildus ekonomikai pastāv stingrs ierobežojums, kuru nevar atrisināt nekāda naudas summa: gaismas ātrums.

Gaisma pārvietojas ar aptuveni 300 000 kilometru sekundē. Signāls no rūpnīcas Minhenē uz datu centru Virdžīnijā un atpakaļ veic aptuveni 14 000 kilometru, aizņemot aptuveni 47 milisekundes pie gaismas ātruma. Praksē, ņemot vērā maršrutēšanu, komutāciju, rindas un apstrādi, divvirzienu latentums parasti ir 150-300 milisekundes.

Daudzām lietojumprogrammām šis latentums ir izšķirošs faktors:

  • Industriālā robotika: Robota roka, kas uztver cilvēku strādnieku savā ceļā, nevar gaidīt 200 ms, kamēr mākoņa serveris apstrādā attēlu un nosūta apturēšanas komandu. Tipiskā robota ātrumā šī kavēšanās nozīmē, ka roka pirms reakcijas nobrauc 20-50 centimetrus. Drošībai kritiskās lietojumprogrammās AI jāpieņem lēmums mazāk nekā 10 milisekundēs.
  • Autonomi transportlīdzekļi: Automašīna, kas pārvietojas ar 130 km/h, veic 36 metrus sekundē. 200 ms mākoņa divvirzienu pārraide nozīmē braukšanu akli 7,2 metrus. Šajā attālumā gājējs var spērt soli no apmales. Motocikls var izbraukt. Fizikai ir vienalga par jūsu mākoņa arhitektūru.
  • Balss saskarnes: Cilvēki ir neticami jutīgi pret sarunu laika ritējumu. Pētījumi rāda, ka pauzes, kas ilgākas par 200 ms, šķiet "aizturošas" vai "stulbas". Mēs pārtraucam viens otru, mēs runājam pāri pauzēm. Mākoņa balss asistenti šķiet nedabiski, jo tīkla latentums rada neveiklu klusumu.
  • Spēles un reāllaika mediji: Spēlētāji pamana latentumu virs 20 ms. AI uzlabotām spēlēm mākoņa secinājumu apstrāde vienkārši nav iespējama. Pieredzei jābūt reāllaika.

Edge AI darbojas ar silīcija ātrumu. Dweve binārā secinājumu veikšana vaicājumus var apstrādāt mikrosekundēs, nevis milisekundēs. Nav tīkla svārstību, nav serveru rindu, nav WiFi pārtraukumu, nav API pieprasījumu ierobežojumu. Reāllaika lietojumprogrammām edge nav tikai lētāks risinājums; tā ir vienīgā arhitektūra, kas darbojas.

Latence: fizikas problēma, kuru nauda nevar atrisināt Kāpēc mākoņa mākslīgais intelekts nespēj nodrošināt reāllaika lietojumus neatkarīgi no izmaksām Lietošanas gadījums Nepieciešams Mākonis Perifērija (Dweve) Vērtējums Rūpnieciskā robotika <10ms 200ms 0.1ms Mākonis: NEIZDODAS Autonomie transportlīdzekļi <50ms 200ms 1ms Mākonis: NEIZDODAS Balss palīgs <200ms 250ms 10ms Mākonis: Aizkavēts Reāllaika spēles <20ms 200ms 0.5ms Mākonis: NEIZDODAS Medicīniskā uzraudzība <100ms 200ms 5ms Mākonis: Riskanti Viedās mājas vadība <500ms 200ms 10ms Abi der 5 no 6 reāllaika lietošanas gadījumiem mākoņa mākslīgais intelekts pilnībā neizdodas vai nodrošina pasliktinātu pieredzi

Privātums kā izmaksu ietaupījums

Edge mākslīgajam intelektam ir sekundārs, bieži vien nepamanīts ekonomisks ieguvums: jums lietotāju dati vispār nav jāapstrādā.

Dati ir saistības, nevis aktīvs. Kad glabājat lietotāju datus mākonī, rodas vairākas izmaksas:

  • Uzglabāšanas izmaksas: Katrs balss ieraksts, katra tērzēšanas saruna, katrs mijiedarbības žurnāls aizņem vietu. S3 uzglabāšanas izmaksas aug. Dublēšanas izmaksas tās vairo.
  • Joslas platuma izmaksas: Audio straumju, video kadru vai sensoru datu augšupielāde mākonī patērē joslas platumu. Lielā mērogā joslas platums bieži vien ir lielākā infrastruktūras izmaksu pozīcija.
  • Drošības izmaksas: Dati piesaista uzbrucējus. Jums ir vajadzīgas drošības komandas, penetrācijas testēšana, incidentu reaģēšanas plāni, kļūdu atlīdzību programmas. Jums ir vajadzīga kiberapdrošināšana, kas ar katru gadu kļūst dārgāka.
  • Atbilstības izmaksas: GDPR, CCPA, HIPAA un desmitiem citu regulējumu pieprasa īpašas datu apstrādes procedūras. Jums ir vajadzīgi juristi, atbilstības speciālisti, revīzijas pieraksti, datu apstrādes līgumi. Viens vienīgs GDPR pārkāpums var izmaksāt 4% no globālajiem ieņēmumiem.
  • Tiesvedības risks: Ja lietotāju dati tiek nopludināti, jums draud kolektīvās prasības, regulatīvie naudas sodi un reputācijas bojājumi. Vidējās datu noplūdes izmaksas 2024. gadā bija 4,45 miljoni ASV dolāru.

Ar edge mākslīgo intelektu dati nekad neatstāj lietotāja ierīci. Nav ko glabāt, nav ko aizsargāt, nav ko nopludināt, nav ko atklāt tiesvedībā. Atbilstības slogs ievērojami samazinās. Lētākie aizsargājamie dati ir tie, kuriem jūs nekad nepieskaraties.

Privātumam jutīgām lietojumprogrammām (veselības aprūpe, finanses, bērnu produkti) edge mākslīgais intelekts nav tikai ekonomiska izvēle. Bieži vien tas ir vienīgais veids, kā panākt regulatīvo atbilstību par saprātīgām izmaksām.

Kad lietotāju dati nekad neatstāj ierīci, uzglabāšanas, drošības, atbilstības un noplūdes izmaksas vairs neuzkrājas.

Izbēgšana no īres slazda

Lielākajiem mākoņpakalpojumu sniedzējiem (Amazon, Google, Microsoft) un mākslīgā intelekta API uzņēmumiem (OpenAI, Anthropic) ir ieinteresētība saglabāt esošo kārtību. Viņu biznesa modeļi ir atkarīgi no tā, ka jūs īrējat, nevis īpašat.

Viņi vēlas, lai jūs ticētu, ka mākslīgais intelekts ir pārāk sarežģīts, pārāk apjomīgs un pārāk izsmalcināts, lai to darbinātu uz savas aparatūras. Viņi vēlas, lai jūs ticētu, ka jums ir vajadzīgi viņu patentētie modeļi uz viņu nomātajiem GPU. Viņi reklamē ērtību: "Vienkārši izsauciet mūsu API! Mēs parūpējamies par sarežģītību!"

Taču viņi nestāsta, ka jūs būvējat visu savu biznesu uz viņu peļņas normas. Lietojot mākoņa mākslīgo intelektu, ievērojamu daļu no jūsu vienības ekonomikas pārņem infrastruktūras sniedzējs. Jūs maksājat viņiem par to, ka viņi pārvalda attiecības ar klientiem, kamēr jūs veicat mārketingu un atbalstu.

Vēl ļaunāk, jūs radāt piesaisti. Jūsu uzvednes ir pielāgotas viņu modeļiem. Jūsu lietotāji sagaida viņu uzvedību. Pārejas izmaksas aug. Un tad, kad jums vairs nav alternatīvu, cenas ceļas.

Šis ir īres slazds. Tā pati dinamika, kas ir paaugstinājusi mājokļu izmaksas lielajās pilsētās: saimnieki pārvalda būtisko infrastruktūru, īrnieki maksā mūžīgi, bagātība pāriet no lietotājiem pie īpašniekiem.

Edge mākslīgais intelekts lauž īres slazdu. Kad jūs īpašat intelektu uz savas aparatūras, jūs īpašat spējas. Jūs nemaksājat īri. Jūs veidojat kapitālu. Katra ierīce, ko nosūtāt ar edge mākslīgo intelektu, ir aktīvs, nevis saistības.

Dweve pieeja: binārais intelekts edge izvietošanai

Dweve platforma ir īpaši izstrādāta izvietošanai tīkla malā. Mūsu Binary Constraint Discovery arhitektūra nodrošina mākoņa līmeņa inteliģenci izmēros, kas piemēroti tīkla malas ierīcēm.

Lūk, kā mēs panākam ekonomisko apvērsumu:

  • Dweve Core: 1,937 aparatūrai optimizēti algoritmi 6 kategorijās un 132 sadaļās. Pilns atbalsts CPU (SSE2, AVX2, AVX-512, ARM NEON, ARM SVE), GPU (CUDA, ROCm, Metal, Vulkan), FPGA un WebAssembly. Jūs izvēlaties aparatūru, kas atbilst jūsu BOM.
  • Dweve Loom: 456 specializētas ierobežojumu kopas ar īpaši retu aktivāciju. Katrā vaicājumā aktivizējas tikai 4-8 nozares speciālisti. Darba atmiņas prasība: 256MB-1GB. Pilna funkcionalitāte, tīkla malai piemērots nospiedums.
  • Binārā saspiešana: 32x mazāks nekā līdzvērtīgi peldošā komata modeļi. Funkcionalitāte, kurai tradicionālā formātā nepieciešami 7GB, ar mūsu bināro attēlojumu ietilpst 220MB.
  • Enerģijas efektivitāte: 96% mazāk enerģijas vienā secinājumā. Jūsu akumulatora darbības laiks pagarinās. Jūsu enerģijas izmaksas samazinās. Jūsu termiskās prasības kļūst mazāk stingras.

Mēs nodrošinām pilnu rīku komplektu: modeļu kvantizāciju, tīkla malas izvietošanas ietvarus, ierīču SDK un pastāvīgu optimizācijas atbalstu. Jūs koncentrējaties uz sava produkta izstrādi. Mēs parūpējamies, lai AI darbotos uz jūsu aparatūras.

Kam Tas Būtu Svarīgi

Mākoņa izmaksu krauja skar katru uzņēmumu, kas veido AI darbinātus produktus. Taču dažas kategorijas saskaras ar akūtāku spiedienu:

Patēriņa aparatūras ražotāji: Viedie skaļruņi, valkājamās ierīces, mājas automatizācija, rotaļlietas. Tie ir produkti ar zemu peļņas normu un lielu apjomu, kur $5 par ierīci mākoņa izmaksās var pārsniegt visu jūsu peļņas normu. Tīkla malas AI nav izvēle. Tā ir izdzīvošana.

Rūpnieciskais IoT: Rūpnīcas, loģistika, lauksaimniecība, enerģētika. Šīm lietojumprogrammām nepieciešama atbilde reāllaikā, un tās nevar pieļaut atkarību no tīkla. Mākoņa pārtraukums nevar apturēt jūsu rūpnīcu. Latences pīķis nevar avarēt jūsu dronu. Tīkla mala ir vienīgā arhitektūra.

Automobiļu rūpniecība: ADAS, izklaides sistēmas, autoparku pārvaldība. Transportlīdzekļi darbojas savienojamības mirušajās zonās. Tiem nepieciešams drošībai kritisks reakcijas laiks. To kalpošanas laiks ir 10-15 gadi, kuru laikā nepārtrauktās mākoņa izmaksas katastrofāli uzkrājas. Tīkla mala ir obligāta.

Veselības aprūpes ierīces: Pacientu uzraudzība, diagnostikas rīki, terapeitiskās ierīces. Privātuma noteikumi stingri ierobežo datu apstrādi mākonī. Reāllaika prasības nosaka lokālu apstrādi. Atbildības apsvērumi prasa pierādāmas un auditejamas sistēmas. Tīkla mala ir atbilstības ceļš.

B2B SaaS ar intensīvu AI izmantošanu: Jebkurš produkts, kurā lietotāji bieži mijiedarbojas ar AI, saskaras ar peļņas normas samazināšanās problēmu. Ja jūsu lietotājiem patīk jūsu AI funkcijas, viņi tās izmantos pastāvīgi, un jūsu peļņas normas iztvaikos. Tīkla malas vai hibrīdās arhitektūras var atjaunot ekonomisko dzīvotspēju.

Pārejas Ceļš

Pāreja no mākoņa uz tīkla malu nav vienas nakts maiņa. Tā prasa plānošanu, bet ceļš ir skaidrs:

  1. Izvērtējiet savas pašreizējās izmaksas: Precīzi saprotiet, cik maksājat par lietotāju, par mijiedarbību, par funkciju. Lielākā daļa uzņēmumu nenovērtē savas mākslīgā intelekta izmaksas, jo tās ir apraktas kopējos mākoņdatošanas rēķinos.
  2. Nosakiet bieži veiktus, mazas sarežģītības uzdevumus: Ne visam ir nepieciešams GPT-4. Daudzus izplatītus mākslīgā intelekta uzdevumus (nolūku klasifikācija, entītiju ieguve, īsu tekstu kopsavilkumi) var veikt ar daudz mazākiem modeļiem tīkla malā.
  3. Sāciet ar hibrīdu pieeju: Sarežģītus un retus uzdevumus paturiet mākonī. Vienkāršus un biežus uzdevumus pārnesiet uz tīkla malu. Tas nekavējoties uzlabo jūsu peļņu, kamēr attīstāt pilnas tīkla malas iespējas.
  4. Veidojiet tīkla malas iespējas: Strādājiet ar Dweve, lai izvietotu optimizētus modeļus uz jūsu mērķa aparatūras. Mūsu komanda palīdz izprast kompromisus starp modeļa iespējām, aparatūras prasībām un secinājumu latentumu.
  5. Atkārtojiet: Tīkla malas iespējām attīstoties, pārnesiet arvien vairāk darba slodžu no mākoņa uz tīkla malu. Katra migrācija uzlabo jūsu peļņu un samazina atkarību no mākoņa.

Mērķis nav obligāti nulles mākonis. Daži uzdevumi vienmēr var gūt labumu no mākoņa mēroga modeļiem. Mērķis ir ekonomiskā ilgtspēja: izmaksu struktūra, kurā izaugsme rada peļņu, nevis zaudējumus.

Migrācijas ceļš sākas ar biežu vienkāršu darbu, atstājot retu sarežģītu darbu mākonī, līdz tīkla malas iespējas to panāk.

Nākotne pieder īpašumam

Pašreizējais mākoņa mākslīgā intelekta dominances laikmets ir vēsturiska anomālija. Tas pastāv tāpēc, ka pirmās paaudzes spējīgie mākslīgā intelekta modeļi bija pārāk lieli, lai tos varētu izvietot citur, nevis mākonī. Optimizācijas metodēm attīstoties, specializētajai aparatūrai uzlabojoties, uzņēmumiem kā Dweve ieviešot efektīvas arhitektūras, ekonomika neatgriezeniski virzās uz tīkla malu.

Nākamās desmitgades uzvarētāji nebūs uzņēmumi, kas maksā lielākos mākoņdatošanas rēķinus. Tie būs uzņēmumi, kam pieder sava inteliģence, kas ir iebūvējuši mākslīgā intelekta iespējas savos produktos aparatūras līmenī, kas ir pārvērtuši Token nodokli par tīkla malas dividendi.

Pārtrauciet maksāt īri. Sāciet veidot kapitālu. Mākoņa izmaksu krauja tuvojas visiem, kas joprojām uz tās stāv.

Dweve var palīdzēt jums no tās nokāpt, pirms jūs krītat. Mūsu bināri optimizētā mākslīgā intelekta platforma darbojas uz tīkla malas ierīcēm ar minimālām aparatūras prasībām, novēršot Token nodokli, kas iznīcina peļņu. Mēs palīdzam pāriet no mūžīgas mākoņa īres uz vienreizējiem kapitālizdevumiem, ļaujot īstenot biznesa modeļus, kas patiešām mērogojas ar peļņu.

Neatkarīgi no tā, vai veidojat IoT ierīces, rūpniecisko automatizāciju, patēriņa elektroniku vai ar mākslīgo intelektu uzlabotu programmatūru, mums ir rīki, zināšanas un pieredze, lai padarītu tīkla malas mākslīgo intelektu ekonomiski dzīvotspējīgu jūsu produktam.

Īre ir pārāk augsta. Ir pienācis laiks īpašumam.