L-AI l-Ħadra hija Binarja: L-Ispiża Ambjentali tal-Punt F'wiċċ l-Ilma

L-industrija tal-AI qed taħbi l-impronta tal-karbonju tagħha wara 'offsets'. Is-soluzzjoni vera hija arkitettonika: għaliex l-operazzjonijiet binarji...

L-AI l-Ħadra hija Binarja: L-Ispiża Ambjentali tal-Punt F'wiċċ l-Ilma

The Carbon Footprint of Intelligence

Hemm sigriet maħmuġ fil-qalba tar-rivoluzzjoni tal-Intelliġenza Artifiċjali. Huwa sigriet moħbi minn kampanji ta' kummerċjalizzazzjoni illustri li juru turbini tar-riħ u pannelli solari, u midfun taħt muntanji ta' ċertifikati ta' kumpens tal-karbonju mixtrija mill-kumpaniji kbar tat-teknoloġija. Is-sigriet huwa dan: l-AI moderna, fil-forma arkitettonika attwali tagħha, hija diżastru ambjentali li għadu kemm se jseħħ.

Sal-2025, l-infrastruttura globali tal-kompjuters tal-AI qed tikkonsma aktar elettriku mill-pajjiż kollu tal-Arġentina. Ċentri tad-dejta fl-Irlanda issa qed jikkunsmaw kważi 20% tal-grilja tal-enerġija totali tal-pajjiż, u qed joħolqu kriżi tal-enerġija ġenwina li qed iġġiegħel lill-gvern jerġa' jikkunsidra konnessjonijiet ġodda. Fil-Virginia ta' Fuq (il-kapitali tad-dinja taċ-ċentri tad-dejta), il-kumpaniji tal-elettriku qed iwissu li fiżikament ma jistgħux jibnu linji ta' trażmissjoni malajr biżżejjed biex jissodisfaw il-ġuħ bla xaba' tal-gruppi ta' GPUs.

Ir-rispons primarju tal-industrija għal dan kien li tiffoka fuq is-sors tal-enerġija. "Aħna 100% rinnovabbli!" jiddikjaraw il-kumpaniji l-kbar. U filwaqt li l-użu ta' enerġija ħadra huwa ċertament aħjar mill-użu tal-faħam, dan ma jindirizzax il-punt fundamentali. L-enerġija rinnovabbli hija riżorsa finita u skarsa. Kull gigawatt ta' enerġija ħadra li jittieħed minn mudell AI ineffiċjenti huwa gigawatt li ma jistax jintuża biex jitnaqqas il-karbonju fil-produzzjoni tal-azzar, fil-manifattura tas-siment, jew fit-trasport. Qed nikkunsmaw il-grilja ħadra biex inħaddmu chatbots.

M'għandniex bżonn biss enerġija aktar ħadra. Għandna bżonn matematika aktar effiċjenti.

Din mhix problema li tista' tissolva billi tixtri kumpensi tal-karbonju jew tibni aktar turbini tar-riħ. Hija problema arkitettonika. L-industrija tal-AI bniet l-infrastruttura kollha tagħha fuq l-aktar forma ta' aritmetika li tikkonsma enerġija b'mod ineffiċjenti possibbli: operazzjonijiet b'punt li jvarja ta' 32-bit. U sakemm ma nindirizzawx dak id-difett fundamentali fid-disinn, il-pannelli solari kollha fis-Saħara mhux se jkunu biżżejjed.

L-Ispiża tal-Enerġija tal-Aritmetika: FP32 vs XNOR-POPCNT Binarju Enerġija għal kull operazzjoni bbażata fuq benchmarks tal-proċess ta' 45nm (Horowitz, 2014) Punt F'wiċċ l-Ilma ta' 32-bit (FP32) L-Istandard tal-Industrija għat-Tagħlim Fond 4.6 picojoules Għal Kull Operazzjoni ta' Multiplikazzjoni-Akkumulazzjoni Operazzjonijiet kumplessi meħtieġa għal kull MAC: 1. Estrazzjoni tal-bit tas-sinjal u XOR 2. Żieda tal-esponent (integer ta' 8-bit) 3. Multiplikazzjoni tal-mantissa (24x24 bit) 4. Bidla tan-normalizzazzjoni 5. Loġika tal-arrotondament (5 modi IEEE) 6. Immaniġġjar ta' eċċezzjonijiet (NaN, Inf, underflow) 7. Allinjament u żieda tal-akkumulatur Rekwiżiti tal-Ħardwer ~4,000 transisters għal kull FPU Pipelining fond, loġika ta' kontroll kumplessa Netwerk Newrali Binarju ta' 1-bit Arkitettura XNOR-POPCNT tal-Qalba Dweve 0.15 picojoules Għal Kull Operazzjoni ta' XNOR + POPCNT Operazzjonijiet minimi meħtieġa għal kull MAC: 1. Bieb XNOR (operazzjoni loġika waħda) 2. Akkumulazzjoni POPCNT (għadd ta' bits) Spiċċa. Dik hija l-operazzjoni kollha. 30x AKTAR EFFIĊJENTI 96% Iffrankar ta' Enerġija Rekwiżiti tal-Ħardwer ~4 transisters għal kull bieb XNOR Appoġġ nattiv tal-CPU permezz ta' SIMD B'10^24 operazzjonijiet għat-taħriġ tal-LLM, din id-differenza ssir PLANETARJA fl-iskala
Ir-riskji f'"The Carbon Footprint of Intelligence" isiru maniġġabbli ladarba jkollhom isem u sid.

Il-Fiżika tal-Ineffiċjenza: Nifhmu l-Aritmetika tal-Punt F'wiċċ l-Ilma

Biex tifhem għaliex l-AI hija tant ħerqana għall-enerġija, trid tħares lil hinn mis-sistemi tat-tkessiħ tad-data centers u teżamina x'inhu qed jiġri fil-livell mikroskopiku. Trid tifhem l-aritmetika.

Għall-aħħar deċennju, il-boom tat-Tagħlim Fond (Deep Learning) nbena fuq l-aritmetika tal-Punt F'wiċċ l-Ilma (Floating Point), speċifikament FP32 (punt f'wiċċ l-ilma ta' 32 bit) u aktar reċentement FP16 jew BF16. Numru b'punt f'wiċċ l-ilma huwa ħlejqa komputazzjonali kumplessa. Huwa mfassal biex jirrappreżenta firxa vasta ta' valuri, mis-subatomiku sal-astronomiku. Biex jagħmel dan, juża 32 bit maqsuma f'bit tas-sinjal, esponent ta' 8 bit, u mantissa ta' 23 bit (flimkien ma' 1 ewlieni impliċitu).

Biex timmultiplika żewġ numri FP32, proċessur irid iwettaq żifna kumplessa ta' gradi loġiċi. Irid jallinja l-punti deċimali (denormalizzazzjoni), jimmultiplika s-sinifikandi (multiplikazzjoni ta' 24x24 bit), iżid l-esponenti, jinnormalizza r-riżultat, jimmaniġġja ħames modi differenti ta' tqarrib IEEE, u jimmaniġġja eċċezzjonijiet bħal NaN, Infinity, u underflow. Din il-loġika teħtieġ eluf ta' transisters li jixegħlu u jitfu.

Kull darba li transistor jixgħel, jikkonsma enerġija. Dan huwa regolat mill-ekwazzjoni fundamentali tal-fiżika:

E = C × V² × f

Fejn E hija l-enerġija, C hija l-kapaċitanza (proporzjonata mal-għadd ta' transisters), V huwa l-vultaġġ, u f hija l-frekwenza tal-bdil. Aktar transisters ifissru aktar kapaċitanza, li jfisser aktar enerġija għal kull operazzjoni.

Imma jsir agħar. Kull darba li tmexxi dawk il-32 bit mill-memorja (DRAM) għall-cache tal-proċessur, u mill-cache għar-reġistru, tikkonsma enerġija addizzjonali. Fil-fatt, fis-sistemi komputazzjonali moderni, li tmexxi d-data tiswa ferm aktar enerġija milli tikkomputa fuqha. Id-dokument importanti ta' Horowitz minn Stanford (ISSCC 2014) wera li l-qari minn DRAM jiswa bejn wieħed u ieħor 200x aktar enerġija milli twettaq l-aritmetika nnifisha.

Dan huwa magħruf bħala l-"Von Neumann Bottleneck," u huwa l-vinklu fundamentali tal-komputazzjoni moderna. Aħna mhux limitati minn kemm nistgħu nikkomputaw malajr; aħna limitati minn kemm nistgħu nidħlu bid-data lill-magni tal-komputazzjoni malajr.

Issa ikkunsidra li t-taħriġ ta' mudell lingwistiku kbir bħal GPT-4 jinvolvi madwar 10^24 (septiljun) minn dawn l-operazzjonijiet b'punt li jvarja. L-ispiża ċkejkna tal-enerġija ta' multiplikazzjoni waħda FP32, meta tiġi mmultiplikata b'septiljun, issir problema planetarja. Essenzjalment qed naħarqu l-foresti biex immultiplika l-matriċi b'preċiżjoni bla bżonn.

Ir-Rivoluzzjoni Binarja: Naħsbu mill-Ġdid dwar ir-Rappreżentazzjoni

Hawnhekk huwa fejn in-Netwerks Newrali Binarji jibdlu l-logħba. Huma jirrappreżentaw ħsieb mill-ġdid fundamentali dwar kif nirrappreżentaw l-informazzjoni f'moħħ artifiċjali.

Fi BNN, inneħħu l-kumplessità. Nillimitaw il-piżijiet (il-konnessjonijiet bejn in-newroni) u l-attivazzjonijiet (il-ħruġ tan-newroni) għal żewġ valuri biss: +1 u -1. Fil-hardware, dan normalment jiġi rappreżentat bħala 1 u 0, fejn l-0 jiġi interpretat matematikament bħala -1.

Dan jinstema' bħala telfa devastanti ta' preċiżjoni. Kif jista' netwerk jitgħallem xi ħaġa sfumata (id-differenza sottili bejn qattus u kelb, jew is-sentiment ta' sentenza) b'żewġ numri biss? It-tweġiba tinsab fil-ġeometrija ta' dimensjonijiet għoljin tat-tagħlim fil-fond.

Ikkunsidra esperiment ta' ħsieb. Jekk nagħtik numru wieħed bejn -1 u +1, ma tistax tikkodifika ħafna informazzjoni. Imma jekk nagħtik miljun numru binarju, kull wieħed jew +1 jew -1, tista' tikkodifika ammont astronomiku ta' informazzjoni permezz tal-kombinazzjonijiet u l-mudelli tagħhom. L-għerf tal-folla ta' miljuni ta' newroni binarji jikkumpensa għan-nuqqas ta' preċiżjoni individwali.

Dan mhux biss teorija. Riċerka minn istituzzjonijiet inklużi MIT, Google, u Microsoft wriet li n-netwerks binarji jistgħu jiksbu preċiżjoni fi ħdan ftit punti perċentwali tal-kontropartijiet tagħhom b'punt li jvarja f'ħafna kompiti prattiċi, inklużi l-klassifikazzjoni tal-immaġini, l-iskoperta ta' oġġetti, u l-fehim tal-lingwa naturali.

Il-Matematika tal-Komputazzjoni Effiċjenti

L-implikazzjonijiet tal-hardware ta' dan il-bidla minn float ta' 32-bit għal binarju ta' 1-bit huma profondi. Ejja nimxu permezz tal-matematika pass pass.

L-Approċċ tal-Punt li Jvarja: Biex tikkalkula prodott dot bejn żewġ vetturi (l-operazzjoni fundamentali fin-netwerks newrali), timmultiplika l-elementi korrispondenti u tiġbor ir-riżultati. Ma' FP32, kull multiplikazzjoni teħtieġ il-pipeline kumpless deskritt hawn fuq. Għal vettur ta' tul 512 (tipiku fin-netwerks newrali), għandek bżonn 512 multiplikazzjonijiet b'punt li jvarja u 511 żidiet.

L-Approċċ Binarju: Meta timmultiplika żewġ numri binarji (+1 jew -1), l-operazzjoni mhijiex multiplikazzjoni kumplessa b'punt li jvarja. Hija sempliċiment gate loġiku XNOR. Jekk il-bits huma l-istess (it-tnejn +1 jew it-tnejn -1), ir-riżultat huwa +1. Jekk huma differenti, ir-riżultat huwa -1. Gate XNOR hija waħda mill-istrutturi l-aktar primittivi u effiċjenti fl-elettronika diġitali: litteralment erba' transisters.

Barra minn hekk, l-akkumulazzjoni (il-ġbir tar-riżultati) issir operazzjoni POPCNT (Għadd tal-Popolazzjoni): tgħodd in-numru ta' bits ta' 1 f'sekwenza binarja. CPUs moderni kellhom istruzzjonijiet POPCNT dedikati mill-2008 (Intel Nehalem). Dak li ħa eluf ta' transisters u ċikli multipli tal-arloġġ issa jiġri f'ċiklu wieħed.

Imma l-maġija vera tiġri meta tikkunsidra l-vectorization. CPUs moderni għandhom reġistri SIMD (Istruzzjoni Waħda, Dejta Multipla) li huma wiesgħa 256 jew 512 bit. B'operazzjonijiet binarji, tista' tippakkja 512 piżijiet f'reġistru wieħed ta' 512-bit u twettaq l-512 operazzjonijiet XNOR kollha simultanjament. Dan huwa 16-il darba aktar operazzjonijiet paralleli minn dak li tista' tikseb ma' FP32 fuq l-istess hardware.

Il-Konġestjoni ta' Von Neumann: Għaliex il-Bandwidth tal-Memorja Jiswa Aktar mill-Qawwa tal-Kompjuters Tqassim tal-ispiża tal-enerġija għall-inferenza tan-netwerks newrali (proċess ta' 45nm) Spejjeż tal-Enerġija tal-Ierarkija tal-Memorja Reġistri ~0 enerġija żejda Cache L1 (32KB) ~1ns latenza ~5 pJ għal kull aċċess Cache L2 (256KB) ~5ns latenza ~25 pJ għal kull aċċess Cache L3 (8MB) ~20ns latenza ~100 pJ għal kull aċċess DRAM (Memorja Prinċipali) ~100ns latenza ~1000 pJ għal kull aċċess GĦARFIEN EWLENI L-aċċess għad-DRAM jiswa 200 darba aktar enerġija mill-kalkolu FP32 innifsu Netwerks Binarji: Vantaġġ ta' Kompressjoni ta' 32x Tqabbil tad-Daqs tal-Mudell (100M parametri) Mudell FP32 400 MB 4 bytes għal kull piż Mudell Binarju 12.5 MB 1 bit għal kull piż Analiżi tar-Residenza fil-Cache Cache L3 (8MB tipiku): FP32: 2% tal-mudell joqgħod (vjaġġi kostanti lejn DRAM) Binarju: 64% tal-mudell joqgħod (fil-biċċa l-kbira fil-cache) Tqassim tal-Iffrankar Totali tal-Enerġija Iffrankar fil-kompjuters (XNOR vs FP32): 30x Iffrankar fil-bandwidth tal-memorja: 32x Titjib fl-effiċjenza tal-cache: 10-50x Flimkien: Sa 96% tnaqqis fl-enerġija Dweve Loom: 456 sett ta' restrizzjonijiet binarji speċjalizzati fid-dominju Il-mudelli binarji spiss jaħdmu aktar malajr fuq CPUs minn mudelli FP32 fuq GPUs għaljin minħabba r-restrizzjonijiet tal-bandwidth tal-memorja

Dweve Core: 1,937 Algorithms for Binary Intelligence

F'Dweve, aħna mhux biss esperimentajna man-netwerks newrali binarji bħala kurżità akkademika. Bnejna fondazzjoni komputazzjonali sħiħa fuq dan il-prinċipju. Dweve Core fih 1,937 algoritmi ottimizzati għall-hardware f'6 kategoriji u 132 sezzjoni, kollha mfassla mill-bidu għall-komputazzjoni binarja u b'bits baxxi.

L-approċċ tagħna jmur lil hinn minn sempliċi binarizzazzjoni. Nappoġġjaw firxa ta' livelli ta' kwantizzazzjoni:

  • Binarju (1-bit): kompressjoni ta' 32x, l-effiċjenza massima għal xogħlijiet adattati
  • Ternarju (2-bit): kompressjoni ta' 16x, li jżid stat ta' "żero" għal rappreżentazzjonijiet sparżi
  • 4-bit: kompressjoni ta' 8x, punt ideali għal ħafna kompiti tal-lingwa
  • 8-bit: kompressjoni ta' 4x, preċiżjoni kważi daqs FP32 b'qligħ sinifikanti fl-effiċjenza

Kull livell huwa appoġġjat minn algoritmi ddedikati ottimizzati għal backends speċifiċi tal-hardware:

  • CPU: SSE2, AVX2, AVX-512, ARM NEON, ARM SVE/SVE2
  • GPU: CUDA (NVIDIA), ROCm (AMD), Metal (Apple), Vulkan, WebGPU
  • FPGA: Sinteżi nattiva ta' gates XNOR b'siġar ta' adders f'pipeline
  • WASM: Eżekuzzjoni bbażata fuq il-browser b'SIMD għall-iskjerament fuq it-tarf

Dan mhux teorija. Il-benchmarks interni tagħna fuq xogħlijiet ta' produzzjoni b'mod konsistenti juru tnaqqis ta' 96% fl-enerġija meta mqabbla ma' implimentazzjonijiet FP32 ekwivalenti, b'telf ta' preċiżjoni tipikament taħt it-2% għal kompiti ta' klassifikazzjoni u rigressjoni.

Din il-mappa turi fejn "Dweve Core: 1,937 Algorithms for Binary Intelligence" verament jinsab: data, awtorità, u eżekuzzjoni.

Il-Paradoss ta' Jevons: L-Effiċjenza Se Twassal għal Aktar Konsum?

L-ekonomisti u l-esperti tas-sostenibbiltà se jindikaw minnufih il-Paradoss ta' Jevons. Din it-teorija ekonomika, imsemmija wara l-ekonomista tas-seklu 19 William Stanley Jevons, tgħid li hekk kif it-teknoloġija ssir aktar effiċjenti, l-ispiża tal-użu tagħha tonqos, li jżid id-domanda, u dan iwassal għal konsum totali ogħla minflok aktar baxx.

Jevons osserva dan bil-faħam: hekk kif il-magni tal-fwar saru aktar effiċjenti, ma naqqsux il-konsum tal-faħam. Minflok, l-effiċjenza għamlet l-enerġija tal-fwar ekonomikament vijabbli għal aktar applikazzjonijiet, u l-konsum tal-faħam sploda.

Jekk nagħmlu l-AI 96% orħos u aktar effiċjenti fl-enerġija biex titħaddem, mhux se nħaddmu 100 darba aktar minnha? Mhux se npoġġu l-AI f'toasters, xkupilji tas-snien, u kartolini li jintremew?

Forsi. L-effett ta' rebound huwa reali. Iżda hemm differenza kwalitattiva f'fejn tiġi kkunsmata dik l-enerġija, li jimpurtaha immens għall-istabbiltà tal-grid u s-sostenibbiltà.

Il-kriżi tal-enerġija attwali fl-AI hija mmexxija mit-taħriġ u l-inferenza ċentralizzati ta' mudelli fundamentali massivi u monolitiċi. Dawn il-mudelli huma tant tqal li jeħtieġu ċentri tad-dejta ċentralizzati fuq skala kbira ħafna. Dawn iċ-ċentri tad-dejta huma punti ta' tagħbija fuq il-grilja, li jeħtieġu mijiet ta' megawatts f'post wieħed, u jisforzaw il-linji tat-trażmissjoni u l-kapaċità lokali tal-ġenerazzjoni.

Għalhekk l-Irlanda qiegħda f'kriżi. Għalhekk il-Virginia ta' Fuq ma tistax tibni s-substations malajr biżżejjed. Il-problema mhijiex l-enerġija totali; hija l-konċentrazzjoni ġeografika.

Impatt fuq il-Grid: AI Ċentralizzata vs Distribwita Id-differenza bejn kriżi ta' tagħbija f'punt wieħed u sostenibbiltà distribwita MUDEL ĊENTRALIZZAT TAL-CLOUD Mudelli Fundamentali FP32 ĊENTRU TAD-DATA IPERKALI 100+ MW Punt ġeografiku wieħed KONĠESTJONI FIT-TRAŻMISSJONI Substations ġodda jieħdu 3-5 snin biex jinbnew Kull talba AI teħtieġ: 1. L-apparat tal-utent jibgħat il-mistoqsija 2. Routing tan-netwerk (bosta hops) 3. Is-server jipproċessa b'GPU ta' 100W+ 4. Ir-rispons jintbagħat lura 5. Enerġija tan-netwerk: ~0.5 kWh/GB Kriżijiet Reali tal-Grid L-Irlanda: 18% tal-grid, moratorju fuq konnessjonijiet ġodda MUDEL DISTRIBWIT TAL-EDGE Netwerks Newrali Binarji fuq l-Apparat Smartphone BNN Inferenza ta' 5 mW Dar Intelliġenti BNN Inferenza ta' 2 mW Vettura BNN Inferenza ta' 50 mW PROĊESSAR LOKALI L-ebda trażmissjoni tan-netwerk, l-ebda tagħbija fuq iċ-ċentru tad-data Analiżi tal-Impatt fuq il-Grid Enerġija totali: Ogħla (Paradoss ta' Jevons) Domanda massima: Distribwita fost biljuni ta' apparat Tagħbija ta' trażmissjoni: Kważi żero IL-BENEFIĊĊJU REALI L-ebda punt wieħed ma jeħtieġ 100MW L-ebda konġestjoni fit-trażmissjoni L-aktar trażmissjoni ta' enerġija sostenibbli hija dik li qatt ma sseħħ: ipproċessa lokalment, qatt tittrażmetti

Edge AI: L-Aktar Trażmissjoni Sostenibbli Hija l-Ebda Waħda

L-effiċjenza binarja tippermetti bidla fil-paradigma: li timbotta l-intelliġenza lejn it-tarf. Minflok ma tibgħat il-kmand bil-vuċi tiegħek lil razzett ta' servers enormi fid-deżert biex jiġi pproċessat minn mostru ta' 175-il biljun parametru, dan jista' jiġi pproċessat lokalment fuq it-telefon tiegħek, it-termostat tiegħek, jew il-karozza tiegħek, billi jintuża mudell binarju speċjalizzat li jaħdem fuq ftit milliwatts.

Dan ibiddel il-piż tal-enerġija mill-grilja ċentralizzata għal apparati mqassma. L-ispiża tal-enerġija ssir negliġibbli: parti mill-użu normali tal-batterija tal-apparat. Li tiċċarġja t-telefon tiegħek darba kuljum mhijiex kriżi tal-grilja. Li tmexxi ċentru tad-dejta ta' 100MW f'West Dublin huwa.

Barra minn hekk, billi nippermettu AI offline u fuq l-apparat, neliminaw l-ispiża tal-enerġija tan-netwerk. M'għandniex bżonn nixegħlu r-radios 5G, ir-ripetituri tal-fibra ottika, u r-routers ċentrali biex nibagħtu d-dejta lill-cloud u lura. Ir-riċerka tissuġġerixxi li t-trażmissjoni tad-dejta fuq netwerks ċellulari tiswa madwar 0.5 kWh għal kull gigabyte. L-aktar trażmissjoni tad-dejta effiċjenti fl-enerġija hija dik li qatt ma sseħħ.

L-arkitettura tagħna Dweve Loom, bis-settijiet ta' restrizzjonijiet speċjalizzati tagħha ta' 456 li kull wieħed fihom 64-128MB ta' restrizzjonijiet binarji, hija ddisinjata speċifikament għal dan il-mudell imqassam. Biss 4-8 speċjalisti tad-dominju jattivaw simultanjament għal kwalunkwe mistoqsija partikolari, u r-rappreżentazzjoni binarja tfisser li dawn l-ispeċjalisti tad-dominju joqogħdu komdi fil-cache ta' apparati tat-tarf modesti wkoll.

Sostenibbiltà bħala Metrika tal-Kwalità tal-Kodiċi

Għal żmien twil wisq, id-dixxiplina tal-inġinerija tas-softwer injorat l-enerġija. Ottimizzajna għall-veloċità tal-iżviluppatur ("ibgħatha malajr") jew għall-prestazzjoni mhux ipproċessata ("agħmilha malajr"), iżda rarament għall-enerġija ("agħmilha ħafifa"). Ittrattajna l-elettriku bħala riżorsa infinita u inviżibbli.

Fl-era tal-kriżi klimatika, din hija negliġenza professjonali. Kodiċi li jaħli l-enerġija huwa kodiċi ħażin. Arkitettura li teħtieġ impjant tal-enerġija nukleari biex iwieġeb mistoqsija sempliċi tas-servizz tal-konsumatur hija arkitettura ħażina.

Aħseb dwarha minn perspettiva tas-sistemi. Meta tikteb funzjoni li twettaq operazzjonijiet ta' punt li jvarja mhux meħtieġa, m'intix qed taħli biss ċikli. Qed tikkawża li t-transisters jaqilbu, l-elettroni jgħaddu, is-sħana tiġi ġġenerata, u fl-aħħar mill-aħħar, il-karbonju jiġi emess x'imkien. Dan huwa veru kemm jekk tarah u kemm jekk le.

L-istess prinċipju li wassalna biex nieħdu ħsieb it-tnixxijiet tal-memorja (ħela ta' riżorsi inviżibbli) għandu jwassalna biex nieħdu ħsieb il-ħela tal-enerġija. It-tnejn jirrappreżentaw falliment fid-dixxiplina tal-inġinerija.

CSRD u r-Realtà Regolatorja li Ġejja

Il-pajsaġġ regolatorju qed jilħaq din ir-realtà. Id-Direttiva tal-UE dwar ir-Rappurtar tas-Sostenibbiltà Korporattiva (CSRD) qed iġġiegħel lil kumpaniji kbar jirrappurtaw l-emissjonijiet tal-Iskop 3 tagħhom. L-Iskop 3 jinkludi l-emissjonijiet upstream u downstream tal-prodotti u s-servizzi li jixtru.

Dan ifisser li dalwaqt, klijenti intrapriżi se jitolbu jkunu jafu l-impronta tal-karbonju tas-servizzi tal-AI li jixtru. "AI Ħadra" mhux se tkun biss slogan ta' kummerċjalizzazzjoni; se tkun rekwiżit iebes tax-xiri. Bank mhux se jixtri sistema tal-AI għall-iskoperta ta' frodi jekk din tħassrilhom l-impenji tagħhom ta' Net Zero.

L-Istandards Ewropej tar-Rappurtar tas-Sostenibbiltà (ESRS) jeħtieġu li l-kumpaniji jirrappurtaw dwar:

  • E1 Tibdil fil-Klima: Inkluż il-konsum tal-enerġija u l-emissjonijiet ta' gassijiet serra
  • E3 Riżorsi tal-Ilma u tal-Baħar: Rilevanti għat-tkessiħ taċ-ċentri tad-dejta
  • Emissjonijiet tal-Iskop 3: Inkluż oġġetti u servizzi mixtrija (APIs tal-AI)

Il-kumpaniji li jixtru servizzi tal-AI se jkollhom bżonn jiksbu dejta dwar l-intensità tal-karbonju mingħand il-fornituri tagħhom. Fornituri li ma jistgħux juru arkitetturi effiċjenti fl-enerġija se jsibu ruħhom esklużi mill-kuntratti intrapriżi Ewropej.

Dan mhuwiex ipoteżi. Banek Ewropej kbar, kumpaniji tal-assigurazzjoni, u intrapriżi industrijali diġà qed jibnu oqfsa ta' kalkolu tal-Iskop 3 li jinkludu servizzi tal-cloud u tal-AI. Sal-2026, ir-rappurtar tas-CSRD se jkun obbligatorju għal kumpaniji b'aktar minn 250 impjegat.

Kronoloġija tas-CSRD: Meta l-AI Ekoloġika Ssir Obbligatorja Rekwiżiti Ewropej ta' rappurtar dwar is-sostenibbiltà li jaffettwaw l-akkwist tal-AI 2024 Is-CSRD Jidħol Fis-Sebaħ Kumpaniji pubbliċi kbar >500 impjegat 2025 L-Iskop 3 Meħtieġ Emissjonijiet tal-katina tal-provvista Inklużi s-servizzi tal-AI 2026 Skop Estiż Il-kumpaniji kbar kollha >250 impjegat 2028 Kopertura Sħiħa SMEs elenkati Multinazzjonali mhux tal-UE Impatt fuq l-Akkwist tal-AI L-intrapriżi jridu jirrappurtaw l-intensità tal-karbonju tas-servizzi tal-AI mixtrija fl-Iskop 3 Vantaġġ ta' Dweve Marka tal-karbonju 96% aktar baxxa tippermetti akkwist tal-AI konformi mas-CSRD Metrika Ewlenija: Intensità tal-Karbonju (gCO2e għal kull inferenza) AI tradizzjonali: ~10-50 gCO2e għal kull mistoqsija | AI binarja (Dweve): ~0.3-2 gCO2e għal kull mistoqsija
"CSRD and the Coming Regulatory Reality" huwa ċiklu: osserva, agħżel, aġixxi, u ittestja mill-ġdid.

Il-Futur tal-Computing Ekoloġiku

It-tranżizzjoni lejn l-AI Ekoloġika teħtieġ aktar minn sempliċi algoritmi effiċjenti. Teħtieġ ħarsa mill-ġdid sħiħa tal-istack komputazzjonali kollu.

Nikkunsidraw mill-Ġdid il-Hardware

Qed naraw iż-żieda ta' ċipep newromorfiċi u arkitetturi ta' computing fil-memorja li huma ddisinjati speċifikament għal operazzjonijiet binarji, sparżi u ta' preċiżjoni baxxa. Dawn iċ-ċipep jimitaw il-moħħ tal-bniedem, li jaħdem b'madwar 20 watt ta' enerġija (inqas minn bozza ta' dawl baxx), iżda jisboq supercomputers ta' skala megawatt fil-ġeneralizzazzjoni u fit-tagħlim.

Il-Loihi ta' Intel, it-TrueNorth ta' IBM, u bosta ċipep minn startups qed jesploraw din id-direzzjoni. Imma m'għandekx għalfejn tistenna għal hardware eżotiku. L-algoritmi ta' Dweve Core huma ottimizzati għall-unitajiet SIMD li diġà jeżistu f'kull CPU modern. Il-kernels AVX-512 tagħna jagħtu inferenza ta' netwerks newrali binarji b'veloċitajiet li jikkompetu mal-inferenza b'punt li jvarja bbażata fuq il-GPU, b'frakzjoni tal-konsum tal-enerġija.

Nikkunsidraw mill-Ġdid id-Dejta

Għandna bżonn niġbru datasets iżgħar u ta' kwalità ogħla sabiex inkunu nistgħu nħarrġu mudelli iżgħar u aktar effiċjenti, minflok niddependu fuq il-metodu ta' forza bruta li jibla' l-internet kollu. Dan l-approċċ, li nsejħulu "Data Dignity," jagħraf li aktar dejta mhux dejjem tfisser dejta aħjar.

L-approċċ attwali tal-industrija li jiġbor kull biċċa test fuq l-internet u jarmih f'mudell ġgant huwa l-ekwivalenti komputazzjonali tal-minjieri tal-wiċċ. Huwa ħela, jagħmel ħsara lill-ambjent, u fl-aħħar mill-aħħar mhuwiex sostenibbli.

Nikkunsidraw mill-Ġdid l-Aspettattivi

Verament għandna bżonn mudell ta' triljun parametru biex nissettjaw tajmer jew biex nagħmlu sommarju ta' email? Jew dak huwa żejjed?

Il-prinċipju li "tdaqqas" il-mudelli tal-AI tiegħek għall-kompitu li jkollok huwa fundamentali għall-computing sostenibbli. Klassifikatur binarju għall-iskoperta ta' spam m'għandux bżonn l-istess arkitettura bħal mudell li jiġġenera finzjoni kreattiva. Madankollu, it-tendenza tal-industrija hija li tuża l-istess mudelli fundamentali massivi għal kollox, bħal li tuża vapur tal-kruċieri biex taqsam xmara.

L-arkitettura ta' Dweve tħaddan dan il-prinċipju b'mod espliċitu. Is-456 sett ta' restrizzjonijiet speċjalizzati fid-dominju tagħna jfissru li biss l-ispeċjalisti rilevanti tad-dominju jattivaw għal kwalunkwe kompitu partikolari. Klassifikazzjoni sempliċi tista' tattiva 4 speċjalisti tad-dominju. Kompitu ta' raġunament kumpless jista' jattiva 8. Imma aħna qatt ma nonfqu enerġija biex inħaddmu l-mudell sħiħ meta frazzjoni tkun biżżejjed.

It-triq wara "The Future of Green Computing" tibqa' użabbli meta kull pass iġorr miegħu l-evidenza.

Triq 'il Quddiem: Passi Prattiċi għall-Adozzjoni ta' AI Ekoloġika

Jekk inti intrapriża li qed tikkunsidra l-istrateġija tal-AI tiegħek mil-lenti tas-sostenibbiltà, hawn huma passi konkreti li għandek tikkunsidra:

1. Kejjel il-marka tal-karbonju tal-AI tiegħek: Qabel ma tkun tista' tnaqqas l-emissjonijiet, trid tifhimhom. Aħdem mal-fornituri tal-AI tiegħek biex tikseb dejta dwar l-intensità tal-karbonju għal kull inferenza. Jekk ma jistgħux jipprovduha, dak innifsu huwa informazzjoni utli dwar il-maturità tas-sostenibbiltà tagħhom.

2. Id-daqs it-tajjeb għall-mudelli tiegħek: Irrevedi l-installazzjonijiet tal-AI tiegħek. Qed tuża mudell ta' 175B parametru għal ħidmiet li mudell ta' 1B parametru (jew mudell binarju) jista' jimmaniġġa? L-iffrankar tal-enerġija mid-daqs it-tajjeb tal-mudell jista' jkun ta' ordnijiet ta' kobor.

3. Ikkunsidra l-installazzjoni fuq it-tarf: Għal ħidmiet li jittolleraw il-latenza, l-inferenza tista' sseħħ fuq l-apparat minflok fil-cloud? Il-mudelli binarji jippermettu xenarji ta' installazzjoni fuq it-tarf li qabel kienu impossibbli.

4. Itlob it-trasparenza: Inkludi rekwiżiti ta' intensità tal-karbonju fil-kriterji tal-akkwist tal-AI tiegħek. Hekk kif ir-rappurtar tas-CSRD isir obbligatorju, ikollok bżonn din id-dejta xorta waħda. Il-bidu issa jpoġġik qabel il-kurva regolatorja.

5. Evalwa alternattivi binarji: Għall-klassifikazzjoni, ir-reġressjoni, u ħafna ħidmiet tal-lingwa, in-netwerks newrali binarji joffru preċiżjoni ekwivalenti bi spiża tal-enerġija 96% aktar baxxa. It-teknoloġija hija lesta għall-produzzjoni.

Konklużjoni: Il-Matematika hija Sempliċi

Il-futur tal-AI mhuwiex GPUs akbar. Mhuwiex aktar impjanti tal-enerġija nukleari biex jitimgħu ċ-ċentri tad-dejta. Il-futur tal-AI huwa aritmetika aktar intelliġenti. Huwa effiċjenti, distribwit, u binarju. Wasal iż-żmien li nagħmlu l-intelliġenza sostenibbli.

Qegħdin f'triq li tinqasam. Triq waħda twassal għal tkabbir esponenzjali kontinwu fil-konsum tal-enerġija tal-AI, bil-konsegwenzi ambjentali u ta' stabbiltà tal-grilja li dan iġib miegħu. It-triq l-oħra twassal għal AI effiċjenti u sostenibbli li tista' tiskala biex taqdi biljuni ta' nies mingħajr ma taħraq il-pjaneta.

Id-differenza bejn dawn it-toroq mhijiex ottimizzazzjoni inkrementali jew krediti tal-enerġija rinnovabbli. Id-differenza hija arkitettonika. Hija d-differenza bejn 32 bit ta' preċiżjoni bla bżonn u s-sempliċità eleganti ta' +1 u -1.

F'Dweve, għażilna t-triq tagħna. Is-sistemi tagħna jikkunsmaw 96% inqas enerġija mill-mudelli tradizzjonali b'punt li jvarja, filwaqt li jżommu preċiżjoni ekwivalenti għal tagħbija ta' xogħol ta' intrapriża. Kemm jekk qed tiffaċċja rekwiżiti ta' konformità mal-CSRD, jekk inti mħasseb dwar il-marka tal-karbonju tal-organizzazzjoni tiegħek, jew sempliċement temmen li t-teknoloġija sostenibbli hija teknoloġija aħjar, noffrulek alternattiva konkreta għall-istatus quo li jikkonsma ħafna enerġija.

Il-matematika hija sempliċi: AI aktar ekoloġika tibda b'aritmetika aktar effiċjenti. Il-futur tal-intelliġenza huwa binarju.