Zelena umetna inteligenca je binarna: okoljska cena plavajoče vejice
Ogljični odtis inteligence
V središču revolucije umetne inteligence se skriva umazana skrivnost. Skrivnost, ki jo zakrivajo bleščeče marketinške kampanje z vetrnicami in sončnimi paneli ter jo pokopavajo gore certifikatov za izravnavo ogljika, ki jih kupujejo velikani tehnološke industrije. Skrivnost je v tem: sodobna umetna inteligenca v svoji trenutni arhitekturni obliki je okoljska katastrofa, ki še čaka, da se zgodi.
Do leta 2025 bo globalna infrastruktura za računalništvo umetne inteligence porabila več elektrike kot cela Argentina. Podatkovni centri na Irskem že porabijo skoraj 20 % celotnega nacionalnega elektroenergetskega omrežja, kar ustvarja pravo energetsko krizo, ki vlado sili v ponovni premislek o novih priključkih. V severni Virginiji (prestolnici podatkovnih centrov na svetu) energetska podjetja opozarjajo, da fizično ne morejo dovolj hitro graditi daljnovodov, da bi potešila nenasitno lakoto gruč grafičnih procesorjev.
Glavni odziv industrije na to je bil osredotočen na vir energije. »Smo 100-odstotno obnovljivi!« trdijo ponudniki hiperobsežne infrastrukture. In čeprav je uporaba zelene energije zagotovo boljša od uporabe premoga, to zgreši bistvo. Obnovljiva energija je končen in redek vir. Vsak gigavat zelene energije, ki ga posrka neučinkovit model umetne inteligence, je gigavat, ki ga ni mogoče uporabiti za razogljičenje proizvodnje jekla, cementa ali prometa. Kanibaliziramo zeleno omrežje, da bi napajali klepetalne robote.
Ne potrebujemo le bolj zelene energije. Potrebujemo vitkejšo matematiko.
To ni problem, ki bi ga lahko rešili z nakupom izravnav ogljika ali gradnjo dodatnih vetrnic. To je arhitekturni problem. Industrija umetne inteligence je celotno infrastrukturo zgradila na najbolj energetsko neučinkoviti obliki aritmetike, ki obstaja: operacijah s plavajočo vejico v 32-bitni natančnosti. In dokler ne odpravimo te temeljne oblikovalske napake, tudi vsi sončni paneli v Sahari ne bodo dovolj.
Fizika neučinkovitosti: Razumevanje aritmetike s plavajočo vejico
Da bi razumeli, zakaj je umetna inteligenca tako požrešna z energijo, morate pogledati mimo hladilnih sistemov podatkovnih centrov in preučiti, kaj se dogaja na mikroskopski ravni. Razumeti morate aritmetiko.
V zadnjem desetletju je razcvet globokega učenja temeljil na aritmetiki s plavajočo vejico, natančneje FP32 (32-bitna plavajoča vejica) in v zadnjem času FP16 ali BF16. Število s plavajočo vejico je kompleksna računalniška zver. Zasnovano je tako, da predstavlja ogromen razpon vrednosti, od subatomskih do astronomskih. Za to uporablja 32 bitov, razdeljenih na predznakovni bit, 8-bitni eksponent in 23-bitno mantiso (plus implicitno vodilno 1).
Za množenje dveh števil FP32 mora procesor izvesti kompleksen ples logičnih vrat. Poravnati mora decimalne vejice (denormalizacija), pomnožiti signifikande (24x24-bitno množenje), sešteti eksponente, normalizirati rezultat, obravnavati pet različnih načinov zaokroževanja IEEE ter upravljati izjeme, kot so NaN, Infinity in premajhna vrednost. Ta logika zahteva na tisoče tranzistorjev, ki se vklapljajo in izklapljajo.
Vsakič, ko se tranzistor preklopi, porabi energijo. To ureja temeljna fizikalna enačba:
E = C × V² × f
Kjer je E energija, C kapacitivnost (sorazmerna s številom tranzistorjev), V napetost in f frekvenca preklapljanja. Več tranzistorjev pomeni večjo kapacitivnost, kar pomeni več energije na operacijo.
Ampak še slabše je. Vsakič, ko premaknete teh 32 bitov iz pomnilnika (DRAM) v predpomnilnik procesorja in iz predpomnilnika v register, porabite dodatno energijo. Pravzaprav v sodobnih računalniških sistemih premikanje podatkov stane bistveno več energije kot računanje z njimi. Znameniti Horowitzov članek s Stanforda (ISSCC 2014) je pokazal, da branje iz DRAM-a stane približno 200-krat več energije kot sama aritmetična operacija.
To je znano kot "von Neumannovo ozko grlo" in je temeljna omejitev sodobnega računalništva. Nismo omejeni s tem, kako hitro lahko računamo; omejeni smo s tem, kako hitro lahko napajamo računske enote s podatki.
Zdaj pa pomislite, da usposabljanje velikega jezikovnega modela, kot je GPT-4, vključuje približno 10^24 (en septilijon) teh operacij s plavajočo vejico. Majhen strošek energije enega samega množenja FP32, pomnožen s septilijonom, postane planetarni problem. V bistvu sežigamo gozdove, da bi množili matrike z nepotrebno natančnostjo.
Binarna revolucija: Premislek o predstavitvi
Tu na sceno stopijo binarne nevronske mreže. Predstavljajo temeljni premislek o tem, kako predstavljamo informacije v umetnih možganih.
Pri BNN odstranimo zapletenost. Omejimo uteži (povezave med nevroni) in aktivacije (izhod nevronov) na samo dve možni vrednosti: +1 in -1. V strojni opremi je to običajno predstavljeno kot 1 in 0, pri čemer se 0 matematično interpretira kot -1.
Sliši se kot uničujoča izguba natančnosti. Kako se lahko mreža nauči česar koli niansiranega (subtilne razlike med mačko in psom ali sentimenta stavka) samo z dvema številkama? Odgovor se skriva v visokodimenzionalni geometriji globokega učenja.
Predstavljajte si miselni eksperiment. Če vam dam eno samo številko med -1 in +1, ne morete zakodirati veliko informacij. Če pa vam dam milijon binarnih številk, od katerih je vsaka +1 ali -1, lahko prek njihovih kombinacij in vzorcev zakodirate astronomsko količino informacij. »Modrost množice« milijonov binarnih nevronov nadomesti pomanjkanje individualne natančnosti.
To ni le teorija. Raziskave institucij, vključno z MIT, Googlom in Microsoftom, so pokazale, da lahko binarne mreže pri številnih praktičnih nalogah, vključno s klasifikacijo slik, zaznavanjem objektov in razumevanjem naravnega jezika, dosežejo natančnost v nekaj odstotnih točkah svojih dvojnikov s plavajočo vejico.
Matematika učinkovitega računanja
Posledice tega prehoda s 32-bitnega števila s plavajočo vejico na 1-bitno binarno vrednost so za strojno opremo globoke. Pojdimo skozi matematiko korak za korakom.
Pristop s plavajočo vejico: Za izračun skalarnega produkta dveh vektorjev (temeljna operacija v nevronskih mrežah) pomnožite ustrezne elemente in seštejete rezultate. Pri FP32 vsako množenje zahteva zapleten cevovod, opisan zgoraj. Za vektor dolžine 512 (značilno za nevronske mreže) potrebujete 512 množenj s plavajočo vejico in 511 seštevanj.
Binarni pristop: Ko pomnožite dve binarni števili (+1 ali -1), operacija ni zapleteno množenje s plavajočo vejico. Gre za preprosto logično vrata XNOR. Če sta bita enaka (oba +1 ali oba -1), je rezultat +1. Če sta različna, je rezultat -1. Vrata XNOR so ena najbolj primitivnih in učinkovitih struktur v digitalni elektroniki: dobesedno štirje tranzistorji.
Poleg tega akumulacija (seštevanje rezultatov) postane operacija POPCNT (štetje populacije): štetje števila 1-bitov v binarnem nizu. Sodobni procesorji imajo namenske ukaze POPCNT od leta 2008 (Intel Nehalem). Kar je nekoč zahtevalo na tisoče tranzistorjev in več procesorskih ciklov, se zdaj zgodi v enem samem ciklu.
Toda prava čarovnija se zgodi, ko upoštevate vektorizacijo. Sodobni procesorji imajo registre SIMD (Single Instruction, Multiple Data), ki so široki 256 ali 512 bitov. Z binarnimi operacijami lahko zapakirate 512 uteži v en sam 512-bitni register in izvedete vseh 512 operacij XNOR hkrati. To je 16-krat več vzporednih operacij, kot jih lahko dosežete s FP32 na isti strojni opremi.
Dweve Core: 1.937 algoritmov za binarno inteligenco
Pri Dweve se z binarnimi nevronskimi mrežami nismo ukvarjali zgolj kot z akademsko radovednostjo. Na tem načelu smo zgradili celotno računalniško osnovo. Dweve Core vsebuje 1.937 strojno optimiziranih algoritmov v 6 kategorijah in 132 razdelkih, vsi pa so od začetka zasnovani za binarno in nizkobitno računanje.
Naš pristop presega preprosto binarizacijo. Podpiramo spekter ravni kvantizacije:
- Binarno (1 bit): 32-kratna kompresija, največja učinkovitost za primerne delovne obremenitve
- Ternarno (2 bita): 16-kratna kompresija, dodaja stanje »nič« za redke predstavitve
- 4-bitno: 8-kratna kompresija, idealno razmerje za številne jezikovne naloge
- 8-bitno: 4-kratna kompresija, skoraj enaka natančnost kot FP32 ob znatnih prihrankih pri učinkovitosti
Vsako raven podpirajo namenski algoritmi, optimizirani za posebne strojne zaledne sisteme:
- CPU: SSE2, AVX2, AVX-512, ARM NEON, ARM SVE/SVE2
- GPU: CUDA (NVIDIA), ROCm (AMD), Metal (Apple), Vulkan, WebGPU
- FPGA: Izvorna sinteza logičnih vrat XNOR s cevovodnimi drevesi seštevalnikov
- WASM: Izvajanje v brskalniku s SIMD za nameščanje na robnih napravah
To ni teoretično. Naši notranji testi na produkcijskih delovnih obremenitvah dosledno kažejo 96-odstotno zmanjšanje porabe energije v primerjavi z enakovrednimi izvedbami FP32, pri čemer je izguba natančnosti pri nalogah klasifikacije in regresije običajno manjša od 2 %.
Jevonsov paradoks: bo učinkovitost vodila v večjo porabo?
Ekonomisti in strokovnjaki za trajnost bodo takoj opozorili na Jevonsov paradoks. Ta ekonomska teorija, poimenovana po ekonomistu Williamu Stanleyju Jevonsu iz 19. stoletja, pravi, da ko tehnologija postaja učinkovitejša, stroški njene uporabe padejo, kar poveča povpraševanje in vodi v višjo skupno porabo, ne v nižjo.
Jevons je to opazil pri premogu: ko so parni stroji postajali učinkovitejši, poraba premoga ni upadla. Namesto tega je učinkovitost naredila parni pogon ekonomsko upravičen za več aplikacij, poraba premoga pa je eksplodirala.
Če bo umetno inteligenco 96 % ceneje in energetsko učinkoviteje poganjati, ali je ne bomo preprosto poganjali 100-krat več? Ali je ne bomo vgradili v opekače kruha, zobne ščetke in voščilnice za enkratno uporabo?
Morda. Učinek odskoka je resničen. Vendar obstaja kvalitativna razlika v tem, kje se ta energija porablja, kar je izjemno pomembno za stabilnost omrežja in trajnost.
Sedanja energetska kriza v umetni inteligenci izvira iz centraliziranega usposabljanja in sklepanja ogromnih, monolitnih temeljnih modelov. Ti modeli so tako zahtevni, da potrebujejo centralizirane, hiperobsežne podatkovne centre. Ti podatkovni centri so točkovne obremenitve na električnem omrežju, saj na eni lokaciji potrebujejo več sto megavatov, kar obremenjuje daljnovode in lokalno proizvodno zmogljivost.
Zato je Irska v krizi. Zato v severni Virginiji ne morejo dovolj hitro graditi transformatorskih postaj. Težava ni skupna količina energije; težava je geografska koncentracija.
Edge AI: The Most Sustainable Transmission is None
Binary efficiency enables a paradigm shift: pushing intelligence to the edge. Instead of sending your voice command to a massive server farm in the desert to be processed by a 175-billion parameter monster, it can be processed locally on your phone, your thermostat, or your car, using a specialized binary model running on a few milliwatts.
This shifts the energy burden from the centralized grid to distributed devices. The energy cost becomes negligible: part of the device's normal battery usage. Charging your phone once a day is not a grid crisis. Running a 100MW data center in West Dublin is.
Furthermore, by enabling offline, on-device AI, we eliminate the energy cost of the network. We do not need to fire up the 5G radios, the fiber optic repeaters, and the core routers to send the data to the cloud and back. Research suggests that data transmission over cellular networks costs approximately 0.5 kWh per gigabyte. The most energy-efficient data transmission is the one that never happens.
Our Dweve Loom architecture, with its 456 specialized constraint sets each containing 64-128MB of binary constraints, is specifically designed for this distributed model. Only 4-8 domain specialists activate simultaneously for any given query, and the binary representation means these domain specialists fit comfortably in the cache of even modest edge devices.
Sustainability as a Code Quality Metric
For too long, the software engineering discipline has ignored energy. We optimized for developer velocity ("ship it fast") or raw performance ("make it fast"), but rarely for energy ("make it light"). We treated electricity as an infinite, invisible resource.
In the era of climate crisis, this is professional negligence. Code that wastes energy is bad code. An architecture that requires a nuclear power plant to answer a simple customer service query is a bad architecture.
Think about it from a systems perspective. When you write a function that performs unnecessary floating-point operations, you are not just wasting cycles. You are causing transistors to switch, electrons to flow, heat to be generated, and ultimately, carbon to be emitted somewhere. That is true whether you can see it or not.
The same principle that led us to care about memory leaks (invisible resource waste) should lead us to care about energy waste. Both represent a failure of engineering discipline.
CSRD and the Coming Regulatory Reality
The regulatory landscape is catching up to this reality. The EU's Corporate Sustainability Reporting Directive (CSRD) is forcing large companies to account for their Scope 3 emissions. Scope 3 includes the upstream and downstream emissions of the products and services they buy.
This means that soon, enterprise customers will demand to know the carbon footprint of the AI services they purchase. "Green AI" will not just be a marketing slogan; it will be a hard procurement requirement. A bank will not buy an AI fraud detection system if it ruins their Net Zero commitments.
The European Sustainability Reporting Standards (ESRS) require companies to report on:
- E1 Climate Change: Including energy consumption and greenhouse gas emissions
- E3 Water and Marine Resources: Relevant for data center cooling
- Scope 3 Emissions: Including purchased goods and services (AI APIs)
Companies purchasing AI services will need to obtain carbon intensity data from their providers. Providers who cannot demonstrate energy-efficient architectures will find themselves locked out of European enterprise contracts.
To ni hipotetično. Večje evropske banke, zavarovalnice in industrijska podjetja že gradijo okvire za izračun obsega 3, ki vključujejo storitve v oblaku in umetne inteligence. Do leta 2026 bo poročanje po CSRD obvezno za podjetja z več kot 250 zaposlenimi.
Prihodnost zelenega računalništva
Prehod na zeleno umetno inteligenco zahteva več kot le učinkovite algoritme. Zahteva celovit premislek o celotnem računalniškem skladu.
Premislek o strojni opremi
Priča smo vzponu nevromorfnih čipov in računalniških arhitektur v pomnilniku, ki so posebej zasnovane za operacije z nizko natančnostjo, redkimi in binarnimi podatki. Ti čipi posnemajo človeške možgane, ki delujejo na približno 20 vatih moči (manj kot zatemnjena žarnica), a pri posploševanju in učenju prekašajo superračunalnike na megavatni ravni.
Intelov Loihi, IBM-ov TrueNorth in številni startup čipi raziskujejo to smer. Vendar vam ni treba čakati na eksotično strojno opremo. Algoritmi Dweve Core so optimizirani za enote SIMD, ki so že prisotne v vsakem sodobnem procesorju. Naša jedra AVX-512 zagotavljajo sklepanje binarnih nevronskih mrež s hitrostjo, ki se kosa s sklepanjem na osnovi plavajoče vejice na grafičnih procesorjih, ob delčku porabe energije.
Premislek o podatkih
Ustvarjati moramo manjše, kakovostnejše nabore podatkov, da lahko treniramo manjše in učinkovitejše modele, namesto da se zanašamo na brutalno metodo zajemanja celotnega interneta. Ta pristop, ki ga imenujemo »dostojanstvo podatkov«, priznava, da več podatkov ni vedno boljših podatkov.
Trenutni pristop industrije, ki posesajo vsako besedilo na internetu in ga vrže v ogromen model, je računalniški ekvivalent površinskega kopanja. Je potraten, okolju škodljiv in na koncu nevzdržen.
Premislek o pričakovanjih
Ali res potrebujemo model s trilijon parametri, da nastavimo časovnik ali povzamemo e-pošto? Ali pa je to pretirano?
Načelo »prave velikosti« modelov umetne inteligence glede na nalogo je temelj trajnostnega računalništva. Binarni klasifikator za odkrivanje neželene pošte ne potrebuje enake arhitekture kot model za ustvarjanje leposlovja. Pa vendar je trend v industriji uporaba istih ogromnih temeljnih modelov za vse, kot bi za prečkanje reke uporabili križarko.
Arhitektura Dweve to načelo izrecno sprejema. Naših 456 specializiranih nizov omejitev za domenske strokovnjake pomeni, da se za vsako nalogo aktivirajo le ustrezni domenski strokovnjaki. Preprosta klasifikacija lahko aktivira 4 domenske strokovnjake. Zahtevna naloga sklepanja lahko aktivira 8. Nikoli pa ne zapravljamo energije za poganjanje celotnega modela, ko zadostuje že delček.
Pot naprej: praktični koraki za uvajanje zelenega UI
Če kot podjetje razmišljate o svoji strategiji UI skozi prizmo trajnosti, je tukaj nekaj konkretnih korakov, ki jih lahko upoštevate:
1. Izmerite ogljični odtis svojega UI: Preden lahko zmanjšate emisije, jih morate razumeti. Sodelujte s svojimi ponudniki UI, da pridobite podatke o ogljični intenzivnosti za posamezen sklep. Če vam jih ne morejo zagotoviti, je to samo po sebi koristna informacija o njihovi zrelosti na področju trajnosti.
2. Prilagodite velikost svojih modelov: Preglejte svoje uvedbe UI. Ali uporabljate model s 175 milijardami parametrov za naloge, ki bi jih lahko opravil model z 1 milijardo parametrov (ali binarni model)? Prihranki energije pri prilagajanju velikosti modelov so lahko za več redov velikosti.
3. Razmislite o robni uvedbi: Ali lahko pri nalogah, ki prenesejo zakasnitve, sklepanje poteka na napravi namesto v oblaku? Binarni modeli omogočajo scenarije robne uvedbe, ki so bili prej nemogoči.
4. Zahtevajte preglednost: Vključite zahteve glede ogljične intenzivnosti v svoja merila za nakupe UI. Ker bo poročanje v skladu s CSRD kmalu obvezno, boste te podatke tako ali tako potrebovali. Začetek zdaj vas postavlja pred regulativno krivuljo.
5. Ocenite binarne alternative: Za klasifikacijo, regresijo in številne jezikovne naloge ponujajo binarne nevronske mreže enako natančnost pri 96 % nižjih stroških energije. Tehnologija je pripravljena za produkcijsko uporabo.
Sklep: matematika je preprosta
Prihodnost UI niso večji grafični procesorji. Niso niti dodatne jedrske elektrarne za napajanje podatkovnih centrov. Prihodnost UI je pametnejša aritmetika. Je učinkovita, porazdeljena in binarna. Čas je, da inteligenco naredimo trajnostno.
Na razpotju smo. Ena pot vodi v nadaljnjo eksponentno rast porabe energije UI z vsemi posledicami za okolje in stabilnost omrežja. Druga pot vodi k učinkovitemu in trajnostnemu UI, ki se lahko razširi tako, da služi milijardam ljudi, ne da bi pri tem uničil planet.
Razlika med tema potema ni postopna optimizacija ali krediti za obnovljivo energijo. Razlika je arhitekturna. Je razlika med 32 biti nepotrebne natančnosti in elegantno preprostostjo +1 in -1.
Pri Dweve smo izbrali svojo pot. Naši sistemi porabijo 96 % manj energije kot tradicionalni modeli s plavajočo vejico, hkrati pa ohranjajo enakovredno natančnost za poslovne obremenitve. Ne glede na to, ali se soočate z zahtevami glede skladnosti s CSRD, vas skrbi ogljični odtis vaše organizacije ali preprosto verjamete, da je trajnostna tehnologija boljša tehnologija, ponujamo konkretno alternativo energetsko potratnemu statusu quo.
Matematika je preprosta: bolj zelena umetna inteligenca se začne z vitkejšo aritmetiko. Prihodnost inteligence je binarna.