Vihreä tekoäly on binääristä: liukuluvun ympäristöhinta

Teollisuus piilottaa hiilijalanjälkensä ”kompensaatioiden” taakse. Todellinen ratkaisu on arkkitehtuurinen: miksi binäärioperaatiot kuluttavat 96 prosenttia...

Vihreä tekoäly on binääristä: liukuluvun ympäristöhinta

Tekoälyn hiilijalanjälki

Tekoälyvallankumouksen ytimessä on likainen salaisuus. Sen peittävät tuulivoimaloita ja aurinkopaneeleja esittelevät hiotut markkinointikampanjat, ja se on haudattu suurten teknologiayritysten ostamien hiilidioksidipäästöhyvityssertifikaattien vuorten alle. Salaisuus on tämä: nykyaikainen tekoäly nykyisessä arkkitehtonisessa muodossaan on ympäristökatastrofi, joka odottaa tapahtumistaan.

Vuoteen 2025 mennessä maailmanlaajuinen tekoälyn laskentainfrastruktuuri kuluttaa enemmän sähköä kuin koko Argentiinan valtio. Irlannin datakeskukset kuluttavat jo lähes 20 prosenttia maan koko sähköverkosta, mikä on synnyttänyt aidon energiakriisin, joka pakottaa hallituksen harkitsemaan uusia liittymiä uudelleen. Pohjois-Virginiassa, joka on maailman datakeskuspääkaupunki, sähköyhtiöt varoittavat, etteivät ne fyysisesti pysty rakentamaan siirtolinjoja tarpeeksi nopeasti ruokkimaan GPU-klustereiden kyltymätöntä nälkää.

Toimialan ensisijainen vastaus tähän on ollut keskittyä energian lähteeseen. "Olemme 100-prosenttisesti uusiutuvia!" hyperskaalaajat väittävät. Ja vaikka vihreän energian käyttö on varmasti parempaa kuin hiilen käyttö, se ohittaa olennaisen asian. Uusiutuva energia on rajallinen, niukka resurssi. Jokainen gigawatti vihreää sähköä, jonka tehoton tekoälymalli imee itseensä, on gigawatti, jota ei voida käyttää teräksen tuotannon, sementin valmistuksen tai liikenteen hiilidioksidipäästöjen vähentämiseen. Me kannibalisoimme vihreää sähköverkkoa polttoaineena chatbotille.

Emme tarvitse pelkästään vihreämpää sähköä. Tarvitsemme kevyempää matematiikkaa.

Tämä ei ole ongelma, jonka voi ratkaista ostamalla hiilidioksidipäästöhyvityksiä tai rakentamalla lisää tuulivoimaloita. Se on arkkitehtoninen ongelma. Tekoälyteollisuus on rakentanut koko infrastruktuurinsa energiatehottomimman mahdollisen aritmetiikan varaan: 32-bittisten liukulukuoperaatioiden varaan. Ja ennen kuin puutumme tuohon perustavanlaatuiseen suunnitteluvirheeseen, kaikki Saharan aurinkopaneelit eivät riitä.

Aritmetiikan energiakustannus: FP32 vs. binäärinen XNOR-POPCNT Energia operaatiota kohti 45 nm:n prosessin vertailuarvojen mukaan (Horowitz, 2014) 32-bittinen liukuluku (FP32) Syväoppimisen teollisuusstandardi 4,6 pikoJoulea Kertolasku-akkumulaatio-operaatiota kohti MAC-operaation vaatimat monimutkaiset vaiheet: 1. Etumerkkibitin erotus ja XOR 2. Eksponentin yhteenlasku (8-bittinen kokonaisluku) 3. Mantissan kertolasku (24x24 bittiä) 4. Normalisointisiirto 5. Pyöristyslogiikka (5 IEEE-tilaa) 6. Poikkeustenkäsittely (NaN, Inf, alivuoto) 7. Akkumulaattorin kohdistus ja yhteenlasku Laitteistovaatimukset Noin 4 000 transistoria FPU:ta kohti Syvä liukuhihna, monimutkainen ohjauslogiikka 1-bittinen binäärinen neuroverkko Dweve Core XNOR-POPCNT -arkkitehtuuri 0,15 pikoJoulea XNOR + POPCNT -operaatiota kohti MAC-operaation vaatimat minimaaliset vaiheet: 1. XNOR-portti (yksi looginen operaatio) 2. POPCNT-akkumulaatio (bittien laskenta) Valmista. Koko operaatio on tässä. 30 KERTAA TEHOKKAAMPI 96 % energiansäästö Laitteistovaatimukset Noin 4 transistoria XNOR-porttia kohti Natiivi CPU-tuki SIMD:n kautta 10^24 operaatiolla LLM-koulutuksessa tämä ero muuttuu PLANETAARISEKSI mittakaavaksi
The risks in "The Carbon Footprint of Intelligence" become manageable once they have names and owners.

Epät ehokkuuden fysiikka: liukulukuaritmetiikan ymmärtäminen

Ymmärtääkseen, miksi tekoäly kuluttaa niin paljon energiaa, on katsottava datakeskusten jäähdytysjärjestelmien ohi ja tutkittava, mitä mikroskooppisella tasolla tapahtuu. On ymmärrettävä aritmetiikkaa.

Viime vuosikymmenen ajan syväoppimisen buumi on rakentunut liukulukuaritmetiikan varaan, erityisesti FP32:n (32-bittinen liukuluku) ja viime aikoina FP16:n tai BF16:n. Liukuluku on monimutkainen laskennallinen otus. Se on suunniteltu esittämään valtava arvoalue subatomisesta tähtitieteelliseen. Tätä varten se käyttää 32 bittiä, jotka jakautuvat etumerkkibittiin, 8-bittiseen eksponenttiin ja 23-bittiseen mantissaan (sekä implisiittiseen johtavaan ykköseen).

Kahden FP32-luvun kertomiseen suorittimen on suoritettava monimutkainen logiikkaporttien tanssi. Sen on kohdistettava desimaalipisteet (denormalisointi), kerrottava merkitsevät numerot (24x24-bittinen kertolasku), lisättävä eksponentit, normalisoitava tulos, käsiteltävä viisi erilaista IEEE:n pyöristystilaa ja hallittava poikkeuksia, kuten NaN, Infinity ja alivuoto. Tämä logiikka vaatii tuhansia transistoreja kytkeytymään päälle ja pois.

Joka kerta kun transistori kytkeytyy, se kuluttaa energiaa. Tätä säätelee fysiikan perusyhtälö:

E = C × V² × f

Missä E on energia, C on kapasitanssi (verrannollinen transistorien määrään), V on jännite ja f on kytkentätaajuus. Enemmän transistoreja tarkoittaa suurempaa kapasitanssia, mikä tarkoittaa enemmän energiaa operaatiota kohti.

Mutta pahempaa on luvassa. Joka kerta kun siirrät nuo 32 bittiä muistista (DRAM) suorittimen välimuistiin ja välimuistista rekisteriin, kulutat lisää energiaa. Itse asiassa nykyaikaisissa tietojärjestelmissä datan siirtäminen maksaa huomattavasti enemmän energiaa kuin sen laskeminen. Stanfordin merkittävä Horowitzin artikkeli (ISSCC 2014) osoitti, että DRAM-muistista lukeminen maksaa noin 200 kertaa enemmän energiaa kuin itse aritmetiikan suorittaminen.

Tämä tunnetaan nimellä "Von Neumannin pullonkaula", ja se on nykyaikaisen laskennan perusrajoite. Meitä ei rajoita se, kuinka nopeasti voimme laskea; meitä rajoittaa se, kuinka nopeasti voimme syöttää dataa laskentamoottoreille.

Mieti nyt, että suuren kielimallin, kuten GPT-4:n, kouluttaminen vaatii noin 10^24 (septiljoona) näitä liukulukuoperaatioita. Yhden FP32-kertolaskun pieni energiakustannus, kun se kerrotaan septiljoonalla, muuttuu planeetanlaajuiseksi ongelmaksi. Käytännössä poltamme metsiä kertoaksemme matriiseja tarpeettomalla tarkkuudella.

Binaarinen vallankumous: esitystavan uudelleenajattelu

Tässä kohtaa binaariset neuroverkot muuttavat pelin. Ne edustavat perustavanlaatuista uudelleenajattelua siitä, miten esitämme informaatiota keinotekoisessa aivossa.

BNN:ssä riisumme pois monimutkaisuuden. Rajoitamme painot (neuronien väliset yhteydet) ja aktivaatiot (neuronien ulostulot) vain kahteen mahdolliseen arvoon: +1 ja -1. Laitteistossa tämä esitetään tyypillisesti arvoina 1 ja 0, jolloin 0 tulkitaan matemaattisesti arvoksi -1.

Tämä kuulostaa tuhoisalta tarkkuuden menetykseltä. Miten verkko voi oppia mitään vivahteikasta (hienovarainen ero kissan ja koiran välillä tai lauseen tunnelataus) vain kahdella numerolla? Vastaus piilee syväoppimisen korkeadimensioisessa geometriassa.

Mieti ajatuskoetta. Jos annan sinulle yhden numeron väliltä -1 ja +1, et voi koodata siihen paljoa informaatiota. Mutta jos annan sinulle miljoona binaarilukua, joista jokainen on joko +1 tai -1, voit koodata niiden yhdistelmien ja kuvioiden kautta tähtitieteellisen määrän informaatiota. Miljoonien binaarineuronien "joukon viisaus" kompensoi yksittäisen neuronin tarkkuuden puutteen.

Tämä ei ole pelkkää teoriaa. Tutkimus muun muassa MIT:stä, Googlesta ja Microsoftista on osoittanut, että binaariset verkot voivat saavuttaa tarkkuuden, joka on vain muutaman prosenttiyksikön päässä liukulukuverkkojen tarkkuudesta monissa käytännön tehtävissä, kuten kuvien luokittelussa, kohteiden tunnistuksessa ja luonnollisen kielen ymmärtämisessä.

Tehokkaan laskennan matematiikka

Tämän siirtymän laitteistovaikutukset 32-bittisestä liukuluvusta 1-bittiseen binaariin ovat valtavat. Käydään matematiikka läpi askel askeleelta.

Liukulukumenetelmä: Kahden vektorin pistetulon laskemiseksi (neuroverkkojen perusoperaatio) kerrot vastaavat alkiot keskenään ja summaat tulokset. FP32:ssa jokainen kertolasku vaatii edellä kuvatun monimutkaisen putkilinjan. Vektorille, jonka pituus on 512 (tyypillinen neuroverkoissa), tarvitset 512 liukulukukertolaskua ja 511 yhteenlaskua.

Binaarimenetelmä: Kun kerrot kaksi binaarilukua (+1 tai -1), operaatio ei ole monimutkainen liukulukukertolasku. Se on yksinkertainen XNOR-logiikkaportti. Jos bitit ovat samat (molemmat +1 tai molemmat -1), tulos on +1. Jos ne ovat erilaiset, tulos on -1. XNOR-portti on yksi digitaalielektroniikan alkeellisimmista ja tehokkaimmista rakenteista: kirjaimellisesti neljä transistoria.

Lisäksi akkumulaatiosta (tulosten summaamisesta) tulee POPCNT-operaatio (Population Count): 1-bittien määrän laskeminen binaarimerkkijonossa. Nykyaikaisissa suorittimissa on ollut omat POPCNT-käskyt vuodesta 2008 lähtien (Intel Nehalem). Se, mikä vaati tuhansia transistoreja ja useita kellosyklejä, tapahtuu nyt yhdessä syklissä.

Mutta todellinen taika tapahtuu, kun tarkastelet vektorointia. Nykyaikaisten suorittimien SIMD-rekisterit (Single Instruction, Multiple Data) ovat 256 tai 512 bittiä leveitä. Binaarioperaatioilla voit pakata 512 painoa yhteen 512-bittiseen rekisteriin ja suorittaa kaikki 512 XNOR-operaatiota samanaikaisesti. Tämä on 16 kertaa enemmän rinnakkaisia operaatioita kuin FP32:lla saavutat samalla laitteistolla.

Von Neumannin pullonkaula: miksi muistikaista on tärkeämpi kuin laskentateho Energiakustannusten erittely neuroverkkojen päättelylle (45 nm:n prosessi) Muistihierarkian energiakustannukset Rekisterit ~0 lisäenergiaa L1-välimuisti (32 kt) ~1 ns viive ~5 pJ / käyttökerta L2-välimuisti (256 kt) ~5 ns viive ~25 pJ / käyttökerta L3-välimuisti (8 Mt) ~20 ns viive ~100 pJ / käyttökerta DRAM (päämuisti) ~100 ns viive ~1000 pJ / käyttökerta KESKEINEN OIVALLUS DRAM-käyttö maksaa 200 kertaa enemmän energiaa kuin itse FP32-laskenta Binaariset verkot: 32-kertainen pakkausetu Mallin koon vertailu (100 miljoonaa parametria) FP32-malli 400 Mt 4 tavua / painoarvo Binaarinen malli 12,5 Mt 1 bitti / painoarvo Välimuistiin mahtumisen analyysi L3-välimuisti (tyypillisesti 8 Mt): FP32: 2 % mallista mahtuu (jatkuvia DRAM-käyntejä) Binaarinen: 64 % mallista mahtuu (enimmäkseen välimuistissa) Energiansäästön kokonaiserittely Laskennan säästö (XNOR vs. FP32): 30x Muistikaistan säästö: 32x Välimuistin tehokkuuden parannus: 10-50x Yhteensä: jopa 96 % energian vähennys Dweve Loom: 456 binaarista alakohtaista rajoitejoukkoa Binaariset mallit toimivat usein nopeammin suorittimilla kuin FP32-mallit kalliilla näytönohjaimilla muistikaistan rajoitusten vuoksi

Dweve Core: 1 937 algoritmia binaariälyyn

Me emme ole Dwevessä käsitelleet binäärisiä neuroverkkoja vain akateemisena uteliaisuutena. Olemme rakentaneet koko laskennallisen perustamme tälle periaatteelle. Dweve Core sisältää 1 937 laitteistoriippumatonta algoritmia kuudessa kategoriassa ja 132 osiossa, jotka on suunniteltu alusta alkaen binääri- ja matalabittiseen laskentaan.

Lähestymistapamme menee yksinkertaista binarisointia pidemmälle. Tuemme useita kvantisointitasoja:

  • Binääri (1 bitti): 32-kertainen pakkaus, maksimaalinen tehokkuus sopivissa työkuormissa
  • Kolmitasoinen (2 bittiä): 16-kertainen pakkaus, joka lisää "nolla"-tilan harvoja esityksiä varten
  • 4 bittiä: 8-kertainen pakkaus, hyvä kompromissi moniin kielitehtäviin
  • 8 bittiä: 4-kertainen pakkaus, lähes FP32-tarkkuus merkittävillä tehokkuusparannuksilla

Jokaista tasoa tukevat omat algoritminsa, jotka on optimoitu tietyille laitteistoalustoille:

  • CPU: SSE2, AVX2, AVX-512, ARM NEON, ARM SVE/SVE2
  • GPU: CUDA (NVIDIA), ROCm (AMD), Metal (Apple), Vulkan, WebGPU
  • FPGA: Natiivi XNOR-porttisynteesi putkitettuine summainpuineen
  • WASM: Selainpohjainen suoritus SIMD-tuella reunalaitteisiin

Tämä ei ole teoriaa. Sisäiset vertailumittauksemme tuotantotyökuormilla osoittavat johdonmukaisesti 96 prosentin energiansäästön verrattuna vastaaviin FP32-toteutuksiin, ja tarkkuushäviö on tyypillisesti alle 2 prosenttia luokittelu- ja regressiotehtävissä.

Tämä kartta näyttää, mihin "Dweve Core: 1,937 Algorithms for Binary Intelligence" todella sijoittuu: dataan, auktoriteettiin ja suoritukseen.

Jevonsin paradoksi: johtaako tehokkuus suurempaan kulutukseen?

Taloustieteilijät ja kestävän kehityksen asiantuntijat viittaavat heti Jevonsin paradoksiin. Tämä talousteoria, joka on nimetty 1800-luvun taloustieteilijän William Stanley Jevonsin mukaan, sanoo, että kun teknologia tehostuu, sen käyttökustannukset laskevat, mikä lisää kysyntää ja johtaa lopulta suurempaan kokonaiskulutukseen pienemmän sijaan.

Jevons havaitsi tämän hiilen kohdalla: kun höyrykoneet tehostuivat, hiilenkulutus ei vähentynyt. Päinvastoin, tehokkuus teki höyryvoimasta taloudellisesti kannattavaa useampiin käyttötarkoituksiin, ja hiilenkulutus räjähti.

Jos teemme tekoälystä 96 prosenttia halvempaa ja energiatehokkaampaa, emmekö vain käytä sitä 100 kertaa enemmän? Emmekö laita tekoälyä leivänpaahtimiin, hammasharjoihin ja kertakäyttöisiin onnittelukortteihin?

Ehkä. Rebound-vaikutus on todellinen. Mutta on laadullinen ero siinä, mihin energia kuluu, ja sillä on valtava merkitys verkon vakaudelle ja kestävyydelle.

Nykyinen tekoälyn energiakriisi johtuu massiivisten, monoliittisten perusmallien keskitetystä koulutuksesta ja päätelmien laskennasta. Nämä mallit ovat niin raskaita, että ne vaativat keskitettyjä, hyperskaalan datakeskuksia. Nämä datakeskukset ovat sähköverkon pistekuormia, jotka vaativat satoja megawatteja yhteen sijaintiin ja rasittavat siirtolinjoja sekä paikallista tuotantokapasiteettia.

Siksi Irlanti on kriisissä. Siksi Pohjois-Virginia ei ehdi rakentaa sähköasemia tarpeeksi nopeasti. Ongelma ei ole kokonaisenergia, vaan maantieteellinen keskittyminen.

Sähköverkon kuormitus: keskitetty vs. hajautettu tekoäly Ero pistekuormituskriisin ja hajautetun kestävyyden välillä KESKITETTY PILVIPOHJAINEN MALLI FP32-perusmallit MITTATILAVA DATACENTER 100+ MW Yksi maantieteellinen piste SIIRTOPULLONKAULA Uusien sähköasemien rakentaminen kestää 3-5 vuotta Jokainen tekoälypyyntö vaatii: 1. Käyttäjän laite lähettää kyselyn 2. Verkkoreititys (useita hyppyjä) 3. Palvelin käsittelee 100 W+ GPU:lla 4. Vastaus lähetetään takaisin 5. Verkon energiankulutus: noin 0,5 kWh/GB Todelliset sähköverkon kriisit Irlanti: 18 % verkosta, uusien liitäntöjen jäädytys HAJAUTETTU REUNAMALLI Binaariset neuroverkot laitteessa Älypuhelin BNN 5 mW päättely Älykoti BNN 2 mW päättely Ajoneuvo BNN 50 mW päättely PAIKALLINEN KÄSITTELY Ei verkkosiirtoa, ei datacenterin kuormitusta Sähköverkon kuormitusanalyysi Kokonaisenergia: Suurempi (Jevonsin paradoksi) Huippukysyntä: Hajautettu miljardeille laitteille Siirtokuorma: Lähes nolla TODELLINEN HYÖTY Mikään yksittäinen piste ei tarvitse 100 MW:ia Ei siirtopullonkauloja Kestävin energiansiirto on se, jota ei koskaan tapahdu: käsittele paikallisesti, älä siirrä lainkaan

Reuna-AI: Kestävin siirto on se, jota ei tapahdu

Binäärinen tehokkuus mahdollistaa paradigman muutoksen: älykkyyden siirtämisen reunaan. Sen sijaan, että lähettäisit äänikomentosi valtavaan palvelinfarmiin keskelle aavikkoa 175 miljardin parametrin jättiläisen käsiteltäväksi, se voidaan käsitellä paikallisesti puhelimessasi, termostaatissasi tai autossasi käyttämällä erikoistunutta binäärimallia, joka toimii muutamalla milliwatilla.

Tämä siirtää energiarasituksen keskitetystä sähköverkosta hajautettuihin laitteisiin. Energiakustannus muuttuu merkityksettömäksi: osaksi laitteen normaalia akunkulutusta. Puhelimen lataaminen kerran päivässä ei ole sähköverkon kriisi. 100 megawatin datakeskuksen ylläpito Länsi-Dublinissa on.

Lisäksi mahdollistamalla offline-tilassa toimivan laitekohtaisen tekoälyn eliminoimme verkon energiakustannuksen. Meidän ei tarvitse käynnistää 5G-radiopuhelimia, kuituoptisia toistimia ja ydinreitittimiä lähettääksemme dataa pilveen ja takaisin. Tutkimusten mukaan datan siirto matkapuhelinverkossa maksaa noin 0,5 kilowattituntia gigatavua kohti. Energiatehokkain datansiirto on sellainen, jota ei koskaan tapahdu.

Dweve Loom -arkkitehtuurimme, jossa on 456 erikoistunutta rajoitusjoukkoa, joista jokainen sisältää 64-128 megatavua binäärisiä rajoitteita, on suunniteltu juuri tähän hajautettuun malliin. Vain 4-8 toimialueen asiantuntijaa aktivoituu samanaikaisesti minkä tahansa kyselyn kohdalla, ja binääriesitys tarkoittaa, että nämä toimialueen asiantuntijat mahtuvat mukavasti myös vaatimattomien reunalaitteiden välimuistiin.

Kestävyys koodin laatumittarina

Liian pitkään ohjelmistotekniikan ala on jättänyt energian huomiotta. Olemme optimoineet kehittäjän nopeuden ("toimita nopeasti") tai raa'an suorituskyvyn ("tee siitä nopea"), mutta harvoin energian ("tee siitä kevyt") suhteen. Kohtelimme sähköä äärettömänä, näkymättömänä resurssina.

Ilmastokriisin aikakaudella tämä on ammatillista laiminlyöntiä. Koodi, joka tuhlaa energiaa, on huonoa koodia. Arkkitehtuuri, joka vaatii ydinvoimalan vastatakseen yksinkertaiseen asiakaspalvelukyselyyn, on huono arkkitehtuuri.

Ajattele asiaa järjestelmän näkökulmasta. Kun kirjoitat funktion, joka suorittaa tarpeettomia liukulukuoperaatioita, et tuhlaa vain kellojaksoja. Saat transistorit kytkeytymään, elektronit virtaamaan, lämpöä syntymään ja lopulta hiiltä vapautumaan jonnekin. Tämä pitää paikkansa riippumatta siitä, näetkö sen vai et.

Sama periaate, joka sai meidät välittämään muistivuodoista (näkymätön resurssien tuhlaus), pitäisi saada meidät välittämään energian tuhlauksesta. Molemmat edustavat insinöörityön kurinalaisuuden epäonnistumista.

CSRD ja tuleva sääntelyn todellisuus

Sääntely-ympäristö on kirimässä tätä todellisuutta kiinni. EU:n yritysten kestävyysraportointidirektiivi (CSRD) pakottaa suuret yritykset raportoimaan Scope 3 -päästöistään. Scope 3 sisältää niiden ostamien tuotteiden ja palveluiden ylä- ja alavirran päästöt.

Tämä tarkoittaa, että pian yritysasiakkaat vaativat tietää ostamiensa tekoälypalveluiden hiilijalanjäljen. "Vihreä tekoäly" ei ole enää pelkkä markkinointilause, vaan kova hankintavaatimus. Pankki ei osta tekoälypohjaista petostentorjuntajärjestelmää, jos se pilaa sen Net Zero -sitoumukset.

Eurooppalaiset kestävyysraportointistandardit (ESRS) edellyttävät yrityksiä raportoimaan:

  • E1 Ilmastonmuutos: Sisältäen energiankulutuksen ja kasvihuonekaasupäästöt
  • E3 Vesi ja meriresurssit: Olennainen datakeskusten jäähdytyksen kannalta
  • Scope 3 -päästöt: Sisältäen ostetut tavarat ja palvelut (tekoälyrajapinnat)

Tekoälypalveluita ostavien yritysten on saatava hiili-intensiteettitietoja palveluntarjoajiltaan. Palveluntarjoajat, jotka eivät pysty osoittamaan energiatehokkaita arkkitehtuureja, suljetaan pois eurooppalaisista yrityssopimuksista.

Tämä ei ole hypoteettista. Suuret eurooppalaiset pankit, vakuutusyhtiöt ja teollisuusyritykset rakentavat jo Scope 3 -laskentakehyksiä, jotka kattavat pilvi- ja tekoälypalvelut. Vuoteen 2026 mennessä CSRD-raportointi on pakollista yli 250 työntekijän yrityksille.

CSRD-aikajana: Milloin vihreästä tekoälystä tulee pakollista EU:n kestävyysraportointivaatimukset, jotka vaikuttavat tekoälyn hankintaan 2024 CSRD tulee voimaan Suuret pörssiyhtiöt >500 työntekijää 2025 Scope 3 pakolliseksi Toimitusketjun päästöt Tekoälypalvelut mukaan lukien 2026 Laajennettu soveltamisala Kaikki suuret yritykset >250 työntekijää 2028 Täysi kattavuus Listatut pk-yritykset EU:n ulkopuoliset monikansalliset Vaikutus tekoälyn hankintaan Yritysten on raportoitava hiili-intensiteetti ostetuista tekoälypalveluista Scope 3:ssa Dweven etu 96 % pienempi hiilijalanjälki mahdollistaa CSRD-yhteensopivan tekoälyn hankinnan Keskeinen mittari: hiili-intensiteetti (gCO2e päätelmää kohti) Perinteinen tekoäly: noin 10-50 gCO2e kyselyä kohti | Binary AI (Dweve): noin 0,3-2 gCO2e kyselyä kohti
"CSRD and the Coming Regulatory Reality" on silmukka: havainnoi, valitse, toimi ja testaa uudelleen.

Vihreän laskennan tulevaisuus

Siirtyminen vihreään tekoälyyn vaatii muutakin kuin tehokkaita algoritmeja. Se edellyttää koko laskentapinon kokonaisvaltaista uudelleenajattelua.

Laitteiston uudelleenajattelu

Näemme neuromorfisten sirujen ja muistiin perustuvien laskenta-arkkitehtuurien yleistymistä, jotka on suunniteltu erityisesti matalan tarkkuuden, harvoja ja binäärisiä operaatioita varten. Nämä sirut jäljittelevät ihmisaivoja, jotka toimivat noin 20 watin teholla (vähemmän kuin himmeä hehkulamppu) ja päihittävät silti megawattiluokan supertietokoneet yleistämisessä ja oppimisessa.

Intel Loihi, IBM TrueNorth ja lukuisat startup-sirut tutkivat tätä suuntaa. Mutta sinun ei tarvitse odottaa eksoottista laitteistoa. Dweve Coren algoritmit on optimoitu SIMD-yksiköille, jotka löytyvät jo jokaisesta nykyaikaisesta suorittimesta. AVX-512-ytimemme suorittavat binääriverkkojen päättelyn nopeudella, joka kilpailee GPU-pohjaisen liukulukupäättelyn kanssa, murto-osalla tehonkulutuksesta.

Tiedon uudelleenajattelu

Meidän on kuratoitava pienempiä ja laadukkaampia tietoaineistoja, jotta voimme kouluttaa pienempiä ja tehokkaampia malleja sen sijaan, että turvautuisimme raa'an voiman menetelmään eli koko internetin ahmimiseen. Tämä lähestymistapa, jota kutsumme "tiedon arvokkuudeksi", tunnustaa, että enemmän dataa ei aina ole parempaa dataa.

Alan nykyinen tapa imeä kaikki internetin teksti ja heittää se jättimäiseen malliin on laskennallisesti verrattavissa avolouhintaan. Se on tuhlaavaista, ympäristölle tuhoisaa ja viime kädessä kestämätöntä.

Odotusten uudelleenajattelu

Tarvitsemmeko todella biljoonan parametrin mallin ajastimen asettamiseen tai sähköpostin tiivistämiseen? Vai onko se ylimitoitettua?

Periaate "oikean kokoisten" tekoälymallien valinnasta tehtävän mukaan on kestävän laskennan perusta. Roskapostin tunnistava binääriluokittelija ei tarvitse samanlaista arkkitehtuuria kuin malli, joka tuottaa luovaa fiktiota. Silti alan trendi on käyttää samoja massiivisia perusmalleja kaikkeen, kuin käyttäisi risteilyalusta joen ylittämiseen.

Dweven arkkitehtuuri omaksuu tämän periaatteen nimenomaisesti. Meidän 456 erikoistunutta toimiala-asiantuntijoiden rajoitejoukkoamme tarkoittavat, että vain asiaankuuluvat toimiala-asiantuntijat aktivoituvat kuhunkin tehtävään. Yksinkertainen luokittelu saattaa aktivoida 4 toimiala-asiantuntijaa. Monimutkainen päättelytehtävä saattaa aktivoida 8. Mutta emme koskaan tuhlaa energiaa koko mallin ajamiseen, kun murto-osa riittää.

Polku teoksen "The Future of Green Computing" taakse pysyy käyttökelpoisena, kun jokainen vaihe kantaa mukanaan todisteita.

Tie eteenpäin: käytännön toimia vihreän tekoälyn käyttöönottoon

Jos yrityksenä pohdit tekoälystrategiaasi kestävyyden näkökulmasta, tässä on konkreettisia toimia, joita kannattaa harkita:

1. Mittaa tekoälysi hiilijalanjälki: Ennen kuin voit vähentää päästöjä, sinun on ymmärrettävä ne. Pyydä tekoälypalveluntarjoajiltasi hiili-intensiteettitietoja jokaista päättelykertaa kohden. Jos he eivät pysty niitä toimittamaan, se itsessään kertoo heidän kestävyyskypsyydestään.

2. Mitoltaa mallisi oikein: Tarkista tekoälykäyttöönottojesi tilanne. Käytätkö 175 miljardin parametrin mallia tehtäviin, jotka hoituisivat 1 miljardin parametrin mallilla (tai binäärimallilla)? Energiansäästö mallin oikean koon valinnasta voi olla moninkertainen.

3. Harkitse reunalaskentaa: Viivettä sietävissä tehtävissä voisiko päättely tapahtua laitteessa pilven sijaan? Binäärimallit mahdollistavat reunalaskennan käyttöönottoja, jotka olivat aiemmin mahdottomia.

4. Vaadi läpinäkyvyyttä: Sisällytä hiili-intensiteettivaatimukset tekoälyn hankintakriteereihisi. Kun CSRD-raportointi muuttuu pakolliseksi, tarvitset nämä tiedot joka tapauksessa. Aloittamalla nyt olet asetusten vaatimusten edellä.

5. Arvioi binäärivaihtoehdot: Luokittelussa, regressiossa ja monissa kielitehtävissä binääriset neuroverkot tarjoavat vastaavan tarkkuuden 96 prosenttia pienemmällä energiankulutuksella. Teknologia on tuotantovalmiutta.

Johtopäätös: matematiikka on yksinkertaista

Tekoälyn tulevaisuus ei ole suuremmissa GPU:issa. Se ei ole siinä, että rakennetaan lisää ydinvoimaloita palvelinkeskusten ruokkimiseksi. Tekoälyn tulevaisuus on älykkäämmässä aritmetiikassa. Se on tehokasta, hajautettua ja binääristä. On aika tehdä älykkyydestä kestävää.

Olemme tienhaarassa. Toinen polku johtaa tekoälyn energiankulutuksen jatkuvaan eksponentiaaliseen kasvuun kaikkine ympäristö- ja verkkovakausseurauksineen. Toinen polku johtaa tehokkaaseen, kestävään tekoälyyn, joka voi skaalautua palvelemaan miljardeja ihmisiä ilman, että planeetta kärventyy.

Ero näiden polkujen välillä ei ole asteittainen optimointi tai uusiutuvan energian sertifikaatit. Ero on arkkitehtuurinen. Se on ero 32 bitin tarpeettoman tarkkuuden ja +1:n ja -1:n elegantin yksinkertaisuuden välillä.

Dwevessä olemme valinneet oman polkumme. Järjestelmämme kuluttavat 96 % vähemmän energiaa kuin perinteiset liukulukumallit säilyttäen samalla vastaavan tarkkuuden yritysten työkuormille. Olitpa sitten kohtaamassa CSRD-vaatimustenmukaisuutta, huolissasi organisaatiosi hiilijalanjäljestä tai yksinkertaisesti sitä mieltä, että kestävä teknologia on parempaa teknologiaa, tarjoamme konkreettisen vaihtoehdon energiaa nielevälle vallitsevalle tilalle.

Laskutoimitus on yksinkertainen: vihreämpi tekoäly alkaa kevyemmästä aritmetiikasta. Älykkyyden tulevaisuus on binäärinen.