Mycelia ja älykkyys paineen alla
Ei palkkiofunktiota, vain seuraukset
Useimmat tekoälyjärjestelmät alkavat ihmisen määrittelemästä onnistumisen kriteeristä. Tappiofunktio. Palkkiofunktio. Merkitty aineisto. Preferenssisignaali. Hallintapaneeli, joka kertoo mallin parantuneen, yleensä samalla kun kaikki hiljaa toivovat, ettei mittari ole oppinut huijaamaan. Tämä on tuottanut hyödyllisiä järjestelmiä, mutta myös tutun ongelman: kone optimoi sen, mitä ihmiset pyysivät, ei välttämättä sitä, mitä ihmiset tarkoittivat.
Mycelia lähtee toisesta paikasta. Se ei ole taas yksi malli, jolla on hieman hienostuneempi palkkiofunktio. Se on deterministinen keinotekoisen elämän substraatti, jossa solut elävät rajoitteiden sisällä: kemia diffundoituu, energia vähenee, aineenvaihdunnalla on kustannuksia, kuolema on mahdollinen, eikä ympäristö välitä kenenkään tiekartasta. Tutkimuskysymys on, millaista mukautuvaa käyttäytymistä voi syntyä, kun selviytyminen on paine ja säännöt ovat fysiikan muotoisia, eivät kehotteen muotoisia.
Tämä kehys on merkityksellinen. Mycelia ei väitä, että rakensimme tietoisuuden purkkiin. Se ei ole oikotie AGI:hin. Se ei ole söpö simulaatio, joka todistaa, että luonto oli helppoa koko ajan. Se on tutkimusväline pohjalta ylöspäin suuntautuvan mukautumisen tutkimiseen determinististen sääntöjen alla. Ero on tylsä juuri sillä tavalla, kuin tieteen pitääkin olla tylsää: jos käyttäytymistä ilmenee, meidän pitäisi pystyä toistamaan se, tutkimaan sitä ja kysymään, salliko substraatti sen rehellisesti.
Sivusto kuvailee Myceliaa pinona, jossa on diskreetit tikit, 15 vaihetta tikissä, 88 tavun genomit, kuusi aineenvaihduntavarastoa, seitsemän diffundoituvaa kemikaalia, pinoon perustuva virtuaalikone 73 käskyllä, kiinteän pisteen determinismi ja säilymistarkastukset. Paikalliset tutkimusmuistiinpanot menevät syvemmälle, mutta keskeinen ajatus on jo selvä: älykkyyttä ei ruiskuteta ylhäältä. Solut kohtaavat olosuhteet. Huonot strategiat kuolevat. Paremmat strategiat säilyvät. Hyvin motivoivaa, jos motivaatioosi sisältyy pysyvä kuolema.
Tikki on sopimus
Keinotekoisesta elämästä tulee liukasta, kun simulaation annetaan viittoilla kausaalisuuden kanssa. Solu aistii jotain, liikkuu, käy aineenvaihduntaa, lähettää signaalin, lisääntyy, kuolee, ja järjestelmä näyttää kauniin kuvion. Hyvä. Mutta mikä tapahtui ensin? Mikä signaali oli olemassa aistimisen hetkellä? Mikä kemiallinen kenttä päivitettiin ennen aineenvaihduntaa? Mikä tila hajautettiin? Jos vastaus on mitä tahansa ajastin sattui tekemään tänään, kokeilu on jo heikko.
Mycelia käyttää kiinteää tikkirakennetta, koska tikki on sopimus monimutkaisuuden ja tieteen välillä. Alijärjestelmät etenevät tunnetussa järjestyksessä. Kemia, fysiologia, aineenvaihdunta, virtuaalikoneen suoritus, elinkaaritapahtumat ja tarkistustyö eivät ole tunnelmia kehyskierrossa. Ne ovat vaiheita. Tämä tekee mahdolliseksi puhua kausaalisuudesta ilman tulkkitanssia lokien yli.
Deterministinen tikki pitää myös rinnakkaisuuden rehellisenä. Sivuston teksti sanoo, että moottorit, jotka tarvitsevat rinnakkaisuutta, käyttävät deterministisiä reduktioita, eivät mielivaltaista järjestystä. Tämä ei ole pieni toteutusyksityiskohta. Rinnakkainen epädeterminismi voi luoda pieniä eroja, jotka kasvavat erilaisiksi populaatioiksi. Kun näin tapahtuu, kokeilu lakkaa olemasta toistettava ja alkaa olla hyvin kallis anekdootti.
Tutkimuksessa toistettavuus ei ole kiillotusta. Se on lattia. Simulaatio, joka antaa erilaisia tuloksia x86- ja ARM-arkkitehtuureilla, ei voi puolustaa väitettä emergenssistä. Mycelian lupaus on, että sama konfiguraatio ja siemen tuottavat saman populaatiosarjan tuetuilla arkkitehtuureilla, ja poikkeamaa käsitellään julkaisun estävänä ongelmana. Tämä on se asenne, joka substraatilla pitää olla, ennen kuin mielenkiintoiset väitteet päästetään huoneeseen.
Solu on pieni tarkoituksella
Hyödyllisin Mycelia-tosiasia on myös nöyryyttävin: solu on pienen pieni. Julkinen sivu kuvaa genomin 88 tavuna, johon sisältyy tavukoodi ja metatiedot, ja joka toimii pinoon perustuvalla virtuaalikoneella. Tekninen teksti luettelee 73 käskyä. Se ei ole paljon tilaa suurelle mielen teorialle. Hyvä. Tarkoitus ei ole piilottaa valtavaa käsin kirjoitettua älykkyyttä solun sisään ja sitten teeskennellä yllättynyttä, kun se käyttäytyy fiksusti.
Solulla on budjetti. Ajatteleminen on halpaa. Aistiminen maksaa enemmän. Toimiminen maksaa vielä enemmän. Kuutta metabolista allasta on hallinnoitava. Dokumentit ja sivu kuvaavat ATP:tä, resurssivarantoja, jätettä, kalvon eheyttä ja niihin liittyviä selviytymispaineita. Tarkalla biologisella analogialla on vähemmän merkitystä kuin teknisellä rakenteella: käyttäytymisellä on hinta. Jos solu toimii tuhlaavasti, alusta voi rangaista sitä ilman, että tarvitaan palkkiofunktiota selittämään, miksi tuhlaus oli huono asia.
Tässä kohtaa Myceliasta tulee lelua kiinnostavampi. Kun toimiminen on kallista ja ajatteleminen halpaa, evoluutio voi löytää ohjelmia, jotka suunnittelevat ennen liikkeelle lähtöä. Kun aistiminen maksaa jotain, huomiosta tulee resurssi. Kun jäte kertyy, selviytyminen ei ole vain ruoan löytämistä. Se on seurausten hallintaa. Solu on pieni, mutta sen ympärillä oleva paine ei ole.
Tässä on myös tuoteopetus piilossa. Monia tekoälyjärjestelmiä koulutetaan ympäristöissä, joissa toimimisen kustannus on abstrakti tai viivästynyt. Mycelia tekee kustannuksesta välittömän. Se ei tarkoita, että Mycelia olisi tänään tuotejärjestelmä. Se tarkoittaa, että tutkimus voi opettaa meille, miten mukautuva käyttäytyminen muuttuu, kun rajoitteet ovat paikallisia, jatkuvia ja väistämättömiä. Solu, joka jättää budjettinsa huomiotta, ei saa mukavampaa virheilmoitusta. Se kuolee. Kova kohtalo, mutta virkistävän selkeä.
Kemia on viestintäkerros
Mycelia-solut eivät juttele siisteissä paketeissa. Ne vapauttavat ja aistivat kemikaaleja. Julkinen sivu nimeää seitsemän diffundoituvaa kemikaalia ja reaktio-diffuusiodynamiikan. Paikalliset muistiinpanot kuvaavat signaaleja, kuten dopamiini-, kortisoli- ja oksitosiininkaltaisia kanavia, kenttinä, jotka leviävät, hajoavat ja tulevat osaksi ympäristöä. Signaali ei ole suora viesti yhdelle vastaanottajalle. Se on muutos jaetussa kemiassa.
Tämä valinta on tärkeä, koska se estää sosiaalisen käyttäytymisen salakuljettamisen API:n kautta. Jos solu voisi yksinkertaisesti osoittaa toista solua ja lähettää semanttisen komennon, järjestelmä sisältäisi jo sen sosiaalisen koneiston, jonka se myöhemmin väittää havainnoivansa. Diffuusio on karkeampaa. Se on paikallista, viivästynyttä, häviöllistä ja jaettua. Vastaanottaja lukee kenttää, ei muistiota.
Tämä tekee havaituista kaavoista merkityksellisempiä. Jos solut liikkuvat kohti resurssiin kytkettyä signaalia, välttävät vaaraan kytkettyä signaalia tai kerääntyvät affiniteettisignaalien ympärille, käyttäytyminen välittyy alustan kautta. Se ei yksinään todista älykkyyttä. Se antaa tutkijoille polun kysyä parempi kysymys: syntyikö käyttäytyminen paikallisista säännöistä, kustannuksista ja valinnasta, vai laitoimmeko me vahingossa vastauksen koneistoon?
Tämän vuoksi Mycelia pitää analyysin vain luku -tilassa. Tutkimussivulla mainitaan analyysimoduulit eikä Goodhart-painetta. Analyysin tulee tarkkailla ja mitata. Sen ei pitäisi vuotaa palkkiota maailmaan. Jos mittaus muuttaa käyttäytymistä, jota se väittää tutkivansa, olemme keksineet liikkeenjohdon konsultoinnin, emme tiedettä.
Toisto on ero tarinan ja todisteen välillä
Emergenssi on vaarallinen sana. Se on hyödyllinen, kun se nimeää todellisen kuvion, joka syntyy paikallisista vuorovaikutuksista. Se on hyödytön, kun siitä tulee runollinen tapa sanoa, että simulaatio näytti siistiltä. Mycelia tarvitsee toistoa, koska ilman toistoa jokainen emergenssiväite on vain tarina, joka kerrotaan ajon jälkeen.
Substraatti on suunniteltu siemenkonfiguraatioiden, kiinteän tick-järjestyksen, kiinteän pilkkuaritmetiikan, populaatiotilojen tiivisteiden, säilymistarkastusten ja arkkitehtuurien välisen vertailun ympärille. Jos käyttäytymistä ilmenee, tutkijoiden pitäisi pystyä palaamaan siemeneen, toistamaan ajo, tarkastelemaan tickejä, vertaamaan tiivisteitä ja näkemään, ilmestyykö sama ketju uudelleen. Tämä ei ole byrokratiaa. Näin sana todiste ansaitsee paikkansa.
Säilymistarkastukset ovat tärkeitä samasta syystä. Jos energiaa tai informaatiota ilmestyy tyhjästä, solut saattavat näyttää sopeutuvilta väärästä syystä. Bugista voi tulla tekaistu selviytymisstrategia. Rikkoutuneesta diffuusiosäännöstä voi tulla tekaistua kommunikaatiota. Aikatauluttajan vuodosta voi tulla tekaistua koordinaatiota. Mycelian asenne on kohdella näitä epäonnistumisia tieteellisenä kontaminaationa, ei tavallisina bugeina. Tämä on oikea vainoharhaisuuden taso.
Mihin Mycelia on hyvä
Mycelia on hyödyllinen tutkimusinfrastruktuurina, koska se antaa meille mahdollisuuden kysyä kysymyksiä, joita tavallinen mallikoulutus ei kysy puhtaasti. Miltä sopeutuminen näyttää, kun ei ole käsin kirjoitettua palkkiofunktiota? Miten paikalliset kustannukset muovaavat suunnittelua? Milloin kemiallisista signaaleista tulee hyödyllistä muistia? Voiko roolien eriytyminen ilmetä rajoitetun selviytymispaineen alla? Mitkä havainnot kestävät toiston ja tilastollisen analyysin, ja mitkä romahtavat, kun niitä testataan kunnolla?
Nämä kysymykset liittyvät Dweven laajempaan työhön ilman, että Myceliasta tehdään ennenaikaisesti tuotetta. Loom, Nexus ja Core eivät ole Mycelia. Ne voivat silti hyötyä tutkimuksesta. Järjestelmät, jotka päättävät, koordinoivat tai toimivat rajoitteiden alla, tarvitsevat parempia intuitioita kustannuksista, determinismistä, sopeutumisesta ja todisteista. Mycelia on yksi paikka kehittää näitä intuitioita kontrolloidussa substraatissa.
On myös rajoja. Mycelia ei tee kliinisiä väitteitä. Se ei todista tietoisuutta. Se ei tee liiketoiminta-agenteista maagisen vankkoja. Se ei korvaa mallien arviointia. Se ei ole avoin todiste siitä, että elämä on ratkaistu. Se on tutkimussubstraatti, jolla on tiukat säännöt, toisto ja analyysi. Se riittää. Tutkimuksessa riittävä on jo melko paljon, kun se on rehellistä.
Miten emergenssiväitettä arvioidaan
Hyödyllinen kysymys ei ole, näyttääkö kuvio älykkäältä. Monet asiat näyttävät älykkäiltä, kun ihminen haluaa niiden näyttävän. Hyödyllinen kysymys on, mikä saisi väitteen kaatumaan. Jos käyttäytyminen katoaa, kun siemen vaihtuu, se oli ehkä anekdootti. Jos se riippuu analyysimoduulista, joka syöttää tietoa takaisin maailmaan, se ei ole emergenssiä. Jos se ilmenee vain yhdellä arkkitehtuurilla, substraatti vuotaa epädeterminismiä. Jos se katoaa ablaatiossa, jonka ei pitäisi vaikuttaa, selitys oli todennäköisesti väärä.
Hyvät Mycelia-kokeet tarvitsevat siksi kontrollit. Aja sama konfiguraatio eri siemenillä. Poista tai muuta yksi kemiallinen kanava. Muuta kustannuspainetta. Jäädytä yksi käyttäytymispolku. Vertaa pesäkkeitä ei-pesäkkeisiin. Tarkista, korreloiko roolien monimuotoisuus selviytymisen kanssa vai näyttääkö se vain hyvältä kuvissa. Paikalliset dokumentit puhuvat analyysimoduuleista, selviytymistesteistä ja roolien eriytymisestä syystä: emergenssi ei ole asia, jonka julistat yhden kauniin suorituksen jälkeen. Se on asia, jota tutkit, kunnes se joko selviää tai antaa periksi.
Vain luku -sääntö on keskeinen tässä. Analyysi voi ryhmitellä käyttäytymistä, mitata selviytymistä, laskea tilastoja ja tuoda esiin poikkeamia, mutta siitä ei saa tulla piilotettu palkitsemiskanava. Solun ei pitäisi parantua siksi, että kojelauta piti siitä. Populaation ei pitäisi järjestäytyä siksi, että mittauskoodi tönäisi sitä. Kokeen on pidettävä kova seinä kehittyvän maailman ja sitä tarkkailevien työkalujen välillä. Muuten järjestelmä voi silti olla kiinnostava, mutta väite muuttuu. Siitä tulee ohjattua optimointia luontopuvussa.
Vahvin tulos ei ole dramaattisin animaatio. Se on tylsä, joka toistuu. Sama konfiguraatio, sama siemen, sama tikkijakso, sama populaatiohajautus, sama havaittu polku. Vaihda sitten yhtä ehtoa ja katso eroa. Näin Mycelia voi muuttaa oudon käyttäytymisen tarinasta tutkimuskohteeksi. Kuivaa, toistettavaa ja paljon vähemmän elokuvamaista kuin internet haluaisi. Hyvä.
Opetus
Mycelian opetus on, että sopeutuminen tarvitsee painetta, mutta tutkimus tarvitsee todisteita. Paine ilman todisteita tuottaa tarinoita. Todisteet ilman painetta tuottavat steriilejä demoja. Mycelia yrittää pitää molemmat: solut elävät fysiikan muovaamien rajoitteiden alla, ja substraatti pitää suorituksen riittävän toistettavana, jotta tapahtunut voidaan tarkastaa.
Tämä on Mycelian hyödyllinen muoto: kontrolloitu tutkimusinstrumentti, ei tuotelanseeraus laboratoriotakissa. Se antaa meille paikan tutkia, miten paikalliset säännöt, energiabudjetit, kemia, kuolema, toisto ja analyysi vuorovaikuttavat. Jos jotain kiinnostavaa emergoituu, seuraavan lauseen ei pitäisi olla mahtavaa. Sen pitäisi olla näytä siemen.