Mikeliji in inteligenca pod pritiskom
Brez funkcije nagrajevanja, le posledice
Večina sistemov umetne inteligence se začne s človeško definicijo uspeha. Funkcijo izgube. Funkcijo nagrajevanja. Označen nabor podatkov. Signal preference. Nadzorno ploščo, ki pravi, da se je model izboljšal, običajno medtem ko vsi tiho upajo, da se metrika ni naučila goljufati. To je prineslo uporabne sisteme, a tudi znan problem: stroj optimizira tisto, kar so ljudje zahtevali, ne nujno tisto, kar so ljudje mislili.
Mycelia izhaja z drugega izhodišča. Ni še en model z nekoliko bolj okusno funkcijo nagrajevanja. Je determinističen substrat umetnega življenja, kjer celice živijo znotraj omejitev: kemija difundira, energija upada, metabolizem ima stroške, smrt je mogoča in okolje ne skrbi za ničij načrt. Raziskovalno vprašanje je, kakšno prilagodljivo vedenje lahko nastane, ko je preživetje pritisk in so pravila oblikovana po fiziki, ne po pozivih.
Ta okvir je pomemben. Mycelia ni trditev, da smo zgradili zavest v kozarcu. Ni bližnjica do AGI. Ni ljubka simulacija, ki dokazuje, da je bila narava ves čas preprosta. Je raziskovalni instrument za preučevanje prilagajanja od spodaj navzgor pod determinističnimi pravili. Razlika je dolgočasna natanko tako, kot mora biti znanost dolgočasna: če se vedenje pojavi, bi ga morali znati ponoviti, pregledati in vprašati, ali ga je substrat omogočil pošteno.
Spletno mesto opisuje Mycelia kot sklad z diskretnimi takti, 15 fazami na takt, 88-bajtnimi genomi, šestimi presnovnimi bazeni, sedmimi difundirajočimi kemikalijami, skladovnim VM z 73 ukazi, determinizmom s fiksno vejico in revizijami ohranjanja. Lokalne raziskovalne opombe gredo globlje, a osrednja ideja je že jasna: inteligenca ni vbrizgana od zgoraj. Celice se soočajo s pogoji. Slabe strategije umrejo. Boljše strategije vztrajajo. Zelo motivacijsko, če vaša predstava motivacije vključuje trajno smrt.
Takt je pogodba
Umetno življenje postane spolzko, ko sme simulacija zamahniti z roko nad vzročnostjo. Celica nekaj zazna, se premakne, presnovi, odds signal, se razmnoži, umre in sistem prikaže čudovit vzorec. Lepo. Toda kaj se je zgodilo najprej? Kateri signal je obstajal v času zaznavanja? Katero kemijsko polje je bilo posodobljeno pred metabolizmom? Katero stanje je bilo zgoščeno? Če je odgovor karkoli, kar je razporejevalnik tisti dan počel, je poskus že šibek.
Mycelia uporablja fiksno strukturo taktov, ker je takt pogodba med kompleksnostjo in znanostjo. Podsistemi napredujejo v znanem vrstnem redu. Kemija, fiziologija, metabolizem, izvajanje VM, dogodki življenjskega cikla in revizijsko delo niso vibracije v zanki okvirjev. So faze. To omogoča pogovor o vzročnosti brez interpretativnega plesa nad dnevniki.
Deterministični takt ohranja tudi vzporednost pošteno. Besedilo spletnega mesta pravi, da motorji, ki potrebujejo vzporednost, uporabljajo deterministične redukcije, ne poljubnega vrstnega reda. To ni majhna podrobnost implementacije. Vzporedni nedeterminizem lahko ustvari drobne razlike, ki zrastejo v različne populacije. Ko se to zgodi, poskus preneha biti ponovljiv in postane zelo draga anekdota.
Za raziskave ponovljivost ni lakiranje. Je temelj. Simulacija, ki daje različne rezultate na x86 in ARM, ne more braniti trditve o emergence. Obljuba Mycelia je, da mora ista konfiguracija in seme proizvesti isto zaporedje populacij na podprtih arhitekturah, pri čemer se razhajanje obravnava kot blokator izdaje. To je drža, ki jo substrat potrebuje, preden smejo zanimive trditve vstopiti v prostor.
Celica je majhna z namenom
Najbolj uporabno dejstvo o Mycelii je tudi najbolj ponižujoče: celica je drobna. Javna stran predstavi genom kot 88 bajtov, z bajtno kodo in metapodatki, ki teče na skladovnem navideznem stroju. Tehnično besedilo navaja 73 ukazov. To ni veliko prostora za veliko teorijo uma. Prav tako. Bistvo ni skriti ogromno ročno napisano inteligenco v celici in se nato delati presenečene, ko se obnaša pametno.
Celica ima proračun. Mišljenje je poceni. Zaznavanje stane več. Delovanje stane še več. Šest presnovnih zalog je treba upravljati. Dokumentacija in stran opisujeta ATP, zaloge virov, odpadke, celovitost membrane in sorodne pritiske za preživetje. Natančna biološka analogija je manj pomembna kot inženirska struktura: vedenje ima ceno. Če celica deluje potratno, jo substrat lahko kaznuje, ne da bi potreboval funkcijo nagrajevanja, ki bi pojasnila, zakaj je bila potrata slaba.
Tukaj Mycelia postane bolj zanimiva kot igrača. Ko je delovanje drago in je mišljenje poceni, lahko evolucija odkrije programe, ki načrtujejo pred premikom. Ko zaznavanje nekaj stane, pozornost postane vir. Ko se odpadki kopičijo, preživetje ni le iskanje hrane. Je obvladovanje posledic. Celica je majhna, a pritisk okoli nje ni.
Tukaj se skriva tudi lekcija za izdelke. Številni sistemi umetne inteligence so usposobljeni v okoljih, kjer je strošek delovanja abstrakten ali zamaknjen. Mycelia naredi strošek takojšen. To ne pomeni, da je Mycelia danes produktni sistem. Pomeni, da nam raziskave lahko pokažejo, kako se prilagodljivo vedenje spremeni, ko so omejitve lokalne, neprekinjene in neizogibne. Celica, ki ignorira svoj proračun, ne dobi lepšega sporočila o napaki. Umre. Ostro, a osvežujoče jasno.
Kemija je komunikacijska plast
Celice Mycelia ne klepetajo v urejenih paketih. Oddajajo in zaznavajo kemikalije. Javna stran navaja sedem difuzijskih kemikalij in dinamiko reakcije in difuzije. Lokalne opombe opisujejo signale, kot so dopamin, kortizol in kanali, podobni oksitocinu, kot polja, ki se širijo, razpadajo in postanejo del okolja. Signal ni neposredno sporočilo enemu prejemniku. Je sprememba v skupni kemiji.
Ta izbira je pomembna, ker preprečuje, da bi se družbeno vedenje pretihotapilo skozi API. Če bi celica lahko preprosto nagovorila drugo celico in poslala pomenski ukaz, bi sistem že vseboval družbeni mehanizem, ki ga pozneje trdi, da opazuje. Difuzija je bolj groba. Je lokalna, zamaknjena, izgubljiva in skupna. Prejemnik bere polje, ne dopisa.
Zato so opazovani vzorci bolj smiselni. Če se celice premikajo proti signalu, povezanemu z virom, se izogibajo signalu, povezanemu z nevarnostjo, ali se združujejo okoli signalov afinitete, je vedenje posredovano skozi substrat. To samo po sebi ne dokazuje inteligence. Raziskovalcem daje pot do boljšega vprašanja: ali je vedenje nastalo iz lokalnih pravil, stroškov in selekcije, ali smo odgovor po nesreči vgradili v mehanizem?
Zato Mycelia analizo ohranja samo za branje. Stran o raziskavah omenja analitske module in nobenega Goodhartovega pritiska. Analiza mora opazovati in meriti. Ne sme puščati nagrad v svet. Če meritev spremeni vedenje, ki ga želi preučevati, smo izumili svetovanje za management, ne znanost.
Predvajanje je razlika med zgodbo in dokazom
Emergence je nevarna beseda. Uporabna je, kadar poimenuje resničen vzorec, ki nastane iz lokalnih interakcij. Neuporabna je, kadar postane poetičen način za povedati, da je bila simulacija videti kul. Mycelia potrebuje predvajanje, ker je brez njega vsaka trditev o emergence zgolj zgodba, povedana po koncu izvajanja.
Substrat je zasnovan okoli nastavljenih konfiguracij, fiksnega vrstnega reda korakov, aritmetike s fiksno vejico, zgoščenih vrednosti stanja populacije, revizij ohranjanja in primerjave med arhitekturami. Če se vedenje pojavi, bi morali raziskovalci lahko šli nazaj na seme, ponovno predvajali izvajanje, pregledali korake, primerjali zgoščene vrednosti in videli, ali se ista veriga pojavi znova. To ni birokracija. Tako beseda dokaz zasluži svojo ceno.
Revizije ohranjanja so pomembne iz istega razloga. Če se energija ali informacije pojavijo od nikoder, so lahko celice videti prilagodljive iz napačnega razloga. Napaka lahko postane lažna strategija preživetja. Pokvarjeno pravilo difuzije lahko postane lažna komunikacija. Puščanje v razporejevalniku lahko postane lažno usklajevanje. Postava Mycelie je, da te napake obravnava kot znanstveno kontaminacijo, ne kot običajne hrošče. To je prava raven paranoje.
Za kaj je Mycelia dobra
Mycelia je uporabna kot raziskovalna infrastruktura, ker nam omogoča zastavljati vprašanja, ki jih običajno treniranje modelov ne zastavlja čisto. Kako izgleda prilagajanje, ko ni ročno napisane funkcije nagrajevanja? Kako lokalni stroški oblikujejo načrtovanje? Kdaj kemični signali postanejo uporaben spomin? Ali se lahko diferenciacija vlog pojavi pod omejenim pritiskom preživetja? Katere observacije preživijo predvajanje in statistično analizo ter katere propadejo ob pravilnem testiranju?
Ta vprašanja se povezujejo s širšim delom Dweve, ne da bi Mycelio prezgodaj spremenili v izdelek. Loom, Nexus in Core niso Mycelia. Še vedno lahko izkoristijo raziskave. Sistemi, ki razmišljajo, usklajujejo ali delujejo pod omejitvami, potrebujejo boljše intuicije o stroških, determinizmu, prilagajanju in dokazih. Mycelia je eno od mest za razvijanje teh intuicij v nadzorovanem substratu.
Obstajajo tudi meje. Mycelia ne daje kliničnih trditev. Ne dokazuje zavesti. Ne naredi poslovnih agentov čudežno robustnih. Ne nadomešča vrednotenja modelov. Ni odprt dokaz, da je življenje rešeno. Je raziskovalni substrat s strogimi pravili, predvajanjem in analizo. To je dovolj. V raziskavah je dovolj že kar veliko, kadar je pošteno.
Kako presojati trditev o emergence
Uporabno vprašanje ni, ali vzorec izgleda inteligentno. Veliko stvari izgleda inteligentno, kadar si človek to želi. Uporabno vprašanje je, kaj bi trditev ovrglo. Če vedenje izgine, ko se seme spremeni, je morda šlo za anekdoto. Če je odvisno od analitskega modula, ki pošilja informacije nazaj v svet, to ni emergence. Če se pojavi samo na eni arhitekturi, substrat pušča nedeterminizem. Če izgine pri ablaciji, ki ne bi smela biti pomembna, je bila razlaga verjetno napačna.
Dobri poskusi z Mycelio zato potrebujejo kontrolne skupine. Zaženi isto konfiguracijo z različnimi semeni. Odstrani ali spremeni en kemijski kanal. Spremeni stroškovni pritisk. Zamrzni eno vedenjsko pot. Primerjaj kolonije z ne-kolonijami. Preveri, ali raznolikost vlog res korelira s preživetjem ali pa se le lepo fotografira. Lokalna dokumentacija z razlogom omenja analizne module, preživetvene teste in diferenciacijo vlog: emergence ni nekaj, kar razglasiš po enem lepem zagonu. Je nekaj, kar preverjaš, dokler bodisi preživi bodisi obupa.
Pravilo samo za branje je tu osrednjega pomena. Analiza lahko združuje vedenje v skupine, meri preživetje, izračunava statistiko in razkriva anomalije, vendar ne sme postati skriti kanal nagrajevanja. Celica ne sme postati boljša, ker ji je nadzorna plošča dala prednost. Populacija se ne sme organizirati, ker jo je merilna koda potisnila v to smer. Poskus mora ohraniti trdno ločnico med svetom, ki se razvija, in orodji, ki opazujejo. V nasprotnem primeru je sistem morda še vedno zanimiv, a se trditev spremeni. Postane usmerjena optimizacija, preoblečena v naravo.
Najmočnejši rezultat ni najbolj dramatična animacija. Je tisti dolgočasni, ki se ponovi. Ista konfiguracija, isto seme, isto zaporedje korakov, ista zgoščena vrednost populacije, ista opazovana pot. Nato spremeni en pogoj in opazuj razliko. Tako lahko Mycelia nenavadno vedenje spremeni iz zgodbe v raziskovalni objekt. Suho, ponovljivo in veliko manj kinematografsko, kot si internet želi. Dobro.
Nauk
Nauk Mycelie je, da prilagajanje potrebuje pritisk, raziskovanje pa dokaze. Pritisk brez dokazov ustvarja zgodbe. Dokazi brez pritiska ustvarjajo sterilne predstavitve. Mycelia skuša oboje združiti: celice živijo pod omejitvami, ki jih oblikuje fizika, substrat pa poskrbi, da je zagon dovolj ponovljiv za pregled dogajanja.
To je uporabna oblika Mycelie: nadzorovan raziskovalni instrument, ne predstavitev izdelka v laboratorijski halji. Daje nam prostor za preučevanje, kako medsebojno delujejo lokalna pravila, energijski proračuni, kemija, smrt, ponavljanje in analiza. Če se pojavi nekaj zanimivega, naslednji stavek ne sme biti neverjetno. Morajo biti besede: pokaži mi seme.