Il-miċelju u l-intelliġenza taħt pressjoni
L-ebda funzjoni ta' premju, biss konsegwenzi
Il-biċċa l-kbira tas-sistemi tal-AI jibdew b'definizzjoni umana ta' suċċess. Funzjoni ta' telf. Funzjoni ta' premju. Sett ta' data ttikkettjat. Sinjal ta' preferenza. Dashboard li jgħid li l-mudell tjieb, ġeneralment waqt li kulħadd bil-kwiet jittama li l-metrika ma tgħallimtx tqarraq. Dan ipproduċa sistemi utli, imma pproduċa wkoll problema familjari: il-magna tottimizza dak li l-bnedmin talbu, mhux bilfors dak li l-bnedmin kellhom f'moħħhom.
Mycelia tibda minn post differenti. Mhijiex mudell ieħor b'funzjoni ta' premju kemmxejn aktar raffinata. Hija substrat deterministiku ta' ħajja artifiċjali fejn iċ-ċelloli jgħixu ġewwa restrizzjonijiet: il-kimika tinfirex, l-enerġija tonqos, il-metaboliżmu għandu spejjeż, il-mewt hija possibbli, u l-ambjent ma jimpurtahx mill-pjanijiet ta' ħadd. Il-mistoqsija tar-riċerka hija liema mġiba adattiva tista' toħroġ meta s-sopravivenza hija l-pressjoni u r-regoli huma ffurmati mill-fiżika, mhux mill-prompts.
Dak il-qafas huwa importanti. Mycelia mhijiex dikjarazzjoni li bnejna koxjenza fi vażett. Mhijiex shortcut lejn AGI. Mhijiex simulazzjoni ħelwa li turi li n-natura kienet faċli il-ħin kollu. Hija strument ta' riċerka biex tistudja adattament minn isfel għal fuq taħt regoli deterministiċi. Id-differenza hija boring eżattament bil-mod li x-xjenza għandha bżonn tkun boring: jekk tidher imġiba, għandna nkunu nistgħu nirrepetuha, neżaminawha, u nistaqsu jekk is-substrat ippermettiex b'mod onest.
Is-sit jiddeskrivi Mycelia bħala stack b'ticks diskreti, 15-il fażi għal kull tick, ġenomi ta' 88 bytes, sitt pixxini metaboliċi, seba' kimiċi li jinfirxu, VM ibbażat fuq stack b'73 istruzzjoni, determinism b'punt fiss, u verifiki ta' konservazzjoni. In-noti ta' riċerka lokali jmorru aktar fil-fond, imma l-idea ċentrali hija diġà ċara: l-intelliġenza mhijiex injettata minn fuq. Iċ-ċelloli jiffaċċjaw kundizzjonijiet. Strateġiji ħżiena jmutu. Strateġiji aħjar jippersistu. Motivanti ħafna, jekk l-idea tiegħek ta' motivazzjoni tinkludi mewt permanenti.
It-tick huwa t-trattat
Il-ħajja artifiċjali ssir delikata meta s-simulazzjoni titħalla tinjora l-kawżalità. Ċellola tħoss xi ħaġa, tiċċaqlaq, timmetabolizza, temetti sinjal, tirriproduċi, tmut, u s-sistema turi mudell sabiħ. Tajjeb. Imma x'ġara l-ewwel? Liema sinjal kien jeżisti fil-ħin tas-sensing? Liema qasam kimiku ġie aġġornat qabel il-metaboliżmu? Liema stat ġie hashed? Jekk it-tweġiba hija dak li l-iskedatur għamel illum, l-esperiment diġà huwa dgħajjef.
Mycelia tuża struttura fissa ta' ticks għaliex it-tick huwa t-trattat bejn il-kumplessità u x-xjenza. Is-sottosistemi javvanzaw f'ordni magħrufa. Il-kimika, il-fiżjoloġija, il-metaboliżmu, l-eżekuzzjoni tal-VM, l-avvenimenti taċ-ċiklu tal-ħajja, u x-xogħol ta' verifika mhumiex vibes f'ċiklu ta' frames. Huma fażijiet. Dan jagħmilha possibbli li nitkellmu dwar il-kawżalità mingħajr ma nagħmlu żfin interpretattiv fuq il-logs.
It-tick deterministiku jżomm ukoll il-paralleliżmu onest. Il-kopja tas-sit tgħid li l-engines li jeħtieġu paralleliżmu jużaw riduzzjonijiet deterministiċi, mhux ordni arbitrarja. Dik mhijiex dettalja żgħira ta' implimentazzjoni. In-non-determinism parallel jista' joħloq differenzi żgħar li jikbru f'popolazzjonijiet differenti. Ladarba jiġri dan, l-esperiment jieqaf ikun riproduċibbli u jsir aneddott għali ħafna.
Għar-riċerka, ir-riproduċibbiltà mhijiex lustrar. Hija l-art. Simulazzjoni li tagħti riżultati differenti fuq x86 u ARM ma tistax tiddefendi dikjarazzjoni dwar l-emerġenza. Il-wegħda ta' Mycelia hija li l-istess konfigurazzjoni u seed għandhom jipproduċu l-istess sekwenza ta' popolazzjoni fuq arkitetturi appoġġjati, bid-diverġenza meqjusa bħala blocker għar-rilaxx. Dik hija l-pożizzjoni li substrat jeħtieġ qabel ma l-allegazzjonijiet interessanti jitħallew jidħlu fil-kamra.
Ċellula hija żgħira apposta
L-iktar fatt utli dwar Mycelia huwa wkoll l-iktar wieħed umli: ċellula hija ċkejkna. Il-paġna pubblika tqis il-ġenoma bħala 88 bytes, bil-bytecode u l-metadata, li jaħdmu fuq VM ibbażat fuq stack. Il-kitba teknika telenka 73 istruzzjoni. Mhux ħafna spazju għal teorija kbira tal-moħħ. Tajjeb. Il-punt mhuwiex li taħbi intelliġenza enormi miktuba bl-idejn fiċ-ċellula u mbagħad turi sorpriża meta ġġib ruħha b'mod intelliġenti.
Iċ-ċellula għandha baġit. Il-ħsieb huwa rħis. Is-sensing jiswa aktar. L-azzjoni tiswa aktar minn hekk. Sitt ġabriet metaboliċi jridu jitmexxew. Id-dokumentazzjoni u l-paġna jiddeskrivu ATP, riżervi ta' riżorsi, skart, integrità tal-membrana, u pressjonijiet ta' sopravivenza relatati. L-analoġija bijoloġika eżatta jimpurtalha inqas mill-istruttura tal-inġinerija: l-imġiba għandha prezz. Jekk ċellula taġixxi b'mod ħerqan, is-substrat jista' jikkastigaha mingħajr ma jkollu bżonn funzjoni ta' premju biex jispjega għaliex l-iskart kien ħażin.
Hawnhekk Mycelia jsir iktar interessanti minn ġugarell. Meta l-azzjoni tiswa ħafna u l-ħsieb huwa rħis, l-evoluzzjoni tista' tiskopri programmi li jippjanaw qabel ma jiċċaqilqu. Meta s-sensing jiswa xi ħaġa, l-attenzjoni ssir riżorsa. Meta l-iskart jakkumula, is-sopravivenza mhijiex biss li ssib l-ikel. Hija li timmaniġġja l-konsegwenzi. Iċ-ċellula hija żgħira, iżda l-pressjoni madwarha mhijiex.
Hemm lezzjoni ta' prodott moħbija hawnhekk ukoll. Ħafna sistemi ta' AI huma mħarrġa f'ambjenti fejn l-ispiża tal-azzjoni hija astratta jew imdewma. Mycelia jagħmel l-ispiża immedjata. Dan ma jfissirx li Mycelia huwa sistema ta' prodott illum. Ifisser li r-riċerka tista' tgħallimna kif l-imġiba adattiva tinbidel meta l-vinkoli jkunu lokali, kontinwi, u inevitabbli. Ċellula li tinjora l-baġit tagħha ma tirċevix messaġġ ta' żball aktar sabiħ. Tmut. Qarsa, iżda ċara b'mod iġjeniċi.
Il-kimika hija s-saff tal-komunikazzjoni
Iċ-ċelloli ta' Mycelia ma jitkellmux f'pakketti puliti. Huma jarmu u jħossu kimiċi. Il-paġna pubblika ssemmi seba' kimiċi li jinfirxu u dinamika ta' reazzjoni-diffużjoni. In-noti lokali jiddeskrivu sinjali bħal kanali simili għad-dopamine, cortisol u oxytocin bħala oqsma li jinfirxu, jitmermru, u jsiru parti mill-ambjent. Sinjal mhuwiex messaġġ dirett lil riċevitur wieħed. Huwa tibdil fil-kimika kondiviża.
Dik l-għażla hija importanti għaliex tipprevjeni li l-imġiba soċjali tiġi moħbija permezz ta' API. Jekk ċellula setgħet sempliċement tindirizza ċellula oħra u tibgħat kmand semantiku, is-sistema kienet diġà jkun fiha l-makkinarju soċjali li aktar tard tgħid li tosserva. Id-diffużjoni hija aktar ħarxa. Hija lokali, imdewma, b'telf, u kondiviża. Ir-riċevitur jaqra qasam, mhux nota.
Dan jagħmel il-mudelli osservati aktar sinifikanti. Jekk iċ-ċelloli jiċċaqilqu lejn sinjal marbut mar-riżorsi, jevitaw sinjal marbut mal-periklu, jew jinġabru madwar sinjali ta' affinità, l-imġiba hija medjata mis-substrat. Ma jippruvax intelliġenza waħdu. Jagħti lir-riċerkaturi triq biex jistaqsu mistoqsija aħjar: l-imġiba qamet minn regoli lokali, spejjeż u selezzjoni, jew aħna aċċidentalment poġġejna t-tweġiba fil-makkinarju?
Dan huwa għaliex Mycelia jżomm l-analiżi biss għall-qari. Il-paġna tar-riċerka ssemmi moduli ta' analiżi u l-ebda pressjoni ta' Goodhart. L-analiżi għandha tosserva u tkejjel. M'għandhiex tnixxi premju fid-dinja. Jekk il-kejl ibiddel l-imġiba li jippretendi li jistudja, ivvintajna konsulenza maniġerjali, mhux xjenza.
Ir-replay huwa d-differenza bejn storja u evidenza
Il-kelma "emergezza" hija perikoluża. Hija utli meta ssemmi mudell reali li jidher minn interazzjonijiet lokali. Hija inutli meta ssir mod poetiku kif ngħidu li s-simulazzjoni dehret sabiħa. Mycelia jeħtieġ ir-replay għax mingħajru, kull dikjarazzjoni ta' emergezza hija biss storja mqalqula wara l-ġirja.
Is-sottostrat huwa mfassal madwar konfigurazzjonijiet miżrugħa, ordni fiss ta' ticks, aritmetika b'punt fiss, hashes tal-popolazzjoni, verifiki ta' konservazzjoni, u tqabbil bejn arkitetturi differenti. Jekk tidher imġiba, ir-riċerkaturi għandhom ikunu jistgħu jmorru lura għaż-żerriegħa, jerġgħu jdoqqu l-ġirja, jispezzjonaw it-ticks, iqabblu l-hashes, u jaraw jekk l-istess katina tidhirx għal darb'oħra. Dik mhix burokrazija. Dik hija kif il-kelma "evidenza" taqla' l-kera tagħha.
Il-verifiki ta' konservazzjoni jgħoddu għall-istess raġuni. Jekk l-enerġija jew l-informazzjoni tidher minn imkien, iċ-ċelloli jistgħu jidhru adattivi għar-raġuni ħażina. Bug jista' jsir strateġija falza ta' sopravivenza. Regola miksura ta' difużjoni tista' ssir komunikazzjoni falza. Tnixxija fl-iskedatur tista' ssir koordinazzjoni falza. Il-pożizzjoni ta' Mycelia hija li tittratta dawn il-fallimenti bħala kontaminazzjoni xjentifika, mhux bħala bugs ordinarji. Dik hija l-livell it-tajjeb ta' paranojja.
Għal xiex Mycelia huwa tajjeb
Mycelia huwa utli bħala infrastruttura ta' riċerka għax jippermettilna nistaqsu mistoqsijiet li t-taħriġ ordinarju ta' mudelli ma jistaqsix b'mod ċar. Kif jidher l-adattament meta ma jkunx hemm funzjoni ta' premju miktuba bl-idejn? Kif il-kostijiet lokali jsawru l-ippjanar? Meta s-sinjali kimiċi jsiru memorja utli? Id-differenzjazzjoni tar-rwoli tista' tidher taħt pressjoni ristretta ta' sopravivenza? Liema osservazzjonijiet jibqgħu ħajjin wara replay u analiżi statistika, u liema jikkrollaw meta jiġu ttestjati kif suppost?
Dawn il-mistoqsijiet jgħaqqdu max-xogħol usa' ta' Dweve mingħajr ma jbiddlu lil Mycelia fi prodott qabel iż-żmien. Loom, Nexus u Core mhumiex Mycelia. Xorta jistgħu jibbenefikaw mir-riċerka. Sistemi li jirraġunaw, jikkoordinaw jew jiskjeraw taħt restrizzjonijiet jeħtieġu intuwizzjonijiet aħjar dwar il-kost, id-determiniżmu, l-adattament u l-evidenza. Mycelia huwa post wieħed fejn niżviluppaw dawk l-intuwizzjonijiet f'sottostrat ikkontrollat.
Hemm ukoll limiti. Mycelia ma jagħmilx dikjarazzjonijiet kliniċi. Ma jippruvax il-kuxjenza. Ma jagħmilx l-aġenti tan-negozju robusti b'mod maġiku. Ma jissostitwixxix l-evalwazzjoni tal-mudelli. Mhuwiex prova miftuħa li l-ħajja ġiet solvuta. Huwa sottostrat ta' riċerka b'regoli stretti, replay, u analiżi. Dak huwa biżżejjed. Fir-riċerka, "biżżejjed" huwa diġà ħafna meta jkun onest.
Kif tiġġudika dikjarazzjoni ta' emergezza
Il-mistoqsija utli mhijiex jekk mudell jidhirx intelliġenti. Ħafna affarijiet jidhru intelliġenti meta bniedem iridhom hekk. Il-mistoqsija utli hija x'jagħmel id-dikjarazzjoni tfalli. Jekk imġiba tisparixxi meta tinbidel iż-żerriegħa, forsi kienet aneddota. Jekk tiddependi fuq modulu ta' analiżi li jitma' informazzjoni lura fid-dinja, mhijiex emergezza. Jekk tidher biss fuq arkitettura waħda, is-sottostrat qed inixxi n-non-determiniżmu. Jekk tisparixxi taħt ablazzjoni li m'għandhiex tgħodd, l-ispjegazzjoni probabbilment kienet ħażina.
Esperimenti tajbin ta' Mycelia għalhekk jeħtieġu kontrolli. Mexxi l-istess konfigurazzjoni b'żrieragħ differenti. Neħħi jew ibdel kanal kimiku wieħed. Ibdel il-pressjoni tal-ispiża. Iffriża mogħdija waħda ta' mġiba. Qabbel il-kolonji ma' dawk li mhumiex kolonji. Iċċekkja jekk id-diversità tar-rwoli hijiex tikkorrelata mas-sopravivenza jew sempliċement tidher tajba fir-ritratti. Id-dokumentazzjoni lokali titkellem dwar moduli ta' analiżi, testijiet ta' sopravivenza u differenzjazzjoni tar-rwoli għal raġuni: l-emerġenza mhix xi ħaġa li tħabbar wara li tara ġirja sabiħa waħda. Hija xi ħaġa li tistaqsi dwarha sakemm jew issib li baqgħet ħajja jew li ċediet.
Ir-regola tal-qari biss hija ċentrali hawnhekk. L-analiżi tista' tiġbor l-imġiba fi gruppi, tkejjel is-sopravivenza, tikkalkula l-istatistika u turi l-anomaliji, imma ma tridx issir kanal moħbi ta' premjijiet. Ċellula m'għandhiex issir aħjar għax id-dashboard għoġbitha. Popolazzjoni m'għandhiex torganizza ruħha għax il-kodiċi tal-kejl imbuttaha. L-esperiment irid iżomm ħajt iebes bejn id-dinja li tevolvi u l-għodod li josservaw. Inkella s-sistema tista' xorta tkun interessanti, imma l-allegazzjoni tinbidel. Issir ottimizzazzjoni ggwidata liebsa kostum tan-natura.
Ir-riżultat l-aktar b'sħiħ mhuwiex l-aktar animazzjoni drammatika. Huwa dak li jista' jkun boring u li jerġa' jindaqq. L-istess konfigurazzjoni, l-istess żerriegħa, l-istess sekwenza ta' ticks, l-istess hash tal-popolazzjoni, l-istess mogħdija osservata. Imbagħad ibdel kundizzjoni waħda u ara d-differenza. Hekk Mycelia tista' tbiddel imġiba stramba minn storja għal oġġett ta' riċerka. Niexef, ripetibbli, u ħafna inqas ċinematiku milli jippreferi l-internet. Tajjeb.
Il-lezzjoni
Il-lezzjoni ta' Mycelia hija li l-adattament jeħtieġ pressjoni, imma r-riċerka teħtieġ evidenza. Pressjoni mingħajr evidenza tipproduċi stejjer. Evidenza mingħajr pressjoni tipproduċi dimostrazzjonijiet sterili. Mycelia tipprova żżomm it-tnejn: iċ-ċelloli jgħixu taħt restrizzjonijiet iffurmati mill-fiżika, u s-substrat iżomm il-ġirja ripetibbli biżżejjed biex wieħed jispezzjona x'ġara.
Dik hija l-forma utli ta' Mycelia: strument ta' riċerka kkontrollat, mhux tnedija ta' prodott liebes kowt tal-laboratorju. Jagħtina post fejn nistudjaw kif jinteraġixxu r-regoli lokali, il-baġits tal-enerġija, il-kimika, il-mewt, ir-replay u l-analiżi. Jekk joħroġ xi ħaġa interessanti, is-sentenza li jmiss m'għandhiex tkun aqwa. Għandha tkun urini ż-żerriegħa.