Mikėlija ir intelektas spaudžiamas
Jokios atlygio funkcijos, tik pasekmės
Dauguma dirbtinio intelekto sistemų pradedamos nuo žmogaus apibrėžtos sėkmės. Nuostolių funkcija. Atlygio funkcija. Pažymėtas duomenų rinkinys. Pirmenybės signalas. Skydelis, rodantis, kad modelis pagerėjo, paprastai visiems tyliai tikintis, kad metrika neišmoko apgaudinėti. Tai sukūrė naudingų sistemų, bet taip pat atnešė pažįstamą problemą: mašina optimizuoja tai, ko žmonės paprašė, o ne būtinai tai, ką žmonės turėjo omenyje.
Mycelia prasideda iš kitos vietos. Tai ne dar vienas modelis su šiek tiek skoningesne atlygio funkcija. Tai deterministinis dirbtinės gyvybės substratas, kuriame ląstelės gyvena suvaržytos: chemija difunduoja, energija senka, metabolizmas turi kaštų, mirtis įmanoma, o aplinkai nerūpi niekieno planai. Tyrimo klausimas yra, koks adaptyvus elgesys gali atsirasti, kai spaudimą kelia išgyvenimas, o taisyklės yra fizikos formos, ne užklausų formos.
Toks rėminimas svarbus. Mycelia nėra teiginys, kad pastatėme sąmonę stiklainyje. Tai ne trumpas kelias į AGI. Tai ne miela simuliacija, įrodanti, kad gamta visą laiką buvo lengva. Tai tyrimo instrumentas, skirtas tirti prisitaikymą iš apačios į viršų pagal deterministines taisykles. Skirtumas nuobodus lygiai taip, kaip mokslui reikia būti nuobodžiam: jei elgesys atsiranda, turėtume galėti jį atkartoti, išnagrinėti ir paklausti, ar substratas jį sąžiningai leido.
Svetainė aprašo Mycelia kaip rietuvę su atskirais tiksėjimais, 15 fazių per tiksėjimą, 88 baitų genomais, šešiais metabolizmo baseinais, septyniomis difunduojančiomis cheminėmis medžiagomis, rietuvės pagrindu veikiančia VM su 73 instrukcijomis, fiksuoto taško determinizmu ir išsaugojimo auditais. Vietiniai tyrimų užrašai eina giliau, bet pagrindinė idėja jau aiški: intelektas nėra įdiegiamas iš viršaus. Ląstelės susiduria su sąlygomis. Blogos strategijos miršta. Geresnės strategijos išlieka. Labai motyvuojantis, jei jūsų motyvacijos idėja apima nuolatinę mirtį.
Tiksėjimas yra susitarimas
Dirbtinė gyvybė tampa slidoka, kai simuliacijai leidžiama numoti ranka į priežastingumą. Ląstelė kažką pajunta, juda, metabolizuoja, siunčia signalą, dauginasi, miršta, o sistema rodo gražų raštą. Gerai. Bet kas įvyko pirmiausia? Kuris signalas egzistavo jutimo metu? Kuris cheminis laukas buvo atnaujintas prieš metabolizmą? Kuri būsena buvo maišos funkcija? Jei atsakymas yra tas, ką planuotojas šiandien nusprendė padaryti, eksperimentas jau silpnas.
Mycelia naudoja fiksuotą tiksėjimų struktūrą, nes tiksėjimas yra susitarimas tarp sudėtingumo ir mokslo. Posistemės juda į priekį žinoma tvarka. Chemija, fiziologija, metabolizmas, VM vykdymas, gyvavimo ciklo įvykiai ir audito darbai nėra nuotaikos kadrų cikle. Jie yra fazės. Tai leidžia kalbėti apie priežastingumą be interpretacinio šokio per žurnalus.
Deterministinis tiksėjimas taip pat išlaiko lygiagretumą sąžiningą. Svetainės tekstas sako, kad varikliai, kuriems reikia lygiagretumo, naudoja deterministines redukcijas, ne savavališką tvarką. Tai ne smulki įgyvendinimo detalė. Lygiagretus nedeterminizmas gali sukurti mažyčius skirtumus, kurie išauga į skirtingas populiacijas. Kai tai įvyksta, eksperimentas nustoja būti atkuriamas ir tampa labai brangiu anekdotu.
Tyrimams atkuriamumas nėra blizgesys. Tai pagrindas. Simuliacija, kuri duoda skirtingus rezultatus x86 ir ARM, negali apginti teiginio apie atsiradimą. Mycelia pažadas yra tas, kad ta pati konfigūracija ir sėkla turėtų duoti tą pačią populiacijos seką palaikomose architektūrose, o skirtumai laikomi išleidimo blokatoriumi. Tai laikysena, kurios substratui reikia, kol įdomūs teiginiai įleidžiami į kambarį.
Ląstelė maža neatsitiktinai
Naudingiausias Mycelia faktas yra ir labiausiai kuklinantis: ląstelė yra mažytė. Viešame puslapyje genomas apibūdinamas kaip 88 baitai, su baitkodu ir metaduomenimis, veikiantis ant krūvos principu pagrįstos virtualios mašinos. Techniniame aprašyme išvardytos 73 instrukcijos. Tai nėra daug vietos didžiajai proto teorijai. Gerai. Esmė ne paslėpti didžiulį ranka parašytą intelektą ląstelės viduje ir paskui apsimesti nustebus, kai ji elgiasi protingai.
Ląstelė turi biudžetą. Mąstymas pigus. Jutimas kainuoja daugiau. Veikimas kainuoja dar daugiau. Reikia valdyti šešis metabolinius rezervuarus. Dokumentacijoje ir puslapyje aprašomi ATP, išteklių atsargos, atliekos, membranos vientisumas ir susiję išlikimo spaudimai. Tiksli biologinė analogija mažiau svarbi nei inžinerinė struktūra: elgesys turi kainą. Jei ląstelė veikia švaistydama išteklius, substratas gali ją nubausti be jokios atlygio funkcijos, paaiškinančios, kodėl švaistymas buvo blogas.
Čia Mycelia tampa įdomesnė nei žaislas. Kai veikimas brangus, o mąstymas pigus, evoliucija gali atrasti programas, kurios planuoja prieš judėdamos. Kai jutimas kainuoja, dėmesys tampa ištekliumi. Kai atliekų kaupiasi, išlikimas nėra vien maisto radimas. Tai pasekmių valdymas. Ląstelė maža, bet spaudimas aplink ją ne.
Čia slypi ir produkto pamoka. Daugelis AI sistemų treniruojamos aplinkose, kuriose veikimo kaina yra abstrakti arba atidėta. Mycelia kainą padaro tiesioginę. Tai nereiškia, kad Mycelia šiandien yra produkto sistema. Tai reiškia, kad tyrimai gali mus išmokyti, kaip adaptyvus elgesys keičiasi, kai apribojimai yra vietiniai, nuolatiniai ir neišvengiami. Ląstelė, ignoruojanti savo biudžetą, negauna gražesnio klaidos pranešimo. Ji miršta. Žiauru, bet gaiviai aišku.
Chemija yra komunikacijos sluoksnis
Mycelia ląstelės nešnekučiuoja tvarkingais paketais. Jos skleidžia ir jaučia chemines medžiagas. Viešame puslapyje įvardytos septynios difuzuojančios cheminės medžiagos ir reakcijos-difuzijos dinamika. Vietinėse pastabose aprašomi tokie signalai kaip dopamino, kortizolio ir oksitocino tipo kanalai kaip laukai, kurie plinta, nyksta ir tampa aplinkos dalimi. Signalas nėra tiesioginė žinutė vienam gavėjui. Tai bendros chemijos pokytis.
Tas pasirinkimas svarbus, nes neleidžia socialiniam elgesiui įsėlinti per API. Jei ląstelė galėtų tiesiog kreiptis į kitą ląstelę ir siųsti semantinę komandą, sistema jau turėtų socialinę mašineriją, kurią vėliau teigia stebinti. Difuzija yra grubesnė. Ji vietinė, vėluojanti, nuostolinga ir bendra. Gavėjas skaito lauką, ne raštelį.
Tai stebimus modelius daro prasmingesnius. Jei ląstelės juda prie su ištekliais susieto signalo, vengia su pavojumi susieto signalo arba telkiasi aplink afiniteto signalus, elgesys yra tarpininkaujamas substrato. Tai savaime neįrodo intelekto. Tai suteikia tyrėjams kelią užduoti geresnį klausimą: ar elgesys atsirado iš vietinių taisyklių, kaštų ir atrankos, ar mes netyčia įdėjome atsakymą į mašineriją?
Štai kodėl Mycelia analizę laiko tik skaitymui skirta. Tyrimų puslapyje minimi analizės moduliai ir jokio Goodhart spaudimo. Analizė turi stebėti ir matuoti. Ji neturi nutekinti atlygio į pasaulį. Jei matavimas pakeičia elgesį, kurį teigia tiriantis, mes išradome valdymo konsultacijas, o ne mokslą.
Atkūrimas yra skirtumas tarp pasakojimo ir įrodymų
Atsiradimas yra pavojingas žodis. Jis naudingas, kai įvardija realų modelį, atsirandantį iš vietinių sąveikų. Jis nenaudingas, kai tampa poetiniu būdu pasakyti, kad simuliacija atrodė šauniai. Mycelia reikia atkūrimo, nes be atkūrimo kiekvienas teiginys apie atsiradimą yra tik po paleidimo papasakota istorija.
Substratas sukurtas aplink sėklines konfigūracijas, fiksuotą žingsnių tvarką, fiksuoto taško aritmetiką, populiacijos būsenos maišas, išsaugojimo auditus ir kelių architektūrų palyginimą. Jei elgesys atsiranda, tyrėjai turėtų galėti grįžti prie sėklos, atkurti paleidimą, apžiūrėti žingsnius, palyginti maišas ir pamatyti, ar ta pati grandinė atsiranda vėl. Tai ne biurokratija. Taip žodis įrodymai užsidirba savo vietą.
Išsaugojimo auditai svarbūs dėl tos pačios priežasties. Jei energija ar informacija atsiranda iš niekur, ląstelės gali atrodyti prisitaikančios dėl netinkamos priežasties. Klaida gali tapti netikra išgyvenimo strategija. Sugadinta difuzijos taisyklė gali tapti netikru bendravimu. Planuoklio nutekėjimas gali tapti netikru koordinavimu. Mycelia laikysena yra traktuoti tokius gedimus kaip mokslinį užteršimą, o ne įprastas klaidas. Tai tinkamas paranojos lygis.
Kam Mycelia tinka
Mycelia naudinga kaip tyrimų infrastruktūra, nes leidžia kelti klausimus, kurių įprastas modelių mokymas švariai nekelia. Kaip atrodo prisitaikymas, kai nėra ranka parašytos atlygio funkcijos? Kaip vietiniai kaštai formuoja planavimą? Kada cheminiai signalai tampa naudinga atmintimi? Ar vaidmenų diferenciacija gali atsirasti esant ribotam išgyvenimo spaudimui? Kurie stebėjimai išgyvena atkūrimą ir statistinę analizę, o kurie žlunga tinkamai išbandyti?
Tie klausimai susiję su platesniu Dweve darbu, nepervertindami Mycelia į produktą per anksti. Loom, Nexus ir Core nėra Mycelia. Jie vis tiek gali pasinaudoti tyrimais. Sistemos, kurios samprotauja, koordinuoja ar veikia su apribojimais, turi geresnę intuiciją apie kaštus, determinizmą, prisitaikymą ir įrodymus. Mycelia yra viena vieta ugdyti šias intuicijas kontroliuojamame substrate.
Taip pat yra ribų. Mycelia neteikia klinikinių teiginių. Ji neįrodo sąmonės. Ji nepadaro verslo agentų stebuklingai atsparių. Ji nepakeičia modelių vertinimo. Tai nėra atviras įrodymas, kad gyvenimas išspręstas. Tai tyrimų substratas su griežtomis taisyklėmis, atkūrimu ir analize. To pakanka. Tyrimuose pakanka jau yra gana daug, kai tai sąžininga.
Kaip vertinti teiginį apie atsiradimą
Naudingas klausimas nėra tai, ar modelis atrodo protingas. Daug dalykų atrodo protingi, kai žmogus to nori. Naudingas klausimas yra tai, kas priverstų teiginį žlugti. Jei elgesys išnyksta pasikeitus sėklai, galbūt tai buvo anekdotas. Jei jis priklauso nuo analizės modulio, grąžinančio informaciją į pasaulį, tai nėra atsiradimas. Jei jis atsiranda tik vienoje architektūroje, substratas nutekina nedeterminizmą. Jei jis išnyksta atliekant abliaciją, kuri neturėtų turėti reikšmės, paaiškinimas tikriausiai buvo klaidingas.
Gerų Mycelia eksperimentų kontrolei todėl reikia. Paleiskite tą pačią konfigūraciją su skirtingomis sėklomis. Pašalinkite arba pakeiskite vieną cheminį kanalą. Pakeiskite sąnaudų spaudimą. Užšaldykite vieną elgsenos kelią. Palyginkite kolonijas su ne kolonijomis. Patikrinkite, ar vaidmenų įvairovė koreliuoja su išlikimu, ar tik gerai atrodo nuotraukose. Vietinė dokumentacija kalba apie analizės modulius, išlikimo testus ir vaidmenų diferenciaciją ne veltui: atsiradimas nėra tai, ką paskelbi pažiūrėjęs vieną gražų paleidimą. Tai tai, ką klausinėji, kol jis arba išlieka, arba pasiduoda.
Skaitymo taisyklė čia yra esmė. Analizė gali grupuoti elgseną, matuoti išlikimą, skaičiuoti statistiką ir atskleisti anomalijas, bet ji neturi tapti paslėptu atlygio kanalu. Ląstelė neturėtų tapti geresnė todėl, kad valdymo skydelis ją pamėgo. Populiacija neturėtų organizuotis todėl, kad matavimo kodas ją pastūmėjo. Eksperimentas turi išlaikyti tvirtą sieną tarp pasaulio, kuris evoliucionuoja, ir įrankių, kurie stebi. Kitaip sistema vis tiek gali būti įdomi, bet teiginys pasikeičia. Tai tampa vadovaujama optimizacija, vilkinti gamtos kostiumą.
Stipriausias rezultatas nėra įspūdingiausia animacija. Tai nuobodus, kuris atkartojamas. Ta pati konfigūracija, ta pati sėkla, ta pati tick seka, tas pats populiacijos maišos kodas, tas pats stebėtas kelias. Tada pakeiskite vieną sąlygą ir stebėkite skirtumą. Taip Mycelia gali paversti keistą elgseną iš istorijos į tyrimo objektą. Sausa, pakartojama ir gerokai mažiau kinematografiška, nei mėgsta internetas. Gerai.
Pamoka
Mycelia pamoka yra ta, kad prisitaikymui reikia spaudimo, o tyrimams reikia įrodymų. Spaudimas be įrodymų sukuria istorijas. Įrodymai be spaudimo sukuria sterilius demonstracinius pavyzdžius. Mycelia bando išlaikyti abu: ląstelės gyvena pagal fizikos formuojamus apribojimus, o substratas išlaiko paleidimą pakankamai atkartojamą, kad būtų galima ištirti, kas įvyko.
Tai yra naudinga Mycelia forma: kontroliuojamas tyrimo instrumentas, o ne produkto pristatymas su laboratoriniu chalatu. Tai suteikia mums vietą tyrinėti, kaip sąveikauja vietinės taisyklės, energijos biudžetai, chemija, mirtis, atkartojimas ir analizė. Jei atsiranda kažkas įdomaus, kitas sakinys neturėtų būti nuostabu. Jis turėtų būti parodyk man sėklą.