Micelij i inteligencija pod pritiskom
Bez funkcije nagrade, samo posljedice
Većina AI sustava kreće od ljudske definicije uspjeha. Funkcije gubitka. Funkcije nagrade. Označenog skupa podataka. Signala preferencija. Nadzorne ploče koja kaže da se model poboljšao, obično dok svi tiho nadaju da metrika nije naučila varati. To je proizvelo korisne sustave, ali i poznati problem: stroj optimizira ono što su ljudi tražili, ne nužno ono što su ljudi mislili.
Mycelia kreće s drugog mjesta. To nije još jedan model s malo ukusnijom funkcijom nagrade. To je deterministički supstrat umjetnog života u kojem stanice žive unutar ograničenja: kemija difundira, energija se troši, metabolizam ima cijenu, smrt je moguća, a okoliš ne mari za ničiji plan. Istraživačko je pitanje kakvo se prilagodljivo ponašanje može pojaviti kada je preživljavanje pritisak, a pravila su oblikovana fizikom, a ne uputama.
Taj je okvir važan. Mycelia nije tvrdnja da smo izgradili svijest u staklenci. Nije prečac do AGI-ja. Nije simpatična simulacija koja dokazuje da je priroda cijelo vrijeme bila laka. To je istraživački instrument za proučavanje prilagodbe odozdo prema gore pod determinističkim pravilima. Razlika je dosadna upravo onako kako znanost treba biti dosadna: ako se ponašanje pojavi, trebali bismo ga moći ponoviti, ispitati i pitati je li supstrat to pošteno omogućio.
Stranica opisuje Mycelia kao stog s diskretnim otkucajima, 15 faza po otkucaju, genoma od 88 bajtova, šest metaboličkih bazena, sedam difuzijskih kemikalija, VM temeljen na stogu sa 73 instrukcije, determinizam s fiksnom točkom i revizije očuvanja. Lokalne istraživačke bilješke idu dublje, ali središnja je ideja već jasna: inteligencija se ne ubrizgava odozgo. Stanice se suočavaju s uvjetima. Loše strategije umiru. Bolje strategije opstaju. Vrlo motivirajuće, ako vaša ideja motivacije uključuje trajnu smrt.
Otkucaj je ugovor
Umjetni život postaje sklizak kada simulaciji dopustimo da olako pređe preko uzročnosti. Stanica nešto osjeti, pomakne se, metabolizira, emitira signal, reproducira se, umre i sustav prikaže prekrasan uzorak. U redu. Ali što se dogodilo prvo? Koji je signal postojao u trenutku osjeta? Koje je kemijsko polje ažurirano prije metabolizma? Koje je stanje hashirano? Ako je odgovor što god je planer tog dana napravio, eksperiment je već slab.
Mycelia koristi fiksnu strukturu otkucaja jer je otkucaj ugovor između složenosti i znanosti. Podsustavi napreduju poznatim redoslijedom. Kemija, fiziologija, metabolizam, izvršavanje VM-a, događaji životnog ciklusa i revizijski rad nisu vibracije u okviru petlje. To su faze. To omogućuje govor o uzročnosti bez interpretativnog plesa po zapisnicima.
Deterministički otkucaj također održava paralelizam poštenim. Tekst na stranici kaže da motori kojima treba paralelizam koriste determinističke redukcije, a ne proizvoljan redoslijed. To nije mali implementacijski detalj. Paralelni nedeterminizam može stvoriti male razlike koje prerastu u različite populacije. Kad se to dogodi, eksperiment prestaje biti ponovljiv i postaje vrlo skupa anegdota.
Za istraživanje, ponovljivost nije uglađenost. To je pod. Simulacija koja daje različite rezultate na x86 i ARM-u ne može braniti tvrdnju o nastanku. Obećanje Mycelia je da bi ista konfiguracija i sjeme trebali proizvesti isti slijed populacije na podržanim arhitekturama, pri čemu se divergencija tretira kao blokator izdanja. To je stav koji supstrat treba prije nego što se zanimljive tvrdnje puste u prostoriju.
Stanica je mala s razlogom
Najkorisnija činjenica o Myceliji ujedno je i najponiznija: stanica je sićušna. Javna stranica prikazuje genom kao 88 bajtova, s bajtkodom i metapodacima, koji se izvršava na VM-u temeljenom na stogu. Tehnički tekst navodi 73 instrukcije. To nije puno prostora za veliku teoriju uma. Dobro. Poanta nije sakriti golemu ručno napisanu inteligenciju unutar stanice, a onda se praviti iznenađen kada se ponaša pametno.
Stanica ima proračun. Razmišljanje je jeftino. Opažanje košta više. Djelovanje košta još više. Šest metaboličkih bazena mora se upravljati. Dokumentacija i stranica opisuju ATP, rezerve resursa, otpad, integritet membrane i povezane pritiske preživljavanja. Točna biološka analogija manje je važna od inženjerske strukture: ponašanje ima cijenu. Ako stanica djeluje rasipno, supstrat je može kazniti bez potrebe za funkcijom nagrađivanja koja objašnjava zašto je rasipnost bila loša.
Ovdje Mycelia postaje zanimljivija od igračke. Kada je djelovanje skupo, a razmišljanje jeftino, evolucija može otkriti programe koji planiraju prije kretanja. Kada opažanje nešto košta, pažnja postaje resurs. Kada se otpad nakuplja, preživljavanje nije samo pronalazak hrane. To je upravljanje posljedicama. Stanica je mala, ali pritisak oko nje nije.
Ovdje se krije i lekcija o proizvodu. Mnogi AI sustavi trenirani su u okruženjima gdje je trošak djelovanja apstraktan ili odgođen. Mycelia čini trošak trenutačnim. To ne znači da je Mycelia danas proizvodni sustav. To znači da nas istraživanje može naučiti kako se adaptivno ponašanje mijenja kada su ograničenja lokalna, kontinuirana i neizbježna. Stanica koja ignorira svoj proračun ne dobiva ljepšu poruku o pogrešci. Umire. Grubo, ali osvježavajuće jasno.
Kemija je komunikacijski sloj
Stanice Mycelije ne razgovaraju u urednim paketima. One emitiraju i opažaju kemikalije. Javna stranica navodi sedam difuzijskih kemikalija i dinamiku reakcije i difuzije. Lokalne bilješke opisuju signale poput dopamina, kortizola i kanala sličnih oksitocinu kao polja koja se šire, propadaju i postaju dio okoliša. Signal nije izravna poruka jednom primatelju. To je promjena u zajedničkoj kemiji.
Taj je izbor važan jer sprječava da se društveno ponašanje prokrijumčari kroz API. Ako bi stanica jednostavno mogla adresirati drugu stanicu i poslati semantičku naredbu, sustav bi već sadržavao društveni mehanizam koji kasnije tvrdi da promatra. Difuzija je grublja. Lokalna je, odgođena, gubitaška i zajednička. Primatelj čita polje, a ne dopis.
To čini promatrane obrasce značajnijima. Ako se stanice kreću prema signalu povezanom s resursom, izbjegavaju signal povezan s opasnošću ili se okupljaju oko signala afiniteta, ponašanje je posredovano supstratom. To samo po sebi ne dokazuje inteligenciju. Istraživačima daje put da postave bolje pitanje: je li ponašanje proizašlo iz lokalnih pravila, troškova i selekcije ili smo slučajno ugradili odgovor u mehanizam?
Zato Mycelia analizu drži samo za čitanje. Stranica o istraživanju spominje module analize i nikakav Goodhartov pritisak. Analiza treba promatrati i mjeriti. Ne smije propuštati nagradu u svijet. Ako mjerenje mijenja ponašanje koje tvrdi da proučava, izmislili smo konzultantske usluge, a ne znanost.
Reprodukcija je razlika između priče i dokaza
Emergencija je opasna riječ. Korisna je kada imenuje stvarni obrazac koji proizlazi iz lokalnih interakcija. Beskorisna je kada postane poetski način da se kaže da je simulacija izgledala cool. Mycelia treba reprodukciju jer bez nje svaka tvrdnja o emergenciji jest samo priča ispričana nakon pokretanja.
Supstrat je osmišljen oko konfiguracija sa zadanim sjemenom, fiksnog redoslijeda koraka, aritmetike s fiksnom točkom, sažetaka stanja populacije, provjera očuvanja i usporedbe među arhitekturama. Ako se pojavi ponašanje, istraživači bi se trebali moći vratiti na sjeme, reproducirati pokretanje, pregledati korake, usporediti sažetke i vidjeti pojavljuje li se isti lanac ponovno. To nije birokracija. Tako riječ dokaz zarađuje svoje mjesto.
Provjere očuvanja važne su iz istog razloga. Ako se energija ili informacija pojavi niotkuda, stanice mogu izgledati prilagodljivo iz pogrešnog razloga. Greška može postati lažna strategija preživljavanja. Pokvareno pravilo difuzije može postati lažna komunikacija. Propuštanje u raspoređivaču može postati lažna koordinacija. Stav Mycelije jest da se ti neuspjesi tretiraju kao znanstvena kontaminacija, a ne kao obične greške. To je prava razina paranoje.
Čemu je Mycelia dobra
Mycelia je korisna kao istraživačka infrastruktura jer nam omogućuje postavljanje pitanja koja obično treniranje modela ne postavlja čisto. Kako izgleda prilagodba kada ne postoji ručno napisana funkcija nagrađivanja? Kako lokalni troškovi oblikuju planiranje? Kada kemijski signali postaju korisno pamćenje? Može li se diferencijacija uloga pojaviti pod ograničenim pritiskom preživljavanja? Koja opažanja preživljavaju reprodukciju i statističku analizu, a koja se urušavaju kada se pravilno testiraju?
Ta pitanja povezuju se sa širim radom Dwevea bez preranog pretvaranja Mycelije u proizvod. Loom, Nexus i Core nisu Mycelia. I dalje mogu imati koristi od istraživanja. Sustavi koji razmišljaju, koordiniraju ili djeluju pod ograničenjima trebaju bolje intuicije o troškovima, determinizmu, prilagodbi i dokazima. Mycelia je jedno mjesto za razvijanje tih intuicija u kontroliranom supstratu.
Postoje i ograničenja. Mycelia ne daje kliničke tvrdnje. Ne dokazuje svijest. Ne čini poslovne agente čarobno robusnima. Ne zamjenjuje evaluaciju modela. Nije otvoreni dokaz da je život riješen. To je istraživački supstrat sa strogim pravilima, reprodukcijom i analizom. To je dovoljno. U istraživanju je dovoljno već poprilično mnogo kada je pošteno.
Kako procijeniti tvrdnju o emergenciji
Korisno pitanje nije izgleda li obrazac inteligentno. Mnogo stvari izgleda inteligentno kada čovjek to želi. Korisno pitanje jest što bi učinilo da tvrdnja padne. Ako ponašanje nestane kada se promijeni sjeme, možda je bila anegdota. Ako ovisi o modulu analize koji vraća informacije u svijet, to nije emergencija. Ako se pojavi samo na jednoj arhitekturi, supstrat propušta nedeterminizam. Ako nestane pod ablacijom koja ne bi trebala biti važna, objašnjenje je vjerojatno bilo pogrešno.
Dobri pokusi s Mycelijom stoga zahtijevaju kontrole. Pokrenite istu konfiguraciju s različitim sjemenkama. Uklonite ili promijenite jedan kemijski kanal. Promijenite pritisak troškova. Zamrznite jedan put ponašanja. Usporedite kolonije s ne-kolonijama. Provjerite korelira li raznolikost uloga s preživljavanjem ili samo dobro izgleda na fotografijama. Lokalna dokumentacija s razlogom govori o modulima za analizu, testovima preživljavanja i diferencijaciji uloga: emergencija nije nešto što se objavi nakon jednog lijepog pokretanja. To je nešto što se propituje sve dok ili ne preživi ili ne odustane.
Pravilo samo za čitanje ovdje je središnje. Analiza može grupirati ponašanje, mjeriti preživljavanje, izračunavati statistiku i otkrivati anomalije, ali ne smije postati skriveni kanal nagrađivanja. Stanica ne bi trebala postati bolja zato što se svidjela nadzornoj ploči. Populacija se ne bi trebala organizirati zato što ju je mjerni kod gurnuo. Pokus mora zadržati čvrst zid između svijeta koji evoluira i alata koji promatraju. Inače sustav i dalje može biti zanimljiv, ali se tvrdnja mijenja. Postaje vođena optimizacija odjevena u kostim prirode.
Najjači rezultat nije najdramatičnija animacija. To je onaj dosadni koji se ponavlja. Ista konfiguracija, isto sjeme, isti slijed otkucaja, isti hash populacije, isti promatrani put. Zatim promijenite jedan uvjet i gledajte razliku. Tako Mycelia može pretvoriti čudno ponašanje iz priče u istraživački objekt. Suho, ponovljivo i mnogo manje kinematografsko nego što internet preferira. Dobro.
Pouka
Pouka Mycelije jest da prilagodba zahtijeva pritisak, ali istraživanje zahtijeva dokaze. Pritisak bez dokaza proizvodi priče. Dokazi bez pritiska proizvode sterilne demonstracije. Mycelia pokušava zadržati oboje: stanice žive pod ograničenjima oblikovanima fizikom, a supstrat održava pokus dovoljno ponovljivim da se ispita što se dogodilo.
To je koristan oblik Mycelije: kontrolirani istraživački instrument, a ne lansiranje proizvoda u laboratorijskoj kuti. Daje nam mjesto za proučavanje kako lokalna pravila, energetski proračuni, kemija, smrt, ponavljanje i analiza međusobno djeluju. Ako se pojavi nešto zanimljivo, sljedeća rečenica ne bi trebala biti nevjerojatno. Trebala bi biti pokaži mi sjemenku.