Mycélium a inteligencia pod tlakom
Žiadna odmeňovacia funkcia, iba dôsledky
Väčšina systémov umelej inteligencie začína s ľudskou definíciou úspechu. Stratová funkcia. Odmeňovacia funkcia. Označený dátový súbor. Signál preferencie. Dashboard, ktorý tvrdí, že sa model zlepšil, zvyčajne zatiaľ čo všetci potichu dúfajú, že metrika sa nenaučila podvádzať. Toto prinieslo užitočné systémy, ale prinieslo aj známy problém: stroj optimalizuje to, o čo ľudia požiadali, nie nevyhnutne to, čo ľudia mysleli.
Mycelia začína z iného miesta. Nie je to ďalší model s o niečo vkusnejšou odmeňovacou funkciou. Je to deterministický substrát umelého života, kde bunky žijú v rámci obmedzení: chémia difunduje, energia sa vyčerpáva, metabolizmus má náklady, smrť je možná a prostredie sa nestará o ničí plán. Výskumná otázka je, aké adaptívne správanie môže vzniknúť, keď je tlakom prežitie a pravidlá majú tvar fyziky, nie tvar promptov.
Tento rámec je dôležitý. Mycelia nie je tvrdenie, že sme postavili vedomie v nádobe. Nie je to skratka k AGI. Nie je to roztomilá simulácia, ktorá dokazuje, že príroda bola celý čas jednoduchá. Je to výskumný nástroj na štúdium adaptácie zdola nahor za deterministických pravidiel. Rozdiel je nudný presne tak, ako veda potrebuje byť nudná: ak sa správanie objaví, mali by sme ho vedieť prehrať, preskúmať a opýtať sa, či ho substrát umožnil čestne.
Stránka opisuje Mycelia ako zásobník s diskrétnymi tikmi, 15 fázami na tik, 88-bajtovými genómami, šiestimi metabolickými zásobníkmi, siedmimi difundujúcimi chemikáliami, VM so zásobníkovou architektúrou so 73 inštrukciami, determinizmom s pevnou rádovou čiarkou a auditmi zachovania. Lokálne výskumné poznámky idú hlbšie, ale hlavná myšlienka je už jasná: inteligencia nie je vstreknutá zhora. Bunky čelia podmienkam. Zlé stratégie umierajú. Lepšie stratégie pretrvávajú. Veľmi motivujúce, ak váš nápad motivácie zahŕňa trvalú smrť.
Tik je zmluva
Umelý život sa stáva klzkým, keď simulácia môže mávnuť rukou nad kauzalitou. Bunka niečo cíti, pohybuje sa, metabolizuje, vysiela signál, reprodukuje sa, umiera a systém zobrazí krásny vzor. Dobre. Ale čo sa stalo ako prvé? Ktorý signál existoval v čase snímania? Ktoré chemické pole bolo aktualizované pred metabolizmom? Ktorý stav bol hašovaný? Ak je odpoveď čokoľvek, čo sa plánovačovi dnes podarilo urobiť, experiment je už slabý.
Mycelia používa pevnú štruktúru tikov, pretože tik je zmluva medzi komplexnosťou a vedou. Subsystémy postupujú v známom poradí. Chémia, fyziológia, metabolizmus, vykonávanie VM, udalosti životného cyklu a audity nie sú vibrácie v slučke snímok. Sú to fázy. To umožňuje hovoriť o kauzalite bez interpretačného tanca nad logmi.
Deterministický tik tiež udržiava paralelizmus čestný. Text na stránke hovorí, že motory, ktoré potrebujú paralelizmus, používajú deterministické redukcie, nie ľubovoľné poradie. To nie je malý implementačný detail. Paralelný nedeterminizmus môže vytvoriť malé rozdiely, ktoré prerastú do rôznych populácií. Keď sa to stane, experiment prestane byť reprodukovateľný a začne byť veľmi drahou anekdotou.
Pre výskum nie je reprodukovateľnosť leštenie. Je to základ. Simulácia, ktorá dáva rôzne výsledky na x86 a ARM, nemôže obhájiť tvrdenie o emergencii. Sľub Mycelia je, že rovnaká konfigurácia a seed by mali produkovať rovnakú sekvenciu populácií na podporovaných architektúrach, pričom divergencia sa považuje za blokátor vydania. Toto je postoj, ktorý substrát potrebuje, kým zaujímavé tvrdenia môžu vstúpiť do miestnosti.
Bunka je zámerne malá
Naj užitočnejší fakt o Mycelii je zároveň najpokornejší: bunka je maličká. Verejná stránka prezentuje genóm ako 88 bajtov, s bytekódom a metadátami, bežiaci na VM založenom na zásobníku. Technický text uvádza 73 inštrukcií. To nie je veľa priestoru na veľkolepú teóriu mysle. Dobre. Nejde o to skryť obrovskú ručne písanú inteligenciu vo vnútri bunky a potom sa tváriť prekvapene, keď sa správa múdro.
Bunka má rozpočet. Myslenie je lacné. Vnímanie stojí viac. Konanie stojí ešte viac. Treba spravovať šesť metabolických zásob. Dokumentácia a stránka opisujú ATP, zásoby zdrojov, odpad, integritu membrány a súvisiace tlaky na prežitie. Presná biologická analógia je menej dôležitá ako inžinierska štruktúra: správanie má cenu. Ak bunka koná plytvo, substrát ju môže potrestať bez toho, aby potreboval funkciu odmeny na vysvetlenie, prečo bol odpad zlý.
Tu sa Mycelia stáva zaujímavejšou ako hračka. Keď je konanie drahé a myslenie lacné, evolúcia môže objaviť programy, ktoré plánujú pred pohybom. Keď vnímanie niečo stojí, pozornosť sa stáva zdrojom. Keď sa odpad hromadí, prežitie nie je len nájsť jedlo. Je to zvládanie následkov. Bunka je malá, ale tlak okolo nej nie je.
Skrýva sa tu aj lekcia pre produkty. Mnohé systémy umelej inteligencie sú trénované v prostrediach, kde sú náklady na konanie abstraktné alebo oneskorené. Mycelia robí náklady okamžitými. To neznamená, že Mycelia je dnes produktový systém. Znamená to, že výskum nás môže naučiť, ako sa adaptívne správanie mení, keď sú obmedzenia lokálne, nepretržité a nevyhnutné. Bunka, ktorá ignoruje svoj rozpočet, nedostane krajšiu chybovú správu. Zomrie. Drsné, ale osviežujúco jasné.
Chémia je komunikačná vrstva
Bunky Mycelie nekomunikujú v úhľadných paketoch. Vylučujú a vnímajú chemikálie. Verejná stránka uvádza sedem difúznych chemikálií a dynamiku reakcie a difúzie. Lokálne poznámky opisujú signály, ako sú dopamínové, kortizolové a oxytocínové kanály, ako polia, ktoré sa šíria, rozpadajú a stávajú sa súčasťou prostredia. Signál nie je priama správa jednému príjemcovi. Je to zmena v spoločnej chémii.
Táto voľba je dôležitá, pretože bráni tomu, aby sa sociálne správanie prepašovalo cez API. Ak by bunka mohla jednoducho osloviť inú bunku a poslať sémantický príkaz, systém by už obsahoval sociálny mechanizmus, ktorý neskôr tvrdí, že pozoruje. Difúzia je hrubšia. Je lokálna, oneskorená, stratová a zdieľaná. Príjemca číta pole, nie memorandum.
Vďaka tomu sú pozorované vzorce zmysluplnejšie. Ak sa bunky pohybujú smerom k signálu spojenému so zdrojom, vyhýbajú sa signálu spojenému s nebezpečenstvom alebo sa zhlukujú okolo afinitných signálov, správanie je sprostredkované substrátom. Samo o sebe nedokazuje inteligenciu. Dáva výskumníkom cestu k lepšej otázke: vzniklo správanie z lokálnych pravidiel, nákladov a selekcie, alebo sme odpoveď omylom vložili do mechanizmu?
Preto Mycelia ponecháva analýzu iba na čítanie. Stránka výskumu spomína analytické moduly a žiadny Goodhartov tlak. Analýza by mala pozorovať a merať. Nemala by prepúšťať odmenu do sveta. Ak meranie zmení správanie, ktoré má skúmať, vynašli sme manažérske poradenstvo, nie vedu.
Prehrávanie je rozdiel medzi príbehom a dôkazom
Emergencia je nebezpečné slovo. Je užitočné, keď pomenúva skutočný vzor, ktorý vzniká z lokálnych interakcií. Je zbytočné, keď sa stane poetickým spôsobom, ako povedať, že simulácia vyzerala cool. Mycelia potrebuje prehrávanie, pretože bez prehrávania je každé tvrdenie o emergencii len príbehom rozprávaným po behu.
Substrát je navrhnutý okolo nasadených konfigurácií, pevného poradia tickov, aritmetiky s pevnou rádovou čiarkou, hashov stavu populácie, audítov zachovania a porovnávania naprieč architektúrami. Ak sa objaví správanie, výskumníci by sa mali vedieť vrátiť k seedu, prehrať beh, preskúmať ticky, porovnať hashe a zistiť, či sa rovnaký reťazec objaví znova. To nie je byrokracia. Takto si slovo dôkaz zarába na svoju váhu.
Audity zachovania sú dôležité z rovnakého dôvodu. Ak sa energia alebo informácia objaví z ničoho, bunky môžu vyzerať adaptívne z nesprávneho dôvodu. Chyba sa môže stať falošnou stratégiou prežitia. Rozbité difúzne pravidlo sa môže stať falošnou komunikáciou. Únik v plánovači sa môže stať falošnou koordináciou. Postoj Mycelia je považovať tieto zlyhania za vedeckú kontamináciu, nie za bežné chyby. Toto je správna miera paranoje.
Na čo je Mycelia dobrá
Mycelia je užitočná ako výskumná infraštruktúra, pretože nám umožňuje klásť otázky, ktoré bežné trénovanie modelov nepokladá čisto. Ako vyzerá adaptácia, keď neexistuje ručne napísaná funkcia odmeny? Ako lokálne náklady formujú plánovanie? Kedy sa chemické signály stávajú užitočnou pamäťou? Môže sa diferenciácia rolí objaviť pri obmedzenom tlaku na prežitie? Ktoré pozorovania prežijú prehrávanie a štatistickú analýzu a ktoré sa zrútia, keď sa poriadne otestujú?
Tieto otázky nadväzujú na širšiu prácu Dweve bez toho, aby predčasne menili Mycelia na produkt. Loom, Nexus a Core nie sú Mycelia. Stále môžu profitovať z výskumu. Systémy, ktoré uvažujú, koordinujú alebo nasadzujú za obmedzení, potrebujú lepšie intuície o nákladoch, determinizme, adaptácii a dôkazoch. Mycelia je jedno miesto, kde si tieto intuície možno rozvíjať v kontrolovanom substráte.
Existujú aj limity. Mycelia nerobí klinické tvrdenia. Nedokazuje vedomie. Nerobí biznis agentov magicky odolných. Nenahrádza hodnotenie modelov. Nie je otvoreným dôkazom, že život bol vyriešený. Je to výskumný substrát s prísnymi pravidlami, prehrávaním a analýzou. To stačí. Vo výskume je dosť už pomerne veľa, keď je čestné.
Ako posúdiť tvrdenie o emergencii
Užitočná otázka nie je, či vzor vyzerá inteligentne. Veľa vecí vyzerá inteligentne, keď to človek chce. Užitočná otázka je, čo by spôsobilo zlyhanie tvrdenia. Ak správanie zmizne, keď sa zmení seed, možno to bola anekdota. Ak závisí od analytického modulu, ktorý posiela informácie späť do sveta, nie je to emergencia. Ak sa objaví iba na jednej architektúre, substrát prepúšťa nedeterminizmus. Ak zmizne pri ablácii, ktorá by nemala mať vplyv, vysvetlenie bolo pravdepodobne nesprávne.
Dobré experimenty s Myceliou preto potrebujú kontroly. Spustite rovnakú konfiguráciu s rôznymi seedmi. Odstráňte alebo zmeňte jeden chemický kanál. Zmeňte tlak nákladov. Zmrazte jednu cestu správania. Porovnajte kolónie s nekolóniami. Overte, či rozmanitosť rolí koreluje s prežitím, alebo sa len dobre fotí. Lokálna dokumentácia hovorí o analytických moduloch, testoch prežitia a diferenciácii rolí z dobrého dôvodu: emergencia nie je niečo, čo ohlásite po zhliadnutí jedného pekného behu. Je to niečo, čo skúmate, až kým to buď neprežije, alebo sa nevzdá.
Pravidlo len na čítanie je tu kľúčové. Analýza môže zhlukovať správanie, merať prežitie, počítať štatistiky a odhaľovať anomálie, ale nesmie sa stať skrytým kanálom odmien. Bunka by sa nemala zlepšiť preto, že sa páčila dashboardu. Populácia by sa nemala zorganizovať preto, že ju merací kód postrčil. Experiment musí udržať pevnú stenu medzi svetom, ktorý sa vyvíja, a nástrojmi, ktoré pozorujú. Inak môže byť systém stále zaujímavý, ale tvrdenie sa mení. Stáva sa z neho riadená optimalizácia v kostýme prírody.
Najsilnejší výsledok nie je najdramatickejšia animácia. Je to ten nudný, ktorý sa dá prehrať znova. Rovnaká konfigurácia, rovnaký seed, rovnaká postupnosť tickov, rovnaký hash populácie, rovnaká pozorovaná cesta. Potom zmeňte jednu podmienku a sledujte rozdiel. Takto môže Mycelia premeniť zvláštne správanie z príbehu na výskumný objekt. Suché, opakovateľné a oveľa menej filmové, než preferuje internet. Dobre.
Ponaučenie
Ponaučenie z Mycelie je, že adaptácia potrebuje tlak, ale výskum potrebuje dôkazy. Tlak bez dôkazov vytvára príbehy. Dôkazy bez tlaku vytvárajú sterilné ukážky. Mycelia sa snaží držať oboje: bunky žijú pod obmedzeniami tvarovanými fyzikou a substrát udržiava beh dostatočne opakovateľný na to, aby sa dalo preskúmať, čo sa stalo.
To je užitočný tvar Mycelie: kontrolovaný výskumný nástroj, nie uvedenie produktu v laboratórnom plášti. Dáva nám miesto na štúdium toho, ako interagujú lokálne pravidlá, energetické rozpočty, chémia, smrť, prehrávanie a analýza. Ak sa objaví niečo zaujímavé, ďalšia veta by nemala byť úžasné. Mala by byť ukáž mi seed.