Мицелий и интелект под напрежение
Без функция за награда, само последствия
Повечето AI системи започват с човешко определение за успех. Функция на загубата. Функция на наградата. Маркиран набор от данни. Сигнал за предпочитание. Табло, което показва, че моделът се е подобрил, обикновено докато всички тихо се надяват, че показателят не се е научил да мами. Това е довело до полезни системи, но също така е създало познат проблем: машината оптимизира това, което хората са поискали, а не непременно това, което хората са имали предвид.
Mycelia започва от друго място. Това не е поредният модел с малко по-изискана функция на наградата. Това е детерминирана субстратна среда за изкуствен живот, където клетките съществуват в рамките на ограничения: химията дифундира, енергията се изчерпва, метаболизмът има разходи, смъртта е възможна, а средата не се интересува от нечия пътна карта. Изследователският въпрос е какво адаптивно поведение може да възникне, когато натискът е оцеляването, а правилата са оформени от физиката, а не от подкани.
Тази рамка има значение. Mycelia не е твърдение, че сме построили съзнание в буркан. Не е пряк път към AGI. Не е сладка симулация, която доказва, че природата е била лесна през цялото време. Това е изследователски инструмент за изучаване на адаптация отдолу нагоре при детерминирани правила. Разликата е скучна точно по начина, по който науката трябва да бъде скучна: ако се появи поведение, трябва да можем да го възпроизведем, да го разгледаме и да попитаме дали субстратът го е позволил честно.
Сайтът описва Mycelia като стек с дискретни тикове, 15 фази на тик, 88-байтови геноми, шест метаболитни пула, седем дифундиращи химикала, стекова VM с 73 инструкции, детерминизъм с фиксирана запетая и одити на запазването. Местните изследователски бележки отиват по-дълбоко, но централната идея вече е ясна: интелигентността не се инжектира отгоре. Клетките са изправени пред условия. Лошите стратегии умират. По-добрите стратегии просъществуват. Много мотивиращо, ако идеята ви за мотивация включва постоянна смърт.
Тикът е договорът
Изкуственият живот става хлъзгав, когато на симулацията е позволено да пренебрегва причинно-следствената връзка. Клетка усеща нещо, движи се, метаболизира, излъчва сигнал, възпроизвежда се, умира и системата показва красив модел. Добре. Но какво се случи първо? Кой сигнал е съществувал по време на усещането? Кое химическо поле е било обновено преди метаболизма? Кое състояние е било хеширано? Ако отговорът е каквото и да е направил планировчикът днес, експериментът вече е слаб.
Mycelia използва фиксирана тик структура, защото тикът е договорът между сложността и науката. Подсистемите напредват в известен ред. Химия, физиология, метаболизъм, изпълнение на VM, събития от жизнения цикъл и одитна работа не са вибрации в рамков цикъл. Те са фази. Това прави възможно да се говори за причинно-следствена връзка, без да се прави интерпретативен танц върху логове.
Детерминираният тик също поддържа паралелизма честен. Текстът на сайта казва, че двигателите, които се нуждаят от паралелизъм, използват детерминирани редукции, а не произволен ред. Това не е малък детайл от внедряването. Паралелният недетерминизъм може да създаде малки разлики, които прерастват в различни популации. След като това се случи, експериментът престава да бъде възпроизводим и започва да бъде много скъп анекдот.
За изследвания възпроизводимостта не е лак. Тя е основата. Симулация, която дава различни резултати на x86 и ARM, не може да защити твърдение за емерджентност. Обещанието на Mycelia е, че същата конфигурация и семена трябва да произведат същата последователност от популации на поддържаните архитектури, като отклонението се третира като блокер за пускане. Това е позата, от която субстратът се нуждае, преди интересните твърдения да бъдат допуснати в стаята.
Една клетка е малка нарочно
Най-полезният факт за Mycelia е и най-смиряващият: клетката е мъничка. Публичната страница представя генома като 88 байта, с байткод и метаданни, работещи на базирана на стек виртуална машина. Техническият текст изброява 73 инструкции. Това не е много място за грандиозна теория на ума. Добре. Смисълът не е да скрием огромен ръчно написан интелект вътре в клетката и после да се правим на изненадани, когато се държи умно.
Клетката има бюджет. Мисленето е евтино. Усещането струва повече. Действието струва още повече. Трябва да се управляват шест метаболитни басейна. Документацията и страницата описват АТФ, ресурсни запаси, отпадъци, цялост на мембраната и свързани с тях натиск за оцеляване. Точната биологична аналогия има значение по-малко от инженерната структура: поведението има цена. Ако клетка действа разточително, субстратът може да я накаже, без да е необходима функция за възнаграждение, която да обяснява защо разточителството е лошо.
Тук Mycelia става по-интересна от играчка. Когато действието е скъпо, а мисленето е евтино, еволюцията може да открие програми, които планират, преди да се движат. Когато усещането струва нещо, вниманието се превръща в ресурс. Когато отпадъците се натрупват, оцеляването не е просто намиране на храна. То е управление на последствията. Клетката е малка, но натискът около нея не е.
Тук се крие и урок за продукта. Много AI системи се обучават в среди, където цената на действието е абстрактна или забавена. Mycelia прави цената незабавна. Това не означава, че Mycelia днес е продуктова система. Означава, че изследването може да ни научи как адаптивното поведение се променя, когато ограниченията са локални, непрекъснати и неизбежни. Клетка, която игнорира бюджета си, не получава по-хубаво съобщение за грешка. Тя умира. Сурово, но освежаващо ясно.
Химията е комуникационният слой
Клетките на Mycelia не разговарят в подредени пакети. Те излъчват и усещат химикали. Публичната страница назовава седем дифузиращи химикала и динамика на реакция-дифузия. Местните бележки описват сигнали като допамин, кортизол и окситоциноподобни канали като полета, които се разпространяват, затихват и стават част от средата. Сигналът не е пряко съобщение до един получател. Той е промяна в споделената химия.
Този избор е важен, защото предотвратява социалното поведение да бъде промъкнато през API. Ако клетката можеше просто да се обърне към друга клетка и да изпрати семантична команда, системата вече щеше да съдържа социалния механизъм, който по-късно твърди, че наблюдава. Дифузията е по-груба. Тя е локална, забавена, загубна и споделена. Получателят чете поле, не бележка.
Това прави наблюдаваните модели по-смислени. Ако клетките се движат към сигнал, свързан с ресурс, избягват сигнал, свързан с опасност, или се струпват около сигнали за сродство, поведението се опосредства от субстрата. Само по себе си то не доказва интелигентност. То дава на изследователите път да зададат по-добър въпрос: възникна ли поведението от локални правила, разходи и подбор, или случайно сме поставили отговора в механизма?
Ето защо Mycelia държи анализа само за четене. Страницата за изследвания споменава аналитични модули и никакъв натиск от типа Goodhart. Анализът трябва да наблюдава и измерва. Не трябва да изтича награда в света. Ако измерването промени поведението, което твърди, че изучава, сме изобретили управленски консултации, а не наука.
Повторното изпълнение е разликата между история и доказателство
Емерджентност е опасна дума. Полезна е, когато назовава реален модел, който се появява от локални взаимодействия. Безполезна е, когато се превърне в поетичен начин да се каже, че симулацията изглеждаше готина. Mycelia се нуждае от повторно изпълнение, защото без него всяко твърдение за емерджентност е просто история, разказана след пускането.
Субстратът е проектиран около зададени конфигурации, фиксиран ред на тиковете, аритметика с фиксирана запетая, хешове на състоянието на популацията, одити за съхранение и сравнение между архитектури. Ако се появи поведение, изследователите трябва да могат да се върнат към началната стойност, да повторят изпълнението, да прегледат тиковете, да сравнят хешовете и да видят дали същата верига се появява отново. Това не е бюрокрация. Така думата доказателство си изкарва прехраната.
Одитите за съхранение са важни по същата причина. Ако енергия или информация се появи от нищото, клетките може да изглеждат адаптивни по грешна причина. Грешка може да се превърне във фалшива стратегия за оцеляване. Счупено правило за дифузия може да се превърне във фалшива комуникация. Изтичане в планировчика може да се превърне във фалшива координация. Позицията на Mycelia е да третира тези неуспехи като научно замърсяване, а не като обикновени грешки. Това е правилното ниво на параноя.
За какво е подходяща Mycelia
Mycelia е полезна като изследователска инфраструктура, защото ни позволява да задаваме въпроси, които обикновеното обучение на модели не задава чисто. Как изглежда адаптацията, когато няма ръчно написана функция за награда? Как локалните разходи оформят планирането? Кога химичните сигнали стават полезна памет? Може ли диференциация на роли да се появи при ограничен натиск за оцеляване? Кои наблюдения издържат на повторно изпълнение и статистически анализ и кои се сриват, когато се тестват правилно?
Тези въпроси се свързват с по-широката работа на Dweve, без да превръщат Mycelia в продукт преждевременно. Loom, Nexus и Core не са Mycelia. Те все пак могат да се възползват от изследванията. Системи, които разсъждават, координират или се внедряват при ограничения, се нуждаят от по-добра интуиция за разходите, детерминизма, адаптацията и доказателствата. Mycelia е едно място за развиване на тези интуиции в контролиран субстрат.
Има и граници. Mycelia не прави клинични твърдения. Не доказва съзнание. Не прави бизнес агентите магически устойчиви. Не замества оценката на модели. Не е отворено доказателство, че животът е решен. Тя е изследователски субстрат със строги правила, повторно изпълнение и анализ. Това е достатъчно. В изследванията достатъчното е вече доста много, когато е честно.
Как да съдим твърдение за емерджентност
Полезният въпрос не е дали даден модел изглежда интелигентен. Много неща изглеждат интелигентни, когато човек иска това. Полезният въпрос е какво би накарало твърдението да се провали. Ако поведение изчезне, когато началната стойност се промени, може би е било анекдот. Ако зависи от аналитичен модул, който подава информация обратно в света, това не е емерджентност. Ако се появи само на една архитектура, субстратът изтича недетерминизъм. Ако изчезне при аблация, която не би трябвало да има значение, обяснението вероятно е било грешно.
Добрите експерименти с Mycelia затова се нуждаят от контроли. Пусни същата конфигурация с различни начални стойности. Премахни или промени един химичен канал. Промени ценовия натиск. Замрази един поведенчески път. Сравни колониите с не-колониите. Провери дали разнообразието на ролите корелира с оцеляването или просто изглежда добре на снимка. Локалната документация говори за модули за анализ, тестове за оцеляване и диференциация на ролите с причина: появата на нещо ново не е нещо, което обявяваш след като гледаш един хубав резултат. То е нещо, което разпитваш, докато или оцелее, или се откаже.
Правилото за четене е централно тук. Анализът може да групира поведението, да измерва оцеляването, да изчислява статистики и да извежда аномалии, но не трябва да се превръща в скрит канал за награда. Една клетка не трябва да става по-добра, защото таблото я е харесало. Една популация не трябва да се организира, защото кодът за измерване я е побутнал. Експериментът трябва да държи твърда стена между света, който еволюира, и инструментите, които наблюдават. В противен случай системата може да е все още интересна, но твърдението се променя. Става насочвана оптимизация, облечена в костюм на природа.
Най-силният резултат не е най-драматичната анимация. Той е скучният, който се възпроизвежда. Същата конфигурация, същото начално число, същата последователност от тикове, същият хеш на популацията, същият наблюдаван път. След това промени едно условие и гледай разликата. Така Mycelia може да превърне странното поведение от история в обект на изследване. Сухо, възпроизводимо и много по-малко кинематографично, отколкото интернетът предпочита. Добре.
Урокът
Урокът на Mycelia е, че адаптацията се нуждае от натиск, но изследването се нуждае от доказателства. Натиск без доказателства създава истории. Доказателства без натиск създават стерилни демонстрации. Mycelia се опитва да задържи и двете: клетките живеят под ограничения, оформени от физиката, а субстратът поддържа изпълнението възпроизводимо, достатъчно за да се провери какво се е случило.
Това е полезната форма на Mycelia: контролиран изследователски инструмент, а не продуктово представяне в лабораторна престилка. Дава ни място да изучаваме как локалните правила, енергийните бюджети, химията, смъртта, възпроизвеждането и анализът си взаимодействат. Ако се появи нещо интересно, следващото изречение не трябва да е невероятно. То трябва да е покажи ми началното число.