Μυκήλια και νοημοσύνη υπό πίεση
Χωρίς συνάρτηση ανταμοιβής, μόνο συνέπειες
Τα περισσότερα συστήματα τεχνητής νοημοσύνης ξεκινούν με έναν ανθρώπινο ορισμό της επιτυχίας. Μια συνάρτηση απώλειας. Μια συνάρτηση ανταμοιβής. Ένα σύνολο δεδομένων με ετικέτες. Ένα σήμα προτίμησης. Ένας πίνακας ελέγχου που λέει ότι το μοντέλο βελτιώθηκε, συνήθως ενώ όλοι ελπίζουν σιωπηλά ότι η μετρική δεν έμαθε να εξαπατά. Αυτό έχει παραγάγει χρήσιμα συστήματα, αλλά έχει επίσης παραγάγει ένα γνωστό πρόβλημα: η μηχανή βελτιστοποιεί αυτό που ζήτησαν οι άνθρωποι, όχι απαραίτητα αυτό που εννοούσαν οι άνθρωποι.
Το Mycelia ξεκινά από διαφορετική αφετηρία. Δεν είναι άλλο ένα μοντέλο με μια ελαφρώς πιο καλαίσθητη συνάρτηση ανταμοιβής. Είναι ένα ντετερμινιστικό υπόστρωμα τεχνητής ζωής όπου τα κύτταρα ζουν μέσα σε περιορισμούς: η χημεία διαχέεται, η ενέργεια εξαντλείται, ο μεταβολισμός έχει κόστος, ο θάνατος είναι πιθανός και το περιβάλλον δεν νοιάζεται για τον οδικό χάρτη κανενός. Το ερευνητικό ερώτημα είναι ποια προσαρμοστική συμπεριφορά μπορεί να αναδυθεί όταν η επιβίωση είναι η πίεση και οι κανόνες έχουν σχήμα φυσικής, όχι σχήμα προτροπής.
Αυτό το πλαίσιο έχει σημασία. Το Mycelia δεν είναι ισχυρισμός ότι χτίσαμε συνείδηση σε ένα βάζο. Δεν είναι συντόμευση προς την AGI. Δεν είναι μια χαριτωμένη προσομοίωση που αποδεικνύει ότι η φύση ήταν εύκολη εξαρχής. Είναι ένα ερευνητικό εργαλείο για τη μελέτη της καθοδικής προσαρμογής υπό ντετερμινιστικούς κανόνες. Η διαφορά είναι βαρετή με τον ακριβή τρόπο που η επιστήμη πρέπει να είναι βαρετή: αν εμφανιστεί μια συμπεριφορά, θα πρέπει να μπορούμε να την αναπαράγουμε, να την επιθεωρούμε και να ρωτάμε αν το υπόστρωμα την επέτρεψε με ειλικρίνεια.
Ο ιστότοπος περιγράφει το Mycelia ως μια στοίβα με διακριτά ticks, 15 φάσεις ανά tick, γονιδιώματα 88 byte, έξι μεταβολικές δεξαμενές, επτά διαχεόμενες χημικές ουσίες, μια VM βασισμένη σε στοίβα με 73 εντολές, ντετερμινισμό σταθερής υποδιαστολής και ελέγχους διατήρησης. Οι τοπικές ερευνητικές σημειώσεις προχωρούν βαθύτερα, αλλά η κεντρική ιδέα είναι ήδη σαφής: η νοημοσύνη δεν εγχέεται από τα πάνω. Τα κύτταρα αντιμετωπίζουν συνθήκες. Οι κακές στρατηγικές πεθαίνουν. Οι καλύτερες στρατηγικές επιμένουν. Πολύ παρακινητικό, αν η ιδέα σας για κίνητρο περιλαμβάνει τον μόνιμο θάνατο.
Το tick είναι η συνθήκη
Η τεχνητή ζωή γίνεται ολισθηρή όταν στην προσομοίωση επιτρέπεται να παραβλέπει την αιτιότητα. Ένα κύτταρο αντιλαμβάνεται κάτι, κινείται, μεταβολίζει, εκπέμπει ένα σήμα, αναπαράγεται, πεθαίνει και το σύστημα εμφανίζει ένα όμορφο μοτίβο. Ωραία. Αλλά τι συνέβη πρώτα; Ποιο σήμα υπήρχε τη στιγμή της αντίληψης; Ποιο χημικό πεδίο ενημερώθηκε πριν από τον μεταβολισμό; Ποια κατάσταση κατακερματίστηκε; Αν η απάντηση είναι ό,τι έτυχε να κάνει ο προγραμματιστής χρονοπρογραμματισμού σήμερα, το πείραμα είναι ήδη αδύναμο.
Το Mycelia χρησιμοποιεί μια σταθερή δομή tick επειδή το tick είναι η συνθήκη μεταξύ πολυπλοκότητας και επιστήμης. Τα υποσυστήματα προχωρούν με γνωστή σειρά. Η χημεία, η φυσιολογία, ο μεταβολισμός, η εκτέλεση VM, τα γεγονότα κύκλου ζωής και οι εργασίες ελέγχου δεν είναι διαθέσεις σε έναν βρόχο καρέ. Είναι φάσεις. Αυτό καθιστά δυνατό να μιλάμε για αιτιότητα χωρίς να κάνουμε ερμηνευτικό χορό πάνω από αρχεία καταγραφής.
Το ντετερμινιστικό tick διατηρεί επίσης τον παραλληλισμό έντιμο. Το κείμενο του ιστότοπου λέει ότι οι μηχανές που χρειάζονται παραλληλισμό χρησιμοποιούν ντετερμινιστικές αναγωγές, όχι αυθαίρετη σειρά. Αυτό δεν είναι μικρή λεπτομέρεια υλοποίησης. Ο παράλληλος μη ντετερμινισμός μπορεί να δημιουργήσει μικροσκοπικές διαφορές που εξελίσσονται σε διαφορετικούς πληθυσμούς. Μόλις συμβεί αυτό, το πείραμα παύει να είναι αναπαράξιμο και αρχίζει να είναι μια πολύ ακριβή ανέκδοτη ιστορία.
Για την έρευνα, η αναπαραξιμότητα δεν είναι φινίρισμα. Είναι το ελάχιστο όριο. Μια προσομοίωση που δίνει διαφορετικά αποτελέσματα σε x86 και ARM δεν μπορεί να υπερασπιστεί έναν ισχυρισμό περί ανάδυσης. Η υπόσχεση του Mycelia είναι ότι η ίδια διαμόρφωση και το ίδιο seed θα πρέπει να παράγουν την ίδια ακολουθία πληθυσμού σε υποστηριζόμενες αρχιτεκτονικές, με την απόκλιση να αντιμετωπίζεται ως εμπόδιο για την κυκλοφορία. Αυτή είναι η στάση που χρειάζεται ένα υπόστρωμα προτού επιτραπεί στους ενδιαφέροντες ισχυρισμούς να μπουν στο δωμάτιο.
Ένα κύτταρο είναι μικρό επίτηδες
Το πιο χρήσιμο στοιχείο για τη Mycelia είναι και το πιο ταπεινωτικό: ένα κύτταρο είναι μικροσκοπικό. Η δημόσια σελίδα παρουσιάζει το γονιδίωμα ως 88 byte, με bytecode και μεταδεδομένα, που εκτελείται σε μια στοίβα-based εικονική μηχανή. Το τεχνικό κείμενο αναφέρει 73 εντολές. Δεν είναι και πολύς χώρος για μια μεγάλη θεωρία του νου. Καλώς. Το ζητούμενο δεν είναι να κρύψεις μια τεράστια χειροποίητη νοημοσύνη μέσα στο κύτταρο και μετά να προσποιείσαι έκπληξη όταν συμπεριφέρεται έξυπνα.
Το κύτταρο έχει προϋπολογισμό. Η σκέψη είναι φθηνή. Η αίσθηση κοστίζει περισσότερο. Η δράση κοστίζει ακόμα περισσότερο. Έξι μεταβολικές δεξαμενές πρέπει να διαχειρίζονται. Τα έγγραφα και η σελίδα περιγράφουν ATP, αποθέματα πόρων, απόβλητα, ακεραιότητα μεμβράνης και σχετικές πιέσεις επιβίωσης. Η ακριβής βιολογική αναλογία έχει μικρότερη σημασία από τη δομή της μηχανικής: η συμπεριφορά έχει κόστος. Αν ένα κύτταρο ενεργεί σπάταλα, το υπόστρωμα μπορεί να το τιμωρήσει χωρίς να χρειάζεται μια συνάρτηση ανταμοιβής για να εξηγήσει γιατί η σπατάλη ήταν κακή.
Εδώ η Mycelia γίνεται πιο ενδιαφέρουσα από ένα παιχνίδι. Όταν η δράση είναι ακριβή και η σκέψη φθηνή, η εξέλιξη μπορεί να ανακαλύψει προγράμματα που σχεδιάζουν πριν κινηθούν. Όταν η αίσθηση κοστίζει κάτι, η προσοχή γίνεται πόρος. Όταν τα απόβλητα συσσωρεύονται, η επιβίωση δεν είναι απλώς να βρεις τροφή. Είναι να διαχειριστείς τις συνέπειες. Το κύτταρο είναι μικρό, αλλά η πίεση γύρω του δεν είναι.
Υπάρχει και ένα μάθημα προϊόντος κρυμμένο εδώ. Πολλά συστήματα τεχνητής νοημοσύνης εκπαιδεύονται σε περιβάλλοντα όπου το κόστος της δράσης είναι αφηρημένο ή καθυστερημένο. Η Mycelia καθιστά το κόστος άμεσο. Αυτό δεν σημαίνει ότι η Mycelia είναι σήμερα ένα σύστημα προϊόντος. Σημαίνει ότι η έρευνα μπορεί να μας διδάξει πώς αλλάζει η προσαρμοστική συμπεριφορά όταν οι περιορισμοί είναι τοπικοί, συνεχείς και αναπόφευκτοι. Ένα κύτταρο που αγνοεί τον προϋπολογισμό του δεν λαμβάνει ένα πιο ευγενικό μήνυμα σφάλματος. Πεθαίνει. Σκληρό, αλλά αναζωογονητικά σαφές.
Η χημεία είναι το επίπεδο επικοινωνίας
Τα κύτταρα της Mycelia δεν συνομιλούν σε τακτοποιημένα πακέτα. Εκπέμπουν και ανιχνεύουν χημικές ουσίες. Η δημόσια σελίδα αναφέρει επτά διαχυόμενες χημικές ουσίες και δυναμικές αντίδρασης-διάχυσης. Οι τοπικές σημειώσεις περιγράφουν σήματα όπως κανάλια τύπου ντοπαμίνης, κορτιζόλης και ωκυτοκίνης ως πεδία που εξαπλώνονται, φθίνουν και γίνονται μέρος του περιβάλλοντος. Ένα σήμα δεν είναι ένα άμεσο μήνυμα προς έναν παραλήπτη. Είναι μια αλλαγή στην κοινή χημεία.
Αυτή η επιλογή είναι σημαντική γιατί αποτρέπει την κοινωνική συμπεριφορά από το να εισαχθεί λαθραία μέσω ενός API. Αν ένα κύτταρο μπορούσε απλώς να απευθυνθεί σε ένα άλλο κύτταρο και να στείλει μια σημασιολογική εντολή, το σύστημα θα περιείχε ήδη τον κοινωνικό μηχανισμό που αργότερα ισχυρίζεται ότι παρατηρεί. Η διάχυση είναι πιο ακατέργαστη. Είναι τοπική, καθυστερημένη, με απώλειες και κοινή. Ο δέκτης διαβάζει ένα πεδίο, όχι ένα υπόμνημα.
Αυτό καθιστά τα παρατηρούμενα μοτίβα πιο ουσιαστικά. Αν τα κύτταρα κινούνται προς ένα σήμα που συνδέεται με πόρους, αποφεύγουν ένα σήμα που συνδέεται με κίνδυνο ή συγκεντρώνονται γύρω από σήματα συγγένειας, η συμπεριφορά διαμεσολαβείται μέσω του υποστρώματος. Δεν αποδεικνύει από μόνη της νοημοσύνη. Δίνει στους ερευνητές έναν δρόμο για να θέσουν μια καλύτερη ερώτηση: προέκυψε η συμπεριφορά από τοπικούς κανόνες, κόστη και επιλογή, ή βάλαμε κατά λάθος την απάντηση στον μηχανισμό;
Γι' αυτό η Mycelia κρατά την ανάλυση σε κατάσταση μόνο ανάγνωσης. Η σελίδα έρευνας αναφέρει μονάδες ανάλυσης και καμία πίεση Goodhart. Η ανάλυση πρέπει να παρατηρεί και να μετρά. Δεν πρέπει να διαρρέει ανταμοιβή στον κόσμο. Αν η μέτρηση αλλάζει τη συμπεριφορά που ισχυρίζεται ότι μελετά, έχουμε εφεύρει τη συμβουλευτική διοίκησης, όχι την επιστήμη.
Η αναπαραγωγή είναι η διαφορά μεταξύ ιστορίας και αποδεικτικού στοιχείου
Η ανάδυση είναι μια επικίνδυνη λέξη. Είναι χρήσιμη όταν ονομάζει ένα πραγματικό μοτίβο που προκύπτει από τοπικές αλληλεπιδράσεις. Είναι άχρηστη όταν γίνεται ένας ποιητικός τρόπος να πούμε ότι η προσομοίωση φαινόταν εντυπωσιακή. Η Mycelia χρειάζεται αναπαραγωγή, γιατί χωρίς αναπαραγωγή, κάθε ισχυρισμός ανάδυσης είναι απλώς μια ιστορία που λέγεται μετά την εκτέλεση.
Το υπόστρωμα είναι σχεδιασμένο γύρω από διαμορφώσεις με σπόρο, σταθερή σειρά βημάτων, αριθμητική σταθερής υποδιαστολής, κατακερματισμούς κατάστασης πληθυσμού, ελέγχους διατήρησης και σύγκριση μεταξύ αρχιτεκτονικών. Αν εμφανιστεί μια συμπεριφορά, οι ερευνητές θα πρέπει να μπορούν να επιστρέψουν στον σπόρο, να αναπαράγουν την εκτέλεση, να επιθεωρήσουν τα βήματα, να συγκρίνουν τους κατακερματισμούς και να δουν αν εμφανίζεται πάλι η ίδια αλυσίδα. Αυτό δεν είναι γραφειοκρατία. Έτσι η λέξη αποδεικτικό στοιχείο κερδίζει τη θέση της.
Οι έλεγχοι διατήρησης έχουν σημασία για τον ίδιο λόγο. Αν εμφανιστεί ενέργεια ή πληροφορία από το πουθενά, τα κύτταρα μπορεί να φαίνονται προσαρμοστικά για λάθος λόγο. Ένα σφάλμα μπορεί να γίνει μια ψεύτικη στρατηγική επιβίωσης. Ένας σπασμένος κανόνας διάχυσης μπορεί να γίνει ψεύτικη επικοινωνία. Μια διαρροή προγραμματιστή μπορεί να γίνει ψεύτικος συντονισμός. Η στάση της Mycelia είναι να αντιμετωπίζει αυτές τις αποτυχίες ως επιστημονική μόλυνση, όχι ως συνηθισμένα σφάλματα. Αυτό είναι το σωστό επίπεδο παράνοιας.
Σε τι είναι καλή η Mycelia
Η Mycelia είναι χρήσιμη ως ερευνητική υποδομή, επειδή μας επιτρέπει να θέτουμε ερωτήματα που η συνηθισμένη εκπαίδευση μοντέλων δεν θέτει καθαρά. Πώς μοιάζει η προσαρμογή όταν δεν υπάρχει χειρόγραφη συνάρτηση ανταμοιβής; Πώς διαμορφώνουν τον σχεδιασμό τα τοπικά κόστη; Πότε τα χημικά σήματα γίνονται χρήσιμη μνήμη; Μπορεί να εμφανιστεί διαφοροποίηση ρόλων υπό περιορισμένη πίεση επιβίωσης; Ποιες παρατηρήσεις επιβιώνουν από την αναπαραγωγή και τη στατιστική ανάλυση, και ποιες καταρρέουν όταν δοκιμαστούν σωστά;
Αυτά τα ερωτήματα συνδέονται με την ευρύτερη δουλειά της Dweve χωρίς να μετατρέπουν τη Mycelia πρόωρα σε προϊόν. Τα Loom, Nexus και Core δεν είναι Mycelia. Μπορούν ακόμα να επωφεληθούν από την έρευνα. Τα συστήματα που αιτιολογούν, συντονίζουν ή αναπτύσσονται υπό περιορισμούς χρειάζονται καλύτερες διαισθήσεις για το κόστος, τον ντετερμινισμό, την προσαρμογή και τα αποδεικτικά στοιχεία. Η Mycelia είναι ένα μέρος για να αναπτυχθούν αυτές οι διαισθήσεις σε ένα ελεγχόμενο υπόστρωμα.
Υπάρχουν επίσης όρια. Η Mycelia δεν κάνει κλινικούς ισχυρισμούς. Δεν αποδεικνύει τη συνείδηση. Δεν κάνει τους επιχειρηματικούς πράκτορες μαγικά ανθεκτικούς. Δεν αντικαθιστά την αξιολόγηση μοντέλων. Δεν είναι ανοιχτού τύπου απόδειξη ότι η ζωή έχει λυθεί. Είναι ένα ερευνητικό υπόστρωμα με αυστηρούς κανόνες, αναπαραγωγή και ανάλυση. Αυτό αρκεί. Στην έρευνα, το αρκετό είναι ήδη αρκετά πολύ όταν είναι ειλικρινές.
Πώς να κρίνετε έναν ισχυρισμό ανάδυσης
Η χρήσιμη ερώτηση δεν είναι αν ένα μοτίβο φαίνεται έξυπνο. Πολλά πράγματα φαίνονται έξυπνα όταν ένας άνθρωπος το θέλει. Η χρήσιμη ερώτηση είναι τι θα έκανε τον ισχυρισμό να αποτύχει. Αν μια συμπεριφορά εξαφανίζεται όταν αλλάζει ο σπόρος, ίσως ήταν ανέκδοτο. Αν εξαρτάται από μια μονάδα ανάλυσης που τροφοδοτεί πληροφορίες πίσω στον κόσμο, δεν είναι ανάδυση. Αν εμφανίζεται μόνο σε μία αρχιτεκτονική, το υπόστρωμα διαρρέει μη ντετερμινισμό. Αν εξαφανίζεται υπό μια αφαίρεση που δεν θα έπρεπε να έχει σημασία, η εξήγηση ήταν πιθανώς λάθος.
Τα καλά πειράματα Mycelia χρειάζονται λοιπόν ομάδες ελέγχου. Εκτελέστε την ίδια διαμόρφωση με διαφορετικές τιμές seed. Αφαιρέστε ή αλλάξτε ένα χημικό κανάλι. Αλλάξτε την πίεση κόστους. Παγώστε μια συμπεριφορική διαδρομή. Συγκρίνετε αποικίες με μη αποικίες. Ελέγξτε αν η ποικιλομορφία ρόλων συσχετίζεται με την επιβίωση ή απλώς φωτογραφίζεται ωραία. Τα τοπικά έγγραφα μιλούν για ενότητες ανάλυσης, δοκιμές επιβίωσης και διαφοροποίηση ρόλων για κάποιο λόγο: η ανάδυση δεν είναι κάτι που ανακοινώνεις αφού παρακολουθήσεις ένα εντυπωσιακό τρέξιμο. Είναι κάτι που εξετάζεις διεξοδικά μέχρι είτε να επιβιώσει είτε να τα παρατήσει.
Ο κανόνας μόνο για ανάγνωση είναι κεντρικός εδώ. Η ανάλυση μπορεί να ομαδοποιεί συμπεριφορές, να μετρά την επιβίωση, να υπολογίζει στατιστικά και να αναδεικνύει ανωμαλίες, αλλά δεν πρέπει να γίνεται κρυφό κανάλι ανταμοιβής. Ένα κύτταρο δεν πρέπει να βελτιώνεται επειδή άρεσε στον πίνακα ελέγχου. Ένας πληθυσμός δεν πρέπει να οργανώνεται επειδή ο κώδικας μέτρησης το έσπρωξε. Το πείραμα πρέπει να διατηρεί ένα σκληρό τείχος ανάμεσα στον κόσμο που εξελίσσεται και στα εργαλεία που παρατηρούν. Διαφορετικά, το σύστημα μπορεί να παραμένει ενδιαφέρον, αλλά ο ισχυρισμός αλλάζει. Γίνεται καθοδηγούμενη βελτιστοποίηση με κοστούμι φύσης.
Το ισχυρότερο αποτέλεσμα δεν είναι το πιο θεαματικό κινούμενο σχέδιο. Είναι το βαρετό που αναπαράγεται. Ίδια διαμόρφωση, ίδιο seed, ίδια ακολουθία βημάτων, ίδιο hash πληθυσμού, ίδια παρατηρούμενη διαδρομή. Έπειτα αλλάξτε μία συνθήκη και δείτε τη διαφορά. Έτσι μπορεί το Mycelia να μετατρέψει μια παράξενη συμπεριφορά από ιστορία σε ερευνητικό αντικείμενο. Ξηρό, επαναλήψιμο και πολύ λιγότερο κινηματογραφικό από ό,τι προτιμά το διαδίκτυο. Καλό.
Το μάθημα
Το μάθημα του Mycelia είναι ότι η προσαρμογή χρειάζεται πίεση, αλλά η έρευνα χρειάζεται αποδείξεις. Πίεση χωρίς αποδείξεις παράγει ιστορίες. Αποδείξεις χωρίς πίεση παράγουν άψυχα επιδείγματα. Το Mycelia προσπαθεί να κρατήσει και τα δύο: τα κύτταρα ζουν υπό περιορισμούς που διαμορφώνονται από τη φυσική, και το υπόστρωμα διατηρεί το τρέξιμο αρκετά αναπαράξιμο ώστε να εξεταστεί τι συνέβη.
Αυτό είναι το χρήσιμο σχήμα του Mycelia: ένα ελεγχόμενο ερευνητικό όργανο, όχι μια παρουσίαση προϊόντος με εργαστηριακή ποδιά. Μας δίνει έναν χώρο για να μελετήσουμε πώς αλληλεπιδρούν οι τοπικοί κανόνες, οι ενεργειακοί προϋπολογισμοί, η χημεία, ο θάνατος, η αναπαραγωγή και η ανάλυση. Αν προκύψει κάτι ενδιαφέρον, η επόμενη πρόταση δεν πρέπει να είναι καταπληκτικό. Πρέπει να είναι δείξε μου το seed.