Η υπόθεση κατά της μαγικής ενορχήστρωσης
Το γράφημα που έδειχνε έξυπνο
Το διάγραμμα ενορχήστρωσης ήταν όμορφο με τον τρόπο που είναι συχνά όμορφα τα επικίνυνα διαγράμματα. Στρογγυλεμένα πλαίσια, κομψά βέλη, ένας σχεδιαστής, ένας ερευνητής, ένας επαληθευτής, ένας εκτελεστής εργαλείων, ένα επίπεδο μνήμης, ένας κόμβος ανθρώπινης έγκρισης και μια τελική απάντηση. Το demo κινήθηκε με θεατρική αυτοπεποίθηση. Ένας χρήστης ζήτησε μια ανάλυση, ο σχεδιαστής ανέλυσε την εργασία σε βήματα, κλήθηκαν εργαλεία, εμφανίστηκαν ενδιάμεσες σημειώσεις και η τελική απάντηση έφτασε με την ηρεμία ενός συστήματος που δεν είχε γνωρίσει ποτέ παραγωγική κυκλοφορία.
Έπειτα έφτασαν τα πρώτα πραγματικά σφάλματα. Ένα εργαλείο επέστρεψε μερικά δεδομένα. Ο σχεδιαστής δοκίμασε ξανά με διαφορετικό ερώτημα και έχασε τον προηγούμενο συλλογισμό. Ο επαληθευτής έλεγξε το ύφος αλλά όχι τη σύγκρουση πηγών. Η μνήμη έφερε πίσω μια παλιά υπόθεση επειδή φαινόταν σχετική. Ένα βήμα ανθρώπινης έγκρισης ενέκρινε το τελικό κείμενο χωρίς να δει τον αποτυχημένο κλάδο. Το ίχνος υπήρχε, αλλά το διάβασμά του έμοιαζε με επιθεώρηση μιας βαλίτσας που ετοίμασε μια επιτροπή κατά τη διάρκεια άσκησης πυρόσβεσης. Το γράφημα δεν είχε αποτύχει θεαματικά. Είχε κρύψει το σχήμα της ευθύνης.
Αυτό είναι το επιχείρημα κατά της μαγικής ενορχήστρωσης. Όχι κατά της ίδιας της ενορχήστρωσης. Τα πολύπλοκα συστήματα τεχνητής νοημοσύνης χρειάζονται συντονισμό. Πρέπει να καλούν εργαλεία, να δρομολογούν εργασίες, να διαχειρίζονται το πλαίσιο, να ρωτούν τους ανθρώπους, να ανακάμπτουν από αποτυχίες, να μοιράζουν τη δουλειά και να συνδυάζουν τα στοιχεία. Το επιχείρημα αφορά το ύφος ενορχήστρωσης που αντιμετωπίζει ένα έξυπνο γράφημα ή έναν βρόχο πράκτορα ως υποκατάστατο της ρητής κατάστασης, των συμβολαίων, της ιδιοκτησίας, των ορίων και των αρχείων. Η μαγεία εντυπωσιάζει σε ένα demo επειδή κρύβει τον μηχανισμό. Η μηχανική είναι χρήσιμη στην παραγωγή επειδή εκθέτει τον μηχανισμό αρκετά ώστε να επισκευαστεί.
Η ενορχήστρωση τεχνητής νοημοσύνης είναι εκεί όπου η πιθανότητα συναντά τη ροή εργασίας. Αυτή η διασταύρωση δεν συγχωρεί. Ένα μοντέλο μπορεί να επιλέξει ένα σχέδιο. Ένα εργαλείο μπορεί να επιστρέψει ένα αποτέλεσμα. Μια πολιτική μπορεί να επιτρέψει μια ενέργεια. Μια επανάληψη μπορεί να αλλάξει το πλαίσιο. Ένας άνθρωπος μπορεί να εγκρίνει. Ένα κατάντη σύστημα μπορεί να ενεργήσει. Αν αυτές οι μεταβάσεις δεν ονομάζονται, δεν οριοθετούνται και δεν καταγράφονται, ο οργανισμός αποκτά ένα σύστημα που δείχνει έξυπνο αλλά του οποίου η συμπεριφορά είναι δύσκολο να αναπαραχθεί και ακόμη πιο δύσκολο να ελεγχθεί. Δεν είναι αυτόνομο. Είναι απλώς υπεκφυγή με καλύτερη επωνυμία.
Η ενορχήστρωση δεν είναι σκόνη ευφυΐας
Η λέξη ενορχήστρωση μπορεί να κάνει τη συνηθισμένη μηχανική να ακούγεται πρόσφατα μαγευτική. Μια ακολουθία γίνεται αλυσίδα. Μια συνθήκη γίνεται δρομολογητής. Μια κλήση συνάρτησης γίνεται εργαλείο. Ένας βρόχος while γίνεται πράκτορας. Μια ουρά γίνεται μνήμη αν ο φωτισμός είναι κατάλληλος. Μέρος αυτού του λεξιλογίου είναι χρήσιμο επειδή τα συστήματα τεχνητής νοημοσύνης εισάγουν πράγματι νέα προβλήματα συντονισμού. Μέρος του είναι συσκευασία. Η συσκευασία δεν είναι κακή. Γίνεται ακριβή όταν οι ομάδες ξεχνούν τι υπάρχει μέσα στο κουτί.
Στον πυρήνα της, η ενορχήστρωση είναι η διαχείριση της κατάστασης, των αποφάσεων, των πόρων και των μεταβάσεων. Ποια είναι η εργασία. Ποια είναι η τρέχουσα κατάσταση. Ποιες είσοδοι επιτρέπονται. Ποιο εργαλείο μπορεί να κληθεί. Ποιο σχήμα εξόδου αναμένεται. Τι συμβαίνει σε περίπτωση αποτυχίας. Ποιες επαναλήψεις επιτρέπονται. Ποιες ενέργειες απαιτούν έγκριση. Ποια αποδεικτικά στοιχεία πρέπει να διατηρηθούν. Ποιο βήμα μπορεί να αναπαραχθεί. Ποιο βήμα είναι μη αναστρέψιμο. Αυτά τα ερωτήματα υπήρχαν πριν από τη γενετική τεχνητή νοημοσύνη. Τα μοντέλα τα καθιστούν πιο σημαντικά, όχι ξεπερασμένα.
Η μαγική ενορχήστρωση αποφεύγει αυτά τα ερωτήματα αφήνοντας το μοντέλο ή το πλαίσιο να συμπεράνει υπερβολικά πολλά κατά τον χρόνο εκτέλεσης. Ο σχεδιαστής αποφασίζει την αποσύνθεση. Το μοντέλο επιλέγει τα εργαλεία. Η έξοδος του εργαλείου γίνεται περιεχόμενο. Το επόμενο βήμα το ερμηνεύει. Η μνήμη προσθέτει ιστορικό. Ένας επαληθευτής συμφωνεί. Εμφανίζεται η τελική απάντηση. Αυτό μπορεί να λειτουργήσει για διερευνητικές εργασίες χαμηλού ρίσκου. Είναι εύθραυστο όταν η ροή εργασίας αγγίζει αρχεία, χρήματα, ασφάλεια, συμμόρφωση, δεσμεύσεις προς πελάτες, υποδομές ή άλλα συστήματα που δεν εκτιμούν τον αυτοσχεδιασμό.
Ένας πειθαρχημένος σχεδιασμός ενορχήστρωσης δεν αφαιρεί την ευελιξία. Την τοποθετεί μέσα σε όρια. Το μοντέλο μπορεί να προτείνει ένα σχέδιο, αλλά η έξοδος του σχεδιαστή έχει σχήμα. Το σύστημα μπορεί να καλεί εργαλεία, αλλά τα εργαλεία έχουν πεδία εφαρμογής και προϋπολογισμούς. Η ροή εργασίας μπορεί να επαναλαμβάνει προσπάθειες, αλλά οι λόγοι επανάληψης ταξινομούνται. Η μνήμη μπορεί να βοηθά, αλλά η έγκυρη κατάσταση βρίσκεται αλλού. Ένας άνθρωπος μπορεί να εγκρίνει, αλλά η έγκριση βλέπει τους σχετικούς κλάδους και τα αποδεικτικά στοιχεία. Η ευελιξία επιβιώνει. Το μυστήριο δεν έχει τον έλεγχο.
Το πρόβλημα της κρυφής κατάστασης
Η πιο συνηθισμένη αποτυχία ενορχήστρωσης είναι η κρυφή κατάσταση. Η κατάσταση εμφανίζεται σε προτροπές, σημειωματάρια, χώρους αποθήκευσης μνήμης, εξόδους εργαλείων, ενδιάμεσα μηνύματα, περιλήψεις μοντέλων, αποθηκευμένα αποτελέσματα, σχόλια ανθρώπων και εσωτερικά στοιχεία πλαισίου. Κάθε επίπεδο περιέχει μερική αλήθεια. Κανένα δεν είναι το μόνιμο αρχείο. Όταν κάτι πάει στραβά, η ομάδα αναρωτιέται τι πίστευε το σύστημα στο έβδομο βήμα. Η απάντηση είναι ένα κολάζ.
Η κρυφή κατάσταση κάνει τον εντοπισμό σφαλμάτων εξουθενωτικό. Ένα μοντέλο επέλεξε διαφορετικό εργαλείο επειδή μια προηγούμενη περίληψη χρησιμοποίησε ισχυρότερο ρήμα. Μια επανάληψη παρέλειψε έναν περιορισμό. Ένα στοιχείο μνήμης από προηγούμενη εργασία επηρέασε το σχέδιο. Ένα αποτέλεσμα εργαλείου περικόπηκε. Ένας επαληθευτής είδε την τελική απάντηση αλλά όχι τον απορριφθέντα κλάδο. Το σύστημα συμπεριφέρθηκε εύλογα, και η εύλογη συμπεριφορά είναι ο πιο ενοχλητικός τύπος για διερεύνηση, επειδή αρνείται να φανεί χαλασμένο μέχρι να μάθεις το γεγονός που λείπει.
Η μόνιμη κατάσταση εργασίας πρέπει να είναι ρητή. Πρέπει να περιλαμβάνει την πρόθεση της εργασίας, το επιτρεπόμενο πεδίο εφαρμογής, το σύνολο πηγών, την έκδοση σχεδίου, τις κλήσεις εργαλείων, τις εξόδους εργαλείων, τους λόγους επανάληψης, τις ανθρώπινες αποφάσεις, τους ελέγχους πολιτικής, τα κόστη, τα χρονικά όρια και τις εφαρμοσθείσες ενέργειες. Δεν χρειάζεται κάθε αλληλεπίδραση χαμηλού ρίσκου ένα βαρύ αρχείο καταγραφής, αλλά κάθε ενορχήστρωση που μπορεί να επηρεάσει πραγματική εργασία χρειάζεται ένα μοντέλο κατάστασης πέρα από το αντίγραφο συνομιλίας. Το αντίγραφο είναι χρήσιμη αφήγηση. Δεν είναι το λειτουργικό σύστημα.
Η ρητή κατάσταση βελτιώνει επίσης τον σχεδιασμό προϊόντος. Οι χρήστες μπορούν να δουν αν το σύστημα σχεδιάζει, περιμένει ένα εργαλείο, έχει αποκλειστεί από πολιτική, ζητά αναθεώρηση, επαναλαμβάνει μετά από προσωρινό σφάλμα ή είναι έτοιμο να εφαρμόσει αλλαγές. Οι χειριστές μπορούν να θέτουν σε παύση ή να συνεχίζουν. Οι προγραμματιστές μπορούν να δοκιμάζουν μεταβάσεις. Οι ελεγκτές μπορούν να αναπαράγουν. Το σύστημα γίνεται λιγότερο μαγικό και πιο χρήσιμο, μια ανταλλαγή που κάποιες επιδείξεις αντιστέκονται να κάνουν και τις περισσότερες ομάδες λειτουργίας την εκτιμούν βαθιά.
Οι κλήσεις εργαλείων δεν είναι αθώες
Η χρήση εργαλείων δίνει στα συστήματα τεχνητής νοημοσύνης χέρια. Αυτό είναι χρήσιμο και επικίνδυνο. Η ανάγνωση ενός ημερολογίου, η αναζήτηση εγγράφων, το ερώτημα σε βάση δεδομένων, η αποστολή email, το άνοιγμα αιτήματος, η αλλαγή εγγραφής, η ανάπτυξη κώδικα ή η μεταφορά χρημάτων δεν είναι ισοδύναμες ενέργειες. Ένας μαγικός ενορχηστρωτής μπορεί να τις αντιμετωπίζει ως εργαλεία σε μια λίστα. Ένα σοβαρό σύστημα τις αντιμετωπίζει ως δυνατότητες με πεδία εφαρμογής, παρενέργειες, δικαιώματα, προϋπολογισμούς και απαιτήσεις αποδεικτικών στοιχείων.
Κάθε κλήση εργαλείου χρειάζεται ένα συμβόλαιο. Τα δεδομένα εισόδου πρέπει να έχουν τύπο και να επικυρώνονται. Τα αποτελέσματα πρέπει να ελέγχονται. Τα σφάλματα πρέπει να ταξινομούνται. Οι παρενέργειες πρέπει να δηλώνονται. Η αδυναμία εκτέλεσης πρέπει να είναι κατανοητή. Τα χρονικά όρια πρέπει να είναι περιορισμένα. Οι επαναλήψεις πρέπει να είναι ασφαλείς. Τα δικαιώματα πρέπει να προέρχονται από τον χρήστη, την εργασία και την πολιτική, όχι από τον ενθουσιασμό του μοντέλου. Το σύστημα θα πρέπει να γνωρίζει αν ένα εργαλείο μόνο διαβάζει, γράφει ένα προσχέδιο, αλλάζει μια εγγραφή, ειδοποιεί ένα άτομο ή ενεργοποιεί μια εξωτερική υποχρέωση. Ένα σφυρί και μια τραπεζική μεταφορά δεν θα έπρεπε να έχουν την ίδια αίσθηση.
Η έξοδος ενός εργαλείου πρέπει επίσης να αντιμετωπίζεται ως είσοδος. Μπορεί να είναι μερική, παρωχημένη, μη εξουσιοδοτημένη, διφορούμενη ή εχθρική. Ένα αποτέλεσμα αναζήτησης δεν αποτελεί απόδειξη έως ότου το σύστημα γνωρίζει την πηγή, την επικαιρότητα και την άδεια. Ένα αποτέλεσμα βάσης δεδομένων μπορεί να παραλείπει εγγραφές λόγω ελέγχου πρόσβασης. Ένα σφάλμα API μπορεί να επιστρέψει ένα μήνυμα που δεν θα έπρεπε να γίνει οδηγία. Ένα εργαλείο μπορεί να αποτύχει ευγενικά και παρόλα αυτά να αποτύχει. Ο ενορχηστρωτής δεν πρέπει να τροφοδοτεί κάθε απόκριση εργαλείου πίσω στο μοντέλο σαν η επιστροφή κειμένου να ισοδυναμούσε με την αλήθεια.
Οι παρενέργειες απαιτούν ιδιαίτερη προσοχή. Ένα σχέδιο που δημιουργείται από το μοντέλο μπορεί να απορριφθεί. Ένα email που στάλθηκε δεν μπορεί να ανακληθεί με την ίδια βεβαιότητα. Μια αλλαγμένη εγγραφή μπορεί να ενεργοποιήσει κατάντη συστήματα. Μια ανάπτυξη μπορεί να επηρεάσει χρήστες. Μια επιστροφή χρημάτων μπορεί να μετακινήσει χρήματα. Η ενορχήστρωση θα πρέπει να διαχωρίζει την πρόταση από την εκτέλεση και να απαιτεί ρητές πύλες για μη αναστρέψιμα ή σημαντικά βήματα. Αν ένα σύστημα μπορεί να κάνει πραγματικά πράγματα, χρειάζεται κάτι περισσότερο από έναν βρόχο πράκτορα. Χρειάζεται φρένα, κλειδιά και κάποιον που να ξέρει πού βρίσκεται το εφεδρικό.
Οι επαναλήψεις είναι πολιτική μεταμφιεσμένη
Οι επαναλήψεις μοιάζουν με συγκολλητική ουσία μηχανικής έως ότου ένας ενορχηστρωτής AI αρχίσει να παίρνει αποφάσεις. Αν ένα εργαλείο αποτύχει, επανάλαβε. Αν η έξοδος του μοντέλου είναι κακοσχηματισμένη, ρώτα ξανά. Αν ο επαληθευτής απορρίψει την απάντηση, αναθεώρησε. Αν το σχέδιο σταματήσει, κάνε νέο σχεδιασμό. Αυτό μπορεί να είναι λογικό. Μπορεί επίσης να αλλάξει το αποτέλεσμα, να κρύψει την αβεβαιότητα, να αυξήσει το κόστος ή να εξαλείψει τα στοιχεία για το γιατί απέτυχε η πρώτη διαδρομή. Μια επανάληψη δεν είναι απλώς μια δεύτερη προσπάθεια. Είναι μια απόφαση για το είδος αποτυχίας που επιτρέπεται στο σύστημα να εξομαλύνει.
Η πολιτική επαναλήψεων θα πρέπει να είναι ρητή. Τα παροδικά σφάλματα υποδομής μπορούν να επαναληφθούν διαφορετικά από τις συγκρούσεις πολιτικής. Το κακοσχηματισμένο JSON μπορεί να επιδιορθωθεί διαφορετικά από τα ελλιπή στοιχεία. Η χαμηλή εμπιστοσύνη μπορεί να ενεργοποιήσει αναθεώρηση αντί για άλλο δείγμα. Η σύγκρουση πηγών δεν θα έπρεπε να λύνεται ζητώντας από το μοντέλο να ακούγεται πιο αποφασιστικό. Το χρονικό όριο ενός εργαλείου δεν θα έπρεπε να γίνει άδεια για χρήση ασθενέστερης πηγής χωρίς να επισημαίνεται η αλλαγή. Το σύστημα πρέπει να γνωρίζει γιατί επαναλαμβάνει, τι διατηρείται, τι αλλάζει και πότε να σταματήσει.
Χωρίς αυτή την πειθαρχία, η ενορχήστρωση δημιουργεί ευγενικούς βρόχους. Το σύστημα συνεχίζει να προσπαθεί επειδή η προσπάθεια είναι φθηνή σε κώδικα. Μπορεί να κάψει προϋπολογισμό, να γεμίσει αρχεία καταγραφής, να μπερδέψει χρήστες και τελικά να παράγει μια απάντηση που φαίνεται καλύτερη κυρίως επειδή τα προηγούμενα στοιχεία αστάθειας είναι κρυμμένα. Στην παραγωγή, ένας βρόχος που κρύβει τις δικές του αποτυχημένες προσπάθειες δεν είναι επιμονή. Είναι αμνησία με γραμμή προόδου.
Οι επαναλήψεις θα πρέπει να παράγουν αρχεία. Αριθμός προσπαθειών, λόγος, αλλαγμένα δεδομένα εισόδου, αλλαγμένο σχέδιο, διατηρημένα στοιχεία, κόστος, καθυστέρηση και τελική έκβαση. Αυτό δίνει στους χειριστές τη δυνατότητα να δουν αν μια ροή εργασίας είναι υγιής ή απλώς επίμονη. Βοηθά επίσης να αποφασιστεί αν πρέπει να διορθωθεί η ποιότητα εισόδου, η αξιοπιστία του εργαλείου, η μορφοποίηση του μοντέλου, η σαφήνεια της πολιτικής ή οι προσδοκίες των χρηστών. Μια επανάληψη χωρίς ταξινόμηση είναι ένα σήκωμα των ώμων σε εκτελέσιμη μορφή.
Η επαλήθευση δεν είναι διακοσμητικός κόμβος
Πολλά διαγράμματα ενορχήστρωσης περιλαμβάνουν έναν επαληθευτή. Ωραία. Στη συνέχεια, ο επαληθευτής καλείται να ελέγξει αν η απάντηση είναι εύλογη, καλά διατυπωμένη ή σύμφωνη με τις οδηγίες. Λιγότερο ωραία. Ένας επαληθευτής που διαβάζει μόνο την τελική απάντηση μπορεί να χάσει τα σφάλματα που έχουν σημασία: μια αδύναμη πηγή, μια απαγορευμένη είσοδος, ένα αποτυχημένο εργαλείο, μια σύγκρουση πολιτικής, μια μη ασφαλής ενέργεια ή ένα σχέδιο που άλλαξε χωρίς έγκριση. Μπορεί να γυαλίσει την εξώπορτα ενώ η κουζίνα καίγεται.
Η επαλήθευση θα πρέπει να συνδέεται με συμβάσεις και συνέπειες. Αν η εργασία είναι εξαγωγή, επαληθεύστε με βάση τα αποσπάσματα της πηγής. Αν η εργασία είναι ταξινόμηση, επαληθεύστε τις επιτρεπόμενες ετικέτες και τα αποδεικτικά στοιχεία. Αν η εργασία είναι εκτέλεση εργαλείου, επαληθεύστε τα δικαιώματα, τα ορίσματα, τις παρενέργειες και την επαναφορά. Αν η εργασία είναι υποστήριξη αποφάσεων, επαληθεύστε την πολιτική, την επικαιρότητα της πηγής, την αβεβαιότητα και τις απαιτήσεις αναθεώρησης. Αν η εργασία είναι επικοινωνία, επαληθεύστε το κοινό, τους ισχυρισμούς, τον τόνο και τη γνωστοποίηση. Ένας γενικός επαληθευτής είναι καλύτερος από το τίποτα. Ένας επαληθευτής ειδικός για την εργασία είναι καλύτερος από το θέατρο.
Μέρος της επαλήθευσης θα πρέπει να είναι ντετερμινιστικό. Τα σχήματα, οι επιτρεπόμενες τιμές, τα δικαιώματα, οι προϋπολογισμοί, τα όρια, η επικαιρότητα της πηγής και τα υποχρεωτικά πεδία δεν χρειάζονται την ποιητική κρίση ενός μοντέλου. Χρησιμοποιήστε κανόνες όπου οι κανόνες είναι σαφείς. Χρησιμοποιήστε μοντέλα όπου η ασάφεια είναι πραγματική. Χρησιμοποιήστε ανθρώπους όπου η συνέπεια και το αμφισβητούμενο νόημα απαιτούν ευθύνη. Η μαγική ενορχήστρωση συχνά ζητά από ένα μοντέλο να επαληθεύσει ένα άλλο μοντέλο επειδή φαίνεται συμμετρικό. Η συμμετρία είναι ευχάριστη στα αρχιτεκτονικά διαγράμματα. Δεν είναι αυτόματα έλεγχος.
Ο επαληθευτής θα πρέπει να βλέπει το ίχνος που χρειάζεται. Το τελικό κείμενο από μόνο του σπάνια αρκεί. Χρειάζεται τις εισόδους, το σύνολο πηγών, τα αποτελέσματα των εργαλείων, τις αποτυχημένες προσπάθειες, τους μετασχηματισμούς, τους ελέγχους πολιτικής και την προγραμματισμένη ενέργεια. Θα πρέπει επίσης να έχει την εξουσία να μπλοκάρει, να ζητά περισσότερα αποδεικτικά στοιχεία, να παραπέμπει σε ανθρώπινη αναθεώρηση ή να επισημαίνει περιορισμούς. Ένας επαληθευτής που δεν μπορεί να σταματήσει τη ροή εργασίας είναι ένας κριτής με καλά ρούχα.
Η μνήμη δεν πρέπει να υποδύεται την εξουσία
Η μνήμη του πράκτορα είναι χρήσιμη όταν μεταφέρει προτιμήσεις, προηγούμενο πλαίσιο και γνώση επαναλαμβανόμενων εργασιών. Είναι επικίνδυνη όταν υποδύεται την έγκυρη κατάσταση. Μια θυμημένη προτίμηση δεν είναι πολιτική. Μια προηγούμενη απάντηση δεν είναι αρχείο. Μια σύνοψη μιας υπόθεσης δεν είναι η υπόθεση. Ένα επιτυχημένο προηγούμενο σχέδιο δεν αποδεικνύει ότι η επόμενη εργασία επιτρέπει τα ίδια εργαλεία. Η μνήμη βοηθά στη συνέχεια. Δεν θα πρέπει να της επιτρέπεται να μεταφέρει λαθραία εξουσία από το χθες στο σήμερα.
Η μνήμη χρειάζεται τύπους. Η προσωπική προτίμηση, η κατάσταση εργασίας, η οργανωτική πολιτική, τα αποδεικτικά στοιχεία πηγής, το μαθημένο μοτίβο, το αποθηκευμένο αποτέλεσμα εργαλείου και η ιστορική απόφαση είναι διαφορετικά πράγματα. Χρειάζονται διαφορετικό εύρος, λήξη, δικαιώματα και εμφάνιση. Αν ένας ενορχηστρωτής απλώς ανακτά σχετικές μνήμες και τις προσθέτει στο πλαίσιο, η συνάφεια γίνεται η μόνη πύλη. Η συνάφεια δεν είναι άδεια. Μια ιδιωτική σημείωση μπορεί να είναι σχετική. Μπορεί παρόλα αυτά να είναι απαγορευμένη.
Η μνήμη χρειάζεται επίσης διαγραφή και διόρθωση. Μια λανθασμένη υπόθεση δεν θα πρέπει να επιμένει επειδή ήταν χρήσιμη κάποτε. Μια προσωρινή συνθήκη έργου θα πρέπει να λήγει. Μια διόρθωση χρήστη θα πρέπει να ισχύει σε καθορισμένο εύρος. Μια αλλαγή πολιτικής θα πρέπει να ακυρώνει την παλιά μνήμη. Μια σύνοψη που δημιουργήθηκε από μοντέλο δεν θα πρέπει να γίνεται η συντόμευση που αντικαθιστά μια πρωτογενή πηγή. Το σύστημα θα πρέπει να δείχνει ποια μνήμη επηρέασε ένα σχέδιο και να επιτρέπει στους χρήστες να την αμφισβητήσουν. Διαφορετικά, η μνήμη γίνεται μια ευγενική στοιχειωμένη παρουσία.
Ο κανόνας είναι απλός: η έγκυρη κατάσταση ζει σε διαχειριζόμενα αποθετήρια. Η μνήμη μπορεί να βοηθά τον σχεδιασμό, αλλά δεν θα πρέπει να αποφασίζει σιωπηλά. Αν ο ενορχηστρωτής χρησιμοποιεί μνήμη, καταγράψτε ποια μνήμη, γιατί επιτράπηκε και πώς επηρέασε το σχέδιο. Αυτό φαίνεται βαρύ μόνο αν η μνήμη κάνει σημαντική δουλειά. Αν η μνήμη κάνει σημαντική δουλειά, το βάρος είναι ακριβώς το ζητούμενο.
Το απλό υπερτερεί του μαγικού πιο συχνά απ' ό,τι περιμένουν οι ομάδες
Δεν χρειάζεται κάθε ροή εργασίας AI πράκτορες. Κάποιες χρειάζονται έναν ντετερμινιστικό αγωγό με ένα βήμα μοντέλου. Κάποιες χρειάζονται ανάκτηση, έναν ταξινομητή και μια ουρά ανθρώπινης αναθεώρησης. Κάποιες χρειάζονται μια φόρμα που καλεί ένα μοντέλο για σύνταξη. Κάποιες χρειάζονται αξιολόγηση παρτίδας. Κάποιες χρειάζονται έναν σχεδιαστή. Κάποιες χρειάζονται χρήση εργαλείων πολλαπλών βημάτων. Η αρχιτεκτονική πρέπει να ακολουθεί την εργασία, όχι τον τρέχοντα ενθουσιασμό για διαγράμματα σε σχήμα πράκτορα.
Η βαρετή εναλλακτική συχνά κερδίζει. Μια σταθερή ακολουθία είναι πιο εύκολο να δοκιμαστεί από έναν ανοιχτό βρόχο. Μια τυποποιημένη πύλη εργαλείων είναι ασφαλέστερη από την ελεύθερη επιλογή εργαλείων. Μια ουρά με σαφείς καταστάσεις είναι πιο εύκολο να λειτουργήσει από έναν αναδρομικό πράκτορα. Ένας φύλακας βασισμένος σε κανόνες είναι φθηνότερος από έναν κριτή μοντέλου όταν ο κανόνας είναι σαφής. Μια διαδρομή ανθρώπινης κλιμάκωσης είναι καλύτερη από άλλη μια επανάληψη όταν οι συνέπειες είναι υψηλές. Αυτές δεν είναι θέσεις κατά του AI. Είναι θέσεις υπέρ του συστήματος.
Υπάρχει ένας συμβιβασμός. Η πιο ευέλικτη ενορχήστρωση μπορεί να διαχειριστεί την ασάφεια και τις απροσδόκητες διαδρομές. Αυξάνει επίσης τη διακύμανση, το βάρος των αποδεικτικών στοιχείων, το κόστος και την πολυπλοκότητα εντοπισμού σφαλμάτων. Η πιο ρητή ενορχήστρωση μπορεί να φαίνεται άκαμπτη. Βελτιώνει επίσης την αναπαραγωγιμότητα, την ιδιοκτησία και την ανάκαμψη. Το σωστό σημείο εξαρτάται από την ασάφεια της εργασίας, τις συνέπειες, τον όγκο και την ανοχή στην αποτυχία. Η μαγική σκέψη προσποιείται ότι το ευέλικτο άκρο τα δίνει όλα δωρεάν. Η παραγωγή στέλνει αργότερα τον λογαριασμό, με αναλυτικά στοιχεία.
Μια χρήσιμη ερώτηση σχεδιασμού είναι: τι δεν πρέπει ποτέ να επιλέγεται από το μοντέλο. Η εξουσία της πηγής. Τα δικαιώματα χρήστη. Τα όρια προϋπολογισμού. Οι μη αναστρέψιμες ενέργειες. Οι υποχρεώσεις διατήρησης. Η νομική βάση. Τα όρια ασφαλείας. Κάποια από αυτά μπορούν να προταθούν ή να εξηγηθούν από μοντέλα. Δεν θα έπρεπε να ορίζονται σιωπηλά από αυτά. Ένα μοντέλο μπορεί να βοηθήσει στην πλοήγηση μιας ροής εργασίας. Δεν θα έπρεπε να γίνεται το σύνταγμα επειδή ήταν βολικό να μπαίνουν τα πάντα στα συμφραζόμενα.
Σχεδιάστε την ενορχήστρωση ως λειτουργικό μοντέλο
Η σοβαρή ενορχήστρωση ξεκινά με τη σύμβαση εργασίας. Ποιος είναι ο στόχος. Ποια δεδομένα επιτρέπονται. Ποιες έξοδοι είναι αποδεκτές. Ποια εργαλεία μπορούν να χρησιμοποιηθούν. Ποιες ενέργειες απαγορεύονται. Ποιος προϋπολογισμός ισχύει. Ποια καθυστέρηση είναι ανεκτή. Ποια αποδεικτικά στοιχεία πρέπει να διατηρηθούν. Ποιοι ανθρώπινοι ρόλοι υπάρχουν. Ποιες καταστάσεις αποτυχίας είναι πιθανές. Ποιες διαδρομές ανάκαμψης υπάρχουν. Αν η ομάδα δεν μπορεί να απαντήσει σε αυτές τις ερωτήσεις, δεν χρειάζεται ένα πιο μαγικό γράφημα. Χρειάζεται μια σαφέστερη εργασία.
Στη συνέχεια, ορίστε τις μεταβάσεις καταστάσεων. Προγραμματισμένο, αναμονή για είσοδο, ανάκτηση, εκκρεμές εργαλείο, αποτυχημένο εργαλείο, σύγκρουση αποδεικτικών στοιχείων, αποκλεισμένο από πολιτική, ανθρώπινη αναθεώρηση, εγκεκριμένο, εφαρμοσμένο, αντισταθμισμένο, ακυρωμένο. Αυτές οι καταστάσεις μπορεί να ακούγονται κοινότοπες επειδή είναι. Επιτρέπουν τη λειτουργία του συστήματος. Επιτρέπουν σε ένα άτομο να γνωρίζει αν πρέπει να περιμένει, να παρέμβει, να εγκρίνει ή να επισκευάσει. Επιτρέπουν στα τεστ να επιβεβαιώνουν τη συμπεριφορά. Επιτρέπουν στα περιστατικά να ξεκινούν από γεγονότα αντί από εντυπώσεις.
Στη συνέχεια, ορίστε τα όρια. Τα μοντέλα συντάσσουν σχέδια. Οι πύλες εκτελούν εργαλεία. Οι κανόνες επιβάλλουν σαφείς περιορισμούς. Οι επαληθευτές ελέγχουν συμβάσεις. Οι άνθρωποι αποφασίζουν για αμφισβητούμενες συνέπειες. Τα αρχεία καταγραφής διατηρούν αποδεικτικά στοιχεία. Οι ουρές διαχειρίζονται την καθυστέρηση. Η αποθήκευση κρατά διαρκή κατάσταση. Κάθε όριο θα έπρεπε να είναι αρκετά βαρετό για να εξηγηθεί. Αν το μοντέλο κάνει πολλά από αυτά επειδή ήταν πιο εύκολο, ονομάστε τον κίνδυνο και αποφασίστε αν η εργασία είναι αρκετά χαμηλού διακυβεύματος για να γίνει ανεκτή. Μερικές φορές είναι. Πολλοί εσωτερικοί βοηθοί μπορούν να είναι ελαφροί. Το πρόβλημα είναι να προσποιείσαι ότι ο ελαφρύς σχεδιασμός είναι θεμέλιο για αυτοματοποίηση υψηλών συνεπειών.
Τέλος, αποτυχία δοκιμής. Το εργαλείο επιστρέφει μερικά δεδομένα. Η πηγή έρχεται σε σύγκρουση. Το μοντέλο παράγει μη έγκυρη έξοδο. Η μνήμη είναι παρωχημένη. Ο χρήστης δεν έχει δικαιώματα. Έχει εξαντληθεί το όριο κόστους. Η ανθρώπινη αναθεώρηση δεν είναι διαθέσιμη. Το δίκτυο είναι αργό. Το σχέδιο αλλάζει μετά την έγκριση. Η ενέργεια εν μέρει επιτυγχάνει. Αν ο ενορχηστρωτής δεν μπορεί να σας πει τι συμβαίνει σε αυτές τις περιπτώσεις, το γράφημα είναι διακοσμητικό. Μπορεί να είναι και ένα όμορφο γράφημα. Βάλτε το κοντά σε ένα φυτό, όχι κοντά στην παραγωγή.
Το μάθημα
Η επιχειρηματολογία κατά της μαγικής ενορχήστρωσης είναι επιχειρηματολογία υπέρ της μηχανικής πειθαρχίας. Τα συστήματα τεχνητής νοημοσύνης χρειάζονται συντονισμό και τα μοντέλα μπορούν να κάνουν τον συντονισμό πιο προσαρμοστικό. Αλλά η προσαρμογή χωρίς ρητή κατάσταση, συμβόλαια εργαλείων, πολιτική επανάληψης, επαλήθευση, όρια μνήμης, πύλες ενεργειών και διαδρομές ανάκαμψης δεν είναι ευφυΐα. Είναι ένα σύστημα που ζητά από τους μελλοντικούς χειριστές να ανακαλύψουν τον σχεδιασμό του διαβάζοντας ίχνη αφού κάτι ακριβό έχει συμβεί.
Η καλή ενορχήστρωση είναι λιγότερο μυστικιστική και πιο χρήσιμη. Ονομάζει καταστάσεις. Περιορίζει τα εργαλεία. Καταγράφει αποδεικτικά στοιχεία. Διαχωρίζει την πρόταση από την ενέργεια. Ταξινομεί τις επαναλήψεις. Επαληθεύει βάσει συμβολαίων εργασιών. Αντιμετωπίζει τη μνήμη ως υποβοηθητική, όχι ως αυθεντία. Δίνει στους ανθρώπους καταστάσεις που μπορούν να αναθεωρηθούν αντί για αδιαφανή αρχεία καταγραφής. Επιλέγει απλούς αγωγούς όταν οι απλοί αγωγοί αρκούν. Προσθέτει πράκτορες όπου η ασάφεια δικαιολογεί το λειτουργικό κόστος.
Η μαγεία κρύβει τον μηχανισμό. Τα σοβαρά συστήματα τεχνητής νοημοσύνης χρειάζονται μηχανισμούς που μπορούν να επιθεωρηθούν, να τεθούν σε παύση, να διορθωθούν και να βελτιωθούν. Ο στόχος δεν είναι να αφαιρεθεί ο θαυμασμός από το λογισμικό. Ο στόχος είναι να κρατηθεί ο θαυμασμός έξω από την αναφορά συμβάντος.