Το μέλλον είναι τοπικό, επαληθευμένο και βαρετό
Το μέλλον έφτασε μέσα σε ένα παράθυρο συντήρησης
Το μέλλον δεν έφτασε με μια λαμπερή κεντρική ομιλία. Έφτασε κατά τη διάρκεια ενός παραθύρου συντήρησης, στις 22:30, όταν μια ομάδα λειτουργιών μετέφερε μια κρίσιμη ροή εργασίας από μια εξωτερική εξάρτηση σε ένα περιφερειακό περιβάλλον εκτέλεσης, επιβεβαίωσε ότι τα ίδια αρχεία παρήγαγαν τις ίδιες αποφάσεις, έλεγξε τις αποδείξεις ελέγχου, περιέστρεψε ένα κλειδί, επανέφερε ένα αντίγραφο ασφαλείας και έφυγε πριν τα μεσάνυχτα. Κανείς δεν χειροκρότησε. Οι χρήστες δεν παρατήρησαν τίποτα, εκτός από το ότι η υπηρεσία εξακολουθούσε να λειτουργεί το πρωί. Αυτή δεν είναι η σκηνή που φαντάζονται οι περισσότεροι όταν μιλούν για το μέλλον της τεχνητής νοημοσύνης. Είναι πιθανότατα πιο κοντά σε αυτήν που έχει σημασία.
Η δημόσια αφήγηση για την τεχνητή νοημοσύνη έχει διαμορφωθεί από το θέαμα: μεγαλύτερα μοντέλα, πιο παράξενα επιδείγματα, πιο άνετοι πράκτορες, συνθετικά μέσα, άλματα σε δείκτες μέτρησης, πίνακες ελέγχου που υποδηλώνουν ότι ο οργανισμός έγινε διαστημόπλοιο. Το θέαμα έχει τη θέση του. Μπορεί να δείξει τι είναι δυνατό. Μπορεί να διευρύνει τη φαντασία. Μπορεί επίσης να αποσπάσει την προσοχή από το ερώτημα που καθορίζει αν η τεχνητή νοημοσύνη γίνεται αξιόπιστη υποδομή: μπορεί αυτό το σύστημα να λειτουργήσει εκεί που πρέπει, να αποδείξει τι έκανε και να γίνει αρκετά βαρετό ώστε οι άνθρωποι να βασίζονται σε αυτό χωρίς να μετατρέπουν κάθε έξοδο σε ένα μικρό θεολογικό γεγονός.
Η επόμενη χρήσιμη φάση της τεχνητής νοημοσύνης θα είναι τοπική, επαληθεύσιμη και βαρετή. Τοπική δεν σημαίνει ότι όλα πρέπει να τρέχουν κάτω από ένα γραφείο με έναν ηρωικό ανεμιστήρα. Σημαίνει ότι ο υπολογισμός, τα δεδομένα, τα κλειδιά και η εξουσία πρέπει να βρίσκονται αρκετά κοντά στους ανθρώπους και τους θεσμούς που είναι υπεύθυνοι για αυτά. Επαληθεύσιμη δεν σημαίνει ότι κάθε απάντηση γίνεται μαθηματική απόδειξη. Σημαίνει ότι οι σημαντικοί ισχυρισμοί συνοδεύονται από αποδεικτικά στοιχεία, διαδρομές αναπαραγωγής, καταστάσεις με εκδόσεις και ελέγξιμα όρια. Βαρετή δεν σημαίνει χωρίς φαντασία. Σημαίνει ότι το σύστημα έχει σταματήσει να δημιουργεί αποφεύξιμο δράμα.
Αυτό το μέλλον είναι λιγότερο της μόδας επειδή είναι λιγότερο θεατρικό. Απαιτεί συμβόλαια δεδομένων, μορφές εξαγωγής, ντετερμινιστικά αρχεία, σύνολα αξιολόγησης, σχεδιασμό ρόλων, ασκήσεις ανάκαμψης, ενεργειακή επίγνωση, διαδρομές άρνησης, τοπικά περιβάλλοντα εκτέλεσης, ανοιχτές διεπαφές, δικαιώματα περιστατικών και αρκετή λειτουργική ταπεινότητα για να παραδεχτούμε ότι ένα καλό σύστημα τεχνητής νοημοσύνης είναι αυτό που μπορεί να απογοητεύσει το κοινό μιας κεντρικής ομιλίας και να ενθουσιάσει έναν ελεγκτή. Αυτή δεν είναι μικρή φιλοδοξία. Απλώς δεν ταιριάζει με το κομφετί.
Τοπικό δεν είναι ταχυδρομικός κώδικας
Το τοπικό AI συχνά παρεξηγείται ως επιχείρημα περί ταχυδρομικού κώδικα. Βάλε τον διακομιστή εδώ και το σύστημα γίνεται υπεύθυνο. Η τοποθεσία έχει σημασία, αλλά το «τοπικό» είναι πλουσιότερο από τη γεωγραφία. Ένα φορτίο εργασίας είναι αρκετά τοπικό όταν ο υπεύθυνος φορέας μπορεί να ασκήσει έλεγχο στη μετακίνηση δεδομένων, στον χρόνο εκτέλεσης, στα κλειδιά, στην πρόσβαση, στα αρχεία καταγραφής, στην ανάκτηση και στα αποδεικτικά στοιχεία, χωρίς να ζητά άδεια από μια απομακρυσμένη εξάρτηση τη χειρότερη δυνατή στιγμή. Μερικές φορές αυτό σημαίνει εγκατάσταση εντός των εγκαταστάσεων. Μερικές φορές μια κυρίαρχη περιοχή. Μερικές φορές συσκευές άκρου. Μερικές φορές ένα υβριδικό μοτίβο. Ο χάρτης είναι χρήσιμος μόνο όταν ακολουθεί την εξουσία, όχι το μάρκετινγκ της γεωγραφίας.
Υπάρχουν πρακτικοί λόγοι για να μετακινηθεί η εργασία πιο κοντά. Ευαίσθητα δεδομένα μπορεί να μην επιτρέπεται να ταξιδέψουν. Η καθυστέρηση μπορεί να έχει σημασία. Το ενεργειακό κόστος μπορεί να είναι σαφέστερο τοπικά. Μπορεί να απαιτείται λειτουργία χωρίς σύνδεση. Ένας οργανισμός μπορεί να χρειαστεί να επιθεωρήσει τη συμπεριφορά του μοντέλου με τα δικά του αρχεία. Μια δημόσια υπηρεσία μπορεί να χρειαστεί να διατηρήσει δικαιώματα βάσει εθνικού ή ευρωπαϊκού δικαίου. Ένας κατασκευαστής μπορεί να χρειαστεί συμπερασμούς κοντά σε μια μηχανή. Ένα νοσοκομείο μπορεί να χρειαστεί το πλαίσιο του ασθενούς να παραμείνει εντός ενός ορίου εμπιστοσύνης. Αυτοί δεν είναι ιδεολογικοί λόγοι. Είναι λειτουργικοί περιορισμοί.
Το τοπικό αλλάζει επίσης τα οικονομικά. Το να στέλνεις κάθε μικρή εργασία σε έναν απομακρυσμένο γίγαντα επειδή το API είναι βολικό μπορεί να γίνει ακριβό, εύθραυστο και δύσκολο να εξηγηθεί. Το να εκτελείς κάθε εργασία τοπικά επειδή ακούγεται κυρίαρχο μπορεί να γίνει σπάταλο, υποβαθμισμένο και δύσκολο να συντηρηθεί. Το μέλλον δεν είναι μια ενιαία θρησκεία ανάπτυξης. Είναι πειθαρχία τοποθέτησης. Βάλε την εργασία εκεί όπου τα δεδομένα, ο έλεγχος, η καθυστέρηση, το κόστος, η δεξιότητα και ο κίνδυνος έχουν νόημα. Έπειτα απόδειξε ότι η τοποθέτηση εξακολουθεί να συμπεριφέρεται σωστά όταν ο εύκολος δρόμος αποτυγχάνει.
Τα πιο ενδιαφέροντα τοπικά συστήματα θα είναι συνηθισμένα. Θα χρησιμοποιούν μικρότερα μοντέλα όπου τα μικρότερα μοντέλα αρκούν. Θα συνδυάζουν ανάκτηση, κανόνες, αρχεία και ανθρώπινη αναθεώρηση. Θα αποθηκεύουν προσωρινά με προσοχή, θα ενημερώνονται σκόπιμα και θα αρνούνται όταν λείπει το πλαίσιο. Θα αντιμετωπίζουν το εύρος ζώνης, την ισχύ και την προσοχή του προσωπικού ως πεπερασμένους πόρους. Δεν θα ζητούν συγγνώμη που είναι λιγότερο μαγικά αν είναι πιο αξιόπιστα. Η μαγεία είχε μια γενναιόδωρη δοκιμαστική περίοδο.
Επαληθευμένο σημαίνει ότι η απάντηση συνοδεύεται από αποδεικτικά στοιχεία
Η επαλήθευση δεν είναι ένα πράγμα. Μπορεί να σημαίνει μαθηματική απόδειξη, υπογεγραμμένα αρχεία, ντετερμινιστική αναπαραγωγή, αξιολόγηση σημείων αναφοράς, παραπομπή πηγής, συμμόρφωση με πολιτική, ανθρώπινη έγκριση, καταγραφή ελέγχου, δοκιμές παλινδρόμησης, ανεξάρτητη αναθεώρηση ή έναν απλό έλεγχο ότι ο αριθμός στην οθόνη ταιριάζει με τον αριθμό στην πηγή. Η λέξη είναι μεγάλη επειδή η λογοδοσία είναι μεγάλη. Η χρήσιμη ερώτηση δεν είναι αν ένα σύστημα επαληθεύεται αφηρημένα. Είναι ποιος ισχυρισμός επαληθεύεται, με ποια αποδεικτικά στοιχεία, για ποια συνέπεια.
Μια απάντηση AI που προτείνει ένα μέρος για μεσημεριανό δεν χρειάζεται τα ίδια αποδεικτικά στοιχεία με μια απάντηση που υποστηρίζει μια απόφαση παροχών, μια οδηγία συντήρησης, μια πιστωτική αξιολόγηση, μια κλινική σημείωση ή μια αξιολόγηση ασφάλειας. Τα σοβαρά συστήματα θα πρέπει να κλιμακώνουν την επαλήθευση ανάλογα με τη συνέπεια. Η εργασία χαμηλού κινδύνου μπορεί να κινείται ελαφρά. Η εργασία υψηλού αντίκτυπου χρειάζεται κατάσταση πηγής, κατάσταση μοντέλου, κατάσταση κανόνων, ανθρώπινο ρόλο, χρονοσφραγίδες, διαδρομές διόρθωσης και αναπαραγωγή όπου είναι εφικτό. Αυτό δεν είναι γραφειοκρατία. Είναι αναλογική μνήμη.
Η επαλήθευση αλλάζει επίσης τη συναισθηματική ζωή του AI. Χωρίς αποδεικτικά στοιχεία, κάθε σίγουρη απάντηση ζητά πίστη. Με αποδεικτικά στοιχεία, η απάντηση μπορεί να επιθεωρηθεί. Οι πηγές μπορούν να ελεγχθούν. Οι εκδόσεις μπορούν να συγκριθούν. Οι διορθώσεις μπορούν να γίνουν. Οι αναθεωρητές μπορούν να διαφωνούν χωρίς να γίνονται αιρετικοί. Το σύστημα γίνεται λιγότερο σαν μαντείο και περισσότερο σαν συνάδελφος που φέρνει σημειώσεις. Οι συνάδελφοι που φέρνουν σημειώσεις σπάνια είναι οι πιο λαμπεροί άνθρωποι σε μια συνάντηση. Συχνά είναι ο λόγος που η συνάντηση δεν γίνεται θρύλος.
Το πιο δύσκολο κομμάτι είναι να αρνείσαι την ψευδή επαλήθευση. Μια παραπομπή που οδηγεί σε λάθος πηγή δεν είναι επαλήθευση. Μια μετρική πίνακα ελέγχου χωρίς αναπαραγώγιμες περιπτώσεις δεν είναι επαλήθευση. Μια γενική εξήγηση που λέει ότι εξετάστηκαν οι σχετικοί παράγοντες δεν είναι επαλήθευση. Μια βαθμολογία εμπιστοσύνης χωρίς βαθμονόμηση δεν είναι επαλήθευση. Μια υπογεγραμμένη εγγραφή που παραλείπει την κατάσταση εισόδου είναι μόνο μερικώς χρήσιμη. Η επαλήθευση πρέπει να αντέχει σε έναν δύσπιστο αναγνώστη. Οι φιλικοί αναγνώστες είναι φθηνοί.
Το βαρετό είναι επίτευγμα σχεδιασμού
Τα βαρετά συστήματα συχνά παρεξηγούνται ως απλά συστήματα. Πολλά δεν είναι απλά. Είναι πειθαρχημένα. Διαχειρίζονται τη συνήθη εργασία χωρίς εκπλήξεις, εκθέτουν τα όριά τους με σαφήνεια, αποτυγχάνουν με γνωστούς τρόπους, ανακάμπτουν χωρίς τυμπανοκρουσίες και κρατούν αρκετά αρχεία ώστε κανείς να μην χρειάζεται να ανασυνθέσει την πραγματικότητα από μηνύματα συνομιλίας. Το βαρετό είναι το πώς φαίνονται τα πολύπλοκα συστήματα αφού έχει γίνει αρκετή μηχανική για να μην βιώνουν οι χρήστες την πολυπλοκότητα ως προσωπική τιμωρία.
Η τεχνητή νοημοσύνη χρειάζεται περισσότερη πλήξη. Χρειάζεται βαρετή άρνηση όταν λείπουν οι πηγές. Βαρετά αρχεία καταγραφής που απαντούν σε πραγματικές ερωτήσεις. Βαρετή έκδοση εκδόσεων. Βαρετά σύνολα αξιολόγησης. Βαρετές πύλες ανάπτυξης. Βαρετή εξαγωγή. Βαρετός σχεδιασμός ρόλων. Βαρετές ειδοποιήσεις που δεν απαιτούν ιερατείο για να ερμηνευτούν. Βαρετή κοστολόγηση. Βαρετή τεκμηρίωση που λέει ποιος κατέχει τι. Βαρετή επαναφορά. Το βαρετό δεν είναι εχθρός της νοημοσύνης. Είναι το δοχείο που εμποδίζει τη νοημοσύνη να χυθεί στον διάδρομο.
Η όρεξη για συγκίνηση έχει παραγάγει πάρα πολλά συστήματα που αποδίδουν εντυπωσιακά και λειτουργούν άσχημα. Μπορούν να απαντήσουν σε μια ερώτηση επίδειξης αλλά δεν μπορούν να εξηγήσουν ένα περιστατικό παραγωγής. Μπορούν να συνοψίσουν ένα έγγραφο αλλά όχι να διατηρήσουν την κατάσταση της πηγής. Μπορούν να αυτοματοποιήσουν μια ροή εργασίας αλλά όχι να αναπαραστήσουν την αβεβαιότητα. Μπορούν να κλιμακώσουν τη χρήση αλλά όχι να επισκευάσουν τη ζημιά. Αυτά τα συστήματα δεν είναι προηγμένα. Είναι έφηβα. Άφθονη ενέργεια, περιορισμένες δουλειές.
Ο βαρετός σχεδιασμός θέτει άδοξες ερωτήσεις νωρίς. Τι συμβαίνει όταν το μοντέλο δεν είναι διαθέσιμο. Τι συμβαίνει όταν η απάντηση έχει χαμηλή εμπιστοσύνη. Τι συμβαίνει όταν η πηγή είναι παρωχημένη. Τι συμβαίνει όταν ο χρήστης διαφωνεί. Τι συμβαίνει όταν αλλάζει η πολιτική. Τι συμβαίνει όταν το σύστημα πρέπει να αντικατασταθεί. Τι συμβαίνει όταν φτάνει ο έλεγχος. Ένα σύστημα που μπορεί να απαντήσει σε αυτές τις ερωτήσεις μπορεί να φαίνεται λιγότερο συναρπαστικό. Ωραία. Ο ενθουσιασμός είναι αυτό που αποκαλούν οι άνθρωποι κίνδυνο πριν φτάσει ο λογαριασμός.
Το τοπίο θα γίνει μικρότερο και πιο μικτό
Το μέλλον δεν θα είναι ένα μοναδικό μοντέλο που θα κυριαρχεί σε κάθε εργασία. Θα είναι ένα τοπίο από μοντέλα, κανόνες, συστήματα ανάκτησης, επιλυτές, βάσεις δεδομένων, συμβολικούς ελέγχους, ανθρώπινη αναθεώρηση και εξειδικευμένα εργαλεία ανά τομέα. Κάποιες εργασίες χρειάζονται μεγάλα γενικά μοντέλα. Πολλές χρειάζονται μικρότερα εξειδικευμένα μοντέλα. Κάποιες δεν χρειάζονται καθόλου μοντέλο, μόνο καλύτερα αρχεία και ντετερμινιστικούς κανόνες. Κάποιες χρειάζονται αναζήτηση με τεκμηρίωση προέλευσης. Κάποιες χρειάζονται τυπικούς ελέγχους. Κάποιες χρειάζονται έναν άνθρωπο με καλύτερη διεπαφή και τη δυνατότητα να πει όχι.
Αυτό το μικτό τοπίο είναι πιο υγιές από τη φαντασίωση της καθολικής αυτοματοποίησης. Επιτρέπει στους οργανισμούς να επιλέγουν το λιγότερο ισχυρό εργαλείο που μπορεί να κάνει τη δουλειά με υπευθυνότητα. Αυτή η φράση ακούγεται σαν έλλειψη φιλοδοξίας μέχρι να συνυπολογιστούν ο λογαριασμός ρεύματος, ο προϋπολογισμός καθυστέρησης, ο φόρτος ελέγχου και ο κίνδυνος δεδομένων. Το λιγότερο ισχυρό επαρκές εργαλείο είναι συχνά το πιο κυρίαρχο, συντηρήσιμο και κατανοητό εργαλείο. Είναι επίσης συνήθως αυτό που μπορεί κανείς να διορθώσει πριν από το μεσημεριανό διάλειμμα.
Η τοπική επαληθευμένη βαρετή τεχνητή νοημοσύνη ευνοεί επομένως τη σύνθεση. Ένα μικρό μοντέλο συντάσσει. Η ανάκτηση παρέχει πηγές. Οι κανόνες επιβάλλουν αυστηρούς περιορισμούς. Τα ντετερμινιστικά αρχεία διατηρούν την κατάσταση. Η επαλήθευση ελέγχει τους ισχυρισμούς. Η ανθρώπινη αναθεώρηση αναλαμβάνει την κρίση. Η παρακολούθηση επιτηρεί την απόκλιση. Η εξαγωγή διατηρεί την έξοδο πραγματική. Κάθε μέρος έχει μια δουλειά. Το σύστημα γίνεται λιγότερο μυστηριώδες επειδή η ευθύνη κατανέμεται σκόπιμα αντί να διαλύεται σε μια ενιαία άνετη απάντηση.
Ο κίνδυνος είναι ότι η σύνθεση μπορεί να γίνει ακατάστατη αν κανείς δεν έχει την ευθύνη του συνόλου. Η βαρετή αρχιτεκτονική χρειάζεται σαφή όρια, συμβόλαια και δοκιμές. Ο στόχος δεν είναι ένας σωρός από εξαρτήματα. Είναι ένα λειτουργικό σύστημα όπου κάθε εξάρτημα μπορεί να αντικατασταθεί, να επιθεωρηθεί και να κατηγορηθεί μόνο για τη δουλειά που πραγματικά κάνει. Τα όρια ευθύνης υποτιμώνται. Είναι ο τρόπος με τον οποίο τα περιστατικά γίνονται διορθώσεις αντί για παράσταση εντυπώσεων.
Η ενέργεια θα γίνει ζήτημα διακυβέρνησης
Οι συζητήσεις για την τεχνητή νοημοσύνη συχνά αντιμετωπίζουν την υπολογιστική ισχύ ως βοηθητική υπηρεσία στο παρασκήνιο. Δεν είναι. Η υπολογιστική ισχύς καταναλώνει χρήματα, ηλεκτρική ενέργεια, ψύξη, προμήθεια υλικού, προσοχή του προσωπικού και πολιτικό κεφάλαιο. Καθώς η τεχνητή νοημοσύνη γίνεται συνηθισμένη υποδομή, η ενέργεια θα γίνει μέρος της διακυβέρνησης. Ποιες εργασίες δικαιολογούν απομακρυσμένες κλήσεις μεγάλων μοντέλων. Ποιες μπορούν να τρέξουν σε μικρότερα τοπικά μοντέλα. Ποιες θα έπρεπε να μαζικοποιούνται. Ποιες θα έπρεπε να αποθηκεύονται σε κρυφή μνήμη. Ποιες θα έπρεπε να απορρίπτονται επειδή η αξία δεν δικαιολογεί το κόστος. Ποιοι φόρτοι εργασίας πρέπει να συνεχίσουν να λειτουργούν κατά τη διάρκεια περιορισμών. Αυτά δεν είναι μόνο μηχανικά ζητήματα. Είναι ζητήματα κατανομής πόρων.
Η τοπική τεχνητή νοημοσύνη μπορεί να κάνει την ενέργεια ορατή. Ένα τοπικό ή περιφερειακό περιβάλλον εκτέλεσης αναγκάζει τις ομάδες να βλέπουν πιο άμεσα τη χωρητικότητα, τη θερμότητα, την ουρά αναμονής και το κόστος. Αυτή η ορατότητα μπορεί να είναι άβολη. Καλώς. Η αόρατη κατανάλωση είναι ο τρόπος με τον οποίο οι οργανισμοί ανακαλύπτουν ότι μια απόδειξη ιδέας έχει γίνει ένας φούρνος με διεπαφή χρήστη. Οι απομακρυσμένες υπηρεσίες μπορούν να παραμείνουν αποδοτικές και κατάλληλες, αλλά ο αγοραστής θα πρέπει να κατανοεί τι καταναλώνεται, πού και προς όφελος ποιου.
Η ενεργειακή συνείδηση ενθαρρύνει επίσης τη σωστή διαστασιολόγηση. Δεν χρειάζεται κάθε προσχέδιο email το μεγαλύτερο διαθέσιμο μοντέλο. Δεν χρειάζεται κάθε εργασία εξαγωγής μια αλυσίδα πρακτόρων. Δεν χρειάζεται κάθε ταξινόμηση ζωντανή εξαγωγή συμπερασμάτων αν ένας κανόνας αρκεί. Το μέλλον θα επιβραβεύει συστήματα που αντιμετωπίζουν την υπολογιστική ισχύ ως υλικό σχεδιασμού και όχι ως μαγική νεφέλη στο σύννεφο. Αυτό θα ακούγεται πεζό μέχρι να σφίξουν οι προϋπολογισμοί, να επιβαρυνθούν τα δίκτυα ή να ρωτήσει η προμήθεια γιατί η υπηρεσία κοστίζει περισσότερο όταν επιτέλους αρέσει στους χρήστες.
Υπάρχει και μια πτυχή κυριαρχίας. Η ενέργεια είναι τοπική ακόμα και όταν το λογισμικό προσποιείται ότι δεν είναι. Τα κέντρα δεδομένων στηρίζονται σε δίκτυα ηλεκτροδότησης. Το υλικό στηρίζεται σε αλυσίδες εφοδιασμού. Η ψύξη στηρίζεται στο νερό και στον καιρό. Αν η κρίσιμη τεχνητή νοημοσύνη εξαρτάται από υπολογιστική ισχύ που ο οργανισμός δεν μπορεί να ιεραρχήσει, να επιθεωρήσει ή να πληρώσει υπό πίεση, τότε η εξάρτηση είναι στρατηγική. Το μέλλον είναι τοπικό εν μέρει επειδή η φυσική παραμένει πεισματικά αδιάφορη για την επωνυμία.
Οι οργανισμοί χρειάζονται συστήματα που μπορούν να πουν όχι
Ένα τοπικό, επαληθευμένο και βαρετό σύστημα τεχνητής νοημοσύνης πρέπει να μπορεί να πει όχι. Όχι πηγή. Όχι εξουσιοδότηση. Όχι επικαιρότητα. Όχι εμπιστοσύνη. Όχι ρόλο. Όχι νόμιμο σκοπό. Όχι ασφαλή ενέργεια. Όχι διαθέσιμη χωρητικότητα. Η ικανότητα άρνησης είναι ένα από τα πιο ξεκάθαρα σημάδια ότι ένα σύστημα έχει ωριμάσει. Τα ανώριμα συστήματα απαντούν σε όλα επειδή το να απαντούν μοιάζει με αξία. Τα ώριμα συστήματα γνωρίζουν ότι ορισμένες απαντήσεις είναι υποχρεώσεις με καλή γραμματική.
Η άρνηση είναι ευκολότερη όταν τα αρχεία και η εξουσιοδότηση είναι αρκετά τοπικά για να επιθεωρηθούν και όταν η επαλήθευση έχει μια πραγματική διαδρομή αποδεικτικών στοιχείων. Το σύστημα μπορεί να πει όχι επειδή γνωρίζει ποια προϋπόθεση απέτυχε. Μπορεί να πει σε έναν άνθρωπο πώς να επισκευάσει την υπόθεση. Μπορεί να κλιμακώσει όταν η ίδια η άρνηση έχει συνέπειες. Μπορεί να καταγράψει την άρνηση ώστε οι επαναλαμβανόμενες αποτυχίες να γίνουν αποδεικτικά στοιχεία σχεδιασμού. Μια άρνηση χωρίς εξήγηση είναι παρεμπόδιση. Μια άρνηση με αποδεικτικά στοιχεία είναι έλεγχος.
Η άρνηση προστατεύει επίσης την εμπιστοσύνη. Οι χρήστες μαθαίνουν ότι το σύστημα έχει όρια. Οι αξιολογητές μαθαίνουν ότι τα ελλιπή αποδεικτικά στοιχεία έχουν σημασία. Οι διαχειριστές μαθαίνουν ότι η απόδοση δεν είναι η μόνη μετρική. Ένα σύστημα που αρνείται σωστά μπορεί να φαίνεται λιγότερο παραγωγικό σε έναν αφελή πίνακα ελέγχου και πιο πολύτιμο σε μια ανασκόπηση περιστατικού. Ο πίνακας ελέγχου θα τα βγάλει πέρα. Είχε μια εύκολη ζωή.
Ο σχεδιασμός της άρνησης απαιτεί θάρρος επειδή αποκαλύπτει άλυτα οργανωτικά ζητήματα. Ποιος έχει εξουσία να παρακάμψει. Ποια ελλιπή πεδία μπορούν να συμπληρωθούν από τον χρήστη. Ποια πρέπει να προέρχονται από συστήματα πηγής. Ποιες αποφάσεις αναστέλλονται. Ποιες συνεχίζονται με προειδοποίηση. Ποιες απαιτούν ειδοποίηση. Η άρνηση καθιστά την πολιτική επιχειρησιακή. Αυτός είναι ακριβώς ο λόγος που ανήκει στο μέλλον και όχι στο παράρτημα.
Το τοπικό δεν σημαίνει μοναχικό
Ένα τοπικό μέλλον δεν είναι ένα απομονωμένο μέλλον. Οι οργανισμοί θα συνεχίσουν να συνεργάζονται, να ανταλλάσσουν δεδομένα, να χρησιμοποιούν κοινά μοντέλα, να βασίζονται σε προμηθευτές, να συμμετέχουν σε κλαδικές πλατφόρμες, να συμμετέχουν σε έρευνα και να μαθαίνουν από την παγκόσμια υποδομή. Το ερώτημα δεν είναι αν υπάρχουν εξαρτήσεις. Θα υπάρχουν. Το ερώτημα είναι αν οι εξαρτήσεις είναι επιλεγμένες, ορατές, δοκιμασμένες και περιορισμένες από δικαιώματα που ο οργανισμός μπορεί να ασκήσει.
Τα ανοιχτά πρότυπα, τα φορητά αρχεία, οι κοινές μέθοδοι αξιολόγησης, η διαλειτουργική ταυτότητα, τα υπογεγραμμένα τεχνουργήματα, οι κοινές μορφές ελέγχου και οι διαφανείς προμήθειες μπορούν να κάνουν τα τοπικά συστήματα να συνεργάζονται χωρίς να διαλύουν τον έλεγχο. Εδώ είναι που η βαρετή δουλειά γίνεται πολιτική. Το τυπικό όνομα πεδίου, το μανιφέστο εξαγωγής, το περιβάλλον δοκιμών, ο κανόνας διατήρησης, η αντιστοίχιση ρόλων, το πρωτόκολλο περιστατικού: αυτά δεν είναι γοητευτικά εργαλεία κυριαρχίας, αλλά επιτρέπουν στους οργανισμούς να συνεργάζονται χωρίς να παραδίδουν τη μνήμη τους.
Τοπικό σημαίνει επίσης τοπική τεχνογνωσία. Οι εργαζόμενοι στον τομέα, οι διαχειριστές δεδομένων, οι μηχανικοί, οι νομικές ομάδες, οι χειριστές και οι πληγείσες κοινότητες χρειάζονται λόγο κοντά στο σύστημα. Η τεχνητή νοημοσύνη που είναι τεχνικά εντυπωσιακή αλλά κοινωνικά απομακρυσμένη θα χάσει το πλαίσιο. Το πλαίσιο είναι εκεί όπου κρύβονται πολλά σφάλματα. Ένα σύστημα που λειτουργεί κοντά στην εργασία έχει περισσότερες πιθανότητες να διορθωθεί πριν ένα σφάλμα γίνει πολιτική. Δίνει επίσης στους ανθρώπους έναν τρόπο να διαμορφώνουν την αυτοματοποίηση που τους διαμορφώνει. Αυτό δεν είναι συναίσθημα. Είναι συντήρηση της νομιμότητας.
Η μοναχική εκδοχή του τοπικού είναι εύθραυστη. Η συνεργατική εκδοχή είναι ανθεκτική. Χρησιμοποιεί κοινά εργαλεία χωρίς να χάνει σαφή όρια ευθύνης. Επιτρέπει στους οργανισμούς να μαθαίνουν μαζί, διατηρώντας παράλληλα σαφή τα αρχεία, τα κλειδιά, τις πολιτικές και τις ευθύνες τους. Πολύ βαρετό. Πολύ χρήσιμο.
Η ήσυχη κατεύθυνση
Τα πιο σημαντικά συστήματα τεχνητής νοημοσύνης της επόμενης δεκαετίας μπορεί να είναι λιγότερο ορατά από τα επιδείξεις που έκαναν τους ανθρώπους να πιστέψουν στον τομέα. Θα βρίσκονται μέσα σε δημόσιες υπηρεσίες, νοσοκομεία, εργοστάσια, σχολεία, ενεργειακά συστήματα, νομικές ροές εργασίας, ερευνητικά περιβάλλοντα, διαδικασίες σχεδιασμού και λειτουργίες εξυπηρέτησης πελατών. Δεν θα μιλούν πάντα. Μερικές φορές θα ανακτούν, θα ελέγχουν, θα συγκρίνουν, θα δρομολογούν, θα αρνούνται, θα διατηρούν ή θα ζητούν από έναν άνθρωπο να αποφασίσει. Η αξία τους θα μετριέται λιγότερο από την έκπληξη και περισσότερο από την αποφυγή επανάληψης εργασίας, τα σαφέστερα αρχεία, τις ασφαλέστερες αποφάσεις, τη χαμηλότερη εξάρτηση και τους λιγότερους ανθρώπους που αναγκάζονται να διαφωνήσουν με μια οθόνη που δεν μπορούν να επιθεωρήσουν.
Αυτό το μέλλον απαιτεί αλλαγή γούστου. Πρέπει να θαυμάζουμε συστήματα που τηρούν τις υποσχέσεις τους και όχι συστήματα που μόνο δίνουν νέες. Πρέπει να σεβόμαστε τον τοπικό έλεγχο όταν η ευθύνη είναι τοπική. Πρέπει να απαιτούμε επαλήθευση όταν οι συνέπειες είναι πραγματικές. Πρέπει να σταματήσουμε να αντιμετωπίζουμε τη βαρετή λειτουργία ως τη φάση μετά την καινοτομία και να αρχίσουμε να την αντιμετωπίζουμε ως την απόδειξη ότι η καινοτομία έχει ωριμάσει.
Θα υπάρξουν ακόμα ανακαλύψεις. Κάποιες θα είναι θεαματικές. Καλά. Αλλά η διαρκής αξία θα προέλθει από τη σύνδεση αυτών των ανακαλύψεων με τους θεσμούς με τρόπους που διατηρούν τη μνήμη, την εξουσία και την επισκευή. Ο κόσμος δεν χρειάζεται τεχνητή νοημοσύνη που απλώς ακούγεται πιο έξυπνη. Χρειάζεται τεχνητή νοημοσύνη στην οποία μπορεί να εμπιστευτεί συνηθισμένα καθήκοντα υπό έκτακτη πίεση. Τα συνηθισμένα καθήκοντα είναι εκεί όπου ζουν κυρίως οι κοινωνίες.
Το μέλλον είναι τοπικό, επαληθευμένο και βαρετό επειδή αυτές είναι οι ιδιότητες που καθιστούν την ικανότητα υπόλογη. Το τοπικό φέρνει τον έλεγχο κοντά στην ευθύνη. Το επαληθευμένο καθιστά τους ισχυρισμούς επιθεωρήσιμους. Το βαρετό καθιστά το σύστημα αρκετά επαναλήψιμο για να βασίζεσαι σε αυτό. Δεν είναι το πιο θορυβώδες μέλλον. Είναι αυτό που μπορεί να επιβιώσει από τη χρήση. Αυτό παραμένει το δυσκολότερο επίδειξη από όλα.