Γιατί οι περιορισμοί κάνουν την τεχνολογία πιο ανθρώπινη
Η φόρμα που έσωσε το απόγευμα
Κάποτε ένας φοιτητής μού έδειξε μια φόρμα εισαγωγής που όλοι στον οργανισμό μισούσαν. Είχε αυστηρά πεδία, υποχρεωτικές ημερομηνίες, περιορισμένες επιλογές και αρνούνταν να προχωρήσει όταν έλειπε το πρωτότυπο έγγραφο. Ο κόσμος την αποκαλούσε γραφειοκρατική, φυσικά. Γραφειοκρατικό λέμε ό,τι αρνείται να συνεργαστεί με την επιθυμία μας να αυτοσχεδιάσουμε. Μετά η ομάδα τη συνέκρινε με την παλιά φόρμα ελεύθερου κειμένου. Η μισητή φόρμα ήταν άσχημη. Η παλιά εισαγωγή ήταν ένας βάλτος.
Στην παλιά διαδικασία, ο κόσμος έγραφε σημειώσεις με το δικό του ύφος. Οι ημερομηνίες άλλαζαν μορφή. Η συναίνεση υπονοούνταν από την αισιοδοξία. Τα κρίσιμα πεδία ήταν κρυμμένα μέσα σε παραγράφους. Το επόμενο τμήμα έπρεπε να διαβάσει, να ερμηνεύσει, να κυνηγήσει και να μαντέψει. Όταν κάτι πήγαινε στραβά, ο οργανισμός δεν μπορούσε να πει αν η αποτυχία οφειλόταν σε ελλιπή δεδομένα, σε λάθος ερμηνεία ή στο ότι όλοι είχαν σιωπηλά συμφωνήσει να αντιμετωπίζουν την ελπίδα ως πεδίο βάσης δεδομένων.
Η περιορισμένη φόρμα δεν έκανε τη δουλειά πιο ποιητική. Την έκανε πιο δίκαιη. Έλεγε στον χρήστη τι χρειαζόταν. Αρνούνταν να συνεχίσει όταν η διαδικασία θα γινόταν επισφαλής. Έκανε τις ευθύνες ορατές. Μείωνε τον βαθμό ερμηνείας που απαιτούνταν από τον επόμενο. Δεν αντικαθιστούσε την κρίση. Έπαυε να προσποιείται ότι η κρίση έπρεπε να καθαρίζει κάθε χάος από τα προηγούμενα στάδια.
Αυτή είναι η παραγνωρισμένη ανθρώπινη αξία των περιορισμών. Δεν είναι μόνο όρια. Είναι δηλώσεις. Ένα περιορισμένο σύστημα λέει τι μπορεί να δεχτεί, τι δεν μπορεί να δεχτεί, πού μετακινείται η ευθύνη και πού πρέπει να εμπλακεί ένας άνθρωπος. Η ασαφής αυτοματοποίηση συχνά φαίνεται φιλική επειδή δέχεται τα πάντα. Μετά το κόστος εμφανίζεται αργότερα, συνήθως στα χέρια κάποιου με λιγότερη δύναμη.
Τα συστήματα χωρίς περιορισμούς σπρώχνουν τη δουλειά προς τα κάτω
Πολλά ψηφιακά συστήματα επαινούνται επειδή είναι ευέλικτα. Ευέλικτο συχνά σημαίνει ότι το σύστημα αφήνει την κακή είσοδο να ταξιδέψει μέχρι να τη διορθώσει ένας άνθρωπος. Ένα chatbot δέχεται ένα αδύνατο αίτημα και παράγει σίγουρη ομίχλη. Μια ροή εργασίας δέχεται ένα έγγραφο χωρίς συναίνεση και αφήνει τη συμμόρφωση να ανακαλύψει το κενό αργότερα. Ένας αγωγός δεδομένων δέχεται άγνωστα πεδία και αφήνει την ανάλυση να αναρωτιέται γιατί ένα γράφημα μοιάζει σαν να φτιάχτηκε κατά τη διάρκεια διακοπής ρεύματος.
Αυτή η εργασία προς τα κάτω δεν είναι ουδέτερη. Πέφτει στο προσωπικό υποστήριξης, στους χειριστές υποθέσεων, στους διαχειριστές δεδομένων, στους νοσηλευτές, στους δασκάλους, στους δημόσιους υπαλλήλους, στους πελάτες και σε οποιονδήποτε άλλο στέκεται κοντά στο σημείο όπου η αυτοματοποίηση συναντά την πραγματικότητα. Ο χρήστης μπορεί να βιώσει την πρώτη οθόνη ως ομαλή. Ο οργανισμός βιώνει το υπόλοιπο ως επανεπεξεργασία. Η ομαλότητα στην είσοδο μπορεί να είναι σκληρότητα στην έξοδο.
Οι περιορισμοί αντιστρέφουν αυτό το μοτίβο. Καθιστούν το σύστημα υπόλογο στο σημείο εισόδου. Λένε ότι η πηγή πρέπει να κατονομάζεται, η συναίνεση πρέπει να είναι ρητή, η ημερομηνία πρέπει να είναι έγκυρη, η ενέργεια πρέπει να επιτρέπεται, η εμπιστοσύνη πρέπει να είναι επαρκής, η πολιτική πρέπει να είναι τρέχουσα και η άρνηση πρέπει να καταγράφεται. Αυτό είναι λιγότερο εντυπωσιακό από μια διεπαφή συνομιλίας. Το ίδιο ισχύει και για τη ζώνη ασφαλείας. Φαίνεται ότι τα έχουμε αποδεχθεί.
Οι τεχνικοί μερικές φορές ανησυχούν ότι οι περιορισμοί καθιστούν τα συστήματα εύθραυστα. Οι κακοί περιορισμοί το κάνουν. Οι καλοί περιορισμοί κατονομάζουν τις συνθήκες υπό τις οποίες επιτρέπεται στο σύστημα να ενεργήσει. Υπάρχει διαφορά μεταξύ του να αρνείσαι επειδή ο κόσμος είναι άβολος και του να αρνείσαι επειδή το σύστημα δεν έχει εξουσιοδότηση. Το πρώτο είναι τεμπελιά. Το δεύτερο είναι ειλικρίνεια.
Η άρνηση είναι χαρακτηριστικό, όχι αποτυχία
Η ανθρώπινη τεχνολογία πρέπει να ξέρει να λέει όχι. Αυτή η πρόταση ακούγεται αυστηρή μόνο επειδή το λογισμικό έχει περάσει χρόνια προσποιούμενο ότι κάθε αίτημα αξίζει μια απάντηση. Σε ένα σοβαρό σύστημα, το όχι μπορεί να σημαίνει ότι λείπουν τα δεδομένα, ότι ο χρήστης δεν είναι εξουσιοδοτημένος, ότι το μοντέλο δεν έχει αρκετή εμπιστοσύνη, ότι ο σκοπός είναι εκτός πεδίου, ότι η πολιτική έχει λήξει ή ότι η ενέργεια θα έβλαπτε ένα δικαίωμα. Ένα όχι με αιτιολογία είναι πολύ πιο σεβαστό από ένα ναι που δημιουργεί πρόβλημα τρία βήματα αργότερα.
Η άρνηση προστατεύει επίσης το σύστημα από το να γίνει θέατρο ψεύτικης ικανότητας. Οι γενετικές διεπαφές είναι ιδιαίτερα ευάλωτες εδώ. Μπορούν να παράγουν μια πρόταση για σχεδόν οτιδήποτε. Μια πρόταση δεν είναι εξουσιοδότηση. Μια άνετη απάντηση σε μια ερώτηση εκτός πεδίου δεν είναι εξυπηρέτηση· είναι διακοσμητικός κίνδυνος. Ο ανθρώπινος περιορισμός είναι αυτός που λέει ότι αυτή η ερώτηση απαιτεί έναν επαγγελματία, ότι αυτά τα δεδομένα δεν μπορούν να χρησιμοποιηθούν για αυτόν τον σκοπό ή ότι αυτή η απάντηση δεν μπορεί να παραχθεί από τα διαθέσιμα στοιχεία.
Οι άνθρωποι σπάνια αντιτίθενται στην άρνηση όταν είναι σαφής, συνεπής και συνοδεύεται από μια πορεία. Αντιτίθενται στη μυστηριώδη άρνηση. Αντιτίθενται στην άρνηση που κρύβεται πίσω από το «το σύστημα λέει όχι». Αντιτίθενται στην άρνηση που δεν μπορεί να προσβληθεί. Αντιτίθενται στην άρνηση που εφαρμόζεται άνισα επειδή οι κανόνες ζουν στο μυαλό όποιου διαμόρφωσε τη ροή εργασίας μετά από μια μακρά συνάντηση. Έτσι, ο περιορισμός πρέπει να συνοδεύεται από εξήγηση, καταγραφή και ιδιοκτησία.
Οι περιορισμοί καθιστούν την ευθύνη ορατή
Η ευθύνη στην τεχνολογία συχνά εξαφανίζεται μέσα σε αφαιρέσεις. Το μοντέλο αποφάσισε. Η πλατφόρμα πρότεινε. Η ροή εργασίας δρομολόγησε. Ο πίνακας ελέγχου έδειξε. Αυτές οι προτάσεις είναι άνετες επειδή αφαιρούν τους ανθρώπους από το ρήμα. Οι περιορισμοί βάζουν τους ανθρώπους πίσω. Κάποιος επέλεξε το όριο. Κάποιος ενέκρινε την πολιτική. Κάποιος όρισε τον επιτρεπόμενο σκοπό. Κάποιος αποφάσισε ποια στοιχεία αρκούν. Κάποιος έχει την ιδιοκτησία των εξαιρέσεων.
Αυτή η ορατότητα έχει σημασία για τους χρήστες, επειδή η βλάβη συνήθως συμβαίνει στα όρια. Ένα άτομο στερείται ένα όφελος, ένας ασθενής δεν παραπέμπεται, ένας υπάλληλος επισημαίνεται, ένας πελάτης αποκλείεται, ένας πολίτης καλείται να προσκομίσει περισσότερα έγγραφα. Το σύστημα μπορεί να περιέχει πολλά έξυπνα μέρη, αλλά ο χρήστης βιώνει το όριο. Αν κανείς δεν είναι υπεύθυνος για αυτό το όριο, ο χρήστης δεν έχει πού να απευθύνει την ερώτησή του. Αυτό δεν είναι αποδοτικό. Είναι ένας λαβύρινθος με οθόνη σύνδεσης.
Ένα περιορισμένο σύστημα μπορεί να δείχνει τον ιδιοκτήτη του κανόνα, την έκδοση της πολιτικής, τα στοιχεία που χρησιμοποιήθηκαν, τα στοιχεία που λείπουν και τη διαδρομή για τη διόρθωση. Αυτό δεν καθιστά κάθε απόφαση ευχάριστη. Την καθιστά διαχειρίσιμη. Η εναλλακτική είναι ένα σύστημα που φαίνεται προσαρμοστικό μέχρι να πάει κάτι στραβά, οπότε όλοι ανακαλύπτουν ότι η προσαρμοστικότητα είναι φτωχό υποκατάστατο της λογοδοσίας.
Οι οργανισμοί μερικές φορές φοβούνται ότι η ρητή ανάληψη ευθύνης θα δημιουργήσει νομική έκθεση. Η αλήθεια είναι συνήθως πιο κοντά στο αντίθετο. Η κρυφή ευθύνη δεν αφαιρεί τη νομική έκθεση. Την καθυστερεί, προσθέτει σύγχυση και κάνει την τελική εξήγηση να μοιάζει αυτοσχέδια. Ένας δηλωμένος περιορισμός είναι τουλάχιστον επιθεωρήσιμος. Μια κρυφή υπόθεση είναι μια αναφορά συμβάντος που περιμένει ένα ήσυχο Παρασκευόβραδο.
Η εμπειρία του χρήστη με τα όρια
Υπάρχει ένα μάθημα σχεδιασμού εδώ. Οι περιορισμοί πρέπει να είναι ορατοί πριν βλάψουν. Αν ο χρήστης ανακαλύψει ένα όριο μόνο αφού ολοκληρώσει μια μακρά διαδικασία, ο περιορισμός φαίνεται τιμωρητικός. Αν το σύστημα εξηγεί την απαίτηση νωρίς, ο χρήστης μπορεί να δράσει. Μια ανθρώπινη διεπαφή δεν εμποδίζει απλώς την άκυρη ενέργεια. Βοηθά τον χρήστη να κατανοήσει τι θα απαιτούσε μια έγκυρη ενέργεια.
Γι' αυτό τα περιορισμένα συστήματα χρειάζονται καλή γλώσσα. Ένα μήνυμα που λέει "μη έγκυρη είσοδος" δεν είναι καθοδήγηση. Ένα μήνυμα που λέει ότι η ημερομηνία του εγγράφου πρέπει να είναι εντός των τελευταίων τριών μηνών επειδή η απόφαση εξαρτάται από το τρέχον εισόδημα είναι καλύτερο. Ένα μήνυμα που λέει ότι αυτό το αίτημα δεν μπορεί να υποβληθεί σε επεξεργασία αυτόματα επειδή λείπει η συγκατάθεση, και δείχνει πώς να προστεθεί συγκατάθεση ή να ζητηθεί χειροκίνητη εξέταση, είναι ακόμη καλύτερο. Ο περιορισμός γίνεται μέρος της υπηρεσίας.
Οι ομάδες σχεδιασμού μερικές φορές προσπαθούν να κρύψουν τους περιορισμούς επειδή φοβούνται την τριβή. Αλλά η τριβή δεν είναι πάντα ο εχθρός. Υπάρχει επιβλαβής τριβή, όπως το να ζητούνται τα ίδια δεδομένα τρεις φορές επειδή τα συστήματα δεν επικοινωνούν μεταξύ τους. Υπάρχει προστατευτική τριβή, όπως το να ζητείται επιβεβαίωση πριν από τη διαγραφή εγγραφών ή την αποστολή μιας ευαίσθητης απόφασης. Η ανθρώπινη τεχνολογία διακρίνει μεταξύ των δύο. Αφαιρεί τη σπατάλη και διατηρεί την προσοχή.
Ο περιορισμός πρέπει να ταιριάζει με την εργασία
Ένας περιορισμός δεν είναι ανθρώπινος απλώς επειδή είναι αυστηρός. Ένας κακός περιορισμός μπορεί να είναι εξίσου τεμπέλικος με την απουσία περιορισμού. Μπορεί να απαιτεί ένα έγγραφο που κάποιοι χρήστες δεν μπορούν εύλογα να αποκτήσουν. Μπορεί να κωδικοποιεί μια ξεπερασμένη πολιτική. Μπορεί να κάνει την εύκολη περίπτωση όμορφη και τη δύσκολη ταπεινωτική. Μπορεί να αναγκάσει μια νοσοκόμα, έναν δάσκαλο ή έναν χειριστή υποθέσεων να ψεύδεται στο σύστημα επειδή ο πραγματικός κόσμος δεν ήρθε στην εγκεκριμένη μορφή. Σε εκείνο το σημείο, ο περιορισμός δεν έχει βελτιώσει τη ροή εργασίας. Έχει δημιουργήσει έναν μικρό φόρο ειλικρίνειας.
Οι καλοί περιορισμοί σχεδιάζονται από την εργασία προς τα έξω. Ρωτούν ποια γεγονότα είναι απαραίτητα πριν από την ενέργεια, ποια αβεβαιότητα μπορεί να ταξιδέψει με ασφάλεια, ποια αβεβαιότητα πρέπει να σταματήσει και ποιος ανθρώπινος ρόλος έχει την εξουσία να αποφασίσει για μια εξαίρεση. Είναι αυστηροί εκεί όπου η συνέπεια είναι σοβαρή και πιο χαλαροί εκεί όπου το κόστος του λάθους είναι χαμηλό. Αφήνουν χώρο για εξηγήσεις όταν οι άνθρωποι αντιμετωπίζουν ασυνήθιστες περιστάσεις. Δεν μπερδεύουν την τακτοποιημένη είσοδο με την ειλικρινή είσοδο.
Γι' αυτό έχει σημασία η επιτόπια έρευνα. Οι άνθρωποι που βρίσκονται πιο κοντά στη ροή εργασίας συνήθως ξέρουν ποιοι κανόνες προστατεύουν και ποιοι απλώς τιμωρούν. Ξέρουν ποια πεδία χρειάζονται πραγματικά και ποια προστέθηκαν μετά από μια συνάντηση επειδή κάποιος ήθελε να νιώσει ότι ήταν εξαντλητικός. Ξέρουν πού κολλάνε οι χρήστες, πού επινοούν οι υπάλληλοι παράπλευρα κανάλια και πού το σύστημα μετατρέπει μια φυσιολογική εξαίρεση σε διαδικαστικό εμπόδιο. Ένας περιορισμός που σχεδιάζεται χωρίς αυτούς τους ανθρώπους συνήθως φαίνεται τακτοποιημένος από ψηλά και συμπεριφέρεται άσχημα στο γκισέ.
Η τεχνική εκδοχή είναι η ίδια. Ένα σύστημα τύπων, ένα σχήμα, μια μηχανή πολιτικών ή ένα επίπεδο επικύρωσης θα πρέπει να εκφράζει την πραγματική σύμβαση. Δεν θα πρέπει να γίνεται ιερό της θεωρητικής πληρότητας. Ο καλύτερος περιορισμός είναι συχνά μικρός, ονομασμένος και δοκιμασμένος. Λέει ακριβώς τι πρέπει να ισχύει πριν ενεργήσει το σύστημα και αφήνει το υπόλοιπο πλαίσιο διαθέσιμο για έλεγχο. Έτσι ένα όριο γίνεται φροντίδα αντί για γραφειοκρατία.
Περιορισμοί πριν από τον αυτοματισμό
Η χειρότερη στιγμή για να επινοήσεις περιορισμούς είναι αφού ο αυτοματισμός ήδη λειτουργεί. Μέχρι τότε, το σύστημα έχει αποκτήσει συνήθειες. Δεδομένα έχουν ρεύσει σε μέρη όπου δεν έπρεπε. Οι άνθρωποι έχουν φτιάξει λύσεις ανάγκης. Οι αναφορές εξαρτώνται από πεδία που κανείς δεν κατέχει. Το μοντέλο έχει μάθει από ιστορικά που δεν προορίζονταν ποτέ να γίνουν υλικό εκπαίδευσης ή ανάκτησης. Τότε έρχεται η διακυβέρνηση με ένα κλιπ και όλοι προσποιούνται έκπληξη, λες και η αιτία και το αποτέλεσμα ήταν ένα εξειδικευμένο ερευνητικό θέμα.
Οι περιορισμοί θα πρέπει να σχεδιάζονται πριν από τον αυτοματισμό επειδή ορίζουν τον ασφαλή χώρο λειτουργίας. Ποιοι σκοποί επιτρέπονται. Ποια δεδομένα μπορούν να χρησιμοποιηθούν. Ποιες πηγές απαιτούν συγκατάθεση. Ποιες έξοδοι απαιτούν ανθρώπινη αναθεώρηση. Ποιες αποφάσεις πρέπει να καταγράφονται. Ποιοι χρήστες μπορούν να παρακάμψουν. Ποια αρχεία πρέπει να λήγουν. Αυτά δεν είναι διακοσμήσεις γύρω από το μοντέλο. Είναι το σχήμα του συστήματος.
Όταν οι περιορισμοί έρχονται πρώτοι, ο αυτοματισμός μπορεί να είναι πιο χρήσιμος επειδή έχει μια μικρότερη και σαφέστερη δουλειά. Δεν χρειάζεται να συνάγει θεσμικά όρια από υποθέσεις. Μπορεί να λειτουργεί μέσα σε έναν δηλωμένο χώρο, να αρνείται έξω από αυτόν και να αφήνει αποδείξεις πίσω του. Αυτό είναι ανακούφιση, ειλικρινά. Οι μηχανές είναι εξαιρετικές στην ταχύτητα. Δεν βελτιώνονται αν τους ζητήσουμε να μαντέψουν τη διακυβέρνηση επειδή οι ενήλικες δεν ήθελαν μια δύσκολη συνάντηση.
Υπάρχει επίσης ένα όφελος στη μάθηση. Οι περιορισμοί παράγουν καλύτερη ανατροφοδότηση. Αν πολλές περιπτώσεις αποτυγχάνουν επειδή λείπουν αποδεικτικά στοιχεία, βελτίωσε τη διαδικασία εισαγωγής. Αν πολλές αρνήσεις ανατρέπονται κατόπιν έφεσης, αναθεώρησε τον κανόνα. Αν πολλοί χρήστες σταματούν στην ίδια απαίτηση, επανασχεδίασε την εξήγηση. Ένα σύστημα χωρίς περιορισμούς μπορεί να φαίνεται αποδοτικό επειδή δεν σταματά ποτέ. Απλώς αναβάλλει τη μέτρηση της αποτυχίας.
Και οι θεσμοί χρειάζονται όρια
Οι περιορισμοί δεν προστατεύουν μόνο τους χρήστες από την τεχνολογία. Προστατεύουν τους χρήστες από θεσμούς που χρησιμοποιούν την τεχνολογία ως δικαιολογία. Χωρίς περιορισμούς, ο αυτοματισμός μπορεί να γίνει ένας τρόπος να λαμβάνονται αποφάσεις χωρίς να ονομάζεται ποιος αποφάσισε. Με περιορισμούς, ο θεσμός πρέπει να καταγράφει τα όριά του. Πρέπει να λέει τι δεν επιτρέπεται να κάνει το σύστημα. Αυτή είναι μια υγιής δυσφορία.
Ένα σχολείο που χρησιμοποιεί αναλυτικά εργαλεία θα πρέπει να δηλώνει ποια σήματα μπορούν να επηρεάσουν την υποστήριξη και ποια όχι. Ένας δήμος που χρησιμοποιεί αυτοματοποίηση θα πρέπει να δηλώνει πότε μια υπόθεση περνά σε άνθρωπο. Μια τράπεζα που χρησιμοποιεί μοντέλα κινδύνου θα πρέπει να δηλώνει ποια στοιχεία έχουν σημασία και πώς μπορεί ένας πελάτης να αμφισβητήσει ένα αποτέλεσμα. Ένα νοσοκομείο που χρησιμοποιεί υποστήριξη αποφάσεων θα πρέπει να δηλώνει πότε μια συμβουλή είναι απλώς συμβουλευτική και πότε η κλινική ευθύνη παραμένει στον επαγγελματία. Αυτές οι δηλώσεις δεν είναι κατά της καινοτομίας. Είναι το έδαφος πάνω στο οποίο στέκεται.
Η λέξη ανθρώπινος μπορεί να γίνει συναισθηματική αν δεν συνδέεται με μηχανισμούς. Στην τεχνολογία, το ανθρώπινο συχνά σημαίνει ότι έγιναν τα βαρετά πράγματα: όρια σκοπού, κανόνες πηγών, χρονοδιαγράμματα διατήρησης, άδειες ρόλων, αρχεία καταγραφής ελέγχου, διαδρομές άρνησης, οδοί προσφυγής, πολιτική με εκδόσεις και δοκιμασμένες παραδόσεις. Όχι και πολύ κινηματογραφικό. Καλά. Οι άνθρωποι σπάνια χρειάζονται κινηματογραφικό θέαμα από διοικητικά συστήματα. Χρειάζονται να μην χάνουν την ουσία.
Η πολιτική της παράκαμψης
Κάθε σύστημα με περιορισμούς θα συναντήσει τελικά μια περίπτωση που δεν ταιριάζει. Το ερώτημα δεν είναι αν υπάρχει παράκαμψη. Υπάρχει πάντα, ακόμα κι αν είναι κρυμμένη σε λογαριασμούς διαχειριστή, επεξεργασίες βάσεων δεδομένων, ανεπίσημες κλήσεις ή στο άτομο που ξέρει ποιο κουμπί παρακάμπτει τον κανόνα. Το ανθρώπινο ερώτημα είναι αν η παράκαμψη είναι ονομασμένη, περιορισμένη, καταγεγραμμένη και ελεγχόμενη. Η μυστική ευελιξία δεν είναι συμπόνια. Είναι προνόμιο με πληκτρολόγιο.
Μια διαδρομή παράκαμψης θα πρέπει να λέει ποιος μπορεί να τη χρησιμοποιήσει, για ποιους λόγους, με ποια στοιχεία, με ποια δεύτερη γνώμη και για πόσο διάστημα ισχύει η εξαίρεση. Θα πρέπει να δημιουργεί ένα αρχείο που μπορεί να ελεγχθεί χωρίς να μετατρέπει το προσωπικό σε υπόπτους επειδή κάνει δύσκολη δουλειά. Θα πρέπει επίσης να τροφοδοτεί τη βελτίωση. Αν η ίδια παράκαμψη εμφανίζεται επανειλημμένα, ο περιορισμός μπορεί να είναι λάθος, η πολιτική μπορεί να είναι ελλιπής ή ο κόσμος μπορεί να έχει αλλάξει ενώ το σύστημα ήταν απασχολημένο να δείχνει τακτοποιημένο.
Εδώ η ανθρώπινη εποπτεία γίνεται πραγματική. Η εποπτεία δεν είναι ένα όνομα επιτροπής. Είναι μια σχεδιασμένη σχέση μεταξύ κανόνα, εξαίρεσης, στοιχείων και ευθύνης. Ένας άνθρωπος που επικυρώνει μηχανικά την έξοδο του μηχανήματος δεν είναι εποπτεία. Ένας άνθρωπος που μπορεί να δει τον κανόνα, να κατανοήσει τη συνθήκη που λείπει, να καταγράψει τον λόγο και να ενεργοποιήσει μια αναθεώρηση πολιτικής είναι πολύ πιο κοντά. Λιγότερο δραματικό, πιο χρήσιμο. Οι περισσότερες καλές διακυβερνήσεις έχουν τη σκηνική παρουσία μιας καλοσυντηρημένης λίστας ελέγχου.
Το ζητούμενο δεν είναι να γίνει η τεχνολογία δειλή. Το ζητούμενο είναι να γίνει αξιοπρεπής υπό πίεση. Ένα σύστημα που μπορεί να πει ναι, να πει όχι, να ζητήσει στοιχεία, να κλιμακώσει, να εξηγήσει, να καταγράψει και να μάθει δεν είναι λιγότερο προηγμένο από ένα που απαντά σε όλα. Είναι πιο ώριμο. Έχει όρια, και τα όρια είναι ο τρόπος με τον οποίο τα συστήματα μοιράζονται έναν κόσμο με ανθρώπους που δεν μπορούν να γίνουν προσωπικό καθαριότητας για την αισιοδοξία του λογισμικού.
Η ίδια λογική ισχύει και μέσα στις ομάδες. Οι περιορισμοί δίνουν στους συναδέλφους ένα κοινό αντικείμενο για να διαφωνήσουν. Αντί να συζητούν αν κάποιος ήταν αρκετά προσεκτικός, η ομάδα μπορεί να εξετάσει τον κανόνα, τα στοιχεία, την εξαίρεση και τον υπεύθυνο. Αυτό μεταφέρει τη διαφωνία από το πρόσωπο στον σχεδιασμό του συστήματος, κάτι που είναι πιο δίκαιο και πολύ πιο εύκολο να βελτιωθεί. Είναι επίσης πιο δύσκολο να κρυφτεί κανείς πίσω του. Μια ασαφής διαδικασία επιτρέπει στον καθένα να έχει δίκιο ιδιωτικά. Ένας δηλωμένος περιορισμός ζητά από τον οργανισμό να παραδεχτεί το λάθος δημόσια και μετά να το διορθώσει.
Το δίδαγμα
Η τεχνολογία γίνεται λιγότερο ανθρώπινη όταν δέχεται κάθε αίτημα, κρύβει κάθε αβεβαιότητα και αφήνει τους ανθρώπους να ανακαλύψουν τα όρια αφού η ζημιά έχει ήδη γίνει. Γίνεται πιο ανθρώπινη όταν δηλώνει τα όριά της από νωρίς. Μπορώ να το κάνω αυτό. Αυτό δεν μπορώ να το κάνω. Χρειάζομαι αυτά τα στοιχεία. Εδώ πρέπει να αρνηθώ. Αυτό το άτομο είναι υπεύθυνο. Έτσι μπορείτε να υποβάλετε ένσταση.
Οι περιορισμοί δεν είναι το αντίθετο της καινοτομίας. Είναι ο τρόπος με τον οποίο η σοβαρή καινοτομία εισέρχεται στους θεσμούς χωρίς να μετατρέπει τους χρήστες σε πειραματόζωα. Προστατεύουν τους ανθρώπους από την ασαφή αυτοματοποίηση κάνοντας τα όρια σαφή, τις αρνήσεις συγκεκριμένες και την ευθύνη ορατή. Ένα σύστημα που ξέρει πού σταματά είναι πιο αξιόπιστο από ένα σύστημα που λέει ευγενικά ναι μέχρι να έρθει η πραγματικότητα να ζητήσει τον λογαριασμό.