Το ανθρώπινο κόστος των δυσανάγνωστων συστημάτων
Το σημειωματάριο δίπλα στην οθόνη
Η πιο σημαντική τεκμηρίωση στο δωμάτιο δεν ήταν στο σύστημα. Ήταν ένα σπιράλ σημειωματάριο δίπλα στη δεύτερη οθόνη, συγκρατημένο με ταινία και με το κύρος της πολύχρονης υπομονής. Η ομάδα το χρησιμοποιούσε σε κάθε βραδινή βάρδια. Η πρώτη σελίδα εξηγούσε ποια κατάσταση στο εργαλείο διαχείρισης υποθέσεων σήμαινε στην πραγματικότητα «αναμονή για τα οικονομικά». Η τέταρτη σελίδα ανέφερε τα ονόματα τριών πεδίων που έμοιαζαν προαιρετικά αλλά δεν ήταν. Η έβδομη σελίδα προειδοποιούσε ότι το κουμπί εξαγωγής δεν έπρεπε να πατιέται μετά τις 17:00, επειδή η νυχτερινή εργασία θα ερμήνευε το αρχείο ως νέα εισαγωγή και όλοι θα ξυπνούσαν με μια ουρά που είχε πολλαπλασιαστεί σαν διοικητική λαογραφία.
Η επίσημη περιγραφή της διαδικασίας ήταν πιο καθαρή. Είχε πλαίσια, βέλη και μια ημερομηνία στο υποσέλιδο. Ήταν επίσης λάθος με ακριβώς τους τρόπους που είχαν σημασία. Το λογισμικό είχε αλλάξει. Ο προμηθευτής είχε αλλάξει. Μια εξαίρεση πολιτικής είχε γίνει συνήθης πρακτική. Μια ενοποίηση είχε αποτύχει τόσο συχνά που το προσωπικό είχε εφεύρει ένα τελετουργικό ελέγχου. Το σημειωματάριο δεν ήταν μια γοητευτική τοπική συνήθεια. Ήταν ένα ανθρώπινο μπάλωμα πάνω σε ένα σύστημα που δεν μπορούσε πλέον να εξηγήσει τον εαυτό του.
Τα δυσανάγνωστα συστήματα σπάνια γνωστοποιούν την ύπαρξή τους με μια μοναδική θεαματική αποτυχία. Παράγουν μικρούς φόρους. Ένας εργαζόμενος διστάζει πριν κάνει κλικ επειδή το όνομα της κατάστασης είναι ασαφές. Μια νοσηλεύτρια καλεί μια συνάδελφο επειδή ένας αριθμός στον πίνακα ελέγχου δεν έχει προέλευση. Ένας προγραμματιστής αντιγράφει δεδομένα σε ένα προσωπικό φύλλο επειδή η επίσημη αναφορά δεν είναι αξιόπιστη. Ένας προγραμματιστής αποφεύγει να αλλάξει μια συνάρτηση επειδή κανείς δεν ξέρει ποιος εξαρτάται από αυτήν. Ένας διευθυντής ζητά ένα στιγμιότυπο οθόνης επειδή το αρχείο καταγραφής ελέγχου είναι τεχνικά παρόν και πρακτικά άχρηστο. Κάθε στιγμή είναι επιβιώσιμη. Μαζί γίνονται ένα εργασιακό περιβάλλον.
Το κόστος δεν είναι μόνο ο χρόνος. Είναι η προσοχή, η αυτοπεποίθηση, η ευθύνη και τελικά η αξιοπρέπεια. Οι άνθρωποι γίνονται μεταφραστές για συστήματα που θα έπρεπε να είναι ευανάγνωστα. Κουβαλούν κρυφή γνώση σε σημειωματάρια, ιστορικά συνομιλιών, παράπλευρα υπολογιστικά φύλλα και συνήθειες. Έπειτα οι ηγέτες αναρωτιούνται γιατί η αλλαγή είναι αργή. Ο οργανισμός δεν είναι αργός επειδή οι άνθρωποι μισούν τη βελτίωση. Είναι αργός επειδή η βελτίωση πρέπει πρώτα να διασχίσει ένα έλος από πράγματα που κανείς δεν μπορεί να διαβάσει με ασφάλεια.
Το δυσανάγνωστο δεν είναι το ίδιο με το πολύπλοκο
Ορισμένα συστήματα είναι πολύπλοκα επειδή η εργασία είναι πολύπλοκη. Η υγειονομική περίθαλψη, τα logistics, τα επιδόματα, η διοίκηση έρευνας, η μεταποίηση και τα ενεργειακά δίκτυα δεν γίνονται απλά επειδή σχεδιάζουμε ένα πιο καθαρό διάγραμμα. Η πολυπλοκότητα δεν είναι ο εχθρός. Το δυσανάγνωστο είναι. Ένα ευανάγνωστο πολύπλοκο σύστημα δείχνει τα μέρη του, ονομάζει τις παραδοχές του, εκθέτει τις μεταβάσεις του, καταγράφει τους λόγους του και δίνει στους χειριστές αρκετό πλαίσιο για να δράσουν. Ένα δυσανάγνωστο απλό σύστημα κρύβει το νόημά του πίσω από ετικέτες, παρενέργειες και τυχερό συγχρονισμό. Μαντέψτε ποιο παράγει τις μεγαλύτερες συσκέψεις.
Οι μηχανικοί μερικές φορές περιορίζουν την αναγνωσιμότητα στο στυλ του κώδικα. Ο κώδικας έχει σημασία, αλλά είναι μόνο ένα επίπεδο. Ένα σύστημα μπορεί να έχει τακτοποιημένο κώδικα και δυσανάγνωστη συμπεριφορά. Μπορεί να έχει κομψές κλάσεις και μπερδεμένες καταστάσεις. Μπορεί να έχει τέλεια ονοματολογία στο αποθετήριο και μια διεπαφή χρήστη που αναγκάζει τους ανθρώπους να αποστηθίζουν εσωτερικές σημασίες. Μπορεί να έχει αρχεία καταγραφής που καταγράφουν κάθε συμβάν και παρόλα αυτά να μην απαντούν γιατί πάρθηκε μια απόφαση. Μπορεί να έχει διαγράμματα που έμοιαζαν επίκαιρα όταν χρηματοδοτήθηκε το έργο και τώρα λειτουργούν κυρίως ως ιστορική μυθοπλασία.
Τα αναγνώσιμα συστήματα ευθυγραμμίζουν πολλαπλές επιφάνειες. Η διεπαφή περιγράφει την κατάσταση με λέξεις που μπορούν να χρησιμοποιήσουν οι άνθρωποι. Το μοντέλο δεδομένων διατηρεί το νόημα αντί να το ισοπεδώνει πρόωρα. Η ροή εργασίας ονομάζει τις μεταβάσεις και τους υπεύθυνους. Ο κώδικας έχει δοκιμές γύρω από τους επιχειρηματικούς κανόνες και όχι μόνο γύρω από τις ευτυχισμένες διαδρομές. Τα αρχεία καταγραφής συνδέουν την ενέργεια με την αιτία. Η τεκμηρίωση αντικατοπτρίζει το ζωντανό σύστημα. Η παρακολούθηση λέει στον χειριστή τι άλλαξε, όχι απλώς ότι το κόκκινο έγινε πιο έντονο.
Αυτή η ευθυγράμμιση είναι δύσκολη επειδή η αναγνωσιμότητα έχει πολλούς αναγνώστες. Ένας προγραμματιστής διαβάζει τον κώδικα. Ένας υπάλληλος υποθέσεων διαβάζει την οθόνη. Ένας διευθυντής διαβάζει μια ουρά. Ένας ελεγκτής διαβάζει ένα ίχνος. Ένας χρήστης διαβάζει ένα μήνυμα. Ένας μηχανικός υποστήριξης διαβάζει ένα αρχείο καταγραφής. Ένας ρυθμιστής διαβάζει μια εξήγηση. Ένας νέος συνάδελφος διαβάζει όλα αυτά με τον ήσυχο φόβο κάποιου που μόλις κληρονόμησε ένα συρτάρι γεμάτο καλώδια. Αν το σύστημα είναι αναγνώσιμο μόνο για έναν από αυτούς τους αναγνώστες, δεν είναι αρκετά αναγνώσιμο.
Ο ανθρώπινος φόρος της εικασίας
Η εικασία είναι δουλειά. Δεν μοιάζει με δουλειά επειδή συχνά είναι σιωπηλή. Ένα άτομο σταματά, θυμάται ένα μοτίβο, ρωτά κάποιον άλλο, συγκρίνει δύο οθόνες, κοιτάζει τη χθεσινή εξαγωγή, ελέγχει αν ισχύει κάποια εξαίρεση και μετά συνεχίζει. Τίποτα από αυτά δεν εμφανίζεται στις μετρήσεις απόδοσης. Η υπόθεση χρειάστηκε επτά λεπτά, λέει ο πίνακας ελέγχου. Ο πίνακας ελέγχου δεν γνωρίζει ότι τρία από αυτά τα λεπτά δαπανήθηκαν αναρωτώμενοι αν το πεδίο που ονομάζεται verified σημαίνει επαληθεύτηκε από τον χρήστη, από το σύστημα, από τα οικονομικά ή από κάποια Βέρα που έφυγε το 2022.
Αυτό το είδος εικασίας δημιουργεί κόπωση επειδή ο εργαζόμενος δεν μπορεί να χαλαρώσει μέσα στη διαδικασία. Κάθε βήμα μπορεί να περιέχει κρυφό νόημα. Το σύστημα γίνεται ένα δωμάτιο όπου οι ετικέτες στους διακόπτες γράφτηκαν από ανθρώπους που υπέθεταν ότι θα ήταν πάντα κοντά. Οι χειριστές αντισταθμίζουν γινόμενοι προσεκτικοί και μετά κατηγορούνται ότι προβάλλουν αντίσταση. Δεν προβάλλουν αντίσταση. Είναι λογικοί. Έχουν μάθει ότι η διεπαφή μερικές φορές ψεύδεται με παραλείψεις.
Η εικασία συγκεντρώνει επίσης την εξουσία σε λάθος σημεία. Το άτομο που γνωρίζει την πραγματική σημασία του συστήματος γίνεται απαραίτητο. Αυτό μπορεί να φαίνεται κολακευτικό μέχρι το άτομο να θελήσει διακοπές, να αλλάξει δουλειά, να αρρωστήσει ή απλώς να σταματήσει να απολαμβάνει το να είναι ο ανεπίσημος μεταφραστής της θεσμικής μνήμης. Ένα δυσανάγνωστο σύστημα μετατρέπει την τεχνογνωσία σε ομηρία κατά λάθος. Κανείς δεν το σχεδίασε. Δεν χρειάζονται σχέδια για να γίνουν τα κακά κίνητρα αρχιτεκτονική.
Το βάρος πέφτει πιο βαριά στους νεότερους υπαλλήλους και σε ανθρώπους με λιγότερη οργανωτική εξουσία. Οι ανώτεροι υπάλληλοι ξέρουν ποιον να ρωτήσουν. Οι νέοι υπάλληλοι δεν ξέρουν. Οι εξωτερικοί συνεργάτες παίρνουν αποσπάσματα. Οι εργαζόμενοι υποστήριξης καλούνται να ακολουθήσουν τη διαδικασία και μετά ανακαλύπτουν ότι η διαδικασία είναι ένας χάρτης μιας πόλης που άλλαξε τους δρόμους της τον περασμένο χειμώνα. Οι χρήστες νιώθουν το αποτέλεσμα ως καθυστέρηση, ασυνέπεια ή ανεξήγητη άρνηση. Το σύστημα μπορεί να είναι εσωτερικά έξυπνο. Εξωτερικά ζητά από τους ανθρώπους να απορροφήσουν την ασάφειά του.
Αρχεία καταγραφής που δεν λένε μια ιστορία
Πολλά δυσανάγνωστα συστήματα διατηρούν με υπερηφάνεια αρχεία καταγραφής. Αυτό είναι καλό, αλλά δεν αρκεί. Μια γραμμή καταγραφής μπορεί να είναι ακριβής και παρόλα αυτά άχρηστη. Ο χρήστης ενημέρωσε την κατάσταση στις 14:03 είναι ένα γεγονός. Δεν λέει γιατί άλλαξε η κατάσταση, ποιος κανόνας το επέτρεψε, ποια αποδεικτικά στοιχεία υπήρχαν, αν η μετάβαση ήταν φυσιολογική, ποιος είναι υπεύθυνος για τον κανόνα, ποια έκδοση της ροής εργασίας ήταν ενεργή ή αν ένα κατάντη σύστημα αποδέχτηκε την αλλαγή. Ένας σωρός από γεγονότα δεν είναι ακόμη ιστορία. Είναι μόνο ένας σωρός με χρονικές σημάνσεις.
Τα λειτουργικά τεκμήρια πρέπει να οργανώνονται γύρω από ερωτήματα που θα θέσουν πραγματικά οι άνθρωποι. Γιατί προχώρησε αυτή η υπόθεση. Γιατί σταμάτησε αυτή η εγγραφή. Γιατί αυτή η απάντηση του μοντέλου μπήκε στη ροή εργασίας. Γιατί η εξαγωγή περιείχε αυτές τις γραμμές. Γιατί δύο αναφορές διαφωνούσαν. Γιατί αυτός ο χρήστης μπορούσε να δει αυτά τα δεδομένα. Γιατί το σύστημα επανέλαβε την προσπάθεια για έξι ώρες και σταμάτησε ακριβώς τη στιγμή που όλοι έφυγαν για το σπίτι. Το αρχείο καταγραφής δεν θα έπρεπε να απαιτεί αρχαιολογική ανασκαφή για κάθε συνηθισμένο ερώτημα.
Τα καλά τεκμήρια δεν είναι πολυτέλεια για τους ελεγκτές. Είναι εξυπηρέτηση προς τους χειριστές. Κατά τη διάρκεια ενός περιστατικού, οι άνθρωποι πρέπει να περιορίσουν την αναζήτηση. Πρέπει να μάθουν ποια κατάσταση άλλαξε, ποια είσοδος έφτασε, ποιος κανόνας ενεργοποιήθηκε, ποια εξάρτηση απέτυχε, ποια ενέργεια ανάκαμψης εκτελέστηκε και τι παραμένει αβέβαιο. Αν το σύστημα δεν μπορεί να απαντήσει σε αυτά τα ερωτήματα, μετατρέπει τους ανθρώπους σε αναλυτές εγκληματολογικής έρευνας υπό πίεση. Αυτό είναι συναρπαστικό στην αστυνομική λογοτεχνία και λιγότερο ελκυστικό γύρω από τη μισθοδοσία.
Τα συστήματα με έντονη χρήση τεχνητής νοημοσύνης ανεβάζουν τον πήχη. Αν η έξοδος ενός μοντέλου επηρεάζει μια ροή εργασίας, το σύστημα θα πρέπει να διατηρεί την πηγή, το πλαίσιο του prompt ή της ανάκτησης όπου ενδείκνυται, την έκδοση του μοντέλου, την αναπαράσταση εμπιστοσύνης ή αβεβαιότητας, την πύλη πολιτικής, την κατάσταση ανθρώπινης αναθεώρησης και την τελική ενέργεια. Το ζητούμενο δεν είναι να γίνει κάθε αλληλεπίδραση ένα μυθιστόρημα. Το ζητούμενο είναι να διατηρηθεί αρκετό πλαίσιο ώστε ένας μεταγενέστερος αναγνώστης να μπορεί να ανασυνθέσει γιατί το σύστημα συμπεριφέρθηκε όπως συμπεριφέρθηκε. Διαφορετικά, η ευχέρεια του μοντέλου γίνεται άλλο ένα δυσανάγνωστο επίπεδο.
Οι διεπαφές μπορούν να κρύβουν την πολιτική
Μια δυσανάγνωστη διεπαφή είναι συχνά ένα πρόβλημα πολιτικής ντυμένο με εικονοστοιχεία. Ένα κουμπί εμφανίζεται μόνο σε ορισμένες περιπτώσεις, αλλά κανείς δεν ξέρει ποιος κανόνας το ελέγχει. Μια προειδοποίηση είναι κίτρινη για τη μία ομάδα και κόκκινη για την άλλη επειδή μια ρύθμιση άλλαξε κατά τη διάρκεια μιας πιλοτικής φάσης. Ένα πεδίο δέχεται ελεύθερο κείμενο επειδή οι πραγματικές κατηγορίες ήταν πολιτικά άβολο να οριστούν. Μια ουρά ταξινομείται κατά προτεραιότητα, αλλά η προτεραιότητα είναι ένας τύπος που κανείς δεν μπορεί να βρει. Η διεπαφή φαίνεται λειτουργική. Από κάτω, οι άλυτες αποφάσεις μεταβιβάζονται στους χρήστες ένα κλικ τη φορά.
Αυτό έχει σημασία επειδή οι άνθρωποι αντιμετωπίζουν τις καταστάσεις του λογισμικού ως θεσμική αλήθεια. Αν η οθόνη λέει ολοκληρωμένο, το προσωπικό υποθέτει ότι ο οργανισμός εννοεί ολοκληρωμένο. Αν η οθόνη λέει επιλέξιμο, κάποιος μπορεί να βασιστεί στην επιλεξιμότητα. Αν η οθόνη λέει χαμηλός κίνδυνος, η προσοχή στρέφεται αλλού. Όσο πιο σοβαρή είναι η ροή εργασίας, τόσο πιο επικίνδυνη γίνεται η ασαφής γλώσσα της διεπαφής. Μια ετικέτα δεν είναι διακόσμηση. Είναι ένα μικρό συμβόλαιο ανάμεσα στο σύστημα και στον άνθρωπο που πρέπει να το εμπιστευτεί.
Τα ευανάγνωστα συστήματα καθιστούν την πολιτική ορατή στο σημείο όπου εφαρμόζεται. Δείχνουν γιατί ένα πεδίο είναι υποχρεωτικό, τι σημαίνει μια κατάσταση, ποια στοιχεία στηρίζουν μια απόφαση, τι ακολουθεί και πώς μπορεί κανείς να αμφισβητήσει το αποτέλεσμα. Αποφεύγουν καταστάσεις που ακούγονται σαν χαρακτηριστικά προσωπικότητας. Διακρίνουν το υποβληθέν από το παραληφθέν, το ελεγμένο από το αποδεκτό, το αποκλεισμένο από το απορριφθέν, το αναθεωρημένο από το εγκεκριμένο. Αυτές οι διαφορές φαίνονται κουραστικές μόνο μέχρι να εξαρτηθεί μια πραγματική υπόθεση από αυτές. Τότε όλοι ενδιαφέρονται πολύ για τα ουσιαστικά.
Η διεπαφή θα πρέπει επίσης να αποκαλύπτει με ειλικρίνεια την αβεβαιότητα. Αν μια τιμή έχει συναχθεί, να το λέει. Αν ένα μοντέλο πρότεινε μια ταξινόμηση, να τη χαρακτηρίζει ως πρόταση μέχρι να γίνει αποδεκτή. Αν τα δεδομένα είναι παρωχημένα, να δείχνει την ηλικία τους. Αν μια εξάρτηση καθυστερεί, η οθόνη δεν πρέπει να προσποιείται ότι η σιωπή είναι επιτυχία. Οι άνθρωποι μπορούν να διαχειριστούν την αβεβαιότητα καλύτερα από όσο συχνά υποθέτουν τα συστήματα. Αυτό που δεν μπορούν να διαχειριστούν με ασφάλεια είναι η αβεβαιότητα μεταμφιεσμένη σε βεβαιότητα, επειδή κάποιος ήθελε μια καθαρή οθόνη.
Η τεκμηρίωση είναι μέρος της επιφάνειας του προϊόντος
Η τεκμηρίωση συχνά αντιμετωπίζεται ως ξεχωριστό ηθικό καθήκον, σαν το νήμα για τα δόντια. Όλοι συμφωνούν ότι είναι σημαντική. Μετά κυκλοφορεί η έκδοση, η τεκμηρίωση σαπίζει και η επόμενη ομάδα τη διαβάζει με την έκφραση που συνήθως επιφυλάσσεται για το ληγμένο γάλα. Η αποτυχία δεν οφείλεται στην τεμπελιά. Η αποτυχία οφείλεται στο ότι η τεκμηρίωση δεν ήταν αρκετά συνδεδεμένη με το σύστημα ώστε να επιβιώσει από τις αλλαγές.
Τα ευανάγνωστα συστήματα καθιστούν την τεκμηρίωση λειτουργική. Οι ορισμοί καταστάσεων ζουν κοντά στη ροή εργασίας. Τα λεξικά δεδομένων δημιουργούνται ή ελέγχονται έναντι των σχημάτων. Οι επιχειρηματικοί κανόνες έχουν ιδιοκτήτες και εκδόσεις. Τα εγχειρίδια λειτουργίας δοκιμάζονται κατά τη διάρκεια ασκήσεων. Τα μηνύματα σφάλματος συνδέονται με τρέχουσες διαδρομές επιδιόρθωσης. Οι αρχιτεκτονικές αποφάσεις εξηγούν τους συμβιβασμούς που διαφορετικά οι μελλοντικές ομάδες θα ανακαλύψουν μέσα από ταλαιπωρία. Το εκπαιδευτικό υλικό χρησιμοποιεί πραγματικές καταστάσεις και πραγματικές εξαιρέσεις. Η τεκμηρίωση γίνεται ένας χάρτης που περπατιέται, όχι ένα έκθεμα μουσείου.
Αυτό δεν είναι επιχείρημα υπέρ της εγκυκλοπαιδικής τεκμηρίωσης. Η υπερβολική τεκμηρίωση μπορεί να είναι ένα άλλο δυσανάγνωστο σύστημα, μόνο με καλύτερους τίτλους. Η χρήσιμη ερώτηση είναι ποιοι αναγνώστες χρειάζονται ποιο πλαίσιο τη στιγμή της δράσης. Ένας χειριστής υποθέσεων χρειάζεται διαφορετικές λεπτομέρειες από έναν προγραμματιστή. Ένας ελεγκτής χρειάζεται διαφορετικά στοιχεία από έναν χρήστη. Ένας μηχανικός υποστήριξης χρειάζεται μια διαδρομή ανάκαμψης, όχι μια φιλοσοφία κατανεμημένων συστημάτων που παραδίδεται στις 02:00. Η καλή τεκμηρίωση σέβεται τη δουλειά του αναγνώστη.
Η συντήρηση είναι η σημαντική λέξη. Αν η τεκμηρίωση δεν έχει ιδιοκτήτη, κανένα έναυσμα αναθεώρησης, καμία σύνδεση με τις αλλαγές και καμία δοκιμή στην πραγματική χρήση, τότε δεν είναι τεκμηρίωση. Είναι αισιοδοξία σε παραγράφους. Το σημειωματάριο δίπλα στην οθόνη απέδειξε ότι οι άνθρωποι θα τεκμηριώσουν ό,τι πρέπει να κατανοήσουν. Το καθήκον είναι να μεταφερθεί αυτή η γνώση από τα ιδιωτικά εργαλεία επιβίωσης σε κοινές, διαχειριζόμενες, ζωντανές επιφάνειες.
Η τεχνητή νοημοσύνη προσθέτει ένα νέο είδος δυσανάγνωστου
Τα συστήματα τεχνητής νοημοσύνης μπορούν να κάνουν τη δυσανάγνωστη πληροφορία πιο δαπανηρή, επειδή προσθέτουν ευχάριστη συμπεριφορά σε ήδη ασαφείς ροές εργασίας. Ένα μοντέλο μπορεί να συνοψίζει, να κατατάσσει, να ταξινομεί και να προτείνει. Αν το περιβάλλον σύστημα δεν μπορεί να δείξει ποια πηγή χρησιμοποιήθηκε, ποια πολιτική περιόρισε την απάντηση, ποια αβεβαιότητα παραμένει και ποιος αποδέχθηκε το αποτέλεσμα, η ευχέρεια του μοντέλου γίνεται παραπλάνηση. Η πρόταση διαβάζεται καλά. Ο οργανισμός πάλι δεν μπορεί να εξηγήσει την ενέργεια.
Υπάρχει ιδιαίτερος κίνδυνος στα αποτελέσματα μοντέλων που φαίνονται ακριβή χωρίς να είναι λειτουργικά θεμελιωμένα. Μια βαθμολογία κινδύνου, ένα ποσοστό εμπιστοσύνης ή μια σύνοψη μπορεί να δίνει την αίσθηση της σαφήνειας. Αλλά σαφήνεια για ποιον. Αν η βαθμολογία δεν συνδέεται με ένα όριο απόφασης, αποδεικτικά στοιχεία, ιστορικό βαθμονόμησης, διαδικασία αναθεώρησης και συνέπεια, γίνεται ένας διακοσμητικός αριθμός. Οι διακοσμητικοί αριθμοί είναι δημοφιλείς επειδή κάνουν τους πίνακες ελέγχου να δείχνουν πιο ουσιαστικοί. Γίνονται λιγότερο δημοφιλείς αφού έχουν δρομολογήσει ένα πραγματικό άτομο σε λάθος ουρά αναμονής.
Οι αναγνώσιμες λειτουργίες τεχνητής νοημοσύνης απαιτούν τις ίδιες παλιές αρετές, μόνο με λιγότερη υπομονή για αοριστολογίες. Κατονομάστε το σύνολο πηγών. Καταγράψτε τις εκδόσεις μοντέλου και προτροπής όπου χρειάζεται. Διατηρήστε τα ίχνη ανάκτησης εντός κατάλληλων ορίων. Διαχωρίστε την πρόταση από την ενέργεια. Δείξτε πότε ένας άνθρωπος αποδέχθηκε, άλλαξε ή απέρριψε ένα αποτέλεσμα. Παρακολουθήστε την απόκλιση. Διατηρήστε τις διαδρομές ένστασης. Κάντε την άρνηση ορατή. Η τεχνητή νοημοσύνη δεν αφαιρεί την ανάγκη για σαφήνεια. Αυξάνει το κόστος της απουσίας της.
Ο στόχος δεν είναι να εκτεθούν όλα τα εσωτερικά βάρη ή να κατακλυστεί το προσωπικό με τεχνικά δεδομένα. Ο στόχος είναι να γίνει η λειτουργική αλυσίδα κατανοητή. Ένας εργαζόμενος θα πρέπει να γνωρίζει γιατί το σύστημα πρότεινε αυτή την υπόθεση, ποια στοιχεία χρησιμοποίησε, τι επιτρέπεται να κάνει η πρόταση και πώς να την αμφισβητήσει. Ένας ελεγκτής θα πρέπει να μπορεί να αναπαράγει αρκετό πλαίσιο για να αξιολογήσει την απόφαση. Ένας χρήστης δεν θα πρέπει να παγιδεύεται πίσω από μια όμορφη απάντηση για την οποία κανείς δεν είναι υπεύθυνος.
Η δυσανάγνωστη πληροφορία γίνεται κουλτούρα
Με τον καιρό, ένα δυσανάγνωστο σύστημα αλλάζει τον τρόπο σκέψης ενός οργανισμού. Οι άνθρωποι σταματούν να ρωτούν γιατί, επειδή το γιατί είναι πολύ δαπανηρό. Ρωτούν ποιος ξέρει. Σταματούν να προτείνουν βελτιώσεις, επειδή κάθε αλλαγή μπορεί να διαταράξει μια αόρατη εξάρτηση. Δημιουργούν ανεπίσημες διαδικασίες, επειδή οι επίσημες δεν είναι αξιόπιστες. Προστατεύονται με στιγμιότυπα οθόνης. Προγραμματίζουν συναντήσεις για να συμβιβάσουν αναφορές που θα έπρεπε να συμφωνούν εξαρχής. Το σύστημα τους έχει εκπαιδεύσει να χαμηλώνουν τις προσδοκίες τους.
Αυτή η κουλτούρα είναι δύσκολο να φανεί από ψηλά. Η διοίκηση μπορεί να βλέπει σταθερή παραγωγή και να υποθέτει ότι το σύστημα λειτουργεί. Η παραγωγή είναι σταθερή επειδή οι άνθρωποι απορροφούν την αστάθεια. Μεταφράζουν, ελέγχουν, επιδιορθώνουν, θυμούνται και ζητούν συγγνώμη. Αν αυτές οι προσπάθειες είναι αόρατες, τελικά βελτιστοποιούνται και εξαλείφονται, που είναι ένας κομψός τρόπος να μετατραπεί η ικανότητα σε συσσωρευμένα περιστατικά. Ο οργανισμός τότε μαθαίνει ότι το σύστημα δεν ήταν τελικά σταθερό. Το συγκρατούσαν άνθρωποι στους οποίους έλεγαν ότι ήταν αναποτελεσματικοί.
Τα αναγνώσιμα συστήματα έχουν διαφορετική πολιτισμική επίδραση. Επιτρέπουν στους ανθρώπους να διαφωνούν με το σύστημα, επειδή μπορούν να δουν τους ισχυρισμούς του. Κάνουν την εκπαίδευση λιγότερο εξαρτημένη από τη λαϊκή παράδοση. Μειώνουν τον φόβο γύρω από την αλλαγή, επειδή οι εξαρτήσεις κατονομάζονται. Δημιουργούν καλύτερες συζητήσεις μεταξύ πολιτικής, λειτουργιών και μηχανικής. Επιτρέπουν στο προσωπικό υποστήριξης να απαντά στους χρήστες χωρίς να επινοεί θεωρίες γύρω από τους κωδικούς κατάστασης. Κάνουν τα λάθη πιο εύκολο να παραδεχτούν, επειδή η αιτία δεν είναι κρυμμένη μέσα σε έναν λαβύρινθο.
Υπάρχει μια ηθική διάσταση εδώ, αλλά δεν είναι αφηρημένη. Αν ένα σύστημα καθιστά έναν εργαζόμενο υπεύθυνο για τα αποτελέσματα ενώ του στερεί αρκετό πλαίσιο για να κατανοήσει το σύστημα, είναι άδικο. Αν ένα σύστημα υποβάλλει έναν χρήστη σε μια απόφαση που κανείς δεν μπορεί να εξηγήσει, είναι άδικο. Αν ένα σύστημα αναγκάζει μια ομάδα να φέρει τεκμηριωμένο κίνδυνο μέχρι να σπάσει κάτι, είναι άδικο. Η αναγνωσιμότητα δεν είναι καλλωπιστική ευγένεια. Είναι μέρος της υπεύθυνης ανάθεσης.
Χτίζοντας για τους αναγνώστες
Ένα ευανάγνωστο σύστημα χτίζεται με τους αναγνώστες στο μυαλό. Αυτό ακούγεται προφανές μέχρι να μετρήσει κανείς πόσα συστήματα χτίζονται για συγγραφείς, προμηθευτές, πλαίσια ή συμβιβασμούς επιτροπών. Ο αναγνώστης είναι το άτομο που πρέπει να κατανοήσει το σύστημα τη στιγμή της δράσης. Μερικές φορές αυτό το άτομο είναι προγραμματιστής. Μερικές φορές εργαζόμενος σε τηλεφωνικό κέντρο. Μερικές φορές ελεγκτής. Μερικές φορές χρήστης που λαμβάνει μια άρνηση. Μερικές φορές διευθυντής που αποφασίζει αν μια ουρά είναι ασφαλής. Η αναγνωσιμότητα ξεκινά ονομάζοντας αυτούς τους αναγνώστες και τις ερωτήσεις που χρειάζονται απάντηση.
Για κάθε ουσιώδη κατάσταση, το σύστημα θα πρέπει να μπορεί να πει τι σημαίνει, πώς επιτεύχθηκε, ποιος την κατέχει, ποια στοιχεία την υποστηρίζουν, τι συμβαίνει στη συνέχεια και πώς μπορεί να διορθωθεί. Για κάθε σημαντική μετάβαση, θα πρέπει να διατηρεί αιτία, φορέα, κανόνα, έκδοση και συνέπεια. Για κάθε αυτοματοποίηση, θα πρέπει να διακρίνει τη σύσταση από την απόφαση. Για κάθε αναφορά, θα πρέπει να δείχνει την προέλευση. Για κάθε εξαίρεση, θα πρέπει να ονομάζει την αρχή. Τίποτα από αυτά δεν είναι εντυπωσιακό. Είναι το ελάχιστο κόστος συμμετοχής όταν αναθέτεις εργασία σε μια μηχανή χωρίς να εγκαταλείπεις τους ανθρώπους γύρω της.
Υπάρχουν αντισταθμίσεις. Περισσότερη ορατή λεπτομέρεια μπορεί να κατακλύσει. Περισσότερη δομή μπορεί να επιβραδύνει την έγκαιρη παράδοση. Περισσότερα στοιχεία μπορούν να εγείρουν ζητήματα αποθήκευσης και ιδιωτικότητας. Πιο ακριβής γλώσσα μπορεί να αποκαλύψει διαφωνίες που προηγουμένως ήταν κρυφές. Αυτά είναι πραγματικά κόστη. Είναι όμως καλύτερα κόστη από την κρυφή εργασία της αποκρυπτογράφησης ενός δυσανάγνωστου συστήματος για πάντα. Η απάντηση δεν είναι να εμφανίζονται τα πάντα παντού. Η απάντηση είναι να διατηρείται το νόημα διαθέσιμο στο επίπεδο όπου λαμβάνονται οι αποφάσεις.
Το σπιράλ τετράδιο δεν πρέπει να εξιδανικεύεται. Ήταν σημάδι φροντίδας, αλλά και σύμπτωμα αποτυχίας. Οι άνθρωποι είχαν κάνει ό,τι κάνουν οι καλοί εργαζόμενοι: προστάτευαν τη δουλειά. Το σύστημα είχε κάνει ό,τι κάνουν τα δυσανάγνωστα συστήματα: έκανε αυτή την προστασία ιδιωτική, εύθραυστη και άδικα κατανεμημένη. Ένα ανθρώπινο σύστημα θα είχε μάθει από το τετράδιο και θα είχε φέρει τη γνώση του στο σπίτι.
Η ευανάγνωστη υπόσχεση
Η υπόσχεση της αναγνωσιμότητας είναι μετριοπαθής. Δεν κάνει κάθε διαδικασία απλή. Δεν αφαιρεί την κρίση. Δεν αποτρέπει κάθε λάθος. Δεν απαλλάσσει τους οργανισμούς από τη διαφωνία, γιατί κανένα λογισμικό δεν έχει ακόμη νικήσει την επιτροπή ως μορφή ζωής. Αυτό που κάνει είναι να δίνει στους ανθρώπους μια δικαιότερη σχέση με τα συστήματα που λειτουργούν. Τους επιτρέπει να βλέπουν καταστάσεις, λόγους, στοιχεία, ιδιοκτησία και επόμενα βήματα.
Αυτή η δικαιοσύνη έχει πρακτική αξία. Η ενσωμάτωση γίνεται ταχύτερη. Τα περιστατικά γίνονται πιο περιορισμένα. Οι έλεγχοι γίνονται λιγότερο θεατρικοί. Οι αλλαγές γίνονται λιγότερο τρομακτικές. Οι χρήστες λαμβάνουν σαφέστερες εξηγήσεις. Οι μηχανικοί μπορούν να τροποποιήσουν τον κώδικα με καλύτερη γνώση των συνεπειών. Οι διευθυντές βλέπουν πού είναι μπλοκαρισμένη η εργασία αντί για το πού ένας πίνακας ελέγχου έχει επινοήσει ηρεμία. Το σύστημα γίνεται λιγότερο εξαρτημένο από την ιδιωτική μνήμη και περισσότερο εξαρτημένο από την κοινή αλήθεια.
Το ανθρώπινο κόστος των δυσανάγνωστων συστημάτων πληρώνεται σε λεπτά, λάθη, επιφυλακτικότητα, άγχος και σιωπηρό κυνισμό. Το πληρώνουν όσοι μαθαίνουν τα κρυφά νοήματα, και το πληρώνουν και όσοι δεν τα μαθαίνουν. Το πληρώνουν οι χρήστες που περιμένουν όσο το προσωπικό αποκωδικοποιεί το μηχάνημα. Το πληρώνουν οι οργανισμοί που χάνουν την ικανότητα να αλλάξουν, επειδή κανείς δεν μπορεί να διαβάσει ό,τι έχουν φτιάξει.
Τα αναγνώσιμα συστήματα δεν είναι πιο χαλαρά συστήματα. Είναι συστήματα που σέβονται το γεγονός ότι η τεχνολογία λειτουργεί από ανθρώπους με πεπερασμένη προσοχή και πραγματική ευθύνη. Ένα σύστημα που μπορεί να εξηγήσει τον εαυτό του είναι πιο εύκολο να το εμπιστευτείς, πιο εύκολο να το αμφισβητήσεις και πιο εύκολο να το επισκευάσεις. Αυτό δεν είναι διακόσμηση. Είναι μέρος της δουλειάς.