Το κόστος των συστημάτων που δεν μπορούν να πουν «όχι»
Η μηχανή που πάντα βοηθούσε
Το πρώτο σημάδι προβλήματος δεν ήταν μια αποτυχία. Ήταν η εξυπηρετικότητα. Μια ομάδα εξυπηρέτησης είχε εισαγάγει έναν αυτοματοποιημένο βοηθό για να δρομολογεί αιτήματα, να συντάσσει απαντήσεις, να προτείνει επόμενα βήματα και να κλείνει απλές υποθέσεις. Η δοκιμή έμοιαζε ομαλή. Το σύστημα απαντούσε σε κάθε ερώτηση, παρήγαγε μια διαδρομή για κάθε δελτίο και δεν φαινόταν ποτέ να ενοχλείται από την έλλειψη πλαισίου. Είχε την πρόσχαρη αντοχή του λογισμικού και την κοινωνική αυτοπεποίθηση ενός νεαρού συμβούλου που δεν έχει γνωρίσει ακόμα την παραγωγή.
Για μερικές εβδομάδες ο πίνακας ελέγχου βελτιωνόταν. Λιγότερα δελτία έμεναν χωρίς επεξεργασία. Ο μέσος χρόνος απόκρισης μειώθηκε. Στο προσωπικό άρεσε να έχει ένα προσχέδιο για να ξεκινήσει. Στα στελέχη άρεσε η καθαρή γραμμή στην αναφορά. Μετά έφτασε η δευτερογενής εργασία. Οι υποθέσεις άνοιγαν ξανά επειδή η πρώτη απάντηση δεν τις είχε λύσει πραγματικά. Τα δύσκολα αιτήματα δρομολογούνταν ως απλά επειδή ο βοηθός είχε καλύψει τα κενά με εύλογη δομή. Οι πελάτες έμαθαν ότι το να λένε λίγα περισσότερα μερικές φορές παρήγαγε ταχύτερη απάντηση. Το προσωπικό έμαθε ότι η απόρριψη ενός προσχεδίου έπαιρνε περισσότερο χρόνο από το να το διορθώσει αργότερα. Το σύστημα δεν είχε πει ακριβώς ναι. Είχε αποτύχει να πει όχι.
Αυτή η αποτυχία είναι δαπανηρή. Ένα σύστημα που δεν μπορεί να αρνηθεί δεν γίνεται απλώς ανακριβές. Αλλάζει την εργασία γύρω του. Μετατρέπει τα ελλιπή στοιχεία σε σίγουρη κίνηση. Μετατρέπει την αβεβαιότητα σε πρόοδο στην ουρά. Ζητά από τους ανθρώπους που έπονται να απορροφήσουν την ασάφεια που έπρεπε να σταματήσει νωρίτερα. Ανταμείβει τους χρήστες και τους χειριστές για το να προχωρούν παρά για το να επιβραδύνουν. Το κόστος εμφανίζεται ως επανεργασία, κίνδυνος, αδυναμία ελέγχου, κόπωση προσωπικού και σιωπηλή βλάβη που δεν χωράει ποτέ τακτοποιημένα στη μετρική.
Η άρνηση συχνά αντιμετωπίζεται ως ζήτημα τόνου. Κάνε τον βοηθό πιο προσεκτικό. Πρόσθεσε μια αποποίηση ευθύνης. Ζήτησέ του να πει ότι δεν είναι σίγουρος. Αλλά η πραγματική άρνηση δεν είναι μια πρόταση. Είναι μια κατάσταση συστήματος. Είναι η ικανότητα να ανιχνεύει ότι μια ενέργεια είναι άκυρη, επισφαλής, με ανεπαρκή στοιχεία, εκτός εξουσιοδότησης, υπερβολικά αβέβαιη ή αδύνατη υπό τους τρέχοντες περιορισμούς, και στη συνέχεια να δρομολογεί την εργασία σε μια ασφαλέστερη διαδρομή. Αυτό είναι αρχιτεκτονική, όχι ευγένεια.
Το όχι είναι έλεγχος, όχι διάθεση
Τα καλά συστήματα λένε όχι με πολλούς διαφορετικούς τρόπους. Απορρίπτουν την άκυρη είσοδο. Μπλοκάρουν ενέργειες εκτός της εξουσιοδότησης ρόλου. Κάνουν παύση όταν τα στοιχεία είναι παρωχημένα. Αρνούνται όταν λείπει η πολιτική. Ζητούν ανθρώπινη αναθεώρηση όταν η αβεβαιότητα είναι πολύ υψηλή. Επιστρέφουν ανέφικτο όταν οι περιορισμοί συγκρούονται. Υποβαθμίζουν τη λειτουργικότητα όταν μια εξάρτηση είναι εκτός λειτουργίας. Διατηρούν αρχείο όταν μια απόφαση δεν μπορεί να ολοκληρωθεί. Η επιφάνεια μπορεί να είναι ένα μήνυμα, αλλά το σημαντικό μέρος είναι ο έλεγχος πίσω από αυτό.
Αυτό είναι εύκολο να το ξεχάσει κανείς, επειδή οι χρήστες βιώνουν την άρνηση ως τριβή. Μια φόρμα απορρίπτει ένα πεδίο. Μια ροή εργασίας ζητά άλλο έγγραφο. Ένα μοντέλο αρνείται να απαντήσει. Ένας προγραμματιστής λέει ότι η διαδρομή δεν μπορεί να γίνει. Ένας βοηθός συμμόρφωσης αρνείται να συντάξει τελική δήλωση χωρίς πηγή. Η τριβή μπορεί να είναι εκνευριστική. Μπορεί επίσης να είναι το μόνο πράγμα που στέκεται ανάμεσα σε μια φυσιολογική υπόθεση και σε ένα αποτρέψιμο συμβάν. Το ζητούμενο δεν είναι να αφαιρεθεί η τριβή. Είναι να μπει η τριβή εκεί που την απαιτεί η πραγματικότητα και να αφαιρεθεί εκεί που είναι μόνο διακόσμηση.
Ένα σύστημα που δεν μπορεί να πει όχι συνήθως έχει θολά όρια μεταξύ αιτήματος, σύστασης και ενέργειας. Κάποιος ζητά βοήθεια. Το σύστημα παράγει κάτι που μοιάζει χρήσιμο. Η ροή εργασίας το αντιμετωπίζει ως πρόοδο. Ο επόμενος το παραλαμβάνει ως γεγονός. Όταν γίνει αντιληπτή η αδυναμία, αρκετοί άνθρωποι έχουν ήδη χτίσει δουλειά πάνω της. Η άρνηση πρέπει να γίνεται πριν το αδύναμο υλικό γίνει φέρον.
Υπάρχει λόγος που τα συστήματα κρίσιμα για την ασφάλεια χρησιμοποιούν αλληλομανδαλώσεις, περιορισμούς, λίστες ελέγχου, επικύρωση και καταστάσεις διακοπής. Δεν βασίζονται μόνο σε ευγενικές προειδοποιήσεις. Καθιστούν αδύνατες κάποιες κινήσεις έως ότου πληρούνται οι προϋποθέσεις. Οι ροές εργασίας με τεχνητή νοημοσύνη χρειάζονται την ίδια σχεδιαστική λογική. Αν η έξοδος ενός μοντέλου δεν είναι δικαιολογημένη, το σύστημα δεν πρέπει απλώς να ψιθυρίζει μια επιφύλαξη ενώ αφήνει την κατάντη διαδικασία να θεωρεί την έξοδο έτοιμη.
Οι έξι χρήσιμες αρνήσεις
Δεν είναι όλες οι αρνήσεις ίδιες. Το Άκυρο είναι το απλούστερο. Η είσοδος είναι εσφαλμένη, το αίτημα είναι ελλιπές, η ταυτότητα δεν είναι γνωστή ή η εγγραφή δεν πληροί τις βασικές απαιτήσεις. Η άρνηση για άκυρο πρέπει να είναι βαρετή και γρήγορη. Πες στον χρήστη τι λείπει, κράτησε την κατάσταση και μην επινοήσεις τα υπόλοιπα. Η βαρετή επικύρωση αποτρέπει την εντυπωσιακή αποτυχία αργότερα.
Το Μη ασφαλές είναι διαφορετικό. Το σύστημα κατανοεί το αίτημα, αλλά η εκτέλεσή του θα δημιουργούσε απαράδεκτο κίνδυνο. Ένας ιατρικός βοηθός δεν πρέπει να δίνει τελική κλινική σύσταση χωρίς κλινικό γιατρό στη σωστή ροή εργασίας. Ένα εργαλείο προγραμματισμού δεν πρέπει να δημιουργεί πρόγραμμα που παραβιάζει τους κανόνες ανάπαυσης. Ένα σύστημα δημόσιας υπηρεσίας δεν πρέπει να κλείνει υπόθεση χωρίς την απαιτούμενη ειδοποίηση. Η άρνηση για μη ασφαλές χρειάζεται διαδρομή: κλιμάκωση, απαίτηση έγκρισης, μείωση της ενέργειας ή διακοπή.
Το Με ανεπαρκή τεκμηρίωση είναι συχνό στην τεχνητή νοημοσύνη. Το μοντέλο μπορεί να απαντήσει, αλλά οι πηγές δεν υποστηρίζουν αρκετά την απάντηση. Ένα σύστημα ανάκτησης βρήκε σχετικά έγγραφα αλλά όχι την εφαρμοστέα διάταξη. Μια περίληψη βασίζεται σε παρωχημένα δεδομένα. Ένας ταξινομητής είναι εκτός του εύρους βαθμονόμησής του. Η σωστή συμπεριφορά δεν είναι μια σίγουρη καλύτερη προσπάθεια. Είναι να κατονομαστεί το κενό τεκμηρίωσης και να ζητηθούν περισσότερα, να μειωθεί η συνέπεια ή να διοχετευτεί σε έλεγχο.
Το Εκτός εξουσιοδότησης είναι οργανωτικό. Το σύστημα ή ο χρήστης μπορεί να έχει τα δεδομένα και τη δυνατότητα, αλλά όχι το δικαίωμα να ενεργήσει. Αυτό δεν είναι μόνο πρόβλημα ελέγχου πρόσβασης. Η εξουσία εξαρτάται από τον ρόλο, το πλαίσιο, την πολιτική και τη συνέπεια. Ένα σχέδιο μπορεί να επιτρέπεται, η τελική έγκριση όχι. Μια σύσταση μπορεί να επιτρέπεται για εσωτερική διαλογή, η εξωτερική εξήγηση όχι. Ένα σύστημα που δεν μπορεί να διακρίνει τη δυνατότητα από την εξουσία θα καταλήξει να αφήνει την ισχύ να ταξιδεύει με την ευκολία.
Το Πολύ αβέβαιο είναι η άρνηση που χρειάζονται περισσότερο τα ώριμα συστήματα. Η απάντηση μπορεί να είναι σωστή, αλλά η αβεβαιότητα είναι αρκετά μεγάλη σε σχέση με τη συνέπεια ώστε η ενέργεια να πρέπει να επιβραδυνθεί. Αυτό δεν είναι αποτυχία. Είναι η βαθμονόμηση να συναντά την κρίση. Το Πολύ αβέβαιο πρέπει να ενεργοποιεί μια αναλογική διαδρομή: να γίνει διευκρινιστική ερώτηση, να συγκεντρωθεί άλλη πηγή, να απαιτηθεί έλεγχος, να διευρυνθεί το περιθώριο ασφαλείας ή να ειπωθεί όχι για τώρα.
Το Αδύνατο είναι η άρνηση του επιλυτή. Δεν μπορούν να ικανοποιηθούν όλοι οι περιορισμοί. Η ζητούμενη προθεσμία, ο προϋπολογισμός, η στελέχωση, ο νομικός κανόνας και ο στόχος ποιότητας δεν ταιριάζουν μεταξύ τους. Το Αδύνατο δεν είναι αρνητισμός. Είναι απόδειξη ότι η διατύπωση του προβλήματος περιέχει σύγκρουση. Ένα καλό σύστημα δείχνει τι θα έπρεπε να αλλάξει, χωρίς να προσποιείται ότι η αισιοδοξία είναι πόρος.
Η ευγένεια μπορεί να κρύβει ένα ναι
Πολλά συστήματα τεχνητής νοημοσύνης είναι καλά στο να ακούγονται προσεκτικά ενώ εξακολουθούν να επιτρέπουν την επικίνδυνη διαδρομή. Λένε ότι η απάντηση μπορεί να είναι ελλιπής και στη συνέχεια παρέχουν ένα λεπτομερές σχέδιο. Λένε ότι ο χρήστης θα πρέπει να επαληθεύσει και στη συνέχεια κάνουν την αντιγραφή αβίαστη. Λένε ότι το σύστημα είναι απλώς ένας βοηθός και στη συνέχεια τοποθετούν τη σύσταση του βοηθού ως προεπιλογή. Δείχνουν ένα μικρό σήμα αβεβαιότητας δίπλα σε ένα μεγάλο πράσινο κουμπί ενέργειας. Η γλώσσα λέει προσοχή. Η ροή εργασίας λέει προχώρα.
Οι χρήστες πιστεύουν περισσότερο τις ροές εργασίας παρά τις προειδοποιήσεις. Μια προειδοποίηση που εμφανίζεται σε κάθε απάντηση γίνεται ταπετσαρία. Μια επιφύλαξη που δεν αλλάζει τις διαθέσιμες ενέργειες γίνεται νομικό άρωμα. Μια βαθμολογία εμπιστοσύνης που δεν συνδέεται με όρια, έλεγχο ή άρνηση γίνεται διακόσμηση. Η διεπαφή διδάσκει στους ανθρώπους τι πραγματικά εκτιμά ο οργανισμός. Αν η διαδρομή αποδοχής είναι γρήγορη και η διαδρομή αμφισβήτησης είναι δυσδιάκριτη, οι άνθρωποι θα μάθουν το μάθημα.
Γι' αυτό η άρνηση πρέπει να συνδέεται με την ικανότητα. Όταν τα στοιχεία είναι ανεπαρκή, η τελική ενέργεια θα πρέπει να απενεργοποιείται ή να υποβαθμίζεται. Όταν η αβεβαιότητα είναι υψηλή, το σύστημα θα πρέπει να κατευθύνει σε έλεγχο ή να ζητά περισσότερες πληροφορίες. Όταν ο χρήστης δεν έχει εξουσιοδότηση, το σύστημα θα πρέπει να σταματά την ενέργεια αντί να ζητά από τον χρήστη να θυμάται την πολιτική. Όταν το αίτημα είναι εκτός πεδίου, το σύστημα δεν θα πρέπει να παράγει μια ελκυστική απάντηση με μια δειλή υποσημείωση.
Ο καλός σχεδιασμός άρνησης δεν είναι εχθρικός. Είναι συγκεκριμένος. Εξηγεί την κατάσταση, κατονομάζει την ελλείπουσα προϋπόθεση, προσφέρει έγκυρα επόμενα βήματα, διατηρεί την εργασία που έχει ήδη γίνει και αποφεύγει να ντροπιάσει τον χρήστη. Οι καλύτερες αρνήσεις μοιάζουν με έναν ικανό συνάδελφο που λέει: όχι ακόμα, ορίστε γιατί, ορίστε τι θα το έκανε ασφαλές. Οι χειρότερες αρνήσεις μοιάζουν με μια κλειδωμένη πόρτα με πτυχίο ποίησης.
Το κόστος του όχι όχι
Το πρώτο κόστος είναι η επανάληψη εργασίας. Όταν ένα σύστημα προωθεί αδύναμες περιπτώσεις, κάποιος αργότερα πρέπει να τις ξανανοίξει, να τις διορθώσει, να ζητήσει συγγνώμη, να τις αναδρομολογήσει ή να τις ξαναχτίσει. Η επανάληψη εργασίας εμφανίζεται συχνά σε διαφορετική γραμμή προϋπολογισμού από τον αυτοματισμό που τη δημιούργησε. Αυτό είναι βολικό για τον αυτοματισμό και άδικο για όλους τους άλλους. Μια ουρά μπορεί να φαίνεται φθηνότερη επειδή το κόστος της ξεπλένεται σε επόμενες ομάδες.
Το δεύτερο κόστος είναι η απώλεια στοιχείων. Αν το σύστημα δεν εισέλθει ποτέ σε κατάσταση άρνησης, μπορεί να μην καταγράψει ποτέ τι έλειπε. Αργότερα, κανείς δεν ξέρει αν η πηγή ήταν απούσα, ξεπερασμένη, αβέβαιη ή αγνοημένη. Ο έλεγχος γίνεται αφήγηση. Ο οργανισμός μπορεί να δείξει ότι έγινε μια απόφαση, αλλά όχι γιατί επιτράπηκε να γίνει. Αυτή η διαφορά έχει σημασία όταν διακυβεύονται δικαιώματα, ασφάλεια, χρήματα ή η δημόσια εμπιστοσύνη.
Το τρίτο κόστος είναι η ανθρώπινη κόπωση. Οι άνθρωποι που έπονται στη ροή εργασίας γίνονται ο μηχανισμός απόρριψης με το χέρι. Ελέγχουν ό,τι θα έπρεπε να έχει ήδη επικυρωθεί, διορθώνουν ό,τι θα έπρεπε να έχει αποκλειστεί και επωμίζονται την κοινωνική δυσφορία του να λένε «όχι» αφού το σύστημα έχει υπονοήσει «ναι». Αυτή είναι κακή χρήση της εξειδίκευσης. Επίσης, εκπαιδεύει τους ανθρώπους να δυσπιστούν γενικά απέναντι στο σύστημα, συμπεριλαμβανομένων των μερών που μπορεί να είναι πραγματικά χρήσιμα.
Το τέταρτο κόστος είναι η ηθική ολίσθηση. Ένα σύστημα που παράγει πάντα μια απάντηση αλλάζει την αίσθηση του οργανισμού για το τι είναι αποδεκτό. Η έλλειψη αποδεικτικών στοιχείων γίνεται φυσιολογική. Η αδύναμη βεβαιότητα γίνεται αρκετή. Οι προεπιλογές γίνονται αποφάσεις. Οι εξαιρέσεις γίνονται προσωπικό βάρος. Κανείς δεν ανακοινώνει νέα πολιτική. Η ροή εργασίας απλώς διδάσκει μία. Αν θέλετε ξερή ολλανδική υποτίμηση, αυτό δεν είναι ιδανικό.
Το πέμπτο κόστος είναι η στρατηγική ευθραυστότητα. Ένα επιτρεπτικό σύστημα γίνεται δύσκολο να κυβερνηθεί επειδή δεν έχει σαφείς καταστάσεις. Τα πάντα είναι σε εξέλιξη, προτεινόμενα, σε στάδιο σχεδίου, δρομολογημένα ή σχεδόν έτοιμα. Δεν υπάρχει καθαρό σήμα ότι ένα αίτημα είναι άκυρο, επικίνδυνο, αδύνατο ή εκτός αρμοδιότητας. Οι διευθυντές τότε δεν έχουν τα στοιχεία που χρειάζονται για να διορθώσουν τις ανάντη αιτίες. Αγοράζουν περισσότερη χωρητικότητα για την κατάντη εκκαθάριση και το αποκαλούν κλιμάκωση.
Η τεχνητή νοημοσύνη χρειάζεται όρια πριν από την αυτονομία
Η αυτόνομη συμπεριφορά χωρίς απόρριψη δεν είναι αυτονομία. Είναι επιτάχυνση. Το σύστημα μπορεί να κάνει περισσότερα πράγματα πιο γρήγορα, συμπεριλαμβανομένων των πραγμάτων που δεν θα έπρεπε να κάνει. Οι πράκτορες που καλούν εργαλεία, οι προγραμματιστές που αναθέτουν εργασίες, οι βοηθοί που στέλνουν μηνύματα και τα μοντέλα που ενεργοποιούν ροές εργασίας χρειάζονται καταστάσεις απόρριψης πριν χρειαστούν περισσότερη ελευθερία. Διαφορετικά, κάθε νέο εργαλείο γίνεται ένας νέος δρόμος για μη υποστηριζόμενη δράση.
Η χρήση εργαλείων κάνει το ζήτημα συγκεκριμένο. Ένα μοντέλο μπορεί να ξέρει πώς να υποβάλει ερώτημα σε βάση δεδομένων, να συντάξει ένα email, να ενημερώσει μια εγγραφή και να προγραμματίσει μια εργασία. Το ερώτημα δεν είναι αν μπορεί. Το ερώτημα είναι πότε επιτρέπεται. Πληρούνται τα αποδεικτικά στοιχεία το όριο. Είναι αναστρέψιμη η ενέργεια. Είναι σωστός ο παραλήπτης. Είναι εξουσιοδοτημένος ο χρήστης. Είναι το μοντέλο εντός πεδίου. Έχει προκαλέσει παρόμοια ενέργεια περιστατικά. Θα έπρεπε να εγκρίνει άνθρωπος. Το επίπεδο απόρριψης απαντά σε αυτές τις ερωτήσεις πριν η ικανότητα γίνει συμπεριφορά.
Τα συστήματα προγραμματισμού χρειάζονται την ίδια πειθαρχία. Ένα σχέδιο που χρησιμοποιεί διαθέσιμα εργαλεία μπορεί να παραβιάζει πολιτική, να υπερφορτώνει ανθρώπους, να δημιουργεί συγκρουόμενες δεσμεύσεις ή να μειώνει την ανθεκτικότητα. Ο προγραμματιστής θα πρέπει να γνωρίζει τους σκληρούς περιορισμούς, τις ήπιες προτιμήσεις, τα όρια κινδύνου και τις απαιτήσεις εναλλακτικής λύσης. Θα πρέπει να επιστρέφει «ανέφικτο» όταν το αίτημα δεν μπορεί να ικανοποιηθεί. Δεν θα πρέπει να παράγει ένα ηρωικό σχέδιο που λειτουργεί μόνο αν οι άνθρωποι, τα δεδομένα, οι προμηθευτές και η φυσική συμπεριφέρονται όλα ευγενικά.
Η αυτονομία χρειάζεται επίσης μια συνθήκη διακοπής. Όταν το σύστημα ανιχνεύει απόκλιση, επαναλαμβανόμενη αβεβαιότητα, αντικρουόμενα στοιχεία, έλλειψη εξουσιοδότησης ή απροσδόκητα αποτελέσματα, θα πρέπει να επιβραδύνει ή να κάνει παύση. Ένα σύστημα που δεν μπορεί να σταματήσει τον εαυτό του θα σταματήσει αργότερα από περιστατικό, κανονισμό, εξάντληση ή εξέγερση πελατών. Αυτές οι μέθοδοι είναι διαθέσιμες, αλλά έχουν κακή εμπειρία χρήστη.
Μέτρηση της απόρριψης χωρίς τιμωρία της
Αν η απόρριψη είναι σημαντική, οι οργανισμοί θα πρέπει να τη μετρούν. Αλλά πρέπει να μετρούν προσεκτικά. Ένα υψηλό ποσοστό απόρριψης μπορεί να σημαίνει ότι το σύστημα είναι υπερβολικά προσεκτικό, ότι η ποιότητα των εισροών είναι φτωχή, ότι οι χρήστες κάνουν ερωτήσεις εκτός πεδίου, ότι λείπουν δεδομένα, ότι η πολιτική είναι ασαφής ή ότι το μοντέλο είναι κακώς βαθμονομημένο. Ο αριθμός από μόνος του δεν κρίνει το σύστημα. Ανοίγει μια διερεύνηση.
Χρήσιμες μετρήσεις απόρριψης περιλαμβάνουν τον τύπο απόρριψης, τη συνθήκη που λείπει, τον ρόλο χρήστη, το κατάντη αποτέλεσμα, το ποσοστό παράκαμψης, τη μεταγενέστερη έφεση, την αποφυγή επανάληψης εργασίας και τον χρόνο επισκευής. Αν πολλά αιτήματα έχουν ανεπαρκή στοιχεία, διορθώστε τις πηγές. Αν πολλά είναι εκτός αρμοδιότητας, διορθώστε τον σχεδιασμό ρόλων ή την εκπαίδευση. Αν πολλά είναι αδύνατα, επανεξετάστε τη στελέχωση, τις υποσχέσεις ή τους περιορισμούς. Αν οι άνθρωποι παρακάμπτουν πολλές απορρίψεις και τα αποτελέσματα είναι καλά, η απόρριψη μπορεί να είναι υπερβολικά αυστηρή. Αν οι άνθρωποι παρακάμπτουν και τα αποτελέσματα είναι κακά, τα κίνητρα μπορεί να είναι χαλασμένα.
Η επικίνδυνη μετρική είναι η μείωση των αρνήσεων ως στόχος. Αν οι ομάδες επιβραβεύονται επειδή κάνουν το σύστημα να λέει «όχι» λιγότερο συχνά, μπορεί να αποδυναμώσουν τους ελέγχους αντί να βελτιώσουν το έργο. Ο στόχος δεν είναι λιγότερες αρνήσεις. Ο στόχος είναι οι κατάλληλες αρνήσεις, λιγότερα μη έγκυρα αιτήματα, σαφέστερο πεδίο εφαρμογής, καλύτερα τεκμήρια και ασφαλέστερη δράση. Ένας συναγερμός πυρκαγιάς που χτυπά λιγότερο επειδή κάποιος αφαίρεσε την μπαταρία δεν έχει βελτιώσει την ασφάλεια του κτιρίου. Έχει βελτιώσει τον ηχητικό περιβάλλον.
Η άρνηση θα πρέπει επίσης να είναι ορατή στη διοίκηση. Όχι ως αριθμός ντροπής, αλλά ως επιχειρησιακή πληροφορία. Οι αρνήσεις δείχνουν πού οι υποσχέσεις του οργανισμού υπερβαίνουν τα δεδομένα, την εξουσιοδότηση, το προσωπικό, τη σαφήνεια των πολιτικών ή τον σχεδιασμό του συστήματός του. Είναι ακριβό να τις αγνοεί κανείς, επειδή είναι πρώιμα σήματα. Πολλά περιστατικά δεν είναι παρά αρνήσεις που δεν επιτράπηκε να συμβούν έγκαιρα.
Οι άνθρωποι στους οποίους πρέπει να επιτρέπεται να λένε όχι
Τα συστήματα δανείζονται την κουλτούρα τους από τους οργανισμούς. Αν οι άνθρωποι τιμωρούνται επειδή αρνούνται αδύναμο έργο, η άρνηση από το λογισμικό δεν θα επιβιώσει ούτε αυτή. Ένας εργαζόμενος που αμφισβητεί τη σύσταση, επιβραδύνει την ουρά, ζητά τεκμήρια ή αναβαθμίζει μια μη ασφαλή υπόθεση χρειάζεται υποστήριξη. Διαφορετικά, ο τυπικός έλεγχος υπάρχει και ο πρακτικός έλεγχος πεθαίνει. Οι άνθρωποι θα μάθουν να κρατούν τη μετρική πράσινη και να προωθούν την αβεβαιότητα παρακάτω.
Αυτό είναι ιδιαίτερα σημαντικό στις ροές εργασίας τεχνητής νοημοσύνης, επειδή το σύστημα μπορεί να δημιουργήσει κοινωνική πίεση. Το μηχάνημα φαίνεται σίγουρο. Ο διευθυντής βλέπει την απόδοση. Ο πελάτης περιμένει ταχύτητα. Ο αξιολογητής γίνεται ο αργός άνθρωπος στη μέση. Αν ο οργανισμός δεν έχει προστατεύσει ρητά την καλή άρνηση, ο αξιολογητής τελικά θα υποχωρήσει. Όχι επειδή είναι απρόσεκτος. Επειδή η ροή εργασίας έκανε το θάρρος αναποτελεσματικό.
Οι διευθυντές θα πρέπει επομένως να θέτουν διαφορετικές ερωτήσεις. Όχι μόνο πόσες υποθέσεις έκλεισαν, αλλά πόσες δεν έπρεπε να έχουν κλείσει. Όχι μόνο πόσο συχνά οι άνθρωποι αποδέχονταν συστάσεις, αλλά πότε η διαφωνία βελτίωσε το αποτέλεσμα. Όχι μόνο αν η άρνηση επιβράδυνε την εργασία, αλλά αν απέτρεψε επανάληψη ή βλάβη. Όχι μόνο αν το μοντέλο απάντησε, αλλά αν το σύστημα είχε την εξουσιοδότηση και τα τεκμήρια για να ενεργήσει βάσει της απάντησης.
Η εκπαίδευση βοηθά όταν χρησιμοποιεί πραγματικά περιστατικά. Δείξτε στο προσωπικό πώς μοιάζουν τα μη έγκυρα, τα μη ασφαλή, τα ανεπαρκώς τεκμηριωμένα, τα εκτός εξουσιοδότησης, τα υπερβολικά αβέβαια και τα αδύνατα στην εργασία του. Δείξτε τη σωστή διαδρομή για το καθένα. Δείξτε παραδείγματα όπου το να πει κανείς όχι προστάτευσε τους χρήστες και παραδείγματα όπου η περιττή άρνηση εμπόδισε μια χρήσιμη υπηρεσία. Οι άνθρωποι δεν χρειάζονται κηρύγματα περί ευθύνης. Χρειάζονται κοινή κρίση και μια ροή εργασίας που τη σέβεται.
Σχεδιάζοντας το κομψό όχι
Ένα ευγενικό «όχι» έχει τέσσεριες ιδιότητες. Είναι ακριβές. Λέει τι εμπόδισε την ενέργεια. Είναι αναλογικό. Σταματά την τελική ενέργεια χωρίς να σταματά απαραίτητα τη μελέτη, τη σύνταξη ή τη συλλογή αποδεικτικών στοιχείων. Είναι ανακτήσιμο. Προσφέρει ένα έγκυρο επόμενο βήμα. Καταγράφεται. Οι μελλοντικοί χρήστες μπορούν να δουν ότι το σύστημα αρνήθηκε, γιατί αρνήθηκε και τι συνέβη στη συνέχεια.
Η ακρίβεια αποτρέπει την απογοήτευση. Το σύστημα δεν θα πρέπει να λέει «δεν είναι δυνατή η συνέχιση» αν το πραγματικό πρόβλημα είναι η έλλειψη φρεσκάδας της πηγής, η απουσία εξουσιοδότησης, οι αντικρουόμενοι περιορισμοί ή η χρήση εκτός πεδίου. Η αναλογικότητα αποτρέπει την αδράνεια. Ένα προσχέδιο μπορεί να συνεχιστεί ενώ η τελική αποστολή είναι μπλοκαρισμένη. Ένα χρονοδιάγραμμα μπορεί να διερευνηθεί ενώ η αποστολή είναι μπλοκαρισμένη. Μια σύνοψη μπορεί να χαρακτηριστεί συμβουλευτική ενώ μια απόφαση απορρίπτεται. Η ανακτησιμότητα αποτρέπει τα αδιέξοδα. Οι χρήστες θα πρέπει να γνωρίζουν πώς να προσθέσουν αποδεικτικά στοιχεία, να ζητήσουν επανεξέταση, να αλλάξουν τον στόχο ή να αποδεχτούν μια ειλικρινή ολοκλήρωση.
Η καταγραφή αποτρέπει τη λήθη. Οι καταστάσεις άρνησης αποτελούν αποδεικτικά στοιχεία για το σύστημα και τον οργανισμό. Αποκαλύπτουν κενά στην ποιότητα των δεδομένων, ασαφείς πολιτικές, υπερφορτωμένες ομάδες, ελλείψεις ρόλων, μη ρεαλιστικές υποσχέσεις και επικίνδυνες συμπεριφορές. Αν οι αρνήσεις δεν καταγράφονται, ο οργανισμός χάνει ένα από τα καλύτερα διαγνωστικά του εργαλεία. Θα ανακαλύψει αργότερα το ίδιο πρόβλημα, συνήθως με μεγαλύτερο κόστος.
Υπάρχει αξιοπρέπεια σε ένα καλό «όχι». Δεν προσποιείται ότι η αβεβαιότητα είναι βεβαιότητα. Δεν αναγκάζει τους ανθρώπους που έπονται να καθαρίσουν την ασάφεια που προηγήθηκε. Δεν τιμωρεί τους χρήστες επειδή συνάντησαν ένα όριο. Διατηρεί την πιθανότητα ενός καλύτερου «ναι» αργότερα. Τα συστήματα που μπορούν να το κάνουν αυτό φαίνονται πιο σοβαρά, όχι λιγότερο χρήσιμα.
Το μάθημα
Το κόστος των συστημάτων που δεν μπορούν να πουν «όχι» δεν είναι ένα μεμονωμένο δραματικό αποτυχημένο γεγονός. Είναι η σταθερή μετατροπή της αβεβαιότητας σε δουλειά άλλων ανθρώπων. Είναι η επαναλειτουργία της υπόθεσης, η επισφαλής σύσταση, η χαμένη διαδρομή ελέγχου, ο κουρασμένος αξιολογητής, ο πελάτης που σταματά να εμπιστεύεται τη διαδικασία και ο διευθυντής που βλέπει πράσινους αριθμούς ενώ το έδαφος γλιστρά.
Τα χρήσιμα συστήματα δεν αρνούνται επειδή είναι αφιλόξενα. Αρνούνται επειδή η δράση απαιτεί προϋποθέσεις. Τα δεδομένα πρέπει να υπάρχουν. Η εξουσιοδότηση πρέπει να υφίσταται. Τα αποδεικτικά στοιχεία πρέπει να είναι αρκετά ισχυρά. Οι περιορισμοί πρέπει να ταιριάζουν. Η συνέπεια πρέπει να αντιστοιχεί στην εμπιστοσύνη. Η ανάκτηση πρέπει να είναι δυνατή. Όταν αυτές οι προϋποθέσεις απουσιάζουν, ένα καλό σύστημα λέει «όχι ακόμη», «όχι εδώ», «όχι με αυτά τα αποδεικτικά στοιχεία», «όχι υπό αυτή την εξουσιοδότηση» ή «όχι δυνατό υπό αυτούς τους περιορισμούς».
Αυτό το είδος «όχι» δεν είναι το αντίθετο της εξυπηρέτησης. Είναι εξυπηρέτηση με σθένος. Προστατεύει τους χρήστες από σίγουρες ανοησίες, το προσωπικό από κρυφό καθάρισμα και τους οργανισμούς από αποφάσεις που δεν μπορούν να υπερασπιστούν. Κάνει επίσης δυνατό ένα καλύτερο «ναι», επειδή το σύστημα μπορεί να δείξει τι πρέπει να αλλάξει πριν η δράση δικαιολογηθεί.
Ένα σύστημα που απαντά πάντα μπορεί να φαίνεται γενναιόδωρο. Ένα σύστημα που μπορεί να αρνηθεί είναι συνήθως αυτό που παίρνει τη δουλειά στα σοβαρά.