Γιατί οι αποφάσεις χρειάζονται ιστορικό εκδόσεων
Η έφεση που έφτασε έξι μήνες αργά
Η απόφαση έμοιαζε συνηθισμένη όταν ελήφθη. Μια αίτηση επιδόματος απορρίφθηκε ένα πρωί Τρίτης, εξετάστηκε από έναν χειριστή υποθέσεων πριν από το μεσημέρι και στάλθηκε στον πολίτη με μια ευγενική εξήγηση που δεν εξηγούσε αρκετά. Το σύστημα έδειχνε την τελική κατάσταση, την ημερομηνία, τον υπάλληλο και έναν κωδικό αιτιολογίας. Έμοιαζε διοικητικό, που είναι ο τρόπος με τον οποίο κρύβονται πολλά σημαντικά πράγματα. Έξι μήνες αργότερα ο πολίτης άσκησε έφεση. Μέχρι τότε η πολιτική είχε αλλάξει δύο φορές, το μοντέλο βαθμολόγησης είχε ενημερωθεί, η ροή εισοδήματος είχε διορθώσει ένα πεδίο και ο χειριστής υποθέσεων είχε μετακινηθεί σε άλλη ομάδα. Το αρχείο εξακολουθούσε να αναφέρει απορρίφθηκε. Ο οργανισμός δεν γνώριζε πλέον ποια απόρριψη εννοούσε.
Όλοι μπορούσαν να δουν το αποτέλεσμα. Κανείς δεν μπορούσε να ανασυνθέσει την απόφαση. Η βάση δεδομένων περιείχε την τελευταία έκδοση του προφίλ του αιτούντος, όχι την έκδοση που χρησιμοποιήθηκε εκείνη τη στιγμή. Η μηχανή κανόνων είχε τους τρέχοντες κανόνες, όχι το παλιό όριο. Το μητρώο μοντέλων ανέφερε το αναπτυγμένο μοντέλο, αλλά το ιστορικό επαναφοράς ήταν ελλιπές. Το πρότυπο εξήγησης είχε επεξεργαστεί. Η σημείωση ανθρώπινης εξέτασης ανέφερε ελέγχθηκε, μια γενναία λέξη για μια μελλοντική ακρόαση. Το αρχείο καταγραφής ελέγχου έδειχνε συμβάντα πρόσβασης, αλλά όχι αρκετό πλαίσιο για να κατανοηθεί γιατί προέκυψε το αποτέλεσμα. Η έφεση έγινε μια συνάντηση για τη θεσμική μνήμη, και η θεσμική μνήμη εκπροσωπήθηκε από τρία άτομα, ένα υπολογιστικό φύλλο και μια κοινή αίσθηση φόβου.
Γι' αυτό οι αποφάσεις χρειάζονται ιστορικό εκδόσεων. Μια απόφαση δεν είναι το ίδιο με μια εγγραφή με κατάσταση. Είναι μια στιγμή όπου τα δεδομένα, η πολιτική, η συμπεριφορά του μοντέλου, η ανθρώπινη κρίση, η κατάσταση ροής εργασίας, τα δικαιώματα, τα αποδεικτικά στοιχεία και οι συνέπειες συναντώνται. Αν αυτά τα συστατικά δεν έχουν εκδόσεις, ο οργανισμός μπορεί να δείξει ότι κάτι συνέβη, αλλά όχι τι συνέβη με την έννοια της λογοδοσίας. Τα αρχεία καταγραφής λένε ότι μια πόρτα άνοιξε. Το ιστορικό εκδόσεων λέει ποιο δωμάτιο υπήρχε πίσω από την πόρτα, ποιο κλειδί έγινε αποδεκτό, ποιος το γύρισε και γιατί επιτράπηκε η διαδρομή.
Τα αρχεία καταγραφής δεν αρκούν
Τα αρχεία καταγραφής είναι απαραίτητα. Μας λένε ότι ένα συμβάν συνέβη, πότε συνέβη και συχνά ποιος φορέας ή υπηρεσία το παρήγαγε. Τα καλά αρχεία καταγραφής είναι πολύτιμα. Αλλά τα αρχεία καταγραφής από μόνα τους δεν αποτελούν ιστορικό αποφάσεων. Μια γραμμή καταγραφής που λέει ότι ο κανόνας αξιολογήθηκε ως αληθής είναι αδύναμη αν ο ορισμός του κανόνα έχει αλλάξει. Ένα αρχείο καταγραφής που καταγράφει ότι το μοντέλο βαθμολόγησε 0,71 είναι αδύναμο αν λείπουν η έκδοση του μοντέλου, το όριο, τα χαρακτηριστικά και η βαθμονόμηση. Ένα αρχείο καταγραφής που καταγράφει ότι ο χρήστης ενέκρινε είναι αδύναμο αν ο εξεταστής είδε διαφορετικά αποδεικτικά στοιχεία από όσα δείχνει το μεταγενέστερο αρχείο. Συμβάντα χωρίς εκδόσεις είναι αποτυπώματα σε φρέσκο χιόνι αφού κάποιος έχει αναδιατάξει το κτίριο.
Το ιστορικό αποφάσεων χρειάζεται και συμβάν και κατάσταση. Πρέπει να καταγράφει ή να αναφέρεται στην κατάσταση που είχε σημασία εκείνη τη στιγμή: στιγμιότυπο δεδομένων, φρεσκάδα πηγής, έκδοση κανόνα, έκδοση μοντέλου, έκδοση προτροπής, όριο, βάση πολιτικής, δικαιώματα πρόσβασης, κατάσταση ουράς, προβολή εξεταστή, έξοδος, ειδοποίηση και μεταγενέστερη ενέργεια. Δεν χρειάζεται πάντα να αντιγράφει κάθε κομμάτι ιδιωτικού περιεχομένου. Αναφορές, κατακερματισμοί, στιγμιότυπα και επίπεδα διατήρησης μπορούν να κρατήσουν το ίχνος αναλογικό. Αλλά το σύστημα πρέπει να διατηρεί αρκετά για να απαντήσει στο ερώτημα λογοδοσίας: δεδομένου τι ήταν γνωστό και επιτρεπόταν τότε, γιατί συνέβη αυτή η απόφαση.
Αυτή η διάκριση έχει σημασία επειδή πολλοί οργανισμοί έχουν ήδη αρχεία καταγραφής και υποθέτουν ότι το πρόβλημα έχει λυθεί. Τότε φτάνει μια διαφορά και τα αρχεία καταγραφής δείχνουν συστήματα που έχουν προχωρήσει. Ένα αρχείο πολιτικής έχει αντικατασταθεί. Ένα χαρακτηριστικό έχει επανυπολογιστεί. Ένα ευρετήριο έχει ανακατασκευαστεί. Μια προτροπή έχει επεξεργαστεί επειδή κάποιος βελτίωσε τη διατύπωση. Ένα άτομο έχει διορθώσει τα δεδομένα πηγής, κάτι που είναι καλό για την υπηρεσία και τρομερό για την ανασύνθεση του παρελθόντος αν η παλιά τιμή εξαφανίστηκε. Το παρόν συνεχίζει να τακτοποιεί το δωμάτιο και το παρελθόν συνεχίζει να χάνει αποδεικτικά στοιχεία.
Το λογισμικό έμαθε ήδη αυτό το μάθημα
Οι ομάδες λογισμικού καταγράφουν τις εκδόσεις του κώδικα επειδή κανείς δεν θέλει να διερευνά ένα περιστατικό παραγωγής ρωτώντας ποιος θυμάται την Πέμπτη. Ο έλεγχος εκδόσεων μας λέει τι άλλαξε, πότε, από ποιον και συχνά γιατί. Επιτρέπει στις ομάδες να συγκρίνουν, να επαναφέρουν, να δημιουργούν κλάδους, να ελέγχουν και να συνδέουν αλλαγές με ζητήματα. Αυτό δεν έκανε το λογισμικό τέλειο. Το έκανε λιγότερο εξαρτημένο από την αρχαιολογία των διαδρόμων. Η ίδια βασική πειθαρχία χρειάζεται πλέον και για τις αποφάσεις, ειδικά όταν αυτές εξαρτώνται από αγωγούς δεδομένων, κανόνες, μοντέλα τεχνητής νοημοσύνης, ανθρώπινες ροές εργασίας και προμηθευτές που αλλάζουν ανεξάρτητα.
Η αναλογία είναι χρήσιμη αλλά ελλιπής. Η καταγραφή εκδόσεων κώδικα αφορά κυρίως τεχνουργήματα υπό τον έλεγχο της μηχανικής. Η ιστορία μιας απόφασης πρέπει να καλύπτει περισσότερα είδη αλλαγών. Τα δεδομένα εισοδήματος του αιτούντος μπορεί να διορθωθούν από εξωτερική πηγή. Ο κανόνας επιλεξιμότητας μπορεί να αλλάξει με νόμο. Το μοντέλο μπορεί να ενημερωθεί από την ομάδα πλατφόρμας. Το προτρέπον κείμενο μπορεί να αλλάξει από το επιχειρησιακό τμήμα. Ο ελεγκτής μπορεί να προσθέσει μια σημείωση. Η ροή εργασίας μπορεί να δρομολογήσει μια υπόθεση διαφορετικά κατά τη διάρκεια συσσώρευσης εκκρεμοτήτων. Ένας προμηθευτής μπορεί να αλλάξει ένα API. Η απόφαση βρίσκεται στη διασταύρωση πολλών κόσμων με εκδόσεις. Χρειάζεται μια ιστορία που να επιβιώνει όταν όλοι αυτοί είναι δύσκολοι.
Αυτή η ιστορία δεν θα πρέπει να είναι ένα τεράστιο στιγμιότυπο οθόνης των πάντων. Τα στιγμιότυπα οθόνης είναι καθησυχαστικά επειδή μοιάζουν με αποδεικτικά στοιχεία, αλλά συχνά είναι ταπετσαρία σε σχήμα αποδεικτικού. Η καταγραφή εκδόσεων αποφάσεων χρειάζεται δομημένες αναφορές: ποια έκδοση εγγραφής, ποια έκδοση πολιτικής, ποια κατασκευή μοντέλου, ποιο σύνολο χαρακτηριστικών, ποιο προτρέπον κείμενο, ποιο πρότυπο επεξήγησης, ποιος ρόλος ελεγκτή, ποιο σύνολο τεκμηρίων, ποιο κείμενο κοινοποίησης. Οι άνθρωποι μπορεί να χρειάζονται μια αναγνώσιμη προβολή, αλλά οι μηχανές χρειάζονται σταθερά αναγνωριστικά. Διαφορετικά, κάθε ένσταση γίνεται μια λογοτεχνική άσκηση ερμηνείας παλιών εικονοστοιχείων διεπαφής.
Οι κανόνες αλλάζουν πιο γρήγορα από τις μνήμες
Η πολιτική δεν είναι στατική. Τα φορολογικά όρια αλλάζουν. Τα κριτήρια επιλεξιμότητας αλλάζουν. Οι διαδικασίες ασφαλείας αλλάζουν. Οι κλινικές κατευθυντήριες οδηγίες αλλάζουν. Οι πολιτικές δανείων αλλάζουν. Οι κανόνες σχολικής υποστήριξης αλλάζουν. Οι δείκτες απάτης αλλάζουν. Τα πρότυπα συντονισμού περιεχομένου αλλάζουν. Ακόμη και όταν ο γραπτός κανόνας είναι σταθερός, η ερμηνεία μετατοπίζεται μέσω οδηγιών, εκπαίδευσης, προηγούμενων αποφάσεων και της συνηθισμένης οργανωτικής ατμόσφαιρας. Μια απόφαση που ελήφθη υπό μία έκδοση μπορεί να φαίνεται λανθασμένη υπό μια άλλη. Αυτό δεν σημαίνει αυτόματα ότι ήταν λανθασμένη τότε. Σημαίνει ότι ο οργανισμός χρειάζεται τη δυνατότητα να συγκρίνει το τότε με το τώρα.
Χωρίς ιστορικό εκδόσεων, οι ομάδες διαπράττουν δύο αντίθετα σφάλματα. Υπερασπίζονται παλιές αποφάσεις με βάση τους τρέχοντες κανόνες, κάτι που είναι άδικο για τον ενδιαφερόμενο και συνήθως ντροπιαστικό στις λεπτομέρειες. Ή καταδικάζουν παλιές αποφάσεις με βάση τις τρέχουσες αξίες, χωρίς να κατανοούν τους περιορισμούς που ίσχυαν τότε, κάτι που μπορεί να είναι συναισθηματικά ικανοποιητικό αλλά επιχειρησιακά άχρηστο. Το ιστορικό εκδόσεων κάνει τη διαφορά ορατή. Επιτρέπει σε έναν αναθεωρητή να ρωτήσει αν η απόφαση ακολούθησε τον κανόνα που ίσχυε, αν αυτός ο κανόνας ήταν νόμιμος ή κατάλληλος και αν μια μεταγενέστερη αλλαγή θα πρέπει να ενεργοποιήσει διόρθωση ή ανάκληση.
Αυτό είναι ιδιαίτερα σημαντικό για ροές εργασίας με υποβοήθηση τεχνητής νοημοσύνης, επειδή η πολιτική μπορεί να κατανέμεται μεταξύ επίσημων κανόνων, προτροπών, ορίων μοντέλων, λογικής κατάταξης και ανθρώπινης καθοδήγησης. Ένα μοντέλο μπορεί να μην περιέχει την πολιτική, αλλά μπορεί να διαμορφώνει ποιες περιπτώσεις εξετάζονται, πώς συνοψίζονται τα αποδεικτικά στοιχεία και ποια επιλογή παρουσιάζεται πρώτη. Μια προτροπή μπορεί να κωδικοποιεί έναν κανόνα άρνησης. Ένα όριο μπορεί ουσιαστικά να καθορίζει ποιος λαμβάνει αναθεώρηση. Αν αυτά τα κομμάτια δεν εκδίδονται σε εκδόσεις από κοινού, η επίσημη πολιτική είναι μόνο μέρος της απόφασης. Το υπόλοιπο είναι πολιτική μέσω διαμόρφωσης, που είναι ένας ήσυχος τρόπος να κυβερνάς ανθρώπους χωρίς να το παραδέχεσαι.
Αλλαγές δεδομένων μετά την απόφαση
Τα δεδομένα δεν είναι σταθερός μάρτυρας. Διορθώνονται, εμπλουτίζονται, συγχωνεύονται, απαλλαγμένα από διπλότυπα, διαγράφονται, αναταξινομούνται, αναπροσαρμόζονται και μερικές φορές αντικαθίστανται σιωπηλά επειδή ένα σενάριο μετεγκατάστασης είχε μια σίγουρη μέρα. Μια απόφαση που ελήφθη στις 09:15 χρησιμοποίησε τα δεδομένα που ήταν διαθέσιμα στις 09:15, συμπεριλαμβανομένων σφαλμάτων, ελλιπών τιμών, παρωχημένων ροών και περιορισμών πρόσβασης. Αν το αρχείο γίνει αργότερα καθαρότερο, η καθαρότερη έκδοση δεν μπορεί να εξηγήσει το παλαιότερο αποτέλεσμα. Το σύστημα χρειάζεται ένα στιγμιότυπο ή μια αμετάβλητη αναφορά στην κατάσταση δεδομένων που είχε σημασία.
Αυτό δεν σημαίνει αποθήκευση κάθε προσωπικής λεπτομέρειας για πάντα. Αυτό θα ήταν μια φτωχή απάντηση που φοράει καπέλο λογοδοσίας. Το ίχνος απόφασης μπορεί να χρησιμοποιεί αναφορές σε εκδόσεις πηγών, κατακερματισμούς, σφραγισμένα στιγμιότυπα, αντίγραφα σε επίπεδο πεδίου ή δέσμες αποδεικτικών στοιχείων με κανόνες διατήρησης. Ο σχεδιασμός εξαρτάται από τη συνέπεια και τον τομέα. Μια σύσταση χαμηλού κινδύνου μπορεί να χρειάζεται ελαφριά ιχνηλασιμότητα. Μια άρνηση παροχών, ιατρική διαλογή, απόφαση πρόσληψης, πειθαρχική ενέργεια, άρνηση δανείου ή παρέμβαση ασφάλειας χρειάζεται ισχυρότερο ίχνος. Το ζητούμενο είναι αναλογική μνήμη, όχι συσσώρευση.
Τα διορθωμένα δεδομένα εγείρουν επίσης ένα δεύτερο ερώτημα. Θα πρέπει να επανεξεταστούν οι παλιές αποφάσεις. Αν μια ροή εισοδήματος ήταν λανθασμένη, ποιες αιτήσεις επηρεάστηκαν. Αν ένας κλινικός κανόνας χρησιμοποίησε παρωχημένες εργαστηριακές τιμές, ποιες ειδοποιήσεις θα πρέπει να επανελεγχθούν. Αν ένα χαρακτηριστικό μοντέλου υπολογίστηκε από λανθασμένη πηγή, ποιες κατατάξεις άλλαξαν. Το ιστορικό εκδόσεων καθιστά δυνατή την ανάκληση. Χωρίς αυτό, ο οργανισμός μπορεί να γνωρίζει ότι κάτι ήταν λάθος, αλλά όχι ποιοι επηρεάστηκαν από το λάθος. Αυτή είναι μια κακή θέση για να βρίσκεσαι, ειδικά όταν το δωμάτιο περιέχει ελεγκτές.
Η ανθρώπινη κρίση χρειάζεται επίσης ιστορικό
Υπάρχει ένας παρηγορητικός μύθος ότι η ανθρώπινη συμμετοχή λύνει το πρόβλημα της έκδοσης. Δεν το λύνει. Η ανθρώπινη κρίση έχει επίσης πλαίσιο. Ένας κριτής βλέπει μια συγκεκριμένη οθόνη, ένα σύνολο αποδεικτικών στοιχείων, την πίεση της ουράς, μια σημείωση καθοδήγησης, μια σημαία κινδύνου, μια σύνοψη μοντέλου και ένα σύνολο διαθέσιμων ενεργειών. Αν αυτά τα στοιχεία αλλάξουν αργότερα, η σημείωση που ενέκρινε η Τζέιν μας λέει πολύ λίγα. Τι είδε η Τζέιν. Τι ήταν κρυφό. Τι μπορούσε να αλλάξει. Πόσο χρόνο είχε. Ήταν δυνατή η διαφωνία. Έκανε η διεπαφή τη μία επιλογή ευκολότερη από την άλλη. Η ανθρώπινη εποπτεία χωρίς ιστορικό γίνεται υπογραφή σε ένα έγγραφο που αλλάζει.
Η έκδοση της ανθρώπινης αναθεώρησης δεν αφορά την απόδοση ευθυνών στους κριτές. Αφορά την προστασία τόσο του ατόμου που επηρεάζεται όσο και του ατόμου που αναθεωρεί. Ένας υπάλληλος υποθέσεων δεν θα πρέπει να καλείται μήνες αργότερα να υπερασπιστεί μια απόφαση από μνήμης όταν το σύστημα μπορεί να διατηρήσει τη σχετική προβολή. Ένας γιατρός δεν θα πρέπει να ανακατασκευάζει ποιο όριο συναγερμού ήταν ενεργό. Ένας συντονιστής δεν θα πρέπει να εξηγεί μια παλιά ενέργεια επιβολής αφού άλλαξε η ετικέτα πολιτικής. Ένας διευθυντής δεν θα πρέπει να αποφασίζει αν μια παράκαμψη ήταν λογική χωρίς να γνωρίζει τα διαθέσιμα αποδεικτικά στοιχεία εκείνη τη στιγμή. Η μνήμη είναι χρήσιμη. Δεν θα πρέπει να είναι η βάση δεδομένων ελέγχου.
Το ιστορικό θα πρέπει να καταγράφει το πλαίσιο της αναθεώρησης, όχι κάθε ιδιωτική σκέψη. Μπορεί να καταγράφει τα αποδεικτικά στοιχεία που εμφανίστηκαν, τα αποδεικτικά στοιχεία που παραλείφθηκαν, τους κωδικούς αιτιολογίας, τις διαθέσιμες ενέργειες, την επιλογή παράκαμψης, το χρονικό παράθυρο, την κατάσταση της ουράς και τη διαδρομή κλιμάκωσης. Μπορεί να υποστηρίζει αφηγηματικές σημειώσεις διατηρώντας παράλληλα δομημένα πεδία για ανάλυση. Μπορεί να διαχωρίζει το ευαίσθητο περιεχόμενο από τις διαρκείς αναφορές. Ο σκοπός είναι να γίνει η κρίση επιθεωρήσιμη χωρίς να μετατρέπονται οι άνθρωποι σε αντικείμενα παρακολούθησης. Αυτή η ισορροπία είναι δύσκολη, γι' αυτό πρέπει να σχεδιαστεί αντί να αυτοσχεδιαστεί αφού φτάσει το παράπονο.
Η τεχνητή νοημοσύνη αυξάνει το κόστος της λήθης
Οι αποφάσεις με υποστήριξη τεχνητής νοημοσύνης αυξάνουν το κόστος της έλλειψης ιστορικού επειδή το σύστημα μπορεί να αλλάξει συμπεριφορά με περισσότερους τρόπους. Μια ενημέρωση μοντέλου μπορεί να αλλάξει τις κατατάξεις. Μια ανακατασκευή του ευρετηρίου ανάκτησης μπορεί να αλλάξει ποια αποδεικτικά στοιχεία εμφανίζονται. Μια επεξεργασία prompt μπορεί να αλλάξει τον τρόπο έκφρασης της αβεβαιότητας. Μια προσαρμογή ορίου μπορεί να μετακινήσει υποθέσεις από την αυτόματη έγκριση στην αναθεώρηση. Μια αλλαγή βαθμονόμησης μπορεί να κάνει το ίδιο σκορ να σημαίνει κάτι διαφορετικό. Ένα φίλτρο ασφαλείας μπορεί να αποκλείσει πληροφορίες που εμφανίζονταν προηγουμένως. Κάθε αλλαγή μπορεί να είναι λογική. Μαζί κάνουν το παρελθόν εύθραυστο εκτός αν οι εκδόσεις συνδέονται με τις αποφάσεις.
Οι εξηγήσεις είναι ιδιαίτερα ευάλωτες. Μια παραγόμενη εξήγηση μπορεί να ακούγεται ακριβής ενώ στην πραγματικότητα είναι αποκομμένη από την πραγματική διαδρομή απόφασης. Αν το σύστημα παράγει αργότερα μια εξήγηση χρησιμοποιώντας τους τρέχοντες κανόνες και τα τρέχοντα δεδομένα, μπορεί να δημιουργήσει μια εκλεπτυσμένη ψευδή ανάμνηση. Αυτό είναι χειρότερο από το να μην υπάρχει καθόλου εξήγηση, επειδή προσκαλεί εμπιστοσύνη σε μια ανακατασκευή. Το ιστορικό αποφάσεων θα πρέπει να διαχωρίζει τους σύγχρονους λόγους από τη μεταγενέστερη ανάλυση. Μια μεταγενέστερη εξήγηση μπορεί να βοηθήσει έναν αναθεωρητή, αλλά πρέπει να επισημαίνεται ως μεταγενέστερη. Ο χρόνος έχει σημασία. Είναι η διαφορά μεταξύ αποδεικτικού στοιχείου και σχολιασμού.
Η εμπιστοσύνη του μοντέλου χρειάζεται επίσης ιστορικό. Μια βαθμολογία 0,82 δεν είναι αυτονόητη. Ποιο μοντέλο την παρήγαγε. Με ποια χαρακτηριστικά. Υπό ποια βαθμονόμηση. Με ποιο όριο. Έναντι ποιου πληθυσμού. Χρησιμοποιήθηκε το μοντέλο ως συμβουλή, διαλογή, κατάταξη ή είσοδος απόφασης. Την είδε κάποιος άνθρωπος. Εμφανίστηκε η αβεβαιότητα. Είχε το μοντέλο γνωστές αδυναμίες για αυτή την υποομάδα ή γλώσσα. Αν αυτές οι λεπτομέρειες εξαφανιστούν, ο οργανισμός κρατά τον αριθμό και χάνει το νόημα. Οι αριθμοί χωρίς πλαίσιο είναι εκπληκτικά καλοί στο να προσποιούνται ότι είναι γεγονότα.
Η προσφυγή είναι απαίτηση σχεδιασμού
Μια απόφαση που δεν μπορεί να προσβληθεί στην πράξη δεν είναι απλώς αποτελεσματική. Είναι εύθραυστη. Η προσφυγή δεν σημαίνει πάντα δικαστήριο. Μπορεί να σημαίνει διόρθωση από τον χρήστη, αναθεώρηση από επόπτη, ερώτηση ασθενούς, αμφισβήτηση από φοιτητή, παράπονο πελάτη, εσωτερικό περιστατικό ή δείγμα ρυθμιστικής αρχής. Το ζητούμενο είναι ότι οι αποφάσεις με σημαντικές συνέπειες θα πρέπει να αναμένουν μελλοντικό έλεγχο. Ο σχεδιασμός για προσφυγή αλλάζει την αρχιτεκτονική. Το σύστημα πρέπει να διατηρεί τις σχετικές εκδόσεις, να τις εκθέτει σε εξουσιοδοτημένους αναθεωρητές, να υποστηρίζει διόρθωση και να συνδέει τα διορθωτικά μέτρα με τις επηρεαζόμενες μεταγενέστερες ενέργειες.
Αυτό δεν είναι κατά του αυτοματισμού. Είναι η προϋπόθεση υπό την οποία ο αυτοματισμός παραμένει θεμιτός. Τα αυτοματοποιημένα συστήματα και τα συστήματα με υποστήριξη τεχνητής νοημοσύνης μπορούν να διαχειριστούν όγκο, συνέπεια και ταχύτητα. Αλλά όταν επηρεάζουν ανθρώπους, πρέπει επίσης να υποστηρίζουν τη διαφωνία. Η διαφωνία χρειάζεται ίχνος. Όχι ένα μέγιστο αρχείο, όχι κάθε byte για πάντα, αλλά αρκετό ιστορικό ώστε κάποιος άλλος εκτός από το αρχικό σύστημα να μπορεί να κατανοήσει και, αν χρειαστεί, να αλλάξει το αποτέλεσμα. Διαφορετικά, η αποτελεσματικότητα γίνεται μια κλειδωμένη πόρτα με έναν ευγενικό chatbot έξω.
Ο σχεδιασμός προσφυγής βελτιώνει επίσης τις συνήθεις λειτουργίες. Βοηθά την υποστήριξη να απαντά σε ερωτήσεις. Βοηθά τους διαχειριστές να εντοπίζουν αδύναμους κανόνες. Βοηθά τους μηχανικούς να αναπαράγουν περιστατικά. Βοηθά τις ομάδες πολιτικής να βλέπουν αν λειτουργούν οι κατευθυντήριες γραμμές. Βοηθά τους ελεγκτές να δειγματίζουν πραγματικές υποθέσεις. Βοηθά τους οργανισμούς να διορθώνουν ομάδες αποφάσεων όταν αποτυγχάνει ένα στοιχείο. Ένα σύστημα που έχει σχεδιαστεί για προσφυγή είναι συνήθως ένα σύστημα που έχει σχεδιαστεί για μάθηση. Το αντίστροφο δεν είναι εγγυημένο. Πολλά συστήματα που έχουν σχεδιαστεί για ταχύτητα μαθαίνουν μόνο πώς να είναι πιο γρήγορα στη λήθη.
Μνήμη χωρίς συσσώρευση
Υπάρχει πραγματικός κίνδυνος όταν ζητείται ιστορικό αποφάσεων. Οι οργανισμοί μπορεί να αντιδράσουν κρατώντας τα πάντα. Κάθε έγγραφο, στιγμιότυπο οθόνης, δυνατότητα, προτροπή, αρχείο καταγραφής, ηχογράφηση, email, στοιχείο ουράς και εξαγωγή διατηρείται για πάντα, επειδή η λογοδοσία ακούγεται σημαντική και η αποθήκευση είναι φθηνή μέχρι να πάψει να είναι. Αυτό δεν είναι σωστή διακυβέρνηση. Είναι το ψηφιακό ισοδύναμο του να λύνεις το πρόβλημα της πυρασφάλειας γεμίζοντας κάθε διάδρομο με αρχειοθήκες. Το ιστορικό πρέπει να είναι αναλογικό, δομημένο και σκόπιμο.
Η σωστή μνήμη εξαρτάται από τις συνέπειες. Ορισμένες αποφάσεις χρειάζονται πλήρη αναπαραγωγή: στιγμιότυπο πηγής, έκδοση κανόνα, έκδοση μοντέλου, προβολή ελεγκτή και ειδοποίηση. Άλλες χρειάζονται μια απόδειξη με κατακερματισμό, ένα συμπαγές πακέτο αποδεικτικών στοιχείων ή ένα συγκεντρωτικό ίχνος ελέγχου. Ορισμένο περιεχόμενο θα πρέπει να λήγει ενώ παραμένει το γεγονός της διαγραφής. Ορισμένα ευαίσθητα πεδία θα πρέπει να αναφέρονται αλλά να μην αντιγράφονται. Ορισμένα αποδεικτικά στοιχεία θα πρέπει να σφραγίζονται για ένσταση και να μην είναι διαθέσιμα στο συνηθισμένο προσωπικό. Ορισμένα τεχνουργήματα μοντέλου θα πρέπει να διατηρούνται για σύγκριση αλλά να μην εκτίθενται ευρέως. Το ιστορικό εκδόσεων δεν αποτελεί δικαιολογία για να αγνοείται η ελαχιστοποίηση. Είναι εκεί που η ελαχιστοποίηση γίνεται πιο ακριβής.
Γι' αυτό η πολιτική διατήρησης και ο σχεδιασμός αποφάσεων ανήκουν μαζί. Μια καταγραφή απόφασης θα πρέπει να δηλώνει τι πρέπει να διατηρηθεί, γιατί, για πόσο διάστημα, ποιος μπορεί να έχει πρόσβαση, πώς υποστηρίζει την ένσταση και πώς καταστρέφεται ή ανωνυμοποιείται αργότερα. Η καταγραφή δεν θα πρέπει να είναι ένας βάλτος. Θα πρέπει να είναι μια απόδειξη με αρκετά συνημμένα για να αποδείξει τη συναλλαγή. Οι αποδείξεις είναι βαρετές. Αυτό είναι το ταλέντο τους. Κανείς δεν θέλει μια φιλοσοφική συζήτηση με μια απόδειξη όταν ο λογιστής ρωτά τι συνέβη.
Τι αλλάζει όταν υπάρχει ιστορικό
Όταν οι αποφάσεις έχουν ιστορικό εκδόσεων, ένας οργανισμός γίνεται πιο ήρεμος υπό πίεση. Μπορεί να απαντήσει στην ένσταση με αποδεικτικά στοιχεία. Μπορεί να διακρίνει έναν κακό κανόνα από μια κακή εφαρμογή ενός κανόνα. Μπορεί να εντοπίσει ποιες περιπτώσεις επηρεάστηκαν από μια διόρθωση δεδομένων ή ενημέρωση μοντέλου. Μπορεί να δείξει αν η ανθρώπινη εποπτεία ήταν πραγματική. Μπορεί να συγκρίνει αποτελέσματα μεταξύ εκδόσεων πολιτικής. Μπορεί να αποσύρει αδύναμες πρακτικές χωρίς να προσποιείται ότι το παρελθόν δεν συνέβη ποτέ. Μπορεί να παραδεχτεί λάθη με μεγαλύτερη ακρίβεια, κάτι που υποτιμάται επειδή οι αόριστες συγγνώμες σπάνια διορθώνουν συστήματα.
Το ιστορικό εκδόσεων αλλάζει επίσης την εσωτερική συμπεριφορά. Οι άνθρωποι κάνουν καλύτερες αλλαγές όταν γνωρίζουν ότι οι αλλαγές είναι ορατές. Οι ομάδες πολιτικής γράφουν σαφέστερες σημειώσεις έκδοσης. Οι ομάδες μοντέλων καθηλώνουν τα τεχνουργήματα. Οι ομάδες λειτουργιών σκέφτονται πριν επεξεργαστούν πρότυπα. Οι ομάδες προϊόντων αντιμετωπίζουν το επεξηγηματικό κείμενο ως μέρος της απόφασης και όχι ως διακοσμητικό συνοδευτικό της επικοινωνίας. Οι διευθυντές μπαίνουν σε λιγότερο πειρασμό να λύσουν τη διακυβέρνηση με έναν πίνακα ελέγχου, επειδή το ίχνος πρέπει να αντέξει σε μια πραγματική ερώτηση. Ο οργανισμός μαθαίνει ότι οι αποφάσεις δεν είναι στιγμές. Είναι ανθεκτικά αντικείμενα με κύκλο ζωής.
Ο πολίτης στην καθυστερημένη έφεση δεν χρειαζόταν ένα δοκίμιο για τον ψηφιακό μετασχηματισμό. Χρειαζόταν να μάθει γιατί λήφθηκε μια απόφαση, αν λήφθηκε βάσει του σωστού κανόνα, αν τα δεδομένα ήταν σωστά και τι μπορούσε να γίνει τώρα. Αυτό δεν είναι εξωτική απαίτηση. Είναι η βασική αξιοπρέπεια του να υπόκειται κανείς σε ένα διοικητικό σύστημα. Οι αποφάσεις χρειάζονται ιστορικό εκδόσεων επειδή οι άνθρωποι ζουν με αποφάσεις αφού τα συστήματα προχωρήσουν. Αν ο οργανισμός δεν μπορεί να θυμηθεί τη διαδρομή, θα πρέπει να είναι επιφυλακτικός στο να ισχυρίζεται ότι ο προορισμός ήταν δικαιολογημένος.