Η αργή βία των κακών δεδομένων
Το υπολογιστικό φύλλο δεν φώναξε
Το υπολογιστικό φύλλο δεν έμοιαζε επικίνδυνο. Έτσι ξεκινά σχεδόν πάντα. Βρισκόταν σε έναν κοινόχρηστο φάκελο με ένα συνετό όνομα, τρεις κρυφές στήλες, δύο μορφές ημερομηνίας, ένα πεδίο σχολίων που είχε γίνει ένα μικρό μυθιστόρημα και μια καρτέλα με το όνομα final που έλεγε ψέματα με τον παραδοσιακό τρόπο. Μια ομάδα το χρησιμοποιούσε για να συμφιλιώνει αρχεία πελατών πριν τροφοδοτήσει μια νέα ροή εργασίας. Κανείς δεν ήταν απερίσκεπτος. Έλεγχαν τα σύνολα. Αφαιρούσαν τα προφανή διπλότυπα. Ρωτούσαν το άτομο που είχε κληρονομήσει το αρχείο από το άτομο που είχε κληρονομήσει το αρχείο. Οι απαντήσεις ήταν αρκετά εύλογες για να συνεχίσουν.
Τρεις μήνες αργότερα εμφανίστηκε η ζημιά, αλλά όχι ως ένα μεμονωμένο γεγονός. Ζητήθηκαν από έναν πελάτη έγγραφα που είχε ήδη προσκομίσει. Ένας άλλος δρομολογήθηκε σε λάθος ουρά εξυπηρέτησης. Εμφανίστηκε μια ένδειξη κινδύνου σε μια υπόθεση επειδή ένας κλειστός λογαριασμός εξακολουθούσε να φαίνεται ενεργός. Ένας υπάλληλος υποστήριξης ξόδεψε είκοσι λεπτά ζητώντας συγγνώμη για ένα σύστημα που επέμενε σε μια παλιά διεύθυνση. Ένας διευθυντής είδε ελαφρώς καλύτερη απόδοση και ελαφρώς χειρότερη εμπιστοσύνη. Κανένα από αυτά τα περιστατικά δεν έμοιαζε αρκετά μεγάλο για να σταματήσει το πρόγραμμα. Μαζί ήταν το πρόγραμμα.
Τα κακά δεδομένα περιγράφονται συχνά ως μια τεχνική ταλαιπωρία. Πεδία που λείπουν, ασυνεπείς κωδικοί, διπλότυπες γραμμές, ξεπερασμένα αρχεία, αδύναμες ετικέτες. Αυτή η γλώσσα είναι ακριβής και πολύ μικρή. Τα κακά δεδομένα γίνονται αργή βία όταν μικρά σφάλματα μεταφέρουν σιωπηλά το κόστος σε ανθρώπους που δεν τα δημιούργησαν. Κάνει τους πολίτες να αποδεικνύουν ό,τι ξέχασε ο θεσμός. Κάνει τους υπαλλήλους να επιδιορθώνουν ό,τι παραμόρφωσε ο αγωγός. Κάνει τους πελάτες να επαναλαμβάνονται. Κάνει τους ελεγκτές να ανασυνθέτουν το νόημα αφού το νόημα πετάχτηκε. Κάνει τα μοντέλα να φαίνονται αβέβαια, μεροληπτικά ή ανόητα όταν εν μέρει αντανακλούν μια αποτυχία τήρησης αρχείων.
Η βία είναι αργή επειδή η ζημιά είναι κατανεμημένη. Καμία μεμονωμένη γραμμή δεν αναλαμβάνει την ευθύνη. Κανένας πίνακας ελέγχου δεν παραδέχεται το χρέος. Το σύστημα συνεχίζει να λειτουργεί και επομένως φαίνεται επιτυχημένο από αρκετά μακριά. Η ζημιά ζει σε επιπλέον κλήσεις, απορριφθείσες αιτήσεις, λάθος επιστολές, αρνηθείσα πρόσβαση, απογοητευμένο προσωπικό, κατεστραμμένη φήμη και αποφάσεις που γίνονται πιο δύσκολο να αμφισβητηθούν επειδή το αρχείο έχει μάθει να ακούγεται επίσημο. Τα κακά δεδομένα δεν χρειάζονται δράμα. Έχουν υπομονή.
Η ποιότητα δεν είναι καθαριότητα
Η ποιότητα των δεδομένων συχνά περιορίζεται στην καθαριότητα, σαν ο στόχος να ήταν ένας πίνακας χωρίς ορατά ψίχουλα. Η καθαριότητα βοηθά. Οι τυποποιημένες μορφές, οι έγκυρες τιμές, τα πλήρη πεδία, οι γραμμές χωρίς διπλοεγγραφές και τα λογικά εύρη τιμών είναι απαραίτητα. Αλλά ένα καθαρό σύνολο δεδομένων μπορεί να είναι και πάλι ακατάλληλο για τη δουλειά. Ένα πεδίο μπορεί να είναι άψογα μορφοποιημένο και σημασιολογικά σπασμένο. Μια ημερομηνία μπορεί να είναι έγκυρη και παρωχημένη. Μια ετικέτα μπορεί να είναι συνεπής και άδικη. Μια εγγραφή μπορεί να είναι πλήρης επειδή κάποιος συμπλήρωσε το άγνωστο με το όχι, και έτσι πολλές μικρές καταστροφές φορούν γραβάτα.
Ποιότητα σημαίνει καταλληλότητα για έναν σκοπό με αποδεικτικά στοιχεία. Η ίδια εγγραφή μπορεί να είναι αρκετά καλή για την αποστολή ενός ενημερωτικού δελτίου, ανεπαρκής για μια απόφαση πίστωσης, επικίνδυνη για ένα μοντέλο διαλογής σε επείγοντα περιστατικά και άσχετη για μια αξιολόγηση δημόσιας πολιτικής. Το πλαίσιο αποφασίζει. Ποιος δημιούργησε την εγγραφή. Με ποιον κανόνα. Για ποια εργασία. Με ποια μέθοδο μέτρησης. Πόσο συχνά ενημερώνεται. Ποιες παραλείψεις αναμένονται. Ποιες τιμές συνάγονται. Ποιες τιμές παρέχονται από τον χρήστη. Ποιοι μετασχηματισμοί έγιναν στην πορεία. Χωρίς αυτό το πλαίσιο, η ποιότητα γίνεται διάθεση και ο πίνακας ελέγχου γίνεται διακόσμηση εσωτερικού χώρου.
Η τεχνητή νοημοσύνη δυσκολεύει αυτή τη διάκριση επειδή τα μοντέλα διψούν για κλίμακα. Η κλίμακα έχει σαγηνευτική επίδραση στους οργανισμούς. Ένα μεγάλο σύνολο δεδομένων μπορεί να κάνει τους ανθρώπους να σταματήσουν να αναρωτιούνται αν οι γραμμές σημαίνουν ακόμα αυτό που νομίζουν ότι σημαίνουν. Περισσότερα δεδομένα μπορούν να καλύψουν στατιστικά τον θόρυβο, αλλά μπορούν επίσης να διαδώσουν μια λανθασμένη υπόθεση πιο μακριά. Αν μια ετικέτα παρήχθη από μια υπερφορτωμένη ομάδα, ένα εκατομμύριο ετικέτες μπορεί να σας δώσουν μια πολύ μεγάλη μέτρηση της υπερφόρτωσης. Αν ένα πεδίο που λείπει σημαίνει αρνήθηκε σε ένα σύστημα και άγνωστο σε ένα άλλο, η συγχώνευσή τους δημιουργεί μια κατηγορία που θα έπρεπε να φοράει γιλέκο ασφαλείας.
Η παλιά φράση σκουπίδια μέσα, σκουπίδια έξω εξακολουθεί να είναι χρήσιμη, αλλά είναι υπερβολικά αισιόδοξη. Τα σύγχρονα συστήματα μπορούν να μετατρέψουν τα σκουπίδια μέσα σε σίγουρη έξοδο, ουρές προτεραιότητας, αυτοματοποιημένες επιστολές, βαθμολογίες κινδύνου, εκθέσεις διαχείρισης και ανατροφοδότηση εκπαίδευσης που τροφοδοτεί το επόμενο μοντέλο. Τα σκουπίδια δεν αποχωρούν πλέον ευγενικά. Κυκλοφορούν, μαθαίνουν το οργανόγραμμα και προσκαλούνται σε επιτροπές διεύθυνσης.
Η προεπιλογή που έγινε πολιτική
Πολλές αποτυχίες δεδομένων ξεκινούν με μια προεπιλογή. Το κενό γίνεται ψευδές. Το λείπει γίνεται μηδέν. Το άγνωστο γίνεται χαμηλός κίνδυνος. Η μη απάντηση γίνεται συναίνεση. Η τελευταία γνωστή διεύθυνση γίνεται τρέχουσα διεύθυνση. Η πιο πρόσφατη εγγραφή γίνεται η καλύτερη εγγραφή. Μια σημείωση ελεύθερου κειμένου γίνεται ετικέτα επειδή κάποιος έπρεπε να δημοσιεύσει τον πίνακα ελέγχου. Οι προεπιλογές δεν είναι κακές. Τα συστήματα χρειάζονται προεπιλογές. Το πρόβλημα είναι όταν οι προεπιλογές γίνονται πολιτική χωρίς να ονομάζονται πολιτική.
Μια προεπιλογή είναι μια απόφαση για την αβεβαιότητα. Λέει τι θα κάνει ο οργανισμός όταν δεν γνωρίζει. Αυτή η απόφαση μπορεί να είναι ακίνδυνη σε μια ροή εργασίας χαμηλού αντίκτυπου και απαράδεκτη σε μια με σημαντικές συνέπειες. Αν μια προτίμηση μάρκετινγκ είναι κενή, μια προσεκτική προεπιλογή μπορεί απλώς να αποφύγει ένα μήνυμα. Αν ένα πεδίο επιλεξιμότητας για παροχές είναι κενό, το να το αντιμετωπίσετε ως όχι μπορεί να στερήσει υποστήριξη. Αν ένα πεδίο κλινικής αλλεργίας είναι κενό, το να το αντιμετωπίσετε ως καμία δεν είναι επιλογή δεδομένων. Είναι μια πολύ άσχημη μέρα που φτάνει νωρίς.
Η σωστή διακυβέρνηση δεδομένων φέρνει τις προεπιλογές στο φως. Διακρίνει το άγνωστο, το μη εφαρμόσιμο, το μη συλλεγέν, το απορριφθέν, το εκκρεμές, το εκτιμώμενο, το κληρονομημένο, το συναγόμενο και το επαληθευμένο. Αυτές οι κατηγορίες φαίνονται κουραστικές μέχρι το εναλλακτικό να μετατρέψει ένα κενό κελί σε εξουσία. Ένα σύστημα που δεν μπορεί να αναπαραστήσει την αβεβαιότητα θα κάνει συχνά την αβεβαιότητα να εξαφανιστεί προσποιούμενο ότι την επιλύει. Αυτό είναι αποδοτικό με τον ίδιο τρόπο που είναι αποδοτικό το σκούπισμα γυαλιού κάτω από το χαλί. Το πάτωμα είναι καθαρό. Το πόδι διαφωνεί αργότερα.
Το πρακτικό τεστ είναι απλό: θα μπορούσε ένας αναθεωρητής να δει πού ενήργησε η προεπιλογή. Αν μια σύσταση μοντέλου, μια διαδρομή ροής εργασίας ή μια μετρική αναφοράς εξαρτάται από μια προεπιλογή, η εγγραφή θα πρέπει να το δείχνει. Αν αλλάξει η προεπιλογή, τα προηγούμενα αποτελέσματα θα πρέπει να παραμένουν ερμηνεύσιμα. Αν οι άνθρωποι διαφωνούν με την προεπιλογή, θα πρέπει να υπάρχει ένας υπεύθυνος. Διαφορετικά, ο οργανισμός δεν έχει αυτοματοποιήσει έναν κανόνα. Έχει αυτοματοποιήσει μια υπόθεση που αποφεύγει την οπτική επαφή.
Οι κακές ετικέτες δημιουργούν σιωπηλή πολιτική
Οι ετικέτες αξίζουν ιδιαίτερης καχυποψίας, γιατί συχνά φαίνονται πιο αντικειμενικές από ό,τι είναι. Απάτη, υψηλός κίνδυνος, επιλέξιμος, συμμορφούμενος, επείγον, κακή ποιότητα, ικανοποιημένος, μη ασφαλής, επιλυμένο. Αυτές οι λέξεις συμπυκνώνουν ανθρώπινη κρίση, πολιτική, συνήθεια, κίνητρα, χρονική πίεση και μερικές φορές θεσμική προκατάληψη σε ένα πεδίο αρκετά σύντομο για ένα μοντέλο. Η ετικέτα ταξιδεύει έπειτα σαν να ήταν γεγονός. Όταν φτάνει στην εκπαίδευση, το επιχείρημα που τη δημιούργησε έχει συνήθως ήδη εξαφανιστεί.
Μια ετικέτα μπορεί να είναι λανθασμένη επειδή ο άνθρωπος έκανε λάθος. Μπορεί επίσης να είναι λανθασμένη επειδή η οδηγία ήταν ασαφής, η πολιτική άλλαξε, ο αξιολογητής δεν είχε πλήρη εικόνα, η κατηγορία ήταν πολύ ευρεία, το εργαλείο ενθάρρυνε την ταχύτητα ή ο οργανισμός επιβράβευε ένα συγκεκριμένο αποτέλεσμα. Μια ετικέτα μπορεί να είναι συνεπής και παρόλα αυτά να κωδικοποιεί μια κακή πρακτική. Η συνέπεια δεν είναι αρετή. Είναι απλώς επαναληψιμότητα, και η επαναληψιμότητα μπορεί να επαναλαμβάνει την ανοησία με αξιοθαύμαστη πειθαρχία.
Για την τεχνητή νοημοσύνη, οι αδύναμες ετικέτες γίνονται κάτι περισσότερο από θόρυβος στις αναφορές. Γίνονται ο στόχος που μαθαίνει το μοντέλο. Αν οι προηγούμενες αποφάσεις επηρεάστηκαν από άνιση πρόσβαση, ιστορική προκατάληψη, κακά κίνητρα ή ελλιπή αρχεία, το μοντέλο μπορεί να μάθει τον ουλώδη ιστό του θεσμού και να τον αποκαλεί πρόβλεψη. Αυτό δεν κάνει το μοντέλο κακόβουλο. Κάνει τον στόχο εκπαίδευσης ανεπαρκώς εξετασμένο. Το να κατηγορεί κανείς μόνο τον αλγόριθμο είναι δελεαστικό, επειδή οι αλγόριθμοι δεν συμμετέχουν σε αξιολογήσεις απόδοσης.
Η καλύτερη πρακτική επισήμανσης δεν είναι εντυπωσιακή. Γράψτε οδηγίες. Καταγράψτε την ταυτότητα ή τον ρόλο του αξιολογητή όπου ενδείκνυται. Αποτυπώστε τις διαφωνίες. Δειγματοληπτείστε για ποιότητα. Διατηρήστε παραδείγματα οριακών περιπτώσεων. Επανεξετάστε τις ετικέτες μετά από αλλαγές πολιτικής. Διαχωρίστε τις ετικέτες που δημιουργούνται για λειτουργίες από εκείνες που δημιουργούνται για εκπαίδευση. Ονομάστε την αβεβαιότητα. Επιτρέψτε στους αξιολογητές να λένε δεν μπορώ να προσδιορίσω. Το τελευταίο είναι εκπληκτικά ριζοσπαστικό σε οργανισμούς που προτιμούν τακτοποιημένες στήλες από την ειλικρινή αμφιβολία.
Ο διπλασιασμός δεν είναι απλώς σπατάλη αποθήκευσης
Τα διπλότυπα αρχεία ακούγονται σαν πρόβλημα αποθήκευσης μέχρι να συναντήσουν έναν άνθρωπο. Τότε γίνονται χαμένα ραντεβού, λανθασμένη επιλεξιμότητα, κατακερματισμένο ιστορικό, επαναλαμβανόμενη εγγραφή, πολλαπλοί λογαριασμοί, αντιφατικές βαθμολογίες κινδύνου και επιστολές που απευθύνονται σε έναν άνθρωπο ως τρεις πελάτες. Η βάση δεδομένων μπορεί να νομίζει ότι έχει περισσότερα αρχεία. Ο άνθρωπος βιώνει τον θεσμό να αποτυγχάνει να τον αναγνωρίσει. Αυτό είναι μια διαφορετική κατηγορία ελαττώματος.
Η ταυτότητα είναι ιδιαίτερα δύσκολη υπόθεση, γιατί ο πραγματικός κόσμος είναι ακατάστατος. Οι άνθρωποι αλλάζουν ονόματα, διευθύνσεις, εργοδότες, γιατρούς, σχολεία και οικογενειακές δομές. Οι εταιρείες συγχωνεύονται. Τα περιουσιακά στοιχεία μετακινούνται. Οι συσκευές αντικαθίστανται. Τα τμήματα μετονομάζουν προγράμματα, επειδή προφανώς ο κόσμος είχε περισσευούμενη σύγχυση. Οι κανόνες αντιστοίχισης χρειάζονται ταπεινότητα. Αν είναι πολύ αυστηροί, το ίδιο άτομο διασπάται σε πολλές εγγραφές. Αν είναι πολύ χαλαροί, διαφορετικά άτομα συγχωνεύονται σε ένα θεσμικό κατασκεύασμα. Και τα δύο σφάλματα προκαλούν βλάβη.
Τα συστήματα τεχνητής νοημοσύνης ενισχύουν τα προβλήματα ταυτότητας, επειδή βασίζονται σε συγκεντρωμένο πλαίσιο. Μια σύνοψη υπόθεσης μπορεί να παραλείπει σχετικό ιστορικό, επειδή οι εγγραφές ήταν διασπασμένες. Μια βαθμολογία κινδύνου μπορεί να υπερεκτιμά την έκθεση, επειδή τα διπλότυπα μετρήθηκαν δύο φορές. Μια σύσταση μπορεί να επικαλείται εγγραφή που ανήκει σε κάποιον άλλο, μετά από υπερβολικά επιθετική συγχώνευση. Η ανάκτηση μπορεί να ανασύρει λάθος αρχείο, επειδή τα αναγνωριστικά επαναχρησιμοποιήθηκαν. Το μοντέλο γίνεται το ορατό πρόσωπο ενός επιπέδου ταυτότητας που ήταν σιωπηλά άρρωστο.
Η σωστή διακυβέρνηση ταυτότητας δίνει στα διπλότυπα μια διαδικασία, όχι απλώς μια εκστρατεία καθαρισμού. Ορίζει την εμπιστοσύνη αντιστοίχισης, τα όρια ανθρώπινης αναθεώρησης, την εξουσία της πηγής, τα δικαιώματα συγχώνευσης και αποσυγχώνευσης, τα ίχνη ελέγχου, τις υποχρεώσεις ειδοποίησης και τις διαδρομές διόρθωσης. Το πιο σημαντικό είναι ότι αντιμετωπίζει την αποσυγχώνευση ως λειτουργία πρώτης κατηγορίας. Στους οργανισμούς αρέσει η συγχώνευση, επειδή μοιάζει με τακτοποίηση. Η αποσυγχώνευση είναι εκεί που μαθαίνουν αν η τακτοποίηση έσπασε την πραγματικότητα.
Η παλαιότητα είναι πρόβλημα διακυβέρνησης
Τα δεδομένα δεν παραμένουν αληθή επειδή κανείς δεν τα άγγιξε. Ορισμένα γεγονότα φθείρονται. Διευθύνσεις, κατάσταση απασχόλησης, κατάσταση λογαριασμού, νομικοί κανόνες, κλινικές καταστάσεις, συγκατάθεση, επίπεδα κινδύνου, θέσεις αποθεμάτων, επιλεξιμότητα για υπηρεσίες, ιδιοκτησία, βαθμονόμηση συσκευών, κατάσταση προμηθευτή. Μια παλαιά τιμή μπορεί να περνά τέλεια την επικύρωση. Έχει τον σωστό τύπο, τον επιτρεπόμενο κωδικό και την επαγγελματική εμφάνιση. Παρόλα αυτά, είναι λάθος σήμερα.
Η παλαιότητα είναι επικίνδυνη, επειδή τα συστήματα συχνά αντιμετωπίζουν την απουσία ενημέρωσης ως ένδειξη σταθερότητας. Σε πολλούς τομείς, η σιωπή σημαίνει ότι κανείς δεν έλεγξε. Μια τροφοδοσία πηγής μπορεί να έχει αποτύχει. Ένας πελάτης μπορεί να μην είχε λόγο να συνδεθεί. Ένα δημόσιο μητρώο μπορεί να υστερεί. Ένας αισθητήρας μπορεί να είναι αποσυνδεδεμένος. Ένα τμήμα μπορεί να χρησιμοποιεί ακόμα το απόσπασμα του προηγούμενου τριμήνου, επειδή η εργασία ανανέωσης ανήκει σε άτομο που είναι τώρα σε άδεια. Τα δεδομένα δεν έγιναν επίκαιρα επειδή κάθισαν ευγενικά σε μια βάση δεδομένων.
Κάθε πεδίο με συνέπειες χρειάζεται σύμβαση φρεσκάδας. Πόσο παλιά μπορεί να είναι αυτή η τιμή για αυτή τη χρήση. Ποια πηγή την επιβεβαιώνει. Τι συμβαίνει όταν λήγει η φρεσκάδα. Μπορεί η ροή εργασίας να συνεχίσει με προειδοποίηση, να απαιτήσει ανθρώπινη αναθεώρηση, να ανακτήσει ζωντανή πηγή ή να σταματήσει. Η φρεσκάδα πρέπει να εξαρτάται από τον σκοπό. Μια ταχυδρομική διεύθυνση για ενημερωτικό δελτίο μπορεί να ανεχθεί μεγαλύτερη παλαιότητα από μια διεύθυνση που χρησιμοποιείται για νομική κοινοποίηση. Ένας δείκτης κινδύνου για καθημερινές λειτουργίες δεν μπορεί να ακολουθεί το ίδιο ημερολόγιο με την ετήσια αναφορά.
Οι συμβάσεις φρεσκάδας βοηθούν επίσης την αξιολόγηση της τεχνητής νοημοσύνης. Όταν ένα μοντέλο αποτυγχάνει, οι ομάδες συχνά αναρωτιούνται αν το μοντέλο κατάλαβε τα δεδομένα. Θα έπρεπε πρώτα να αναρωτηθούν αν τα δεδομένα ήταν ακόμα ζωντανά. Μια παλαιά αλλά έγκυρη εγγραφή είναι μια ιδιαίτερα δυσάρεστη παγίδα, επειδή περνά τους τεχνικούς ελέγχους και αποτυγχάνει στην πραγματικότητα. Η πραγματικότητα, ως συνήθως, καταθέτει λιγότερα αιτήματα από όσα θα θέλαμε.
Το μοντέλο κατηγορείται για το αρχείο
Όταν η έξοδος της τεχνητής νοημοσύνης είναι κακή, το μοντέλο είναι ο ευκολότερος ύποπτος. Είναι ορατό, ακριβό, νέο και μερικές φορές θαυμάσια υπερβολικά σίγουρο. Αλλά πολλές έξοδοι είναι τόσο ισχυρές όσο τα αρχεία που μπορούν να δουν. Ένα μοντέλο που καλείται να συνοψίσει ένα ελλιπές αρχείο θα παράγει μια γυαλισμένη ελλιπή εικόνα. Ένα μοντέλο που καλείται να ταξινομήσει περιπτώσεις από ασυνεπείς ετικέτες θα μάθει την ασυνέπεια με άριστη στάση. Ένα μοντέλο που καλείται να ανακτήσει πολιτική από μια ξεπερασμένη βάση γνώσεων θα αναφέρει το παρελθόν σαν να είχε ακόμη πρόσβαση στο γραφείο.
Αυτό έχει σημασία επειδή οι διορθώσεις που επικεντρώνονται στο μοντέλο μπορούν να σπαταλήσουν χρόνο. Η επανεκπαίδευση δεν θα επισκευάσει μια χαμένη συγκατάθεση. Ένα μεγαλύτερο παράθυρο περιβάλλοντος δεν θα διορθώσει διπλές ταυτότητες. Ένα καλύτερο προτρέπον δεν θα αποκαταστήσει το διαγραμμένο νόημα. Περισσότερη αξιολόγηση δεν θα βοηθήσει αν το σύνολο δοκιμών φέρει τις ίδιες σπασμένες ετικέτες με την παραγωγή. Το μοντέλο μπορεί να χρειάζεται ακόμη δουλειά. Αλλά το επίπεδο δεδομένων πρέπει να ερευνηθεί ως ύποπτος με μέσα, κίνητρο και μακρά ιστορία.
Υπάρχει επίσης μια πολιτική ευκολία στο να κατηγορεί κανείς το μοντέλο. Αν το μοντέλο φταίει, η διόρθωση ανήκει στην ομάδα τεχνητής νοημοσύνης. Αν τα δεδομένα φταίνε, η διόρθωση μπορεί να ανήκει στις λειτουργίες, τη νομική υπηρεσία, την πολιτική, το προϊόν, την εξυπηρέτηση πελατών, τη διαχείριση αρχείων, τους προμηθευτές και την ηγεσία. Αυτό είναι ένα μεγαλύτερο τραπέζι. Τα μεγαλύτερα τραπέζια παράγουν περισσότερα θέματα ημερήσιας διάταξης. Ορισμένοι οργανισμοί προτιμούν ένα μικρότερο τραπέζι και μια χειρότερη εξήγηση.
Μια σοβαρή ανασκόπηση περιστατικού ξεκινά λοιπόν νωρίτερα. Ποια πηγή έφερε το γεγονός. Ήταν τρέχουσα. Ήταν επιτρεπτή. Διατηρήθηκε το νόημα. Ήταν η ετικέτα έγκυρη για αυτόν τον σκοπό. Συμπεριφέρθηκε σωστά η αντιστοίχιση ταυτοτήτων. Ενήργησε μια προεπιλογή. Έφτασε μια ανθρώπινη διόρθωση στο κατάντη σύστημα. Περιλάμβανε το σύνολο αξιολόγησης αυτού του είδους την αποτυχία. Μόνο μετά από αυτές τις ερωτήσεις θα πρέπει να κληθεί το μοντέλο να υπερασπιστεί τον εαυτό του. Μπορεί να είναι ακόμη ένοχο. Δεν θα πρέπει να είναι μόνο του.
Η επισκευή πρέπει να φτάσει στην πηγή
Πολλοί οργανισμοί έχουν διαδικασίες διόρθωσης που διορθώνουν την ορατή περίπτωση αλλά όχι το σύστημα δεδομένων. Ένας πράκτορας υποστήριξης ενημερώνει τη διεύθυνση για το σημερινό γράμμα, αλλά το κύριο αρχείο παραμένει παλιό. Ένας χειριστής περιστατικών παρακάμπτει την επιλεξιμότητα, αλλά το πεδίο που λείπει παραμένει κενό. Ένας γιατρός διορθώνει μια περίληψη, αλλά ο κανόνας εξαγωγής συνεχίζει να παράγει το ίδιο σφάλμα. Μια σημείωση εξυπηρέτησης πελατών λέει να αγνοηθεί η προηγούμενη τιμή, που είναι ένας γενναίος αλλά εύθραυστος τρόπος να κυβερνάται μια βάση δεδομένων.
Η επισκευή πρέπει να ταξιδέψει ανάντη. Αν βρεθεί ένα σφάλμα στο σημείο χρήσης, η διόρθωση θα πρέπει να φτάσει στην έγκυρη πηγή ή τουλάχιστον να δημιουργήσει μια συμφιλιωμένη κατάσταση με αποδεικτικά στοιχεία. Το σύστημα θα πρέπει να γνωρίζει αν η διόρθωση είναι τοπική, προσωρινή, αμφισβητούμενη, επαληθευμένη ή δομική. Μια διόρθωση που δεν μπορεί να διαδοθεί γίνεται άλλο ένα κομμάτι κακών δεδομένων. Πολύ αποτελεσματική, με τη ζοφερή έννοια.
Η διαδικασία επισκευής θα πρέπει επίσης να προστατεύει τους ανθρώπους από το να γίνονται άμισθοι διαχειριστές δεδομένων για λογαριασμό των θεσμών. Είναι λογικό να ζητάμε από κάποιον να παρέχει μια πληροφορία που λείπει μία φορά. Δεν είναι λογικό να τον υποχρεώνουμε να διορθώνει την ίδια εγγραφή σε πέντε διαφορετικά κανάλια, επειδή τα συστήματα του οργανισμού απολαμβάνουν υπερβολική ανεξαρτησία. Όταν οι άνθρωποι παρέχουν επανειλημμένα στοιχεία και ο θεσμός τα ξεχνά επανειλημμένα, το πρόβλημα δεν είναι η τριβή με τον χρήστη. Είναι αποτυχία θεσμικής μνήμης.
Μια καλή επισκευή δημιουργεί μάθηση. Αν πολλές διορθώσεις αφορούν το ίδιο πεδίο, η φόρμα συλλογής μπορεί να είναι ασαφής. Αν συμβαίνουν πολλοί διαχωρισμοί εγγραφών μετά από αλλαγή ενός κανόνα αντιστοίχισης, το όριο είναι λάθος. Αν μια ετικέτα αμφισβητείται συχνά, η οδηγία χρειάζεται αναθεώρηση. Αν οι παρωχημένες εγγραφές προκαλούν περιστατικά, λείπουν οι συμβάσεις επικαιρότητας. Η ποιότητα των δεδομένων βελτιώνεται όταν η διόρθωση αντιμετωπίζεται ως αποδεικτικό στοιχείο και όχι ως ενόχληση.
Τα κακά δεδομένα δεν είναι ηθικά ουδέτερα
Είναι δελεαστικό να αντιμετωπίζουμε την ποιότητα των δεδομένων ως υπόθεση των γραφείων. Οι εγγραφές είναι ακατάστατες, ναι, αλλά κάθε οργανισμός έχει ακατάστατες εγγραφές. Αυτό ισχύει με τον ίδιο τρόπο που κάθε κτίριο έχει σκόνη. Το ερώτημα είναι αν η σκόνη βρίσκεται σε ένα ράφι ή μέσα στο σύστημα εξαερισμού. Όταν τα κακά δεδομένα οδηγούν σε αυτοματοποιημένες αποφάσεις, ιεραρχημένες εργασίες, αποτελέσματα τεχνητής νοημοσύνης, αναφορές, συμμόρφωση, πληρωμές ή δημόσιες υπηρεσίες, παύουν να αποτελούν οικιακή εργασία των γραφείων. Γίνονται ένας τρόπος άσκησης εξουσίας.
Αυτό δεν σημαίνει ότι κάθε λάθος είναι σκάνδαλο. Οι σοβαροί θεσμοί μπορούν να κάνουν λάθη. Το ηθικό ερώτημα είναι αν τα λάθη είναι ορατά, διορθώσιμα και προστατευμένα από πολλαπλασιασμό. Ένα σύστημα τήρησης αρχείων που κρύβει την αβεβαιότητα, αντιστέκεται στη διόρθωση, τιμωρεί τον ενδιαφερόμενο με επαναλαμβανόμενες αποδείξεις και συνεχίζει να χρησιμοποιεί παράγωγα σφάλματα δεν είναι απλώς ατημέλητο. Είναι άδικο με διαρκή τρόπο.
Δεν υπάρχει μία μόνο θεραπεία. Η εργασία με τα δεδομένα είναι τοπική, εξειδικευμένη ανά τομέα και περιστασιακά ταπεινωτική. Αλλά η στάση είναι σαφής. Αντιμετωπίστε τα σημαντικά πεδία ως αποφάσεις με ιδιοκτήτες. Κάντε την αβεβαιότητα αναπαραστάσιμη. Κρατήστε την προέλευση κοντά. Συνδέστε την επικαιρότητα με τον σκοπό. Ελέγξτε τις ετικέτες. Διακυβερνήστε την ταυτότητα. Διαδώστε τις διορθώσεις. Μετρήστε τον φόρτο επισκευής, όχι μόνο την ταχύτητα επεξεργασίας. Όταν εμπλέκεται τεχνητή νοημοσύνη, δοκιμάστε τη διαδρομή δεδομένων τόσο σκληρά όσο τη διαδρομή του μοντέλου. Οι εγγραφές δεν είναι σκηνικό. Είναι μέρος του μηχανισμού.
Το υπολογιστικό φύλλο δεν φώναξε, γιατί τα υπολογιστικά φύλλα σπάνια φωνάζουν. Το σύστημα έκανε ό,τι κάνουν τα συστήματα: μετέτρεψε τις σιωπηλές παραδοχές σε πιο ηχηρές συνέπειες. Το μάθημα δεν είναι ότι όλα τα δεδομένα πρέπει να είναι τέλεια πριν ξεκινήσει η δουλειά. Αυτό θα τερμάτιζε τον πολιτισμό, ή τουλάχιστον τον προγραμματισμό της Τρίτης. Το μάθημα είναι ότι τα κακά δεδομένα δεν πρέπει να επιτρέπεται να ενεργούν με εξουσία ενώ παραμένουν φθηνά, αόρατα και πρόβλημα κάποιου άλλου. Η αργή βία γίνεται πιο αργή όταν κανείς δεν την κατονομάζει. Γίνεται μικρότερη όταν το αρχείο πρέπει επιτέλους να λογοδοτήσει για τον εαυτό του.