Η αξιοπρέπεια των δεδομένων ξεκινά πριν από το μοντέλο.
Η φόρμα στο λάθος γραφείο
Η συζήτηση για την αξιοπρέπεια των δεδομένων συχνά ξεκινά πολύ αργά. Ξεκινά αφού έχει εκπαιδευτεί ένα μοντέλο, αφού το σύνολο δεδομένων έχει συλλεχθεί, συνενωθεί, φιλτραριστεί, απαλλαγεί από διπλότυπα, κανονικοποιηθεί, ενσωματωθεί, αξιολογηθεί, συσκευαστεί, αναπτυχθεί και υπερασπιστεί από κάποιον από το νομικό τμήμα που δεν έχει κοιμηθεί αρκετά. Σε εκείνο το σημείο η συζήτηση ακούγεται ηθική, κάτι που είναι χρήσιμο, και επίσης ελαφρώς θεατρική, κάτι που είναι λιγότερο χρήσιμο. Οι άνθρωποι ρωτούν αν το μοντέλο σεβάστηκε τους ανθρώπους πίσω από τα δεδομένα. Η ειλικρινής απάντηση είναι συνήθως ότι στο μοντέλο δεν δόθηκε ποτέ η ευκαιρία. Η απόφαση είχε ληφθεί μήνες νωρίτερα, σε μια φόρμα που κανείς δεν ήθελε να αναλάβει.
Κάποτε είδα μια ερευνητική ομάδα υγειονομικής περίθαλψης να το ανακαλύπτει αυτό σε μια συνάντηση που υποτίθεται ότι αφορούσε την ποιότητα του μοντέλου. Το μοντέλο δεν ήταν το πρόβλημα. Το πρόβλημα ήταν μια μικρή στήλη εισαγωγής με την ένδειξη reuse allowed. Είχε τρεις πιθανές τιμές: ναι, όχι και κενό. Το κενό σήμαινε ότι κανείς δεν γνώριζε. Στη διοχέτευση εξαγωγής, το κενό είχε αντιμετωπιστεί ως ναι, επειδή διαφορετικά το πείραμα θα ήταν άβολο. Αυτό δεν ήταν κακία. Ήταν χειρότερο για τους σκοπούς της διακυβέρνησης: ήταν μια προεπιλογή. Το πιο ήσυχο πεδίο στο υπολογιστικό φύλλο είχε περισσότερη εξουσία από την επιτροπή δεοντολογίας.
Η ομάδα μπορούσε να επανεκπαιδεύσει, να ζητήσει συγγνώμη, να τεκμηριώσει και να βελτιωθεί. Αλλά το ζήτημα της αξιοπρέπειας δεν ξεκίνησε στο νευρωνικό δίκτυο. Ξεκίνησε όταν μια εγγραφή έφτασε χωρίς σαφή σκοπό, χωρίς υπεύθυνο, χωρίς κανόνα διατήρησης, χωρίς τρόπο να διατηρηθεί η ανάκληση και χωρίς τεχνική σύμβαση που να αρνείται την αβεβαιότητα. Το μοντέλο απλώς έκανε την προηγούμενη ασέβεια ταχύτερη. Οι μηχανές συχνά κατηγορούνται ότι είναι ψυχρές, αλλά πολλές από τις πιο ψυχρές επιλογές γίνονται από ζεστούς ανθρώπους που κάνουν κλικ στην εισαγωγή.
Η αξιοπρέπεια των δεδομένων ξεκινά πριν από το μοντέλο, επειδή τα δεδομένα γίνονται πολιτικά τη στιγμή που συλλέγονται. Μια εγγραφή δεν είναι μόνο μια γραμμή. Είναι ένα απόσπασμα ενός ανθρώπου, μιας εταιρείας, μιας κοινότητας, ενός χώρου εργασίας, μιας πορείας ασθενούς, μιας δημόσιας υπηρεσίας, ενός περιβάλλοντος αισθητήρων ή μιας επαγγελματικής κρίσης. Το να μεταχειριστεί κανείς αυτό το απόσπασμα με αξιοπρέπεια δεν σημαίνει να το τυλίξει σε συναισθηματική γλώσσα. Σημαίνει να διατηρήσει αρκετή αλήθεια γύρω του, ώστε τα μεταγενέστερα συστήματα να μην μπορούν να προσποιηθούν ότι εμφανίστηκε από το πουθενά.
Η συναίνεση δεν είναι άρωμα
Πολλοί οργανισμοί αντιμετωπίζουν τη συναίνεση σαν ένα ευχάριστο άρωμα που προστίθεται σε μια διαδικασία αφού έχει γίνει η δύσκολη δουλειά. Μια παράγραφος μπαίνει σε μια πολιτική. Ένα πλαίσιο ελέγχου προστίθεται σε μια πύλη. Μια γραμμή στο μητρώο αναφέρει έννομο συμφέρον. Όλοι χαλαρώνουν, τουλάχιστον μέχρι να ρωτήσει κάποιος τι επιτρεπόταν πραγματικά να μάθει το μοντέλο. Τότε η αίθουσα ανακαλύπτει ότι η νομική διατύπωση και η επιχειρησιακή άδεια σχετίζονται μεταξύ τους όπως το μενού σχετίζεται με το δείπνο. Το ένα είναι μια υπόσχεση. Το άλλο πρέπει να μαγειρευτεί.
Η επιχειρησιακή συναίνεση έχει δομή. Καθορίζει ποιος σκοπός επιτρέπεται, ποιοι φορείς μπορούν να επεξεργαστούν το αρχείο, ποιοι μετασχηματισμοί επιτρέπονται, ποια παράγωγα κληρονομούν το όριο, πόσο καιρό μπορεί να υπάρχει το αρχείο, πώς αντιμετωπίζεται η ανάκληση και ποια αποδεικτικά στοιχεία τεκμηριώνουν αργότερα την επιλογή. Αν αυτά τα κομμάτια δεν είναι αρκετά αναγνώσιμα από μηχανή ώστε να επηρεάζουν τον αγωγό, δεν αποτελούν συναίνεση σε ένα σύστημα τεχνητής νοημοσύνης. Αποτελούν τεκμηρίωση με θέμα τη συναίνεση. Η τεκμηρίωση έχει τη θέση της, αλλά δεν θα έπρεπε να καλείται να σταματήσει μια μαζική εργασία με ηθική πίεση.
Αυτό γίνεται ιδιαίτερα σημαντικό όταν τα δεδομένα μετακινούνται από τον αρχικό τους σκοπό στην εκπαίδευση, την ανάκτηση, την αξιολόγηση, την παρακολούθηση ή την ανάλυση προϊόντος. Μια καταγγελία που υποβάλλεται σε έναν δήμο μπορεί να είναι χρήσιμη για τη βελτίωση ενός ταξινομητή. Μια κλινική σημείωση μπορεί να είναι χρήσιμη για την εξαγωγή συμπτωμάτων. Ένα αντίγραφο υποστήριξης πελατών μπορεί να είναι χρήσιμο για ένα chatbot. Η χρησιμότητα δεν δημιουργεί αξιοπρέπεια. Δημιουργεί πειρασμό. Το ζήτημα της αξιοπρέπειας είναι αν ο νέος σκοπός είχε δηλωθεί, αν οι άνθρωποι και οι θεσμοί που εμπλέκονται μπορούσαν εύλογα να τον αναμένουν και αν το σύστημα μπορεί να επιβάλει την απάντηση όταν τα δεδομένα γίνονται βολικά.
Η συναίνεση επίσης γερνάει. Ένα αρχείο που συλλέχθηκε πριν από πέντε χρόνια μπορεί να έχει εισαχθεί υπό παραδοχές που δεν ανταποκρίνονται πλέον στην τρέχουσα πρακτική. Ένα άτομο μπορεί να έχει αποσύρει τη συγκατάθεσή του. Μια σύμβαση μπορεί να έχει λήξει. Μια συμφωνία ανταλλαγής δεδομένων μπορεί να επέτρεπε την ανάλυση αλλά όχι την εκπαίδευση μοντέλων. Ένα πεδίο μπορεί να έχει ανωνυμοποιηθεί αρκετά καλά για μια αναφορά, αλλά όχι αρκετά καλά για ένα ευρετήριο ενσωματώσεων που μπορούν να αναζητούν όλη μέρα δημιουργικοί υπάλληλοι. Η παλιά άδεια δεν θα έπρεπε να αντιμετωπίζεται σαν ένα βάζο μαρμελάδας στο πίσω μέρος του ντουλαπιού. Η ημερομηνία έχει σημασία.
Το πλαίσιο είναι τεχνική ιδιότητα
Υπάρχει μια τεμπέλικη συνήθεια να διαχωρίζουμε τα δεδομένα από το πλαίσιο, σαν το πλαίσιο να ήταν μαλακό και τα δεδομένα σκληρά. Στα πραγματικά συστήματα ισχύει συχνά το αντίθετο. Η τιμή των δεδομένων μπορεί να είναι ένας αριθμός, ένας κωδικός, ένα όνομα, μια χρονική σήμανση ή ένα πεδίο κειμένου. Η σημασία της εξαρτάται από τη μέθοδο συλλογής, τη μονάδα, το εύρος, την αβεβαιότητα, την εξουσία της πηγής, τους κανόνες αποκλεισμού, τη γλώσσα, τις ελλείψεις και την κατάσταση στην οποία καταγράφηκε. Αφαιρέστε τα και τα δεδομένα δεν γίνονται ουδέτερα. Γίνονται υπερβολικά σίγουρα για τον εαυτό τους.
Μια ένδειξη αισθητήρα από μια γέφυρα δεν είναι απλώς δόνηση. Είναι δόνηση από μια συγκεκριμένη συσκευή, βαθμονομημένη σε συγκεκριμένη ημερομηνία, τοποθετημένη σε συγκεκριμένο σημείο, μετρημένη υπό συγκεκριμένες καιρικές συνθήκες, δειγματοληπτημένη σε συγκεκριμένη συχνότητα και ερμηνευμένη σε σχέση με ένα ιστορικό συντήρησης. Ένα αρχείο πληρωμής δεν είναι απλώς ένα ποσό. Βρίσκεται μέσα σε μια σύμβαση, μια διαδικασία διακανονισμού, ένα μοντέλο απάτης, μια σύμβαση νομίσματος και μια ανθρώπινη συνήθεια να βάζουμε κόμματα εκεί που ήθελαν να ζήσουν τα δεκαδικά. Το μοντέλο μπορεί να βλέπει μόνο διακριτικά ή διανύσματα, αλλά ο θεσμός παραμένει υπεύθυνος για τα ουσιαστικά που λείπουν.
Η αξιοπρέπεια των δεδομένων απαιτεί επομένως τη διατήρηση του πλαισίου ως μηχανική απαίτηση. Οι περιγραφές σχημάτων πρέπει να έχουν εκδόσεις. Τα συστήματα πηγής πρέπει να κατονομάζονται. Οι μετασχηματισμοί πρέπει να καταγράφονται. Οι ελλείπουσες τιμές πρέπει να διακρίνονται από τα μηδενικά, τις αρνήσεις, τα άγνωστα και τις καταστάσεις μη εφαρμογής. Οι ετικέτες πρέπει να φέρουν ποιος τις έβαλε, με ποια κατευθυντήρια γραμμή και με ποια διαφωνία. Τα παραδείγματα αξιολόγησης πρέπει να φέρουν γιατί επιλέχθηκαν. Ένα σύνολο δεδομένων χωρίς πλαίσιο δεν είναι πρώτη ύλη. Είναι μια φήμη σε μορφή πίνακα.
Αυτό δεν είναι έκκληση για ατελείωτα μεταδεδομένα. Τα ατελείωτα μεταδεδομένα είναι ο τρόπος με τον οποίο οι καλές ιδέες πηγαίνουν να περάσουν τη σύνταξή τους σε έναν κατάλογο που κανείς δεν ανοίγει. Το ζητούμενο είναι επιλεκτικά, λειτουργικά μεταδεδομένα: το πλαίσιο που χρειάζεται για να αποφασιστεί αν το αρχείο μπορεί να χρησιμοποιηθεί, αν εξακολουθεί να σημαίνει ό,τι νομίζει το σύστημα ότι σημαίνει, και αν ένα μεταγενέστερο άτομο μπορεί να αμφισβητήσει το αποτέλεσμα. Η αξιοπρέπεια δεν απαιτεί κάθε γεγονός για το αρχείο. Απαιτεί τα γεγονότα που εμποδίζουν το αρχείο να γίνει ξένο προς τον εαυτό του.
Το χρέος αξιοπρέπειας
Το τεχνικό χρέος είναι οικείο επειδή οι μηχανικοί μπορούν να το δουν σε builds, σε περιστατικά, σε αργές αλλαγές και σε μικρές κατάρες που πληκτρολογούνται στα μηνύματα των commits. Το χρέος αξιοπρέπειας δεδομένων είναι πιο ήσυχο. Συσσωρεύεται όταν η προέλευση είναι ασαφής, η άδεια είναι διφορούμενη, το πλαίσιο απορρίπτεται, η διατήρηση αγνοείται, οι ετικέτες είναι ατεκμηρίωτες, η πρόσβαση είναι υπερβολικά ευρεία ή τα παράγωγα δεδομένα αντιμετωπίζονται ως αβλαβή επειδή δεν μοιάζουν πλέον με την πηγή. Το χρέος μπορεί να μην σπάσει ένα τεστ. Περιμένει ένα παράπονο, έναν έλεγχο, μια διαφωνία, ένα επιβλαβές αποτέλεσμα ή έναν δημοσιογράφο με υπομονή.
Το επικίνδυνο με το χρέος αξιοπρέπειας είναι ότι πολλαπλασιάζεται μέσω της χρησιμότητας. Ένα σύνολο δεδομένων που είναι βολικό αντιγράφεται. Ένα αντιγραμμένο σύνολο δεδομένων γίνεται feature store. Το feature store τροφοδοτεί ένα μοντέλο. Η έξοδος του μοντέλου γίνεται αρχείο. Το αρχείο γίνεται ανατροφοδότηση εκπαίδευσης. Κάθε βήμα φαίνεται πρακτικό. Κάθε βήμα καθιστά επίσης δυσκολότερη την απάντηση στο αρχικό ερώτημα: τι επιτρεπόταν να κάνουμε με αυτά τα δεδομένα και τι οφείλαμε στους ανθρώπους πίσω από αυτά. Μέχρι να φτάσει το ερώτημα στη διοίκηση, η απάντηση έχει κατανεμηθεί σε οκτώ συστήματα και σε ένα άτομο που έχει μετακινηθεί σε άλλο τμήμα.
Οι σοβαρές ομάδες αντιμετωπίζουν το χρέος αξιοπρέπειας όπως κάθε άλλο λειτουργικό κίνδυνο. Το καταγράφουν, το κοστολογούν, αναθέτουν υπευθύνους και αποφασίζουν ποιες χρήσεις αποκλείονται έως ότου εξοφληθεί το χρέος. Αν ένα σύνολο δεδομένων δεν μπορεί να αποδείξει την προέλευσή του, δεν θα πρέπει να εισέρχεται σε εκπαίδευση υψηλού αντικτύπου. Αν η ανάκληση δεν μπορεί να διαδοθεί, η χρήση θα πρέπει να περιορίζεται. Αν τα παράγωγα τεχνουργήματα δεν μπορούν να εντοπιστούν, το μοντέλο δεν θα πρέπει να υποστηρίζει αποφάσεις με σημαντικές συνέπειες. Αν οι ετικέτες παρήχθησαν με κακή καθοδήγηση, η αξιολόγηση δεν θα πρέπει να χρησιμοποιείται ως πιστοποιητικό δικαιοσύνης. Αυτό είναι βαρετό με τον καλύτερο τρόπο. Το βαρετό είναι πώς οι ενήλικες κρατούν όρθιες τις γέφυρες.
Υπάρχει ο πειρασμός να λυθεί το χρέος αξιοπρέπειας με μια μεγάλη πλατφόρμα. Οι πλατφόρμες μπορούν να βοηθήσουν, αλλά το πρώτο βήμα είναι συνήθως μικρότερο και πιο πειθαρχημένο: να αρνείσαι τα άγνωστα κατά την εισαγωγή, να διαχωρίζεις τον σκοπό από την αποθήκευση, να καταγράφεις τη γενεαλογία στα όρια μετασχηματισμού, να διατηρείς τα δικαιώματα προσαρτημένα στα παράγωγα και να καθιστάς τη διαγραφή ελέγξιμη. Ένα σύστημα που δεν μπορεί να διαγράψει με σιγουριά δεν μπορεί να ισχυριστεί ειλικρινά ότι έχει σεβαστεί την ανάκληση. Μπορεί μόνο να ισχυριστεί ότι ελπίζει ότι τα δεδομένα έχουν γίνει ντροπαλά.
Τα παράγωγα δεδομένα εξακολουθούν να είναι δεδομένα
Η τεχνητή νοημοσύνη δυσκολεύει την αξιοπρέπεια των δεδομένων, επειδή δημιουργεί παράγωγα που δείχνουν αθώα. Ένα έγγραφο γίνεται ένα τμήμα. Ένα τμήμα γίνεται μια ενσωμάτωση. Μια συνομιλία υποστήριξης γίνεται μια περίληψη. Μια κλινική σημείωση γίνεται μια ετικέτα. Μια αναζήτηση γίνεται ένα συμβάν αναλυτικής. Μια απάντηση μοντέλου γίνεται μια νέα εγγραφή. Μια ανθρώπινη διόρθωση γίνεται δεδομένα ενίσχυσης. Κάθε τεχνούργημα μπορεί να χάσει τη μορφή του πρωτοτύπου, διατηρώντας όμως αρκετό νόημα για να έχει σημασία. Η μάσκα αλλάζει. Η υποχρέωση μπορεί να μην αλλάξει.
Οι ενσωματώσεις είναι ένα χρήσιμο παράδειγμα, επειδή παρεξηγούνται εύκολα. Δεν είναι αναγνώσιμο κείμενο, οπότε οι άνθρωποι τις αντιμετωπίζουν σαν να έχει εξατμιστεί η αξιοπρέπεια. Αλλά μια ενσωμάτωση μπορεί ακόμα να αποκαλύψει ομοιότητα, συμμετοχή, ευαίσθητη ομαδοποίηση ή επιχειρηματικό πλαίσιο. Μπορεί να βοηθήσει στην ανακατασκευή ή την εξαγωγή συμπερασμάτων για γεγονότα. Μπορεί να μεταφέρει τις συνέπειες μεροληπτικών ετικετών. Μπορεί να παραμείνει αφού διαγραφεί η πηγή. Το να την αποκαλεί κανείς διάνυσμα δεν την καθιστά κοινωνικά άνευ βάρους. Πολλά πράγματα στη ζωή δείχνουν ακίνδυνα όταν γράφονται ως δεκαδικοί αριθμοί. Τα τραπεζικά υπόλοιπα, για παράδειγμα.
Τα παράγωγα δεδομένα χρειάζονται κανόνες κληρονομικότητας. Ποιες υποχρεώσεις μεταφέρονται από την πηγή στο τμήμα, στο διάνυσμα, στην προσωρινή μνήμη, στην περίληψη, στο χαρακτηριστικό, στο αρχείο καταγραφής προτροπών, στο δείγμα αξιολόγησης και στην έξοδο του μοντέλου. Ποια παράγωγα πρέπει να διαγράφονται όταν διαγράφεται η πηγή. Ποια μπορούν να διατηρηθούν επειδή είναι επαρκώς συγκεντρωτικά ή νομικά ανεξάρτητα. Ποια χρειάζονται ξεχωριστή συγκατάθεση. Ποια αποτελούν εγγραφές από μόνα τους. Χωρίς κληρονομικότητα, κάθε κατάντη σύστημα μπορεί να αυτοσχεδιάζει την αξιοπρέπεια. Ο αυτοσχεδιασμός είναι γοητευτικός στην τζαζ. Στη διακυβέρνηση δεδομένων συχνά παράγει πρακτικά συσκέψεων.
Αυτοί οι κανόνες κληρονομικότητας θα πρέπει να σχεδιάζονται πριν από τη συλλογή, όχι μετά την πρώτη κυκλοφορία του μοντέλου. Το ζητούμενο δεν είναι να παγώσει η καινοτομία. Είναι να δοθεί στην καινοτομία ένα θεμέλιο. Οι μηχανικοί μπορούν να χτίζουν πιο γρήγορα όταν γνωρίζουν ποια παράγωγα επιτρέπονται, ποια όρια απαιτούν έλεγχο και ποια μεταδεδομένα πρέπει να ταξιδεύουν μαζί. Οι ερευνητές μπορούν να εξερευνούν χωρίς να μετατρέπουν κάθε πείραμα σε νομική συνεδρία επίκλησης πνευμάτων. Οι χρήστες και τα υποκείμενα των δεδομένων αποκομίζουν το πιο σημαντικό όφελος: ο οργανισμός μπορεί να εξηγήσει τι συνέβη στα δεδομένα τους χωρίς να συμβουλεύεται τη λαϊκή παράδοση.
Το μοντέλο είναι ένας όψιμος μάρτυρας
Όταν ένα σύστημα τεχνητής νοημοσύνης συμπεριφέρεται άσχημα, η έρευνα συχνά κοιτάζει πρώτα το μοντέλο. Αυτό είναι κατανοητό. Το μοντέλο είναι ορατό, ακριβό και με αυτοπεποίθηση λανθασμένο με τρόπους που κάνουν καλά στιγμιότυπα οθόνης. Αλλά το μοντέλο είναι συχνά ένας όψιμος μάρτυρας σε προηγούμενες αποφάσεις. Αντικατοπτρίζει επιλογές συλλογής, επιλογές επισήμανσης, επιλογές αποκλεισμού, επιλογές καθαρισμού, επιλογές διατήρησης και επιλογές αξιολόγησης. Το να ζητά κανείς μόνο από το μοντέλο να γίνει αξιοπρεπές είναι σαν να ζητά από τον τελευταίο δρομέα σε μια σκυταλοδρομία να βελτιώσει τη σκυτάλη.
Τα model cards, οι έλεγχοι, οι αξιολογήσεις, οι ασκήσεις red-team και τα εργαλεία επεξηγησιμότητας έχουν όλα σημασία. Αποτελούν μέρος της ιστορίας της αξιοπρέπειας, ειδικά όταν τα συστήματα επηρεάζουν ανθρώπους. Αλλά δεν μπορούν να ανακτήσουν άδεια που δεν δόθηκε ποτέ, πλαίσιο που απορρίφθηκε ή ιστορικό που δεν καταγράφηκε. Μπορούν να αποκαλύψουν το κενό. Δεν μπορούν να κάνουν το κενό ηθικά τακτοποιημένο. Γι' αυτό οι πρώιμοι έλεγχοι δεν είναι γραφειοκρατία. Είναι οι προϋποθέσεις που κάνουν τη μεταγενέστερη λογοδοσία κάτι περισσότερο από θέατρο.
Το ίδιο ισχύει και για τη δικαιοσύνη. Μια αναθεώρηση δικαιοσύνης μετά την εκπαίδευση μπορεί να εντοπίσει άνισους ρυθμούς σφαλμάτων, ομάδες που λείπουν, μεταβλητές-πληρεξούσιους ή επιβλαβή όρια. Δεν μπορεί πάντα να προσδιορίσει αν το σύνολο δεδομένων απέκλεισε ανθρώπους κατά τη συλλογή, αν οι ετικέτες αποτύπωσαν θεσμική προκατάληψη, αν ένα πεδίο σήμαινε το ίδιο πράγμα σε διαφορετικούς χώρους ή αν ένας κανόνας συγκατάθεσης φιλτράρισε το δείγμα με τρόπο που άλλαξε τον πληθυσμό. Η δικαιοσύνη χωρίς αξιοπρέπεια δεδομένων είναι σαν να δουλεύεις με έναν καθρέφτη που μπορεί να έχει λυγίσει κατά την κατασκευή του.
Υπάρχει επίσης ένα πρακτικό πλεονέκτημα στο να ξεκινήσεις νωρίς: όσο νωρίτερα μπαίνει ένας κανόνας αξιοπρέπειας στη ροή εργασίας, τόσο φθηνότερη είναι η εφαρμογή του. Μια εγγραφή που απορρίπτεται κατά την εισαγωγή κοστίζει λίγο. Ένα σύνολο δεδομένων που τίθεται σε καραντίνα πριν από την εκπαίδευση κοστίζει περισσότερο. Ένα μοντέλο που αποσύρεται από την παραγωγή κοστίζει πολύ περισσότερο. Μια δημόσια απώλεια εμπιστοσύνης κοστίζει ό,τι αριθμό γράψει το οικονομικό τμήμα αφού σταματήσουν όλοι να προσποιούνται ότι είναι μόνο θέμα επικοινωνίας. Η αξιοπρέπεια συχνά περιγράφεται ως ηθικό κόστος. Σε σοβαρά συστήματα είναι φθηνότερη από την αποκατάσταση.
Η διαχείριση είναι πραγματική δουλειά
Η αξιοπρέπεια δεδομένων χρειάζεται διαχειριστές, όχι μασκότ. Διαχειριστής δεν είναι το άτομο του οποίου το όνομα εμφανίζεται σε μια διαφάνεια για να έχει ανθρώπινο πρόσωπο το διάγραμμα διακυβέρνησης. Ένας διαχειριστής έχει την εξουσία να απαντά αν ένα σύνολο δεδομένων μπορεί να χρησιμοποιηθεί, να μπλοκάρει έναν επικίνδυνο σκοπό, να απαιτεί μεταδεδομένα, να εγκρίνει τη διατήρηση, να χειρίζεται την απόσυρση και να εξηγεί μια απόφαση σε ελεγκτές και σε επηρεαζόμενα άτομα. Χωρίς εξουσία, η διαχείριση γίνεται διακοσμητική. Η διακοσμητική διακυβέρνηση είναι εύκολο να εντοπιστεί, γιατί περιέχει πολλές επιτροπές και πολύ λίγα ρήματα.
Ο διαχειριστής χρειάζεται επίσης τεχνική μόχλευση. Χρειάζεται πίνακες ελέγχου που να δείχνουν την προέλευση και τη χρήση, όχι μόνο τον όγκο αποθήκευσης. Χρειάζεται ειδοποιήσεις όταν ένα σύνολο δεδομένων επαναχρησιμοποιείται εκτός του σκοπού του. Χρειάζεται συμφωνίες με τις ομάδες μηχανικών για τα απαιτούμενα μεταδεδομένα. Χρειάζεται μια διαδρομή διαγραφής που έχει δοκιμαστεί. Χρειάζεται έναν τρόπο να επισημαίνει την αβεβαιότητα χωρίς να παρακολουθεί τη ροή εργασίας να τη μετατρέπει σιωπηλά σε ναι. Χρειάζεται αρκετό προϋπολογισμό για να διορθώσει το χρέος αξιοπρέπειας πριν γίνει πρωτοσέλιδο. Αυτό είναι δουλειά, όχι ετικέτα αρετής.
Η καλή διαχείριση είναι συνεργατική. Το νομικό τμήμα κατανοεί την εξουσία. Η ασφάλεια κατανοεί την πρόσβαση. Οι μηχανικοί δεδομένων κατανοούν τη μετακίνηση. Οι ειδικοί του τομέα κατανοούν το νόημα. Οι ομάδες προϊόντος κατανοούν την προβλεπόμενη χρήση. Οι ερευνητές κατανοούν την αβεβαιότητα. Το τμήμα λειτουργιών κατανοεί τι συμβαίνει στις τρεις τα ξημερώματα. Η αξιοπρέπεια δεδομένων αποτυγχάνει όταν μία από αυτές τις οπτικές ανακηρύσσεται ιδιοκτήτης ολόκληρου του προβλήματος και όλοι οι άλλοι επιστρέφουν στους πίνακές τους. Το αρχείο ταξιδεύει μεταξύ των λειτουργιών· έτσι πρέπει να ταξιδεύει και η ευθύνη.
Υπάρχει μια ανθρώπινη σεμνότητα σε αυτό. Η αξιοπρέπεια δεδομένων δεν απαιτεί από έναν οργανισμό να γνωρίζει τα πάντα. Απαιτεί από τον οργανισμό να γνωρίζει τι ξέρει, τι δεν ξέρει, ποιος μπορεί να αποφασίσει και πού επιβάλλονται τα όρια. Αυτό είναι λιγότερο εντυπωσιακό από μια στρατηγική παρουσίαση για την υπεύθυνη τεχνητή νοημοσύνη. Είναι όμως πιο πιθανό να επιβιώσει από την επαφή με μια πραγματική εργασία εισαγωγής δεδομένων.
Πώς φαίνεται η αξιοπρέπεια στις υποδομές
Η υποδομή για την αξιοπρέπεια των δεδομένων δεν είναι μυστήρια. Μοιάζει με μητρώα προέλευσης, ετικέτες σκοπού, καταστάσεις συναίνεσης, συμβάσεις δεδομένων, γεγονότα καταγωγής, πεδία πρόσβασης, εργασίες διατήρησης, αποδείξεις διαγραφής, οδηγίες επισήμανσης, εκδόσεις συνόλων δεδομένων, μητρώα αξιολόγησης και ουρές ελέγχου. Αν αυτή η λίστα ακούγεται απλή, καλώς. Τα πιο αξιόπιστα ηθικά συστήματα συχνά μοιάζουν με υδραυλικές εγκαταστάσεις. Γίνονται αντιληπτά κυρίως όταν κάποιος ξεχάσει να τα εγκαταστήσει.
Κατά την εισαγωγή, ένα αρχείο θα πρέπει να φτάνει με δηλωμένη προέλευση, σκοπό, νομική βάση ή κατάσταση άδειας, κατηγορία ευαισθησίας και διαχειριστή. Κατά τον μετασχηματισμό, το σύστημα θα πρέπει να εκπέμπει γεγονότα καταγωγής και να διατηρεί τα σχετικά όρια. Κατά τη χρήση, ο χρόνος εκτέλεσης θα πρέπει να ελέγχει αν ο σκοπός ταιριάζει. Κατά την αποθήκευση, η διατήρηση και η διαγραφή θα πρέπει να είναι εκτελέσιμες, όχι ευσεβείς πόθοι. Κατά την αξιολόγηση, τα παραδείγματα θα πρέπει να φέρουν προέλευση και λογική επιλογής. Κατά τον έλεγχο, οι ενδιαφερόμενοι και οι εσωτερικοί χειριστές θα πρέπει να έχουν μια διαδρομή για να αμφισβητήσουν την κακή χρήση. Τίποτα από αυτά δεν απαιτεί να προσποιούμαστε ότι όλα τα δεδομένα είναι ιερά. Απαιτεί να παραδεχτούμε ότι τα δεδομένα έχουν ζωή.
Η πιο σημαντική σχεδιαστική κίνηση είναι να κάνουμε το άγνωστο μια κατάσταση πρώτης κατηγορίας. Το άγνωστο δεν είναι ναι. Το άγνωστο δεν είναι ακίνδυνο. Το άγνωστο είναι ένα σήμα για να ρωτήσουμε, να απομονώσουμε, να περιορίσουμε ή να αρνηθούμε. Πολλές αποτυχίες αξιοπρέπειας συμβαίνουν επειδή τα συστήματα είναι αλλεργικά στην αβεβαιότητα. Προτιμούν ένα καθαρό δυαδικό αποτέλεσμα ακόμα και όταν ο πραγματικός κόσμος δεν έχει δώσει ένα. Έτσι τα κενά κελιά γίνονται άδειες. Ένα αξιοπρεπές σύστημα επιτρέπει στην αβεβαιότητα να επιβραδύνει τα πράγματα. Η μηχανή θα τα καταφέρει. Δεν προσκλήθηκε για τα συναισθήματά της.
Δεν υπάρχει τέλεια αρχιτεκτονική αξιοπρέπειας. Υπάρχουν καλύτερες προεπιλογές και χειρότερες προεπιλογές. Οι καλύτερες προεπιλογές κρατούν το πλαίσιο κοντά, διαδίδουν τα όρια, καταγράφουν την κίνηση, απαιτούν ρητή δευτερεύουσα χρήση και καθιστούν δυνατή την αναστροφή. Οι χειρότερες προεπιλογές εξισώνουν τον σκοπό, αντιγράφουν ελεύθερα, εμπιστεύονται τους πάντες, διαγράφουν μόνο στην πολιτική και ανακαλύπτουν υποχρεώσεις όταν το ημερολόγιο ελέγχου το κάνει. Η επιλογή δεν είναι μεταξύ καινοτομίας και αξιοπρέπειας. Η επιλογή είναι μεταξύ συστημάτων που θυμούνται τι οφείλουν και συστημάτων που ελπίζουν ότι κανείς δεν θα ρωτήσει.
Το μάθημα
Η αξιοπρέπεια των δεδομένων συζητείται συχνά ως μια μεγάλη αρχή, αλλά γίνεται πραγματική σε μικρές τεχνικές αποφάσεις που λαμβάνονται πριν εμφανιστεί το μοντέλο. Τι πρέπει να είναι γνωστό κατά την εισαγωγή. Ποια άγνωστα σταματούν τη ροή. Ποια δικαιώματα ταξιδεύουν με τα παράγωγα. Ποια πλαίσια διατηρούνται. Ποιοι σκοποί επιτρέπονται. Ποιοι διαχειριστές μπορούν να πουν όχι. Ποιες διαγραφές μπορούν να αποδειχθούν. Αυτές οι επιλογές καθορίζουν αν ένα μεταγενέστερο μοντέλο μπορεί να είναι υπόλογο ή απλώς εύγλωττο.
Ο σεβαστικός δρόμος δεν είναι κατά των δεδομένων ούτε κατά της τεχνητής νοημοσύνης. Είναι υπέρ της μνήμης. Επιμένει ότι τα αρχεία φέρουν αρκετή προέλευση, άδεια, συμφραζόμενα και υποχρέωση ώστε να παραμένουν συνδεδεμένα με τους ανθρώπους και τους οργανισμούς που τα παρήγαγαν. Ένα μοντέλο εκπαιδευμένο σε τέτοια δεδομένα έχει περισσότερες πιθανότητες να είναι χρήσιμο χωρίς να γίνεται εκμεταλλευτικό κατά λάθος. Ένα μοντέλο εκπαιδευμένο χωρίς αυτά τα θεμέλια μπορεί να είναι ακόμα εντυπωσιακό. Έτσι είναι και ένα κτίριο χωρίς θεμέλια για μια σύντομη και συναρπαστική περίοδο.
Ξεκινήστε πριν από το μοντέλο. Ξεκινήστε από τη φόρμα, τη σύμβαση, το σχήμα, την κατάσταση συναίνεσης, την οδηγία επισήμανσης, τον κανόνα διατήρησης, την πολιτική παραγώγων και τον διαχειριστή με πραγματική εξουσία. Εκεί μπαίνει η αξιοπρέπεια στο σύστημα. Οτιδήποτε μετά από αυτό είναι είτε διατήρηση είτε περιορισμός της ζημιάς.