Το δικαίωμα να γνωρίζεις τι άλλαξε

Μια δημόσια απόφαση δεν είναι ποτέ μόνο το τελικό της κείμενο. Είναι ο κανόνας, τα δεδομένα, το σύστημα, η διαδικασία και η ανθρώπινη εξουσία που κατέστησαν...

Το δικαίωμα να γνωρίζεις τι άλλαξε

Το έγγραφο που δεν υπήρχε

Τον Μάρτιο του 2024, ο Ευρωπαίος Διαμεσολαβητής κίνησε έρευνα για το πώς η Ευρωπαϊκή Επιτροπή αποφασίζει και χρησιμοποιεί την τεχνητή νοημοσύνη. Τα ερωτήματα αφορούσαν τρεις συνήθεις τομείς διοικητικής εργασίας: την ανάλυση των δημόσιων σχολίων, τον εντοπισμό πιθανών παραβάσεων των κανόνων ανταγωνισμού και τη διαχείριση καταγγελιών. Ο Διαμεσολαβητής ρώτησε για την αυτοματοποίηση, την απόφαση χρήσης ΤΝ, τη διαφάνεια γύρω από αυτή την απόφαση και τη λογοδοσία. Η δημόσια ανακοίνωση δεν περιέγραφε μια θεαματική αποτυχία. Περιέγραφε την ανάγκη να κατανοηθεί πώς ένα θεσμικό όργανο λαμβάνει και διαχειρίζεται μια επιλογή.

Αυτή η διάκριση έχει σημασία. Όταν μια αρχή ερωτάται γιατί χρησιμοποίησε ένα σύστημα, η χρήσιμη απάντηση σπάνια είναι το τελικό δελτίο Τύπου. Αυτός που εξετάζει την υπόθεση χρειάζεται να γνωρίζει ποιος σκοπός εγκρίθηκε, ποιος κανόνας και ποιος ορισμός δεδομένων ίσχυαν, ποια έκδοση του συστήματος χρησιμοποιήθηκε, τι μπορούσε να δει ο χειριστής και ποιο πρόσωπο είχε την εξουσία να αποδεχθεί ή να απορρίψει το αποτέλεσμα. Η εξήγηση είναι μια διαδρομή μέσα στον χρόνο. Αν η διαδρομή έχει αντικατασταθεί από το παρόν, το ίδρυμα μπορεί να προσφέρει μια εύλογη εκδοχή, αλλά όχι απαραίτητα την εκδοχή που ήταν αληθής όταν λήφθηκε η απόφαση.

Οι δημόσιοι οργανισμοί κατανοούν αυτό το πρόβλημα εδώ και πολύ καιρό. Μια άδεια, ένα έγγραφο πολιτικής, μια εγγραφή σε μητρώο, ένας φάκελος δικαστηρίου και μια υπουργική απόφαση αποκτούν νόημα από την ιστορία τους. Ένας νόμος έχει ημερομηνία έναρξης ισχύος. Ένα δημόσιο αρχείο έχει δημιουργό και πλαίσιο. Μια διόρθωση δεν γίνεται σιωπηλά το πρωτότυπο. Τα ψηφιακά συστήματα δεν έχουν εξαλείψει αυτά τα γεγονότα. Τα έχουν διασκορπίσει σε εκδόσεις, διαμορφώσεις, πηγές δεδομένων, ουρές, προτροπές, κανόνες πρόσβασης και υπηρεσίες προμηθευτών. Η τελική κατάσταση μπορεί να είναι ακόμη ορατή. Η διαδρομή που της έδωσε κύρος μπορεί να έχει χαθεί.

Το δικαίωμα να γνωρίζει κανείς τι άλλαξε δεν είναι, επομένως, αίτημα για κάθε πληκτρολόγηση. Είναι διεκδίκηση για μια λογοδοτούσα μνήμη. Οι άνθρωποι που επηρεάζονται από μια δημόσια απόφαση θα πρέπει να μπορούν να μάθουν ποια εκδοχή του σχετικού κόσμου την παρήγαγε, εντός των ορίων που θέτουν η ιδιωτικότητα, η ασφάλεια και άλλα θεμιτά συμφέροντα. Οι θεσμοί χρειάζονται την ίδια γνώση για να διορθώνουν λάθη, να απαντούν σε προσφυγές και να εξηγούν τη δική τους συμπεριφορά. Μια ιστορία δεν είναι διακοσμητικό παράρτημα μιας απόφασης. Είναι μέρος αυτού που κάνει την απόφαση απόφαση και όχι ένα ορφανό αποτέλεσμα.

Ένα αρχείο αλλαγών είναι ευγένεια· η ιστορία είναι αποδεικτικό στοιχείο

Οι ομάδες λογισμικού είναι εξοικειωμένες με τα αρχεία αλλαγών. Μια σημείωση έκδοσης λέει ότι μια διεπαφή βελτιώθηκε, ένα σφάλμα διορθώθηκε ή μια εξάρτηση ενημερώθηκε. Ένα καλό αρχείο αλλαγών είναι χρήσιμη επικοινωνία. Βοηθά τους χρήστες να αποφασίσουν αν θα αναβαθμίσουν και δίνει στους συντηρητές έναν δημόσιο απολογισμό της εργασίας τους. Δεν είναι, από μόνο του, αρχείο αποφάσεων. Περιγράφει συνήθως ό,τι θεωρεί ο εκδότης σημαντικό. Δεν υπόσχεται να αναπαράγει την κατάσταση κάθε υπόθεσης που πέρασε από το σύστημα.

Η ιστορία αποφάσεων έχει διαφορετική δουλειά. Πρέπει να απαντήσει σε ένα ερώτημα για μια συγκεκριμένη πράξη σε μια συγκεκριμένη χρονική στιγμή. Ποια έκδοση του κανόνα επιλεξιμότητας εφαρμόστηκε σε αυτή την αίτηση. Ποιος ορισμός εισοδήματος ήταν διαθέσιμος όταν υπολογίστηκε η βαθμολογία. Ποιο μοντέλο και ποια βαθμονόμηση παρήγαγε την κατάταξη. Ποια διαδρομή ροής εργασίας έφερε την υπόθεση ενώπιον αυτού του εξεταστή. Ποια αποδεικτικά στοιχεία είδε ο εξεταστής. Ποια ειδοποίηση στάλθηκε. Η απάντηση μπορεί να παραπέμπει σε ένα αρχείο αλλαγών, αλλά δεν μπορεί να σταματήσει εκεί. Μια σημείωση έκδοσης περιγράφει μια αλλαγή γενικά. Μια ιστορία συνδέει μια αλλαγή με μια επηρεαζόμενη απόφαση.

Γι' αυτό μια πράσινη γραμμή που λέει ενημερώθηκε δεν αρκεί. Ενημερώθηκε πότε, υπό την εξουσία ποιου, με ποια ημερομηνία έναρξης ισχύος και για ποιες περιπτώσεις. Μια εγγραφή που λέει η πολιτική βελτιώθηκε αφήνει ανοιχτό το αν η παλιά πολιτική παραμένει σχετική με μια προσφυγή, αν ένα προηγούμενο αποτέλεσμα χρειάζεται επανεξέταση και αν η αλλαγή εφαρμόστηκε παντού ταυτόχρονα. Μια ιστορία φέρει σχέσεις, όχι επίθετα. Συνδέει ένα αντικείμενο με την προηγούμενη κατάστασή του, τον διάδοχό του, τον λόγο της μετάβασης και την περίοδο κατά την οποία η κατάσταση ήταν έγκυρη.

Υπάρχει μια πρακτική διαφορά στον τρόπο που συντάσσονται τα δύο αρχεία. Ένα αρχείο αλλαγών μπορεί να γραφτεί μετά την ολοκλήρωση της τεχνικής εργασίας, επειδή ο αναγνώστης του χρειάζεται μια σύνοψη. Ένα ιστορικό αποφάσεων πρέπει να δημιουργείται καθώς εξελίσσεται η εργασία ή από αρχεία που δημιουργήθηκαν εκείνη την περίοδο. Οι αναδρομικές σημειώσεις είναι χρήσιμες, αλλά αποτελούν ερμηνεία. Δεν μπορούν να αντικαταστήσουν με ασφάλεια το συγκείμενο της εποχής. Η διαφορά δεν έχει κανέναν ρομαντισμό. Το ένα αρχείο βοηθά τους ανθρώπους να παρακολουθούν την εξέλιξη ενός προϊόντος. Το άλλο επιτρέπει σε έναν οργανισμό να στηρίξει μια πράξη.

Ένα ιστορικό αποφάσεων συνδέει το αποτέλεσμα με τις εκδόσεις που το κατέστησαν δυνατό και αφήνει μια διαδρομή για διόρθωση.

Αυτό που άλλαξε σπάνια είναι ένα μόνο πράγμα

Όταν επανεξετάζεται μια απόφαση, οι άνθρωποι συχνά ξεκινούν από το πιο εμφανές στοιχείο. Άλλαξε το μοντέλο. Άλλαξε η φόρμα. Η σελίδα πολιτικής έχει νέα επικεφαλίδα. Ο προμηθευτής ανέπτυξε μια ενημέρωση. Όλες αυτές οι δηλώσεις μπορεί να είναι αληθείς και παρόλα αυτά να μην αποτυπώνουν την ουσιαστική αλλαγή. Μια δημόσια απόφαση συντίθεται από επίπεδα που κινούνται με διαφορετικές ταχύτητες, με διαφορετικούς υπεύθυνους και με διαφορετικές αντιλήψεις για το τι συνιστά έκδοση.

Το επίπεδο δεδομένων μπορεί να αλλάξει όταν μια αρχή-πηγή διορθώνει τη διεύθυνση ενός ατόμου, έναν στατιστικό ορισμό, έναν κωδικό ταξινόμησης ή έναν πίνακα αναφοράς. Ένας αγωγός μπορεί να αλλάξει τον τρόπο που συνδέει εγγραφές ή διαχειρίζεται τις ελλιπείς τιμές. Ένα ευρετήριο ανάκτησης μπορεί να ανακατασκευαστεί από διαφορετική συλλογή. Μια προσωρινή μνήμη μπορεί να διατηρεί μια παλαιότερη ερμηνεία αφού η πηγή έχει προχωρήσει. Καμία από αυτές τις μεταβολές δεν χρειάζεται να χαρακτηριστεί αλλαγή τεχνητής νοημοσύνης για να μεταβάλει το αποτέλεσμα μιας ροής εργασίας με υποστήριξη τεχνητής νοημοσύνης.

Το επίπεδο κανόνων έχει επίσης περισσότερες από μία επιφάνειες. Μπορεί να υπάρχει ένας νόμος, μια εσωτερική πολιτική, μια γραπτή οδηγία, ένα όριο στη διαμόρφωση, ένας πίνακας εξαιρέσεων και μια σημείωση εκπαίδευσης για τους αξιολογητές. Η δημοσιευμένη πολιτική μπορεί να παραμείνει λέξη προς λέξη ίδια, ενώ ένα όριο αλλάζει σε ένα αρχείο ανάπτυξης. Αντιστρόφως, μια πολιτική μπορεί να αλλάξει ενώ ο παλιός κανόνας συνεχίζει να εφαρμόζεται σε μια περιοχή επειδή η κυκλοφορία έγινε σταδιακά. Ένα άτομο που επηρεάζεται από το αποτέλεσμα δεν θα έπρεπε να χρειάζεται να γνωρίζει ποια ομάδα διαχειρίζεται ποιο τμήμα προτού ρωτήσει τι συνέβη.

Το επίπεδο συστήματος περιλαμβάνει το μοντέλο, τα βάρη ή το πακέτο του, το προτροπή ή το πρότυπό του, τη διαμόρφωση ανάκτησης, τις ρυθμίσεις ασφαλείας και το λογισμικό που το καλεί. Το επίπεδο ροής εργασίας περιλαμβάνει την ουρά, τη διαδρομή, τα δικαιώματα, την οθόνη και τη μεταβίβαση. Η ενέργεια ενός αξιολογητή εξαρτάται από το τι παρουσιάζει η διεπαφή ως σημαντικό και από το τι καθιστά δυνατό. Το επίπεδο απόφασης περιλαμβάνει το αποτέλεσμα, την εξήγηση, την ειδοποίηση, την επίδραση στα επόμενα στάδια και τυχόν ένσταση. Το ιστορικό εκδόσεων είναι η πειθαρχία της ονομασίας των επιπέδων που είχαν σημασία, όχι μια απόπειρα να κάνει ένας ενιαίος γιγάντιος αριθμός έκδοσης να επιτελέσει θεσμική μαγεία.

Το αρχείο γνωρίζει ήδη ότι οι εκδόσεις έχουν σημασία

Το Εθνικό Αρχείο της Ολλανδίας χρησιμοποιεί έναν ορισμό που είναι αναζωογονητικά απλός: μια ιστορική έκδοση είναι μια προηγούμενη έκδοση ενός αντικειμένου πληροφορίας. Οι οδηγίες του δίνουν καθημερινά παραδείγματα. Ένα σημείωμα μπορεί να περάσει από το προσχέδιο στην ιδέα και στο εγκεκριμένο κείμενο. Ένας νόμος μπορεί να τροποποιηθεί. Πληροφορίες μπορούν να προστεθούν σε μια αίτηση άδειας. Ένα άτομο μπορεί να μετακομίσει, αλλάζοντας την τιμή σε ένα μητρώο. Ανάλογα με τη σημασία της αλλαγής, οι προηγούμενες εκδόσεις μπορεί να χρειαστεί να παραμείνουν προσβάσιμες. Αυτό δεν είναι ένα νέο αίτημα που δημιουργήθηκε από τη μηχανική μάθηση. Είναι η τήρηση αρχείων που εφαρμόζεται στην ψηφιακή εργασία.

Οι ίδιες οδηγίες επισημαίνουν δύο σημεία που χάνονται εύκολα σε μια συζήτηση για τα συστήματα νέφους. Οι κυβερνητικές πληροφορίες καλύπτονται ανεξάρτητα από την τεχνική τους μορφή. Μπορεί να είναι μια καταχώριση σε βάση δεδομένων, μια ιστοσελίδα, ένα μήνυμα ή ένα βίντεο, όχι μόνο ένα υπογεγραμμένο έγγραφο. Και ο τόπος όπου αποθηκεύονται οι πληροφορίες δεν καθορίζει αν πρέπει να παραμείνουν προσβάσιμες. Ο διακομιστής ενός προμηθευτή δεν καθιστά το αρχείο λιγότερο σχετικό για τον φορέα που το χρησιμοποίησε. Ένας ιδιωτικός φορητός υπολογιστής δεν μετατρέπει τις επίσημες πληροφορίες σε προσωπικό ενθύμιο.

Αυτές οι αρχές είναι χρήσιμες για την τεχνητή νοημοσύνη, επειδή η τεχνητή νοημοσύνη κρύβει τις συνηθισμένες πληροφορίες πίσω από τεχνικές επιφάνειες. Ένας ορισμός χαρακτηριστικού, μια κάρτα μοντέλου, ένα σημειωματάριο αξιολόγησης, ένα πρότυπο προτροπής, ένας κανόνας δρομολόγησης ή ένα μήνυμα έγκρισης μπορεί να καθορίσει πώς συμπεριφέρεται μια δημόσια υπηρεσία. Το να τα αποκαλούμε διαμόρφωση δεν αφαιρεί τη διοικητική τους επίδραση. Απλώς καθιστά την ιστορία τους πιο δύσκολο να διακριθεί. Η αρχειακή σκέψη θέτει μια καλύτερη ερώτηση: ποιες πληροφορίες δημιουργήθηκαν ή ελήφθησαν ενώ ο οργανισμός εκτελούσε το έργο του, και τι πρέπει να παραμείνει χρησιμοποιήσιμο ώστε το έργο να μπορεί αργότερα να γίνει κατανοητό.

Η αρχειοθέτηση δεν είναι το ίδιο με το να κρατάμε τα πάντα. Το Εθνικό Αρχείο περιγράφει επιλογές σχετικά με το ποιες ιστορικές εκδόσεις παραμένουν προσβάσιμες. Ένα προσχέδιο μπορεί να μην χρειάζεται την ίδια μεταχείριση με μια εγκεκριμένη απόφαση. Ένα προσωπικό πεδίο μπορεί να χρειάζεται διαφορετική διαδρομή διατήρησης από μια νομική βάση. Το ζητούμενο είναι να γίνει η επιλογή συνειδητά και να καταγραφεί ο λόγος. Η διαγραφή της ιστορίας μπορεί να είναι θεμιτή. Το να τη διαγράφουμε χωρίς να γνωρίζουμε αν πρόκειται για την ιστορία μιας επηρεαζόμενης απόφασης είναι απλώς ένας γρήγορος τρόπος να χάσουμε το επιχείρημα αργότερα.

Ο GDPR ζητά υπευθυνότητα, όχι αρχαιολογία

Ο Γενικός Κανονισμός για την Προστασία Δεδομένων δεν ορίζει ένα ενιαίο προϊόν ελέγχου εκδόσεων για τις δημόσιες αρχές. Κάνει κάτι πιο απαιτητικό. Το άρθρο 5(2) αποδίδει την ευθύνη στον υπεύθυνο επεξεργασίας και απαιτεί από αυτόν να μπορεί να αποδεικνύει τη συμμόρφωση με τις αρχές προστασίας δεδομένων. Το άρθρο 24 περιγράφει την ευθύνη για κατάλληλα τεχνικά και οργανωτικά μέτρα. Το άρθρο 30 απαιτεί αρχεία των δραστηριοτήτων επεξεργασίας υπό τις περιστάσεις που ορίζει ο Κανονισμός. Μαζί, αυτές οι διατάξεις καθιστούν τη λογοδοσία μια ιδιότητα που ο οργανισμός πρέπει να μπορεί να επιδείξει, όχι μόνο μια πεποίθηση που μπορεί να διατυπώσει.

Ένα αρχείο δραστηριοτήτων επεξεργασίας δεν είναι μια πλήρης ιστορία αποφάσεων. Συνήθως περιγράφει μια πράξη επεξεργασίας σε οργανωτικό επίπεδο: τον σκοπό της, τις κατηγορίες δεδομένων και ατόμων, τους αποδέκτες, τη διατήρηση και τα μέτρα ασφαλείας. Αυτό το αρχείο απαντά σε διαφορετική ερώτηση από το ποια τιμή πηγής ήταν ενεργή σε μια μεμονωμένη υπόθεση. Αλλά η αρχή της λογοδοσίας δημιουργεί έναν σαφή λόγο για τη διατήρηση των σχέσεων που επιτρέπουν στον οργανισμό να αποδείξει τι έκανε. Η ιστορία εκδόσεων είναι ένας τρόπος να καταστούν αυτές οι σχέσεις επιθεωρήσιμες. Υποστηρίζει τη νομική υποχρέωση· δεν την ικανοποιεί μαγικά.

Αυτή η διάκριση αποτρέπει δύο συνηθισμένα σφάλματα. Το πρώτο είναι να αντιμετωπίζεται ένα μητρώο σαν να ήταν αναπαραγωγή κάθε απόφασης. Μια σελίδα που αναφέρει ότι ο οργανισμός επεξεργάζεται δεδομένα διευθύνσεων για την παροχή υπηρεσιών δεν μπορεί να αποδείξει ποια διεύθυνση χρησιμοποιήθηκε για μια συγκεκριμένη κοινοποίηση. Το δεύτερο είναι να αντιμετωπίζονται τα αναλυτικά αρχεία καταγραφής σαν να αποτελούν αυτόματα νόμιμα αποδεικτικά στοιχεία. Ένα αρχείο καταγραφής μπορεί να περιέχει περισσότερα προσωπικά δεδομένα από όσα απαιτεί ο σκοπός, να διατηρείται περισσότερο από όσο δικαιολογείται ή να είναι προσβάσιμο σε άτομα που δεν έχουν ανάγκη να το γνωρίζουν. Η λογοδοσία περιλαμβάνει την ελαχιστοποίηση και την ασφάλεια. Η μνήμη πρέπει να σχεδιάζεται με έξοδο, όχι μόνο με είσοδο.

Για τις ομάδες που κατασκευάζουν ή αγοράζουν συστήματα με δυνατότητες τεχνητής νοημοσύνης, η πρακτική συνέπεια είναι να ορίζουν το μικρότερο διαρκές αρχείο που μπορεί να απαντήσει στο προβλέψιμο ερώτημα. Αυτό μπορεί να είναι μια αναφορά σε μια έκδοση της πηγής και όχι ένα αντίγραφο ολόκληρης της πηγής. Μπορεί να είναι ένα σφραγισμένο πακέτο αποδεικτικών στοιχείων με περιορισμένη πρόσβαση. Μπορεί να είναι ένα αναγνωριστικό κανόνα και ένα διάστημα ισχύος μαζί με ένα αποτέλεσμα. Το νομικό κριτήριο δεν είναι αν ο οργανισμός συνέλεξε εντυπωσιακό όγκο τηλεμετρίας. Είναι αν ο οργανισμός μπορεί να αποδείξει νόμιμη, δίκαιη και σύμφωνη με τον σκοπό επεξεργασία χωρίς να μετατρέπει κάθε άτομο σε μόνιμο ίχνος δεδομένων.

Ο AI Act μετατρέπει τη μνήμη του κύκλου ζωής σε απαίτηση

Ο AI Act είναι πιο ρητός σχετικά με την τεχνική μνήμη ορισμένων συστημάτων. Το άρθρο 11 απαιτεί η τεχνική τεκμηρίωση ενός συστήματος τεχνητής νοημοσύνης υψηλού κινδύνου να καταρτίζεται πριν από τη διάθεση του συστήματος στην αγορά ή τη θέση του σε λειτουργία, να ενημερώνεται διαρκώς και να είναι αρκετά σαφής ώστε οι αρχές και οι κοινοποιημένοι φορείς να μπορούν να αξιολογούν τη συμμόρφωση. Το άρθρο 12 απαιτεί τα συστήματα υψηλού κινδύνου να επιτρέπουν τεχνικά την αυτόματη καταγραφή συμβάντων καθ' όλη τη διάρκεια ζωής του συστήματος, με καταγραφή σχετική με τον κίνδυνο, την παρακολούθηση μετά τη διάθεση στην αγορά και τη λειτουργία. Πρόκειται για υποχρεώσεις του κύκλου ζωής, όχι για αίτημα ενός φυλλαδίου για την ημέρα κυκλοφορίας.

Η αιτιολογική σκέψη του Κανονισμού για την ιχνηλασιμότητα εξηγεί τον λόγο. Οι πληροφορίες σχετικά με τον τρόπο ανάπτυξης και λειτουργίας ενός συστήματος υψηλού κινδύνου καθ' όλη τη διάρκεια ζωής του είναι απαραίτητες για την αξιολόγηση της συμμόρφωσης και την παρακολούθηση της λειτουργίας. Η τεκμηρίωση αναμένεται να καλύπτει χαρακτηριστικά, δυνατότητες, περιορισμούς, αλγορίθμους, δεδομένα, εκπαίδευση, δοκιμές, επικύρωση και διαχείριση κινδύνου. Οι λέξεις «τηρούνται ενημερωμένα» επιτελούν σημαντικό έργο. Ένα έγγραφο που περιέγραφε ένα προηγούμενο σύστημα αλλά δεν τροποποιήθηκε ποτέ αποτελεί απόδειξη μιας προηγούμενης κατάστασης, όχι απόδειξη ότι η τρέχουσα κατάσταση παραμένει συμμορφούμενη.

Το Παράρτημα IV καθιστά συγκεκριμένη τη σχέση μεταξύ εκδόσεων. Η γενική περιγραφή ενός συστήματος υψηλού κινδύνου περιλαμβάνει το όνομα και την έκδοσή του, με τη σχέση του με προηγούμενες εκδόσεις, καθώς και τις σχετικές εκδόσεις λογισμικού ή υλικολογισμικού και τις απαιτήσεις ενημέρωσης. Ένας αριθμός έκδοσης χωρίς τη σχέση είναι μια ετικέτα. Η σχέση επιτρέπει σε έναν αναθεωρητή να κατανοήσει τη συνέχεια, την αλλαγή και το πεδίο εφαρμογής. Είναι η διαφορά μεταξύ του να λες «αυτή είναι η έκδοση τέσσερα» και του να δείχνεις ποιες παραδοχές η έκδοση τέσσερα κληρονόμησε, αντικατέστησε ή κατέστησε παρωχημένες.

Τίποτα από αυτά δεν σημαίνει ότι κάθε δημόσια απόφαση είναι αυτόματα περίπτωση τεχνητής νοημοσύνης υψηλού κινδύνου βάσει του Κανονισμού. Η ταξινόμηση εξαρτάται από το σύστημα, τον σκοπό και τη χρήση που περιγράφει ο Κανονισμός. Σημαίνει όμως ότι οι οργανισμοί θα πρέπει να σταματήσουν να αντιμετωπίζουν την ιχνηλασιμότητα ως προαιρετική άνεση για τις πιο τεχνικά προηγμένες ομάδες. Όπου ο νόμος απαιτεί από ένα σύστημα να αφήνει ένα χρησιμοποιήσιμο ιστορικό λειτουργίας, το ζήτημα σχεδιασμού γίνεται πρακτικό: ποια συμβάντα, εκδόσεις και αρχές πρέπει να συνδέει το αρχείο καταγραφής, ώστε μια μεταγενέστερη αναθεώρηση να μπορεί να διαπιστώσει τι συνέβη χωρίς να ζητά από την αρχική ομάδα να το θυμάται.

Η δημόσια απόφαση είναι μια στοίβα

Φανταστείτε να ανοίγετε μια υπόθεση από δύο χρόνια πριν. Το αποτέλεσμα είναι εκεί. Το ιστορικό του ατόμου είναι πλέον πιο πλήρες. Η σελίδα πολιτικής έχει αναθεωρηθεί. Το μοντέλο έχει ενημερωθεί δύο φορές. Η διεπαφή έχει ένα νέο πάνελ επανεξέτασης. Ο προμηθευτής έχει αλλάξει τη ρύθμιση φιλοξενίας του. Ένας διευθυντής λέει ότι η ομάδα έκανε πάντα ανθρώπινο έλεγχο. Κάθε δήλωση μπορεί να είναι ακριβής σήμερα. Καμία δεν σας λέει πώς έμοιαζε η υπόθεση όταν η απόφαση πέρασε το όριο από τη σύσταση στην ενέργεια.

Ένα υπερασπίσιμο αρχείο αντιμετωπίζει την απόφαση ως μια στοίβα. Στη βάση βρίσκεται η κατάσταση της πηγής, με ταυτότητα, εγκυρότητα, προέλευση και συνθήκες πρόσβασης. Πάνω από αυτήν βρίσκονται οι ισχύοντες κανόνες και τα όρια. Η κατάσταση συστήματος προσδιορίζει το λογισμικό, το μοντέλο, το προτροπή, το ευρετήριο και τη διαμόρφωση. Η κατάσταση ροής εργασίας καταγράφει τη δρομολόγηση, τα δικαιώματα, τη θέση στην ουρά και τον ανθρώπινο ρόλο. Η απόδειξη απόφασης συνδέει το αποτέλεσμα, την αιτιολογία, την ειδοποίηση, την ενέργεια και την κατάντη αναφορά. Μια μεταγενέστερη διόρθωση μπορεί έτσι να διατρέξει τη στοίβα προς τα πίσω για να βρει ποιες αποφάσεις εξαρτώνταν από το αλλαγμένο επίπεδο.

Η στοίβα δεν χρειάζεται να εκθέτει κάθε εσωτερική λεπτομέρεια σε κάθε αναγνώστη. Μια δημόσια ειδοποίηση μπορεί να είναι συνοπτική, ενώ ένας εξουσιοδοτημένος αναθεωρητής μπορεί να επιθεωρήσει ένα βαθύτερο αρχείο. Αυτό που έχει σημασία είναι ότι ο οργανισμός δεν έχει συμπυκνώσει διαφορετικές έννοιες σε ένα πεδίο που ονομάζεται έκδοση. Μια έκδοση πηγής δεν είναι έκδοση πολιτικής. Μια έκδοση μοντέλου δεν είναι έκδοση ροής εργασίας. Ο ρόλος ενός αναθεωρητή δεν είναι λόγος έγκρισης. Η διατήρησή τους χωριστά επιτρέπει στον οργανισμό να μοιράζεται τη σωστή εξήγηση με το σωστό άτομο και να αποφεύγει να επινοεί μια ενιαία ιστορία που κανένα σύστημα δεν κατέγραψε στην πραγματικότητα.

Αυτό διευκρινίζει επίσης την ιδιοκτησία. Ο διαχειριστής δεδομένων κατέχει τη διαδρομή διόρθωσης της πηγής. Ο ιδιοκτήτης πολιτικής κατέχει τον ισχύοντα κανόνα. Η τεχνική ομάδα κατέχει το τεχνικό προϊόν έκδοσης. Η ομάδα λειτουργιών κατέχει τη ροή εργασίας και την εκπαίδευση. Ο λήπτης απόφασης κατέχει την πράξη. Η διακυβέρνηση συνδέει τα αρχεία και καθορίζει τα όρια διατήρησης και πρόσβασης. Αν κανείς δεν μπορεί να πει ποιος κατέχει ένα επίπεδο, το ιστορικό εκδόσεων θα είναι μια λίστα ετικετών χωρίς υπεύθυνη φωνή.

Ο χρόνος έχει περισσότερα από ένα ρολόγια

Οι ημερομηνίες είναι απαραίτητες και συχνά παραπλανητικές. Μια πολιτική μπορεί να δημοσιευθεί τη Δευτέρα, να τεθεί σε ισχύ την Παρασκευή και να φτάσει σε μια συγκεκριμένη υπηρεσία την επόμενη Τρίτη. Μια πηγή μπορεί να συλλεχθεί στις 09:10, να διορθωθεί στις 11:00 και να επανεπεξεργαστεί στις 14:00. Ένα πακέτο μοντέλου μπορεί να εγκριθεί σε ένα περιβάλλον και να αναπτυχθεί σε άλλο. Ένας αναθεωρητής μπορεί να ανοίξει μια υπόθεση πριν από μια αλλαγή και να την υποβάλει μετά. Μια μόνη χρονική σφραγίδα δεν μπορεί να φέρει όλες αυτές τις έννοιες χωρίς βοήθεια.

Ένα καλό ιστορικό διακρίνει τουλάχιστον τον χρόνο δημιουργίας ενός τεχνικού προϊόντος, τον χρόνο που τέθηκε σε ισχύ, τον χρόνο που παρατηρήθηκε ή καταγράφηκε και τον χρόνο που χρησιμοποιήθηκε. Μπορεί επίσης να χρειαστεί τον χρόνο που αποσύρθηκε, διορθώθηκε ή διαπιστώθηκε ότι ήταν λάθος. Αυτές δεν είναι σχολαστικές διακρίσεις. Μια έφεση μπορεί να εξαρτάται από το αν ένα νέο όριο εφαρμόστηκε σε μια αίτηση που υποβλήθηκε πριν από την ημερομηνία έναρξης ισχύος του, ή αν μια διόρθωση πρέπει να αλλάξει μια ήδη εκδοθείσα ειδοποίηση. Η απάντηση ανήκει στον νόμο και στην πολιτική του οργανισμού, αλλά τα γεγονότα απαιτούν ρολόγια που μπορούν να δείξουν τη σειρά.

Η εγκυρότητα έχει επίσης πεδίο εφαρμογής. Μια περιφερειακή ροή εργασίας μπορεί να έχει μία έκδοση στο Ρότερνταμ και άλλη στη Λυών. Ένα γλωσσικό πακέτο μπορεί να αλλάζει με διαφορετικό ρυθμό από έναν κανόνα απόφασης. Ένα μοντέλο μπορεί να είναι διαθέσιμο για σύνταξη αλλά να απαγορεύεται για τελική ενέργεια. Ένα αρχείο που λέει ενεργό χωρίς να λέει πού και για ποιο σκοπό είναι ένας χάρτης που παραλείπει τις πινακίδες. Το πεδίο εφαρμογής μετατρέπει μια γενική έκδοση σε χρήσιμο γεγονός.

Τα ρολόγια θα πρέπει να είναι κατανοητά σε ανθρώπους που δεν συντηρούν τη γραμμή ανάπτυξης. Ένα επηρεαζόμενο άτομο δεν θα πρέπει να χρειάζεται να μάθει ένα σύστημα δόμησης για να ρωτήσει ποιος κανόνας εφαρμόστηκε. Το τεχνικό αρχείο μπορεί να διατηρεί ακριβή αναγνωριστικά, ενώ η δημόσια εξήγηση τα μετατρέπει σε ημερομηνία έναρξης ισχύος, ονομασμένη πολιτική και σαφή δήλωση για το τι μπορεί ακόμη να κάνει ο οργανισμός. Η ακρίβεια και η απλή γλώσσα δεν είναι αντίπαλοι. Η ακρίβεια δίνει στην απλή γλώσσα κάτι στέρεο να πει.

Η αναπαραγωγή είναι μέθοδος, όχι κουμπί

Η λέξη αναπαραγωγή δημιουργεί μια επικίνδυνη προσδοκία. Ακούγεται σαν να μπορεί ο οργανισμός να πατήσει ένα κουμπί και να δει το παρελθόν να ξανατρέχει ακριβώς όπως έγινε. Μερικές φορές ένα οριοθετημένο σύστημα μπορεί να κάνει κάτι κοντινό σε αυτό. Πιο συχνά, αναπαραγωγή σημαίνει ανακατασκευή της σχετικής κατάστασης από καταγεγραμμένες εισόδους, εκδόσεις, κανόνες, δικαιώματα και ενέργειες, και στη συνέχεια επισήμανση του πού είναι ακριβής η ανακατασκευή και πού παραμένει αβεβαιότητα.

Ένα γνήσιο αρχείο αναπαραγωγής διαχωρίζει ό,τι παρατηρήθηκε από ό,τι ανακατασκευάζεται. Η αρχική είσοδος μπορεί να είναι σφραγισμένη. Τα αναγνωριστικά κανόνα και μοντέλου μπορεί να είναι γνωστά. Η ακριβής απόκριση της εξωτερικής υπηρεσίας μπορεί να μην έχει διατηρηθεί. Μια μεταγενέστερη διόρθωση πηγής μπορεί να είναι διαθέσιμη αλλά όχι έγκυρη εκείνη τη στιγμή. Μια ανθρώπινη επανεξέταση μπορεί να έχει υπογεγραμμένο αποτέλεσμα αλλά όχι πλήρη καταγραφή οθόνης. Η αναπαραγωγή δεν θα πρέπει να καλύπτει αυτά τα κενά με μια νέα γεμάτη αυτοπεποίθηση παράγραφο. Θα πρέπει να τα επισημαίνει. Μια ειλικρινής μερική ιστορία είναι πιο χρήσιμη από μια πλήρη επινόηση.

Η αναπαραγωγή δεν είναι επίσης το ίδιο με την αναγέννηση. Το να ζητάμε από το τρέχον σύστημα να απαντήσει στην παλιά ερώτηση μπορεί να δείξει πώς συμπεριφέρεται το σύστημα σήμερα. Δεν αποδεικνύει τι έκανε τότε. Το νέο αποτέλεσμα μπορεί να χρησιμοποιεί διαφορετικό μοντέλο, πηγή, πολιτική, προτροπή, απόφαση δρομολόγησης ή αναπαράσταση γλώσσας. Μπορεί να είναι πολύτιμο ως σύγκριση, υπό την προϋπόθεση ότι το αρχείο αναφέρει ότι είναι σύγκριση. Μια μεταγενέστερη ανάλυση δεν πρέπει να μεταμφιέζεται σε σύγχρονη αιτιολογία.

Η αναπαραγωγή είναι ένα παράθυρο αποδεικτικών στοιχείων. Δείχνει τι μπορεί να ανακτηθεί, τι άλλαξε και πού μπορεί ακόμη να ταξιδέψει μια διόρθωση.

Μια αναπαράξιμη ιστορία αλλάζει την ποιότητα μιας ένστασης. Η ερώτηση παύει να είναι γιατί πιστεύει ο οργανισμός ότι συνέβη αυτό και γίνεται ποια μέρη της ιστορίας μπορούμε να επαληθεύσουμε. Αυτό είναι ένα πιο υγιές σημείο εκκίνησης. Δίνει στον θεσμό την άδεια να πει ότι το αρχείο είναι πλήρες ως προς τον κανόνα και το αποτέλεσμα αλλά ελλιπές ως προς μια εξωτερική απόκριση. Δίνει στον αναθεωρητή έναν τρόπο να αποφασίσει αν το μέρος που λείπει είναι ουσιώδες. Δίνει στους μηχανικούς ένα ακριβές ελάττωμα να διορθώσουν αντί για ένα αόριστο αίτημα για περισσότερη διαφάνεια.

Η διαφάνεια έχει όρια, όχι δικαιολογίες

Το δικαίωμα να γνωρίζει κανείς τι άλλαξε δεν είναι δικαίωμα να λαμβάνει κάθε εσωτερικό αρχείο στην ακατέργαστη μορφή του. Οι δημόσιοι φορείς εξακολουθούν να έχουν υποχρεώσεις προστασίας των προσωπικών δεδομένων, των ευαίσθητων πληροφοριών για την ασφάλεια, των εμπιστευτικών επιχειρηματικών πληροφοριών και της ακεραιότητας των ερευνών. Ένα λεπτομερές ιστορικό μπορεί να εκθέσει τα δεδομένα ενός άλλου ατόμου ή να διευκολύνει την καταστρατήγηση ενός ελέγχου. Μια χρήσιμη δημόσια εξήγηση μπορεί επομένως να είναι μια πολυεπίπεδη καταγραφή: μια απλή περιγραφή του σχετικού κανόνα και του χρόνου, μια παραπομπή σε ένα ελεγχόμενο πακέτο αποδεικτικών στοιχείων και μια ελεγχόμενη διαδρομή για βαθύτερη επιθεώρηση.

Η πολυεπίπεδη προσέγγιση λειτουργεί μόνο όταν υπάρχει το βαθύτερο αρχείο. Η διαγραφή δεν υποκαθιστά τη διατήρηση του πρωτοτύπου. Αν ένας φορέας δημοσιεύει μια σύνοψη και απορρίπτει το υλικό που θα επέτρεπε σε έναν εξουσιοδοτημένο αξιολογητή να την ελέγξει, η σύνοψη μετατρέπεται σε μόνιμο ισχυρισμό. Το κοινό μπορεί να μην έχει δικαίωμα σε κάθε συνημμένο, αλλά κάποιος με θεμιτό ρόλο πρέπει να μπορεί να εξετάσει τη βάση. Ο έλεγχος πρόσβασης μπορεί να περιορίσει ποιος βλέπει ένα αρχείο. Δεν μπορεί να καταστήσει ασφαλές ένα ανύπαρκτο αρχείο.

Υπάρχει ένα δεύτερο όριο γύρω από την έννοια της διαφάνειας. Μια ένδειξη έκδοσης δεν είναι εξήγηση. Το να δείχνεις ότι ένα μοντέλο άλλαξε δεν λέει στο ενδιαφερόμενο άτομο αν η αλλαγή θα μπορούσε να είχε μεταβάλει το αποτέλεσμα. Το να δείχνεις μια διαφορά πολιτικής δεν λέει ποιο μέρος εφαρμόστηκε. Οι καλές εξηγήσεις συνδέουν την αλλαγή με την πράξη, αναφέρουν τι χρησιμοποιήθηκε και λένε ποια επανόρθωση είναι διαθέσιμη. Ο σκοπός δεν είναι να φανεί ο φορέας τεχνικά καταρτισμένος. Είναι να μπορέσει ένα άτομο να κατανοήσει τη θέση του.

Τα δημόσια μητρώα μπορούν να βοηθήσουν καθιστώντας ορατές σημαντικές καταστάσεις του συστήματος πριν αναγκαστεί κάποιος να ρωτήσει. Ο Κανονισμός για την Τεχνητή Νοημοσύνη περιλαμβάνει υποχρεώσεις καταχώρισης και τεκμηρίωσης σε συγκεκριμένα πλαίσια, ενώ η εθνική αρχειακή πρακτική αντιμετωπίζει την πρόσβαση και τη μελλοντική χρηστικότητα ως μέρος της διαχείρισης αρχείων. Αυτοί οι μηχανισμοί δεν υποκαθιστούν το ιστορικό ανά περίπτωση. Αποτελούν τον περιβάλλοντα χάρτη. Ένας χάρτης είναι πολύτιμος, αλλά δεν πρέπει να συγχέεται με τον δρόμο που διένυσε ένα συγκεκριμένο άτομο.

Η έρευνα φτάνει αφού έχει αλλάξει η διεπαφή

Η έρευνα του 2024 του Διαμεσολαβητή για τη χρήση της Τεχνητής Νοημοσύνης από την Επιτροπή είναι ένα χρήσιμο παράδειγμα του ερωτήματος που θα αντιμετωπίζουν συχνότερα οι φορείς. Η δημόσια περιγραφή ρωτά πώς αποφασίζει η Επιτροπή να χρησιμοποιήσει την Τεχνητή Νοημοσύνη, ποιες εργασίες είναι αυτοματοποιημένες, πώς λαμβάνεται η απόφαση για τη χρήση της Τεχνητής Νοημοσύνης και πώς διατηρείται η λογοδοσία. Δεν υποθέτει ότι ένα αλγοριθμικό αποτέλεσμα είναι ολόκληρη η απόφαση. Ρωτά για τη διοικητική επιλογή που περιβάλλει το σύστημα.

Αυτή η επιλογή έχει επίσης ιστορικό. Ένας φορέας μπορεί να ξεκινήσει με μια δοκιμή, να ορίσει έναν σκοπό, να περιορίσει έναν ρόλο, να αλλάξει μια πηγή, να επεκτείνει έναν φόρτο εργασίας, να τροποποιήσει μια διαδρομή αναθεώρησης και να δημοσιεύσει μια μεταγενέστερη εξήγηση. Αν το αρχείο περιέχει μόνο την τρέχουσα πολιτική και την τρέχουσα διεπαφή, ένας αξιολογητής πρέπει να συμπεράνει το προηγούμενο όριο. Ο φορέας μπορεί να ενεργεί καλόπιστα και παρόλα αυτά να μην μπορεί να δείξει τι γνώριζε, ενέκρινε ή επέτρεψε εκείνη τη στιγμή. Η καλή πίστη είναι πολύτιμη ιδιότητα. Δεν είναι μηχανή του χρόνου.

Οι έρευνες δείχνουν επίσης γιατί η τήρηση αρχείων πρέπει να περιλαμβάνει άτυπα κανάλια. Οι αποφάσεις μπορούν να διαμορφωθούν από έγγραφα εργασίας, μηνύματα, συστήματα παρακολούθησης ζητημάτων, αναθεωρήσεις διαμόρφωσης και συνομιλίες που δεν γίνονται ποτέ επίσημη πολιτική. Δεν χρειάζεται κάθε πρόταση μόνιμη διατήρηση. Ο οργανισμός χρειάζεται έναν κανόνα για τον εντοπισμό ποιων ανταλλαγών φέρουν θεσμική πράξη ή δέσμευση και έναν τρόπο διατήρησης αυτού του υλικού όταν η συνάφειά του γίνει σαφής. Διαφορετικά, το ιστορικό ξεκινά από το πρώτο επιμελημένο έγγραφο, αφού έχει ήδη συμβεί η σημαντική επιλογή.

Η απάντηση δεν είναι να μετατραπεί η δημόσια διοίκηση σε αρχείο επιτήρησης του ίδιου του προσωπικού της. Είναι να γίνει ρητή η κρίσιμη κατάσταση του έργου. Μια απόφαση πρέπει να έχει ιδιοκτήτη, αιτιολογία, πεδίο εφαρμογής, ημερομηνία έναρξης ισχύος και καταγραφή της αλλαγής που την κατέστησε διαφορετική. Η άτυπη συζήτηση μπορεί να παραμείνει συζήτηση. Μόλις αλλάξει την εξουσία, τα δεδομένα, την πολιτική ή τη δράση, το σχετικό αποτέλεσμα ανήκει στο θεσμικό αρχείο.

Το AI καθιστά τα παλιά εξηγητικά κείμενα ιδιαίτερα εύθραυστα

Οι παραγόμενες εξηγήσεις δημιουργούν έναν ιδιαίτερο κίνδυνο, επειδή είναι αρκετά ευφράδεις ώστε να κρύβουν τον χρονισμό τους. Ένα σύστημα μπορεί να παράγει μια λογική περιγραφή μιας παλιάς απόφασης χρησιμοποιώντας το σημερινό μοντέλο και την τρέχουσα πολιτική. Η περιγραφή μπορεί να μην περιέχει καμία προφανώς ψευδή πρόταση. Μπορεί ωστόσο να είναι ψευδής ως καταγραφή, επειδή η εξήγηση δεν υπήρχε όταν ελήφθη η απόφαση και δεν προέκυψε από την κατάσταση που την παρήγαγε.

Ο ασφαλέστερος διαχωρισμός είναι μεταξύ των σύγχρονων αποδεικτικών στοιχείων και της μεταγενέστερης ερμηνείας. Η σύγχρονη καταγραφή αναφέρει τι έλαβε το σύστημα, ποια έκδοση ενήργησε, ποιο αποτέλεσμα παρήχθη, τι έκανε ο άνθρωπος και ποια ειδοποίηση στάλθηκε. Ένας μεταγενέστερος αναλυτής μπορεί να προσθέσει μια ανακατασκευή, μια αντιπραγματική ανάλυση, μια σύγκριση με τη σημερινή συμπεριφορά ή μια αξιολόγηση του κατά πόσον ο κανόνας θα έπρεπε να ήταν διαφορετικός. Αυτές οι προσθήκες είναι πολύτιμες όταν επισημαίνονται ως μεταγενέστερη εργασία. Γίνονται επικίνδυνες όταν η επισήμανση εξαφανίζεται.

Οι βαθμολογίες εμπιστοσύνης έχουν το ίδιο πρόβλημα. Ένας αριθμός χωρίς τη βαθμονόμηση, τον πληθυσμό, το όριο και τον σκοπό του δεν εξηγεί τον εαυτό του. Ο αριθμός μπορεί να ήταν χρήσιμος για την ιεράρχηση της προσοχής και να μην είχε ποτέ εξουσιοδοτηθεί για τελική ενέργεια. Μπορεί να είχε προβληθεί σε έναν αναθεωρητή ή να ήταν κρυμμένος πίσω από μια διεπαφή. Μπορεί να είχε επαναβαθμονομηθεί μετά το γεγονός. Η διατήρηση της βαθμολογίας ενώ χάνονται οι συνθήκες διατηρεί το σχήμα των αποδεικτικών στοιχείων και αφαιρεί το νόημά τους.

Γι' αυτό το ιστορικό εκδόσεων θα πρέπει να περιλαμβάνει πρότυπα εξηγήσεων και προβολές πηγών όταν αυτά επηρεάζουν μια ανθρώπινη απόφαση. Η διατύπωση δεν είναι απλώς ένα επίπεδο επικοινωνίας αν λέει σε έναν αναθεωρητή γιατί το σύστημα συνιστά μια ενέργεια. Η σειρά των αποδεικτικών στοιχείων μπορεί να έχει σημασία. Η απουσία μιας προειδοποίησης μπορεί να έχει σημασία. Το σύνολο των διαθέσιμων κουμπιών μπορεί να έχει σημασία. Μια δημόσια απόφαση επηρεάζεται από το τι μπορούν να δουν και να κάνουν οι άνθρωποι, όχι μόνο από τον κρυφό υπολογισμό.

Η διόρθωση δεδομένων είναι εκεί όπου το ιστορικό αποδεικνύει την αξία του

Κάθε διοικητικό σύστημα μαθαίνει τελικά ότι μια εγγραφή πηγής μπορεί να είναι λανθασμένη. Μια διεύθυνση διορθώνεται, μια κατηγορία αναταξινομείται, μια πληρωμή αντιστρέφεται, μια μέτρηση επανυπολογίζεται ή ένα άτομο παρέχει πληροφορίες που λείπουν. Η διόρθωση μπορεί να βελτιώσει την τρέχουσα εγγραφή χωρίς να διορθώνει αυτόματα τις αποφάσεις που εξαρτώνταν από την προηγούμενη τιμή. Αυτό το δεύτερο καθήκον απαιτεί έναν σύνδεσμο από το ιστορικό της πηγής στις επηρεαζόμενες αποφάσεις.

Χωρίς αυτόν τον σύνδεσμο, ένας οργανισμός αντιμετωπίζει δύο κακές επιλογές. Μπορεί να επανεξετάσει τα πάντα, κάτι που είναι δαπανηρό και μπορεί να εκθέσει άτομα που δεν επηρεάστηκαν ποτέ. Ή μπορεί να μην επανεξετάσει τίποτα, αφήνοντας το γνωστό σφάλμα σε ισχύ για οποιονδήποτε η απόφασή του εξαρτήθηκε από αυτό. Οι αναφορές με εκδόσεις επιτρέπουν ένα πιο περιορισμένο ερώτημα: ποιες αποφάσεις κατανάλωσαν αυτή την κατάσταση, με ποιον κανόνα και με ποια συνέπεια. Η απάντηση μπορεί να καθοδηγήσει μια αναλογική επανεξέταση.

Η ίδια λογική ισχύει για τις νομικές και πολιτικές αλλαγές. Ένας νέος κανόνας μπορεί να είναι σωστός για νέες υποθέσεις χωρίς να καθιστά κάθε παλιό αποτέλεσμα λανθασμένο. Μια δικαστική ερμηνεία μπορεί να απαιτήσει μια νέα ματιά σε αποφάσεις που ελήφθησαν υπό μια προηγούμενη κατανόηση. Μια διαδικασία διόρθωσης πρέπει να γνωρίζει πότε ήταν σε ισχύ ο παλιός κανόνας, ποιες υποθέσεις κάλυπτε και αν το διορθωτικό μέτρο είναι το άνοιγμα της υπόθεσης, η ειδοποίηση, η αποζημίωση, η εξήγηση ή η μη λήψη μέτρων. Το ιστορικό μετατρέπει ένα ηθικό ζήτημα σε ένα επιχειρησιακά απαντήσιμο, χωρίς να υποβαθμίζει το ηθικό ζήτημα σε ένα ερώτημα.

Η διόρθωση θα πρέπει επίσης να αφήνει το δικό της ίχνος. Ο οργανισμός θα πρέπει να καταγράφει τι βρέθηκε, ποιες υποθέσεις εξετάστηκαν, ποια ενέργεια αναλήφθηκε και γιατί ορισμένες υποθέσεις ήταν εκτός πεδίου εφαρμογής. Αυτή η καταγραφή προστατεύει το επηρεαζόμενο άτομο και τον οργανισμό. Αποτρέπει το ίδιο ζήτημα από το να ανακαλύπτεται σιωπηλά εκ νέου από κάθε νέο αναθεωρητή. Μια διόρθωση χωρίς καταγραφή είναι μια συγγνώμη που δεν μπορεί να θυμηθεί ποιον βοήθησε.

Η ανθρώπινη επανεξέταση χρειάζεται επίσης μια έκδοση

Η ανθρώπινη εποπτεία συχνά περιγράφεται σαν η παρουσία ενός ατόμου να καθιστά την απόφαση σταθερή. Δεν είναι έτσι. Ο αναθεωρητής ενεργεί μέσα σε ένα πλαίσιο: ένα σύνολο εγγράφων, μια οθόνη, μια ουρά αναμονής, μια προθεσμία, ένας ρόλος, μια σημείωση πολιτικής, μια ειδοποίηση και μια λίστα διαθέσιμων ενεργειών. Αν αλλάξει το πλαίσιο, μπορεί να αλλάξει και η σημασία της έγκρισης του αναθεωρητή. Η καταγραφή μόνο ενός ονόματος και μιας χρονοσφραγίδας δεν σέβεται ούτε τον αναθεωρητή ούτε το άτομο που επηρεάζεται.

Η καταγραφή εκδόσεων στην ανθρώπινη αναθεώρηση δεν απαιτεί να καταγράφεται κάθε σκέψη. Απαιτεί αρκετό πλαίσιο ώστε να φαίνεται η εξουσιοδότηση και τα αποδεικτικά στοιχεία της πράξης. Ποια υλικά παρουσιάστηκαν. Ποια εξαιρέθηκαν ή δεν ήταν διαθέσιμα. Ήταν το αποτέλεσμα πρόταση, απαίτηση ή ενεργοποίηση. Μπορούσε ο αναθεωρητής να το παρακάμψει. Ήταν ορατή μια διαδρομή προσφυγής. Πρόσθεσε ο αναθεωρητής κάποιον λόγο. Εφαρμόστηκε η ενέργεια ή ήταν απλώς σχέδιο. Αυτά τα πεδία δημιουργούν ένα αρχείο κρίσης χωρίς να προσποιούνται ότι η κρίση είναι ένας αριθμός αναγνώσιμος από μηχανή.

Αυτή η διάκριση προστατεύει τους εργαζόμενους. Αν ένας οργανισμός περιμένει από τους αναθεωρητές να αναλάβουν την ευθύνη ενός αποτελέσματος, δεν θα έπρεπε αργότερα να τους κρίνει με βάση μια διαφορετική διεπαφή και ένα διαφορετικό σύνολο αποδεικτικών στοιχείων. Προστατεύει επίσης τους πολίτες. Ένα άτομο που αμφισβητεί μια απόφαση δεν θα έπρεπε να ακούει ότι ένας ανώνυμος άνθρωπος ήταν στη διαδικασία και μετά να ανακαλύπτει ότι ο άνθρωπος αυτός μπορούσε μόνο να κάνει κλικ στην έγκριση. Η εποπτεία έχει νόημα όταν το αρχείο δείχνει τι επιτρεπόταν να κάνει το άτομο και τι συνέβη όταν διαφώνησε.

Υπάρχει επίσης ένα πολιτισμικό όφελος. Όταν η διαφωνία καταγράφεται ως φυσιολογικό μέρος της ροής εργασίας, γίνεται πηγή μάθησης αντί ένδειξη έλλειψης αφοσίωσης. Οι οργανισμοί μπορούν να εξετάσουν αν οι παρακάμψεις συγκεντρώνονται γύρω από ένα πρόβλημα δεδομένων, μια ασάφεια πολιτικής ή μια πίεση της διεπαφής. Μπορούν να βελτιώσουν το σύστημα χωρίς να κατηγορούν τους ανθρώπους που παρατήρησαν ότι το σύστημα ήταν λάθος. Ένα ιστορικό δίνει στη διαφωνία κάπου να πάει εκτός από τον διάδρομο.

Μνήμη χωρίς συσσώρευση

Μόλις ένας οργανισμός κατανοήσει την ανάγκη για ιστορικό, ο πειρασμός είναι να διατηρήσει τα πάντα. Κάθε προτροπή, στιγμιότυπο οθόνης, τιμή χαρακτηριστικού, μήνυμα, ηχογράφηση, εξαγωγή και ενδιάμεσο αρχείο διατηρείται για πάντα, για κάθε ενδεχόμενο. Αυτό δεν είναι λογοδοσία. Είναι ένα αρχείο που έχει ξεχάσει γιατί υπάρχει. Αυξάνει την έκθεση σε θέματα ιδιωτικότητας, ανεβάζει το κόστος ασφάλειας και κάνει τα σχετικά αποδεικτικά στοιχεία πιο δύσκολο να βρεθούν.

Η διατήρηση θα πρέπει να ακολουθεί τις συνέπειες, τη νομική ανάγκη και τη δυνατότητα επανόρθωσης. Μια απόφαση υψηλού αντικτύπου μπορεί να απαιτεί πληρέστερο πακέτο αποδεικτικών στοιχείων και μεγαλύτερη περίοδο προστασίας. Ένα σχέδιο χαμηλού κινδύνου μπορεί να χρειάζεται μια συνοπτική απόδειξη. Το ευαίσθητο περιεχόμενο μπορεί να αναφέρεται μέσω ενός αναγνωριστικού και να φυλάσσεται σε περιορισμένο σύστημα. Μια παράγωγη αναπαράσταση μπορεί να λήξει ενώ το γεγονός ότι υπήρχε, και ο λόγος διαγραφής, παραμένει. Ο σχεδιασμός θα πρέπει να αναφέρει τι διατηρείται, ποιος μπορεί να έχει πρόσβαση, πώς διορθώνεται και πότε καταστρέφεται.

Η επιλεκτική μνήμη είναι πιο εύκολο να υπερασπιστεί κανείς όταν το αρχείο είναι δομημένο. Σταθερά αναγνωριστικά μπορούν να συνδέσουν μια απόφαση με μια πηγή χωρίς να αντιγράφουν προσωπικά δεδομένα σε κάθε αρχείο καταγραφής. Αποτελεσματικά διαστήματα μπορούν να αποτρέψουν την ανάγνωση μιας τρέχουσας τιμής ως τιμής του παρελθόντος. Κωδικοί αιτιολογίας μπορούν να κάνουν μια διόρθωση ανιχνεύσιμη χωρίς να διατηρούν μια ιδιωτική συνομιλία. Ένας έλεγχος ακεραιότητας μπορεί να δείξει ότι ένα αρχείο δεν έχει αλλάξει χωρίς να εκθέτει το περιεχόμενό του σε όποιον ρωτά. Η καλή προστασία δεδομένων συχνά μοιάζει με καλύτερη μηχανική επειδή και οι δύο κλάδοι αποστρέφονται την ασάφεια.

Δεν υπάρχει καθολική περίοδος διατήρησης κρυμμένη μέσα στη φράση ιστορικό εκδόσεων. Η περίοδος εξαρτάται από την εργασία, τον τομέα, τη διαδρομή προσφυγής, τη συμβατική υποχρέωση και τον νόμο. Αυτό που θα πρέπει να είναι καθολικό είναι η απαίτηση να αποφασίζεται συνειδητά. Αν ο οργανισμός δεν μπορεί να δηλώσει γιατί πρέπει να διατηρηθεί ένα στοιχείο, μπορεί να μην κατανοεί τον ρόλο του στην απόφαση. Αν δεν μπορεί να δηλώσει γιατί ένα στοιχείο μπορεί να διαγραφεί, μπορεί να διατηρεί έναν κίνδυνο αντί για αποδεικτικό στοιχείο.

Σχεδιάζοντας το ιστορικό χωρίς να δημιουργούμε θέατρο

Μια χρήσιμη υλοποίηση ξεκινά με ερωτήσεις και όχι με πεδία. Ποια απόφαση μπορεί να αμφισβητηθεί. Ποιες εκδόσεις θα μπορούσαν να αλλάξουν τη σημασία της. Ποιος χρειάζεται να τις επιθεωρήσει. Ποια είναι η πιο πρώιμη στιγμή κατά την οποία μπορεί να σφραγιστεί το αρχείο. Ποιο είναι το μικρότερο σύνολο αποδεικτικών στοιχείων που επιτρέπει σε έναν αξιολογητή να ελέγξει τον σχετικό ισχυρισμό. Ποιες αλλαγές θα πρέπει να ενεργοποιούν νέα αξιολόγηση. Ποια γεγονότα πρέπει να είναι ορατά σε ένα άτομο και ποια αποτελούν λειτουργική λεπτομέρεια.

Οι απαντήσεις συνήθως οδηγούν σε λίγα διαχρονικά μοτίβα. Δώστε σε κάθε πολιτική, μοντέλο, ορισμό πηγής και έκδοση ροής εργασίας μια σταθερή ταυτότητα. Καταγράψτε τα διαστήματα ισχύος ξεχωριστά από τους χρόνους δημοσίευσης και ανάπτυξης. Συνδέστε την απόφαση με τις ακριβείς ταυτότητες που χρησιμοποιήθηκαν και όχι με ό,τι ισχύει τη στιγμή που κάποιος ανοίγει την υπόθεση. Διατηρήστε μια αναγνώσιμη από άνθρωπο καταγραφή παράλληλα με τις αναφορές που διαβάζονται από μηχανή. Κάντε τις αλλαγές να προστίθενται σε ένα ιστορικό ή να δημιουργούν μια νέα αμετάβλητη κατάσταση. Αν μια διόρθωση αντικαθιστά μια προηγούμενη τιμή, διατηρήστε τη σχέση μεταξύ των δύο.

Δοκιμάστε το ιστορικό ως λειτουργικό χαρακτηριστικό. Πάρτε μια γνωστή απόφαση και ζητήστε από έναν μηχανικό, έναν υπεύθυνο πολιτικής και έναν ανεξάρτητο αξιολογητή να την ανασυνθέσουν. Φτάνουν στην ίδια κατάσταση. Μπορούν να διακρίνουν τι είναι επιβεβαιωμένο και τι λείπει. Μπορούν να εντοπίσουν ποιος είχε την εξουσία. Μπορούν να βρουν τις αποφάσεις που επηρεάζονται από μια διόρθωση πηγής. Μπορούν να εξηγήσουν γιατί μια τρέχουσα αναπαραγωγή διαφέρει χωρίς να χαρακτηρίζουν το παρελθόν λάθος από προεπιλογή. Ένα σύστημα που περνά μόνο ένα τεστ σχήματος έχει ένα τακτοποιημένο αρχείο. Ένα σύστημα που περνά ένα τεστ αξιολόγησης έχει πιθανότητες να είναι υπόλογο.

Τέλος, κάντε πρόβα αλλαγής. Αντικαταστήστε έναν κανόνα σε περιβάλλον δοκιμής, ενημερώστε έναν ορισμό πηγής, αναπτύξτε μια έκδοση μοντέλου, αφαιρέστε μια άδεια και διορθώστε ένα αρχείο. Έπειτα επιθεωρήστε το ιστορικό. Δείχνει τη μετάβαση, το εύρος της και τον υπεύθυνο. Μπορεί η παλιά κατάσταση να διαβαστεί ακόμη από εξουσιοδοτημένο αξιολογητή. Δείχνει η κατάντη απόφαση τη σωστή έκδοση. Αν η απάντηση είναι όχι, το σύστημα βασίζεται σε ένα μελλοντικό περιστατικό για να μάθει έλεγχο εκδόσεων. Τα μελλοντικά περιστατικά είναι ακριβοί δάσκαλοι.

Τι δεν μπορεί να σας πει ένα δημόσιο αρχείο αλλαγών

Ένα δημόσιο αρχείο αλλαγών μπορεί να πει ότι ένα όριο αναθεωρήθηκε, ένα μοντέλο ενημερώθηκε ή μια ροή εργασίας βελτιώθηκε. Δεν μπορεί να πει σε ένα άτομο αν η αλλαγή αφορούσε την υπόθεσή του, εκτός αν το αρχείο απόφασης κάνει αυτή τη σύνδεση. Μπορεί να πει πότε μια έκδοση έγινε διαθέσιμη. Δεν μπορεί να σας πει αν μια περιοχή την έλαβε αργότερα. Μπορεί να πει ότι ένα σφάλμα διορθώθηκε. Δεν μπορεί να σας πει ποια προηγούμενα αποτελέσματα επανελέγχθηκαν. Τα αρχεία αλλαγών είναι χρήσιμα ακριβώς επειδή είναι επιλεκτικά. Τα αποδεικτικά στοιχεία είναι χρήσιμα όταν ο κανόνας επιλογής τους είναι ορατός.

Η διάκριση έχει σημασία και για τον δημοκρατικό έλεγχο. Ένας δημόσιος φορέας μπορεί να δημοσιεύσει ένα μητρώο μοντέλων και μια γενική περιγραφή του σκοπού. Το κοινοβούλιο, ένα δικαστήριο, ένας ελεγκτής ή ένα άτομο που ασκεί ένα δικαίωμα μπορεί να χρειαστεί να μάθει τι συνέβη σε μια συγκεκριμένη ημερομηνία. Ένα μητρώο δίνει στην κοινωνία μια εικόνα του τοπίου. Το ιστορικό αποφάσεων δίνει σε ένα άτομο μια διαδρομή μέσα σε αυτό. Χρειάζονται και τα δύο. Το πρώτο είναι δημόσια πληροφορία. Το δεύτερο είναι θεσμική μνήμη που μπορεί να λογοδοτήσει για μια πράξη.

Υπάρχει ένας ήσυχος κίνδυνος στο να παρουσιάζεται ένα αρχείο αλλαγών ως λογοδοσία, επειδή ανταμείβει την οπτική του εκδότη. Ο εκδότης επιλέγει τι θεωρείται ουσιώδες, χρησιμοποιεί το τρέχον λεξιλόγιο και περιγράφει το επιδιωκόμενο αποτέλεσμα. Ένα άτομο που επηρεάζεται από το σύστημα ξεκινά από αλλού. Ρωτά ποιος κανόνας αφορούσε την αίτησή μου, ποια αποδεικτικά στοιχεία εξετάστηκαν, αν ο ρόλος του συστήματος ήταν εντός της εξουσίας του και τι μπορώ να κάνω τώρα. Το αρχείο πρέπει να μπορεί να απαντήσει σε αυτό το ερώτημα ακόμη και όταν η απάντηση είναι άβολη.

Ένα καλό δημόσιο αρχείο αλλαγών έχει, επομένως, δύο κατευθύνσεις. Εξηγεί τις αλλαγές στο κοινό σε απλή γλώσσα και δίνει στους εξουσιοδοτημένους αναθεωρητές μια διαδρομή προς τα αποδεικτικά στοιχεία σε επίπεδο υπόθεσης. Δηλώνει τι δεν άλλαξε η αλλαγή. Σημειώνει τις μεταγενέστερες διορθώσεις. Παραπέμπει στους υπεύθυνους της πολιτικής, του συστήματος και της λειτουργίας. Αναφέρει πότε ένα αρχείο είναι ελλιπές. Η εμπιστοσύνη δεν δημιουργείται προσποιούμενοι ότι κάθε ιστορικό είναι άρτιο. Δημιουργείται όταν οι ατέλειες είναι ορατές και κάποιος είναι υπεύθυνος για αυτές.

Το μικρό μας μερίδιο στο ζήτημα

Στη Dweve, επιστρέφουμε συνεχώς σε αυτή τη διάκριση επειδή η δική μας εργασία στο Ledger αντιμετωπίζει το επιχειρησιακό ιστορικό ως ένα τυποποιημένο, αναπαραγώγιμο αρχείο και όχι ως έναν σωρό αναζητήσιμων μηνυμάτων. Η εργασία μας στα επιχειρησιακά αρχεία ακολουθεί το ίδιο ερώτημα: τι διατηρείται ως ιστορικό και τι προκύπτει ως τρέχουσα εικόνα. Αυτές είναι μηχανικές επιλογές, όχι απόδειξη ότι ένας δημόσιος φορέας ή ένας προμηθευτής έχει εκπληρώσει τις υποχρεώσεις του. Το ευρύτερο δίδαγμα ανήκει σε όλους όσοι χτίζουν υπεύθυνα συστήματα: κρατήστε το αρχείο κοντά στο γεγονός, κρατήστε το πεδίο εφαρμογής του ειλικρινές και μην αφήνετε μια τρέχουσα εικόνα να υποδύεται σιωπηλά το παρελθόν.

Αυτή είναι μια μικρή παράγραφος σε ένα πολύ μεγαλύτερο επιχείρημα. Το επιχείρημα δεν εξαρτάται από κάποιο προϊόν της Dweve. Είναι ήδη παρόν στην ευρωπαϊκή πρακτική τήρησης αρχείων, στη λογοδοσία για την προστασία δεδομένων και στις απαιτήσεις του κύκλου ζωής του AI Act. Μας ενδιαφέρει το πρόβλημα επειδή το λογισμικό κάνει τη λήθη εύκολη και οι δημόσιες αποφάσεις κάνουν τη λήθη να έχει συνέπειες. Η σωστή απάντηση δεν είναι να προσθέσουμε το λογότυπό μας στη λέξη διαφάνεια. Είναι να κάνουμε το ιστορικό επιθεωρήσιμο, περιορισμένο και χρήσιμο για εκείνον που θα ζήσει με το αποτέλεσμα.

Η ερώτηση ενός πολίτη είναι συνήθως σε παρελθοντικό χρόνο

Γιατί λήφθηκε αυτή η απόφαση. Ποιος κανόνας εφαρμόστηκε. Ποιες πληροφορίες χρησιμοποιήσατε. Το εξέτασε κάποιος άνθρωπος. Τι άλλαξε στη συνέχεια. Αυτές είναι ερωτήσεις σε παρελθοντικό χρόνο. Τις θέτουν πολίτες, ασθενείς, εργαζόμενοι, φοιτητές, πελάτες, δημοσιογράφοι, ελεγκτές, δικαστήρια και το προσωπικό που κληρονομεί ένα σύστημα που δεν σχεδίασε. Ένας πίνακας ελέγχου της τρέχουσας κατάστασης μπορεί να δείξει ότι το σύστημα είναι υγιές. Δεν μπορεί να απαντήσει για τη χθεσινή απόφαση αν το χθες έχει αντικατασταθεί.

Η απάντηση δεν απαιτεί από έναν φορέα να διατηρεί κάθε λεπτομέρεια για πάντα ή να δημοσιεύει κάθε εσωτερικό αρχείο. Απαιτεί από τον φορέα να γνωρίζει ποια γεγονότα καθιστούν την απόφαση κατανοητή, να διατηρεί αυτά τα γεγονότα σε μορφή που μπορεί να ελεγχθεί και να δηλώνει με σαφήνεια πότε ένα γεγονός δεν μπορεί να ανακτηθεί. Αυτή είναι η σεμνή υπόσχεση του ιστορικού εκδόσεων. Δεν καθιστά μια απόφαση σωστή. Καθιστά μια απόφαση υπόλογη.

Η ευρωπαϊκή πρακτική αρχειοθέτησης το λέει αυτό εδώ και καιρό σε απλή γλώσσα: οι σημαντικές πληροφορίες μπορεί να έχουν ιστορικές εκδόσεις και οι ψηφιακές πληροφορίες παραμένουν πληροφορίες όπου κι αν αποθηκεύονται. Η ευρωπαϊκή νομοθεσία για την προστασία δεδομένων ορίζει ότι η ευθύνη περιλαμβάνει τη δυνατότητα απόδειξης συμμόρφωσης. Ο AI Act καθιστά την τεχνική τεκμηρίωση και την καταγραφή του κύκλου ζωής μέρος των υποχρεώσεων για καθορισμένα συστήματα υψηλού κινδύνου. Οι ερωτήσεις του Διαμεσολαβητή για την τεχνητή νοημοσύνη στον δημόσιο τομέα δείχνουν προς την ίδια κατεύθυνση. Οι φορείς θα κριθούν όχι μόνο από όσα αναπτύσσουν, αλλά και από όσα μπορούν να επιδείξουν για την επιλογή τους.

Κρατήστε, λοιπόν, το αρχείο αλλαγών. Γράψτε το σημείωμα έκδοσης. Δημοσιεύστε το μητρώο. Στη συνέχεια, χτίστε το λιγότερο εντυπωσιακό αρχείο από κάτω: εκείνο που γνωρίζει ποια πηγή, ποιος κανόνας, ποιο σύστημα, ποια ροή εργασίας και ποια αρχή ήταν ενεργά όταν η υπόθεση ενός ατόμου πέρασε από το ενδεχόμενο στην απόφαση. Αν ο οργανισμός μπορεί να δείξει τι άλλαξε, μπορεί επίσης να δείξει τι δεν άλλαξε, τι διδάχθηκε και τι μπορεί ακόμη να επισκευαστεί. Αυτό δεν είναι αρχειακή νοσταλγία. Είναι η ελάχιστη μνήμη που απαιτείται για να παραμείνει η δημόσια εξουσία υπόλογη.

Πηγές