Το μητρώο μοντέλων είναι ο νέος δημόσιος πίνακας ανακοινώσεων

Ένα μητρώο μοντέλων μπορεί να πει στο κοινό τι είναι ένα σύστημα, ποιος το υποστηρίζει, πού μπορεί να χρησιμοποιηθεί και τι άλλαξε. Δεν μπορεί να μετατρέψει...

Το μητρώο μοντέλων είναι ο νέος δημόσιος πίνακας ανακοινώσεων

Η σελίδα που ξεκινά παραδεχόμενη ότι δεν είναι μαγική

Το πρώτο πράγμα που κάνει ένα χρήσιμο μητρώο μοντέλων είναι να σε απογοητεύσει. Δεν λέει ότι ένα μοντέλο είναι ασφαλές. Δεν λέει ότι ένας οργανισμός είναι ικανός. Δεν μετατρέπει την υπόσχεση ενός προμηθευτή σε γεγονός, ούτε μια πράσινη ένδειξη σε λόγο να σταματήσεις να κάνεις ερωτήσεις. Αντίθετα, σου δίνει ένα οριοθετημένο αρχείο: αυτό είναι το αντικείμενο, αυτή είναι η έκδοση, αυτός είναι ο ιδιοκτήτης, αυτός είναι ο δηλωμένος σκοπός, αυτή είναι η κατάσταση και εδώ φυλάσσονται τα υποστηρικτικά στοιχεία.

Αυτή η σεμνότητα είναι η αρχή της δημόσιας εμπιστοσύνης. Ένα μητρώο είναι ένας πίνακας ανακοινώσεων, όχι ένα ιερό. Ένας πίνακας ανακοινώσεων λέει στη γειτονιά τι χτίζεται, ποιος είναι υπεύθυνος και ποιες ανακοινώσεις έχουν αντικατασταθεί. Δεν πιστοποιεί την ποιότητα κατασκευής κάθε κτιρίου στον δρόμο. Δίνει στους ανθρώπους ένα σημείο εκκίνησης για να ψάξουν και έναν τρόπο να αντιληφθούν πότε η ίδια η ανακοίνωση έχει ξεπεραστεί.

Ανοίξτε το Μητρώο Αλγορίθμων της ολλανδικής κυβέρνησης και ο σχεδιασμός του είναι ασυνήθιστα λιτός. Κυβερνητικοί οργανισμοί δημοσιεύουν πληροφορίες για τους αλγορίθμους που χρησιμοποιούν στην εργασία τους. Το μητρώο επικεντρώνεται σε αλγορίθμους υψηλού αντικτύπου, συμπεριλαμβανομένων των συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου, και δίνει στους επισκέπτες μια εξήγηση για το πώς λειτουργούν αυτά τα συστήματα. Η σελίδα κάνει επίσης μια χρήσιμη διάκριση που πολλοί εντυπωσιακοί κατάλογοι τεχνητής νοημοσύνης αποφεύγουν: ένας αλγόριθμος είναι ένα σύνολο κανόνων και οδηγιών που ακολουθεί ένας υπολογιστής για να υπολογίσει μια απάντηση, όχι μια προσωπικότητα με κυκλοφορία προϊόντος.

Η σελίδα είναι δημόσια επειδή το έργο είναι δημόσιο. Ένας πολίτης δεν χρειάζεται ιδιωτικό λογαριασμό για να ανακαλύψει ότι μια αρχή χρησιμοποιεί έναν αλγόριθμο, τι λέει η αρχή ότι εξυπηρετεί ή πού να απευθύνει την επόμενη ερώτηση. Αυτό δεν καθιστά δημόσια κάθε τεχνική λεπτομέρεια. Κάνει όμως την ύπαρξη του συστήματος, τον δηλωμένο ρόλο του και τον θεσμικό ιδιοκτήτη του πιο δύσκολο να κρυφτούν πίσω από έναν φάκελο προμηθειών.

Τα μητρώα μοντέλων γίνονται το ίδιο είδος πολιτικού αντικειμένου. Βρίσκονται ανάμεσα σε έναν τεχνικό κατάλογο και σε ένα δημόσιο αρχείο. Οι μηχανικοί χρειάζονται μια σταθερή ταυτότητα και μια έκδοση για να ενσωματώσουν. Οι διαχειριστές χρειάζονται μια κατάσταση και έναν ιδιοκτήτη για να λειτουργήσουν. Οι κατάντη πάροχοι χρειάζονται δυνατότητες, όρια και προϋποθέσεις. Οι ελεγκτές χρειάζονται ένα ίχνος που οδηγεί πίσω στα στοιχεία. Οι επηρεαζόμενοι άνθρωποι πρέπει να γνωρίζουν ότι ένα σύστημα υπάρχει και πώς να αμφισβητήσουν ό,τι κάνει. Μία σελίδα δεν μπορεί να απαντήσει σε όλες αυτές τις ερωτήσεις, αλλά ένα καλά σχεδιασμένο μητρώο μπορεί να κατευθύνει κάθε αναγνώστη στο σωστό επίπεδο.

Ο κίνδυνος είναι ότι η λέξη μητρώο κάνει ένα έγγραφο να ακούγεται πιο πλήρες από ό,τι είναι. Ένας τηλεφωνικός κατάλογος είναι μητρώο, αλλά δεν μπορεί να σου πει αν ένας αριθμός εξακολουθεί να λειτουργεί. Μια φορτωτική είναι μητρώο, αλλά δεν μπορεί να σου πει αν το φορτίο επέζησε του ταξιδιού. Μια εγγραφή μοντέλου είναι μητρώο, αλλά δεν μπορεί να φέρει ολόκληρη την απόδειξη της απόδοσης, της δικαιοσύνης, της ασφάλειας, της νομιμότητας και των κοινωνικών συνεπειών. Η χρήσιμη ερώτηση δεν είναι αν ένα μοντέλο βρίσκεται στο μητρώο. Είναι τι αποδεικνύει η εγγραφή, τι αφήνει ανοιχτό και τι μπορεί να εξετάσει στη συνέχεια ο αναγνώστης.

Ένας πίνακας ανακοινώσεων είναι μια υπόσχεση επιλογής

Ένα απόθεμα προσπαθεί να μετρήσει τα πάντα. Ένας κατάλογος προσπαθεί να σε βοηθήσει να επιλέξεις. Ένα μητρώο κάνει μια πιο επίσημη υπόσχεση: αυτές οι εγγραφές ανήκουν σε ένα καθορισμένο πεδίο εφαρμογής, έχουν ιδιοκτήτη και οι πληροφορίες συντηρούνται βάσει ενός κανόνα. Η υπόσχεση αφορά την επιλογή πριν αφορά το λογισμικό. Χωρίς δηλωμένο πεδίο εφαρμογής, μια ελκυστική λίστα είναι απλώς μια συλλογή πραγμάτων που έτυχε να θυμόμαστε.

Γι' αυτό κάθε μητρώο χρειάζεται μια πρόταση που να λέει τι περιλαμβάνει και τι σκόπιμα αφήνει εκτός. Η κεντρική βάση δεδομένων του Κανονισμού Τεχνητής Νοημοσύνης της ΕΕ δεν είναι μια λίστα με κάθε μοντέλο που κυκλοφορεί στην Ευρώπη. Το άρθρο 71 θεσπίζει μια βάση δεδομένων της ΕΕ για συγκεκριμένα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου και για τα συστήματα που καταχωρίζονται μέσω των οδών που περιγράφονται στο άρθρο 49. Το ολλανδικό Μητρώο Αλγορίθμων δεν είναι μια λίστα με κάθε υπολογισμό που γίνεται σε ένα κυβερνητικό γραφείο. Επικεντρώνεται σε αλγορίθμους υψηλού αντικτύπου, συμπεριλαμβανομένων των συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου. Το όριο είναι μέρος του αρχείου, όχι μια υποσημείωση για δικηγόρους.

Ένα μητρώο μοντέλων θα έπρεπε να απαντά στο ίδιο ερώτημα ορίων στην καθημερινή γλώσσα. Καταγράφει θεμελιώδη μοντέλα, αναπτυγμένα συστήματα τεχνητής νοημοσύνης, εσωτερικά πειράματα, εξειδικευμένους απογόνους, πακέτα αξιολόγησης ή μόνο μοντέλα που προσφέρονται σε εξωτερικούς χρήστες; Μια νέα διαμόρφωση εξυπηρέτησης λαμβάνει νέα εγγραφή, νέα έκδοση ή συνδεδεμένη εγγραφή ανάπτυξης; Μια καταγεγραμμένη κατάσταση ενός προσαρμοστικού συστήματος προσμετράται ως η ίδια ταυτότητα μοντέλου; Αν το μητρώο δεν αποφασίσει αυτά τα ερωτήματα, κάθε αναγνώστης θα τα αποφασίσει διαφορετικά. Έτσι μια σύντομη λίστα γίνεται μακρά διαφωνία.

Η επιλογή καθιστά επίσης την απουσία σημαίνουσα. Αν το πεδίο εφαρμογής ορίζει ότι πρέπει να εμφανίζονται όλα τα προσβάσιμα στο κοινό συστήματα υψηλού κινδύνου, μια εγγραφή που λείπει αποτελεί ζήτημα διακυβέρνησης. Αν το πεδίο εφαρμογής ορίζει ότι περιλαμβάνονται μόνο μοντέλα που διατίθενται σε αγορά, ένα εσωτερικό πείραμα μπορεί να απουσιάζει εκ προθέσεως. Το κοινό δεν μπορεί να ερμηνεύσει ένα κενό αποτέλεσμα αναζήτησης χωρίς να γνωρίζει ποια από τις δύο περιπτώσεις ισχύει. Η σιωπή δεν είναι ουδέτερη όταν το μητρώο δεν έχει εξηγήσει το λεξιλόγιό του.

Υπάρχει μια μικρή διοικητική αρετή στο να λέγεται αυτό καθαρά. Τα μητρώα δεν χρειάζεται να προσποιούνται ότι γνωρίζουν τα πάντα. Πρέπει να λένε στον αναγνώστη τι γνωρίζουν, για τι είναι υπεύθυνα και τι βρίσκεται εκτός πλαισίου. Ένα μητρώο κερδίζει την αξιοπιστία του καθιστώντας το όριο του πεδίου εφαρμογής του ρητό, όχι διακοσμώντας το εξώφυλλο. Η τεχνολογία είναι νεότερη. Το ένστικτο της γραφειοκρατίας δεν είναι.

Τι θέτει πραγματικά ο ευρωπαϊκός κανονισμός στο τραπέζι

Η Πράξη για την Τεχνητή Νοημοσύνη δίνει στη λέξη καταχώριση συγκεκριμένο νομικό σχήμα, αλλά όχι ένα ενιαίο και καθολικό. Το άρθρο 49 απαιτεί από τον πάροχο ή τον εξουσιοδοτημένο αντιπρόσωπο να καταχωρίζει ορισμένα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου πριν από τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία. Απαιτεί επίσης καταχώριση όταν ο πάροχος έχει συμπεράνει ότι ένα σύστημα δεν είναι υψηλού κινδύνου υπό τις προϋποθέσεις του άρθρου 6 παράγραφος 3. Οι δημόσιες αρχές και οι ισοδύναμοι δημόσιοι φορείς που αναπτύσσουν ορισμένα συστήματα υψηλού κινδύνου έχουν δική τους υποχρέωση καταχώρισης, συμπεριλαμβανομένης της καταχώρισης της χρήσης τους.

Το ίδιο άρθρο καθιστά ρητό το όριο δημόσιου και ιδιωτικού τομέα. Ορισμένα συστήματα υψηλού κινδύνου που χρησιμοποιούνται στην επιβολή του νόμου, τη μετανάστευση, το άσυλο και τη διαχείριση των συνόρων καταχωρίζονται σε ασφαλές μη δημόσιο τμήμα. Τα συστήματα υψηλού κινδύνου του δεύτερου σημείου του παραρτήματος III καταχωρίζονται σε εθνικό επίπεδο. Αυτές δεν είναι λεπτομέρειες υλοποίησης που μπορούν να διευθετηθούν σε έναν πίνακα ελέγχου. Περιγράφουν διαφορετικά κοινά, διαφορετικούς κινδύνους και διαφορετικές άδειες πρόσβασης στην εγγραφή.

Το άρθρο 71 ορίζει ότι η Επιτροπή, σε συνεργασία με τα κράτη μέλη, δημιουργεί και διατηρεί τη βάση δεδομένων της ΕΕ. Οι πληροφορίες που καταχωρίζονται βάσει του άρθρου 49 πρέπει να είναι προσβάσιμες και διαθέσιμες στο κοινό με φιλικό προς τον χρήστη τρόπο και θα πρέπει να είναι εύκολα πλοηγήσιμες και αναγνώσιμες από μηχανή, με εξαιρέσεις για περιορισμένα τμήματα. Η βάση δεδομένων θα πρέπει να περιέχει προσωπικά δεδομένα μόνο στον βαθμό που είναι αναγκαίο. Αυτός είναι ένας χρήσιμος ορισμός της δημόσιας διαφάνειας: μια εγγραφή που οι άνθρωποι μπορούν να βρουν και να επεξεργαστούν, χωρίς να μετατρέπεται η εγγραφή σε δεύτερο πρόβλημα προσωπικών δεδομένων.

Το παράρτημα VIII είναι εκεί όπου ο πίνακας ανακοινώσεων γίνεται συγκεκριμένος. Για έναν πάροχο που καταχωρίζει σύστημα υψηλού κινδύνου, η εγγραφή περιλαμβάνει την ταυτότητα και τα στοιχεία επικοινωνίας του παρόχου, μια σαφή εμπορική ονομασία ή αναφορά, τον επιδιωκόμενο σκοπό, μια βασική περιγραφή των πληροφοριών που χρησιμοποιούνται και της λειτουργικής λογικής, την κατάσταση του συστήματος, τα σχετικά πιστοποιητικά, τα κράτη μέλη όπου διατίθεται στην αγορά ή τίθεται σε λειτουργία, τη δήλωση συμμόρφωσης, τις οδηγίες χρήσης και ένα προαιρετικό URL για περισσότερες πληροφορίες. Αυτά δεν είναι πεδία μάρκετινγκ. Είναι σημεία αναφοράς για την ταυτοποίηση και τη λογοδοσία.

Για έναν δημόσιο αναπτύσσοντα, οι πληροφορίες είναι διαφορετικές. Το αρχείο περιλαμβάνει την ταυτότητα του αναπτύσσοντα, το πρόσωπο που υποβάλλει τις πληροφορίες, τη διεύθυνση URL της καταχώρισης του παρόχου και περιλήψεις μιας εκτίμησης επιπτώσεων στα θεμελιώδη δικαιώματα και, όπου συντρέχει, μιας εκτίμησης επιπτώσεων στην προστασία δεδομένων. Η διάκριση έχει σημασία επειδή ένας πάροχος μοντέλου και μια δημόσια αρχή δεν γνωρίζουν τα ίδια πράγματα ούτε φέρουν την ίδια ευθύνη. Ένα μητρώο που τα συγχωνεύει σε μία ενιαία κάρτα προμηθευτή εξαλείφει το σημείο όπου ένα σύστημα συναντά έναν θεσμό.

Η νομική βάση δεδομένων έχει επομένως πολυεπίπεδο χαρακτήρα. Καταγράφει μια ταυτότητα συστήματος. Καταγράφει έναν πάροχο. Μπορεί να καταγράψει έναν αναπτύσσοντα και μια χρήση. Καταγράφει την κατάσταση και τις συνοδευτικές δηλώσεις. Δεν υποκαθιστά την τεχνική τεκμηρίωση, τη διαχείριση κινδύνου, το σύστημα ποιότητας ή την παρακολούθηση μετά τη διάθεση στην αγορά που απαιτεί ο κανονισμός αλλού. Η βάση δεδομένων είναι ένας δημόσιος κατάλογος υπόλογων γεγονότων. Δεν είναι ολόκληρος ο φάκελος συμμόρφωσης.

Αυτή η διάκριση χάνεται εύκολα επειδή οι άνθρωποι προτιμούν μία διεύθυνση URL που φαίνεται να περιέχει την απάντηση. Ο νόμος είναι λιγότερο συναισθηματικός. Δημιουργεί μια δημόσια επιφάνεια, περιορισμένες επιφάνειες και ελεγχόμενες οδούς τεκμηρίωσης. Η δημόσια επιφάνεια πρέπει να είναι χρηστική. Η περιορισμένη επιφάνεια πρέπει να παραμείνει περιορισμένη. Η τεκμηρίωση πρέπει να παραμένει διαθέσιμη στην αρμόδια αρχή ή στον κατάντη πάροχο που τη χρειάζεται. Ένα σοβαρό μητρώο είναι μια διεπαφή μεταξύ αυτών των υποχρεώσεων, όχι μια συντόμευση γύρω από αυτές.

Ένα μητρώο γίνεται χρήσιμο όταν η ταυτότητα, η κατάσταση και η αλλαγή συνδέονται μεταξύ τους. Ένα χρώμα χωρίς μετάβαση είναι απλώς διακόσμηση.

Υπάρχει ένα ακόμη σημαντικό όριο. Οι διατάξεις του κανονισμού για την τεχνητή νοημοσύνη που αφορούν τα μοντέλα γενικής χρήσης δεν ταυτίζονται με έναν δημόσιο κατάλογο όλων των μοντέλων γενικής χρήσης. Το άρθρο 53 απαιτεί από τους παρόχους να τηρούν τεχνική τεκμηρίωση, να διαθέτουν πληροφορίες στους κατάντη παρόχους συστημάτων τεχνητής νοημοσύνης, να διατηρούν πολιτική για τα πνευματικά δικαιώματα και να δημοσιεύουν μια επαρκώς λεπτομερή περίληψη του περιεχομένου εκπαίδευσης. Η καθοδήγηση της Επιτροπής διευκρινίζει ότι η τεχνική τεκμηρίωση προορίζεται για το Γραφείο Τεχνητής Νοημοσύνης και τις εθνικές αρμόδιες αρχές κατόπιν αιτήματος, ενώ η κατάντη τεκμηρίωση βοηθά τους ενσωματωτές να κατανοήσουν τις δυνατότητες και τους περιορισμούς. Μόνο μέρος αυτού του υλικού ανήκει σε έναν δημόσιο πίνακα ανακοινώσεων.

Ο κανονισμός απαιτεί επίσης από την Επιτροπή να δημοσιεύει και να διατηρεί κατάλογο των μοντέλων γενικής χρήσης με συστημικό κίνδυνο. Ένας κατάλογος μοντέλων με συστημικό κίνδυνο είναι ένα πολύτιμο δημόσιο σήμα, αλλά δεν είναι το ίδιο πράγμα με ένα πλήρες μητρώο μοντέλων. Έχει στενότερο σκοπό και πρέπει να σέβεται τα δικαιώματα πνευματικής ιδιοκτησίας, τις εμπιστευτικές επιχειρηματικές πληροφορίες και τα εμπορικά απόρρητα. Το να αποκαλεί κανείς κάθε κατάλογο μητρώο είναι ακίνδυνο μόνο έως ότου κάποιος υποθέσει ότι ένας κατάλογος αποδεικνύει περισσότερα από όσα πραγματικά αποδεικνύει.

Ένα μοντέλο δεν είναι μία μόνο γραμμή

Οι άνθρωποι μιλούν για ένα μοντέλο σαν να ήταν ένα βάζο σε ένα ράφι. Το όνομα είναι τυπωμένο στην ετικέτα, η έκδοση είναι σφραγισμένη από κάτω και το περιεχόμενο παραμένει αμετάβλητο έως ότου κάποιος ανοίξει το καπάκι. Αυτή η εικόνα λειτουργεί για ένα στατικό τεχνούργημα. Γίνεται αναξιόπιστη όταν ένα μοντέλο προσαρμόζεται, βελτιστοποιείται, περιβάλλεται με εργαλεία, εξυπηρετείται μέσω πολλών οδών ή αλλάζει κατά τη χρήση.

Ένα μητρώο χρειάζεται τουλάχιστον δύο ταυτότητες: την ταυτότητα του μοντέλου και την ταυτότητα του πράγματος που πραγματικά εκτελέστηκε. Η πρώτη απαντά στο ποιο μοντέλο εννοεί ο πάροχος. Η δεύτερη μπορεί να προσδιορίσει μια καταγεγραμμένη κατάσταση, ένα σφραγισμένο πακέτο ανάπτυξης, μια τοπική εξαγωγή ή ένα πακέτο αναπαραγωγής. Η σύνδεσή τους αποτρέπει δύο αντίθετα λάθη. Μια υπηρεσία μπορεί να σταματήσει να προσποιείται ότι κάθε ζωντανή κατάσταση έχει ένα μόνιμο κατακερματισμό, και ένας διαχειριστής μπορεί να σταματήσει να προσποιείται ότι μια σύνοψη πακέτου από μόνη της περιγράφει ολόκληρη την οικογένεια μοντέλων.

Οι αριθμοί έκδοσης είναι χρήσιμοι μόνο όταν ο κανόνας αλλαγής τους είναι ορατός. Μια έκδοση μπορεί να σημαίνει ένα νέο σύνολο παραμέτρων εκμάθησης, έναν νέο κατάλογο περιορισμών, μια αλλαγή στην ανάκτηση, μια τροποποιημένη διάταξη ασφαλείας ή μια ουσιαστική αλλαγή στη σύμβαση παροχής υπηρεσιών. Αν ένας πάροχος χρησιμοποιεί έναν μόνο αριθμό για όλα αυτά, ο αριθμός γίνεται ένας ευγενικός τρόπος να πει κανείς ότι κάτι άλλαξε. Ένα μητρώο θα πρέπει να συνδέει έναν διάδοχο με τον προκάτοχό του και να αναφέρει ποιο μέρος της σύμβασης μετακινήθηκε.

Η προσαρμοστική συμπεριφορά προσθέτει άλλη μια περιπλοκή. Αν ένα σύστημα μπορεί να αλλάξει ενώ χρησιμοποιείται, το αρχείο θα πρέπει να το αναφέρει. Αυτό δεν είναι παραδοχή ότι το σύστημα είναι ανεξέλεγκτο. Είναι παραδοχή ότι η λέξη έκδοση δεν μπορεί να κάνει όλη τη δουλειά. Το μητρώο μπορεί να διατηρεί μια σταθερή ταυτότητα μοντέλου, να προσαρτά σε αυτήν καταγεγραμμένες καταστάσεις με χρονικό περιορισμό και να καταγράφει τις συνθήκες υπό τις οποίες δημιουργήθηκε μια κατάσταση. Το ζητούμενο δεν είναι να παγώσει ένα ζωντανό σύστημα σε μια ψευδή φωτογραφία. Είναι να δοθεί σε κάθε ουσιαστική φωτογραφία μια ημερομηνία και ένα πλαίσιο.

Η ταυτότητα έχει επίσης μια κοινωνική διάσταση. Ένα όνομα μοντέλου δεν αρκεί όταν πολλές νομικές οντότητες διανέμουν παρόμοια τεχνουργήματα, όταν ένας μεταγενέστερος πάροχος τροποποιεί το μοντέλο ή όταν ένα προϊόν ενσωματώνει το μοντέλο πίσω από το δικό του όνομα. Το μητρώο θα πρέπει να καθιστά ορατή την αλυσίδα: πάροχος, διανομέας όπου διαφέρει, αναπτύσσων όπου συντρέχει, και το σύστημα ή η διαδρομή στην οποία χρησιμοποιείται το μοντέλο. Ένα άτομο που επηρεάζεται από μια απόφαση δεν θα πρέπει να χρειάζεται να κάνει εγκληματολογική αρχαιολογία σε ένα λογότυπο προϊόντος για να ανακαλύψει ποιος μπορεί να λογοδοτήσει για αυτό.

Η κατάσταση είναι ρήμα, όχι χρώμα

Τα πεδία κατάστασης συχνά εμφανίζονται ως σήματα επειδή τα σήματα ταιριάζουν τακτοποιημένα σε κάρτες. Το σήμα δεν είναι η κατάσταση. Η κατάσταση είναι μια δήλωση για μια ενέργεια και έναν χρόνο. Ο εσωτερικός έλεγχος σημαίνει ένα πράγμα όταν η πρόσβαση ελέγχεται από τον πάροχο. Η προ-έκδοση σημαίνει κάτι άλλο όταν προσκεκλημένοι εξωτερικοί χρήστες μπορούν να χρησιμοποιήσουν μια διαδρομή υπό καθορισμένες συνθήκες. Στην αγορά, σε λειτουργία, σε αναστολή, αποσυρμένο και ανακληθέν, το καθένα φέρει διαφορετική επιχειρησιακή συνέπεια.

Ένα χρήσιμο αρχείο αναφέρει τι επιτρέπει η κατάσταση και τι δεν επιτρέπει. Αν ένα σύστημα είναι μόνο για εσωτερική χρήση, ο αναγνώστης δεν θα πρέπει να συνάγει δημόσια διαθεσιμότητα από μια σελίδα τεκμηρίωσης. Αν προγραμματίζεται μια εξωτερική δοκιμή beta, η ημερομηνία θα πρέπει να επισημαίνεται ως προγραμματισμένη και όχι να παρουσιάζεται ως έκδοση. Αν ένα σύστημα έχει αποσυρθεί, το αρχείο θα πρέπει να διατηρεί την προηγούμενη ταυτότητα και να αναφέρει αν οι υπάρχουσες αναπτύξεις μπορούν να συνεχιστούν, πρέπει να σταματήσουν ή βρίσκονται σε διαδικασία μετάβασης. Μια κατάσταση χωρίς ημερομηνία έναρξης ισχύος είναι μια φήμη που φοράει στολή.

Η κατάσταση θα πρέπει επίσης να έχει ιδιοκτήτη. Ποιος μπορεί να μετακινήσει μια εγγραφή από εσωτερική σε εξωτερική; Ποιος μπορεί να αναστείλει μια διαδρομή; Ποιος μπορεί να δηλώσει ότι μια ημερομηνία έκδοσης άλλαξε; Ποια αποδεικτικά στοιχεία απαιτούνται πριν από τη μετάβαση; Αυτά τα ερωτήματα ανήκουν στη λειτουργική διαδικασία, αλλά η δημόσια εγγραφή θα πρέπει να καθιστά ευανάγνωστη την προκύπτουσα απόφαση. Ένα μητρώο που δείχνει το τρέχον σήμα ενώ κρύβει την εξουσία πίσω από αυτό είναι μόνο ένας πίνακας διάθεσης για τη διακυβέρνηση.

Ενδεικτικό παράδειγμα, όχι πραγματική καταχώριση: μια εγγραφή μπορεί να αναφέρει ότι ένα μοντέλο βρίσκεται σε ελεγχόμενη αξιολόγηση, ότι καμία εξωτερική διαδρομή δεν είναι ανοιχτή, ότι μια δοκιμή μόνο με πρόσκληση προτείνεται για μεταγενέστερη ημερομηνία και ότι η πρόταση παραμένει υπόκειται σε πύλη έκδοσης. Το παράδειγμα δεν κατονομάζει οργανισμό, μοντέλο ή γεγονός. Σκοπός του είναι να δείξει πώς μια εγγραφή διατηρεί ένα σχέδιο ξεχωριστό από ένα γεγονός. Η ίδια πειθαρχία ισχύει για μια απόσυρση, έναν ισχυρισμό δυνατότητας ή μια πιστοποίηση που δεν έχει ακόμη εκδοθεί.

Αυτός ο διαχωρισμός προστατεύει τους αναγνώστες από ένα γνωστό τέχνασμα. Μια μελλοντική πρόθεση επαναλαμβάνεται αρκετά συχνά ώστε να αρχίζει να ακούγεται σαν ιστορία. Τα μητρώα θα πρέπει να είναι το μέρος όπου αυτό το τέχνασμα σταματά να λειτουργεί. Η εγγραφή μπορεί να δείχνει ένα σχέδιο, αλλά το σχέδιο πρέπει να διατηρεί την ετικέτα του. Η Ευρώπη έχει αρκετά ημερολόγια ήδη. Μια ημερομηνία δεν είναι γεγονός απλώς επειδή τοποθετήθηκε σε ένα χρωματιστό ορθογώνιο.

Το μητρώο δεν είναι η αίθουσα αποδεικτικών στοιχείων

Μια δημόσια καταχώριση πρέπει να είναι αρκετά σύντομη για να διαβάζεται και αρκετά ουσιαστική για να προσανατολίσει ένα σοβαρό ερώτημα. Ο χώρος τεκμηρίωσης πίσω της μπορεί να είναι πολύ μεγαλύτερος. Οι υποχρεώσεις τεκμηρίωσης του άρθρου 53 της Πράξης για την Τεχνητή Νοημοσύνη εξηγούν γιατί. Οι πάροχοι μοντέλων τεχνητής νοημοσύνης γενικού σκοπού πρέπει να συντάσσουν και να διατηρούν τεχνική τεκμηρίωση που καλύπτει την ανάπτυξη, την εκπαίδευση, τις δοκιμές και την αξιολόγηση. Πρέπει να διαθέτουν πληροφορίες και τεκμηρίωση στους παρόχους συστημάτων τεχνητής νοημοσύνης που βρίσκονται κατάντη, ώστε αυτοί να μπορούν να κατανοούν τις δυνατότητες και τους περιορισμούς. Πρέπει να δημοσιεύουν μια επαρκώς λεπτομερή σύνοψη του περιεχομένου εκπαίδευσης και να τηρούν πολιτική συμμόρφωσης με το δίκαιο πνευματικής ιδιοκτησίας της Ένωσης.

Αυτές οι υποχρεώσεις εξυπηρετούν διαφορετικούς αναγνώστες. Μια αρμόδια αρχή μπορεί να χρειάζεται το πλήρες τεχνικό αρχείο. Ένας πάροχος κατάντη χρειάζεται πληροφορίες ενοποίησης και περιορισμούς. Το κοινό χρειάζεται μια σαφή περιγραφή του τι είναι το μοντέλο και πώς οριοθετείται η σύνοψη του περιεχομένου εκπαίδευσης. Μια καταχώριση μητρώου μπορεί να συνδέει αυτές τις επιφάνειες χωρίς να υπονοεί ότι μια δημόσια σελίδα πρέπει να περιέχει κάθε ευαίσθητο για την ασφάλεια στοιχείο, κάθε αρχείο βαρών ή κάθε δείγμα δοκιμής που φέρει προσωπικά δεδομένα.

Οι σύνδεσμοι δεν αποτελούν από μόνοι τους αποδεικτικό στοιχείο. Ένα μητρώο που παραπέμπει σε έκθεση αξιολόγησης πρέπει να προσδιορίζει ποια έκδοση καλύπτει η έκθεση, τι μέτρησε η αξιολόγηση και ποιες προϋποθέσεις περιορίζουν το αποτέλεσμα. Ένας σύνδεσμος προς σύνοψη εκπαίδευσης πρέπει να αναφέρει αν η σύνοψη καλύπτει την προεκπαίδευση, τη λεπτομερή ρύθμιση ή ένα συγκεκριμένο σύνολο κατηγοριών περιεχομένου. Ένας σύνδεσμος προς πιστοποιητικό πρέπει να δείχνει ποιος το εξέδωσε, τι πιστοποιεί και πότε λήγει. Διαφορετικά, η σελίδα είναι ένα ράφι με ανοιχτούς φακέλους.

Ο ίδιος κανόνας ισχύει για τους ισχυρισμούς ασφάλειας. Ένα μητρώο μπορεί να αναφέρει ότι υπάρχει εκτίμηση κινδύνου, ότι έχει επισυναφθεί σχέδιο παρακολούθησης ή ότι έχει δημοσιευτεί διαδικασία για σοβαρά περιστατικά. Δεν πρέπει να υπονοεί ότι η ύπαρξη ενός εγγράφου αποδεικνύει ότι το υποκείμενο σύστημα είναι ασφαλές. Η τεκμηρίωση είναι ένας τρόπος να εξετάσει κανείς έναν ισχυρισμό. Δεν υποκαθιστά τον ισχυρισμό.

Εδώ είναι που η δημόσια γραφή χρειάζεται πειθαρχία. Μια κάρτα μοντέλου, μια σελίδα διαφάνειας ή μια καταχώριση μητρώου μπορεί να περιγράφει την προβλεπόμενη χρήση και τους γνωστούς περιορισμούς. Δεν μπορεί να χρησιμοποιεί τη φράση αξιόπιστο ως συμπέρασμα, εκτός αν τα στοιχεία και το πεδίο εφαρμογής καθιστούν αυτό το συμπέρασμα υποστηρίξιμο. Η ειλικρινής πρόταση είναι συχνά πιο χρήσιμη: αυτές είναι οι συνθήκες που αξιολογήσαμε, αυτά είναι τα όρια που παρατηρήσαμε και αυτές είναι οι περιπτώσεις που δεν ισχυριστήκαμε ότι καλύπτουμε.

Το ολλανδικό μητρώο δείχνει την αξία μιας απλής δημόσιας λίστας

Το Ολλανδικό Μητρώο Αλγορίθμων είναι διδακτικό ακριβώς επειδή δεν προσπαθεί να μοιάσει με μελλοντικό κέντρο ελέγχου. Δίνει στους κυβερνητικούς οργανισμούς έναν δημόσιο χώρο για να περιγράφουν τους αλγορίθμους που χρησιμοποιούν στην εργασία τους. Η αγγλική του σελίδα προειδοποιεί ότι οι περιγραφές έχουν μεταφραστεί αυτόματα και ότι το ολλανδικό πρωτότυπο είναι η έγκυρη έκδοση της περιγραφής. Αυτή η μικρή σημείωση είναι ένα μάθημα προέλευσης. Η πρόσβαση δεν είναι το ίδιο με την ακρίβεια, και μια μεταφρασμένη διεπαφή δεν πρέπει να εξαφανίζει την αρχική γλώσσα.

Ο δημόσιος σκοπός του μητρώου διατυπώνεται επίσης χωρίς θεατρική γλώσσα. Εστιάζει σε αλγορίθμους με σημαντικό αντίκτυπο, συμπεριλαμβανομένων συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου, και δίνει στους επισκέπτες εικόνα για το πώς λειτουργούν. Ο επισκέπτης μπορεί να περιηγηθεί σε αλγορίθμους, οργανισμούς και πρότυπα. Στόχος δεν είναι να προσφέρει βαθμολογία για κάθε αλγόριθμο. Είναι να καταστήσει τη χρήση αλγοριθμικών συστημάτων αρκετά ορατή ώστε άτομα, οργανισμοί και μέσα ενημέρωσης να μπορούν να παρακολουθούν, να αμφισβητούν και να εξετάζουν την κυβερνητική πρακτική.

Το συνοδευτικό ολλανδικό Algoritmekader μετατρέπει αυτόν τον σκοπό σε απαίτηση. Αναφέρει ότι, εκτός αν ισχύει εξαίρεση, οι δημόσιοι φορείς δημοσιεύουν αλγορίθμους με σημαντικό αντίκτυπο και συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου στο μητρώο. Αναφέρει επίσης ότι η εσφαλμένη ή ελλιπής δημοσίευση μπορεί να δυσχεράνει την κατανόηση και την αμφισβήτηση της χρήσης τεχνολογίας που μπορεί να θίγει τα δικαιώματα των ενδιαφερόμενων ατόμων και άλλων ενδιαφερόμενων μερών. Η διαφάνεια δεν είναι επομένως μόνο θέμα ευγένειας. Η ποιότητα της καταχώρισης μπορεί να επηρεάσει την ποιότητα του δημόσιου ελέγχου.

Η ίδια καθοδήγηση είναι προσεκτική ως προς το πεδίο εφαρμογής της. Περιγράφει το μητρώο ως ένα εργαλείο μέσα σε ένα ευρύτερο σύνολο νόμων και απαιτήσεων και προειδοποιεί ότι το πλαίσιο δεν είναι πλήρες και ενδέχεται να μην περιλαμβάνει τομεακή νομοθεσία. Το γεγονός ότι ένας αλγόριθμος εμφανίζεται σε ένα μητρώο δεν επιλύει κάθε νομικό ή ηθικό ζήτημα. Το γεγονός ότι δεν εμφανίζεται δεν αποδεικνύει ότι είναι ακίνδυνος. Ο αναγνώστης χρειάζεται τον κανόνα ένταξης του μητρώου και το ευρύτερο πλαίσιο για να ερμηνεύσει την καταχώριση.

Αυτό είναι το χρήσιμο πρότυπο για τα μητρώα μοντέλων. Μια δημόσια λίστα θα πρέπει να είναι εύκολο να βρεθεί, να είναι γραμμένη για ανθρώπους που δεν ήταν στη σύσκεψη προμηθειών και να συνδέεται με τα αρχεία που περιέχουν περισσότερες λεπτομέρειες. Θα πρέπει να αποκαλύπτει την αβεβαιότητα αντί να την κρύβει. Θα πρέπει να αναφέρει πότε μια περιγραφή έχει μεταφραστεί με μηχανική μετάφραση. Θα πρέπει να εξηγεί ποια συστήματα περιλαμβάνονται και ποια όχι. Θα πρέπει να καθιστά μια ελλιπή ή ξεπερασμένη καταχώριση ένα ορατό ζήτημα διακυβέρνησης αντί για μια ιδιωτική απογοήτευση.

Δεν χρειάζεται να επινοήσουμε ένα δραματικό περιστατικό για να καταλάβουμε γιατί αυτό έχει σημασία. Ένας πολίτης που προσπαθεί να κατανοήσει μια αυτοματοποιημένη κυβερνητική διαδικασία έχει ήδη μια πρακτική ερώτηση: χρησιμοποιείται ένα σύστημα, από ποιον, για ποιο σκοπό και με ποια εξήγηση; Ένα μητρώο δίνει σε αυτή την ερώτηση μια διεύθυνση. Η απάντηση μπορεί να εξακολουθεί να είναι ελλιπής. Τουλάχιστον, ο θεσμός δεν μπορεί να προσποιείται ότι δεν υπάρχει πουθενά να ρωτήσει κανείς.

Δημόσιο δεν σημαίνει γυμνό

Η διαφάνεια γίνεται αντιπαραγωγική όταν αντιμετωπίζεται ως εντολή να δημοσιευτούν τα πάντα. Τα δημόσια αρχεία μπορούν να εκθέσουν προσωπικά δεδομένα, πληροφορίες ευαίσθητες για την ασφάλεια, ιδιόκτητες λεπτομέρειες και διαδρομές επίθεσης. Μπορούν επίσης να δημιουργήσουν ψευδή αίσθηση ασφάλειας δημοσιεύοντας τεχνικά αποσπάσματα που κανένας απλός αναγνώστης δεν μπορεί να ερμηνεύσει. Το όριο μεταξύ δημόσιου και ιδιωτικού πρέπει να σχεδιαστεί, να τεκμηριωθεί και να επανεξεταστεί, όχι να αυτοσχεδιαστεί από όποια ομάδα τυχαίνει να διαχειρίζεται το σύστημα διαχείρισης περιεχομένου.

Η Πράξη για την Τεχνητή Νοημοσύνη δίνει ένα νομικό παράδειγμα. Το άρθρο 49 παράγραφος 4 τοποθετεί ορισμένα συστήματα σε ένα ασφαλές μη δημόσιο τμήμα και περιορίζει την πρόσβαση στην Επιτροπή και στις αρμόδιες εθνικές αρχές. Το άρθρο 71 καθιστά τις πληροφορίες που καταχωρίζονται βάσει του άρθρου 49 διαθέσιμες στο κοινό, εκτός από τα περιορισμένα τμήματα, ενώ οι πληροφορίες που καταχωρίζονται βάσει του άρθρου 60 είναι προσβάσιμες μόνο στις αρχές εποπτείας της αγοράς και στην Επιτροπή, εκτός εάν ο πάροχος συναινεί στη δημόσια πρόσβαση. Η δημοσιότητα είναι επομένως ένας κανόνας με εξαιρέσεις, όχι ένα καθολικό προεπιλεγμένο χαρακτηριστικό.

Το άρθρο 53 κάνει παρόμοια διάκριση για τα μοντέλα γενικής χρήσης. Οι πάροχοι πρέπει να διαθέτουν τεχνική τεκμηρίωση στο Γραφείο Τεχνητής Νοημοσύνης και στις αρμόδιες εθνικές αρχές κατόπιν αιτήματος και πρέπει να παρέχουν τεκμηρίωση κατάντη στους παρόχους ενσωμάτωσης. Οι υποχρεώσεις υπόκεινται ρητά στην ανάγκη τήρησης και προστασίας των δικαιωμάτων διανοητικής ιδιοκτησίας, των εμπιστευτικών επιχειρηματικών πληροφοριών και των εμπορικών απορρήτων. Ένα μητρώο δεν θα πρέπει να αναγκάζει έναν πάροχο να δημοσιεύει υλικό που ο νόμος λέει ότι θα πρέπει να ελέγχεται. Ούτε η εμπιστευτικότητα θα πρέπει να γίνεται μια ευγενική δικαιολογία για την απόκρυψη της ύπαρξης, του σκοπού ή της κατάστασης ενός συστήματος που επηρεάζει το κοινό.

Ένα πρακτικό μητρώο μοντέλων μπορεί να χρησιμοποιήσει επίπεδα. Το δημόσιο επίπεδο προσδιορίζει το μοντέλο, τον πάροχο, την κατάσταση, τον επιδιωκόμενο σκοπό, τις ευρείες δυνατότητες, τους γνωστούς περιορισμούς, τις οδούς πρόσβασης, τις προϋποθέσεις διάθεσης, τους συνδέσμους αποδεικτικών στοιχείων και το ιστορικό αλλαγών. Ένα ελεγχόμενο επίπεδο φέρει λεπτομερή τεχνική τεκμηρίωση, μοντέλα απειλών, περιορισμένο υλικό αξιολόγησης, λεπτομέρειες περιστατικών και άλλες πληροφορίες που χρειάζονται οι εξουσιοδοτημένοι αξιολογητές. Ένα ιδιωτικό επιχειρησιακό επίπεδο φέρει απόρρητα, προσωπικά δεδομένα και εσωτερικές πληροφορίες ελέγχου που δεν θα πρέπει να εκτίθενται καθόλου. Τα επίπεδα είναι διαφορετικά αρχεία με συνδέσμους, όχι μία σελίδα με ένα αναπτυσσόμενο τμήμα με την ένδειξη διαφάνεια.

Η καλή διαφάνεια έχει ένα όριο. Δημοσιεύει όσα χρειάζονται οι άνθρωποι για να κατανοήσουν το σύστημα και προστατεύει όσα πρέπει να ελέγχουν οι εξουσιοδοτημένοι αναθεωρητές.

Το δημόσιο επίπεδο θα πρέπει να παραμένει συγκεκριμένο. Μπορεί να αναφέρει ότι ένα μοντέλο προσαρμόζεται κατά τη χρήση χωρίς να αποκαλύπτει μια ιδιωτική αναπαράσταση κατάστασης. Μπορεί να δηλώνει ότι μια διαδρομή είναι μόνο με πρόσκληση χωρίς να δημοσιεύει διακριτικά πρόσκλησης. Μπορεί να περιγράφει τρόπους εξόδου και μια πολιτική σήμανσης περιεχομένου χωρίς να αποκαλύπτει κλειδιά υπογραφής. Μπορεί να αναφέρει ότι υπάρχει μια αξιολόγηση κινδύνου και να προσδιορίζει το πεδίο της χωρίς να δημοσιεύει ένα διάγραμμα ασφαλείας που θα διευκόλυνε την επίθεση στην υπηρεσία.

Το ελεγχόμενο επίπεδο χρειάζεται τη δική του ειλικρίνεια. Ένα έγγραφο που χαρακτηρίζεται εμπιστευτικό δεν είναι αυτόματα πλήρες, επικαιροποιημένο ή ορθό. Χρειάζεται έναν κάτοχο, μια έκδοση, έναν κανόνα πρόσβασης και έναν κανόνα διατήρησης. Αν ένα δημόσιο μητρώο συνδέεται με ένα ελεγχόμενο αρχείο, ο σύνδεσμος θα πρέπει να αποκαλύπτει την κατάσταση και την υπεύθυνη διαδρομή του, ακόμη και όταν το περιεχόμενο είναι περιορισμένο. Διαφορετικά, το κοινό βλέπει μια μαύρη τρύπα και καλείται να την αποκαλέσει διακυβέρνηση.

Η έκδοση είναι εκεί όπου ένα μητρώο γίνεται χρήσιμο

Οι περισσότερες αποτυχίες μητρώων δεν είναι δραματικές. Είναι μικρές πράξεις λήθης. Ένα νέο μοντέλο αντικαθιστά ένα παλιό, αλλά η εγγραφή επεξεργάζεται επιτόπου. Μια πολιτική αλλάζει, αλλά η παράγραφος για την προβλεπόμενη χρήση παραμένει. Ένας πάροχος μετακινεί μια διαδρομή από τις εσωτερικές δοκιμές σε μια εξωτερική έκδοση beta, αλλά το σήμα κατάστασης αλλάζει πριν καταγραφεί η ημερομηνία έναρξης ισχύος. Μια ανάπτυξη αποσύρεται, αλλά η παλιά εγγραφή εξαφανίζεται, παίρνοντας μαζί της το ιστορικό. Το παρόν φαίνεται τακτοποιημένο. Το παρελθόν καθίσταται αναπάντητο.

Μια εγγραφή με εκδόσεις διατηρεί τουλάχιστον τέσσερα ρολόγια ξεχωριστά. Η έκδοση περιεχομένου δηλώνει ποιο κείμενο και ποια πεδία της εγγραφής είναι τρέχοντα. Η ημερομηνία έναρξης ισχύος δηλώνει πότε ισχύει η δήλωση. Η έκδοση μοντέλου ή πακέτου δηλώνει ποιο τεχνικό αντικείμενο περιγράφεται. Η ημερομηνία επαλήθευσης δηλώνει πότε κάποιος έλεγξε την εγγραφή. Αυτές οι ημερομηνίες μπορούν να συμπίπτουν. Δεν χρειάζεται να συμπίπτουν. Το να τις αντιμετωπίζει κανείς ως μία ημερομηνία είναι βολικό και συχνά λάθος.

Οι προηγούμενες εκδόσεις θα πρέπει να παραμένουν εντοπίσιμες σύμφωνα με έναν κατάλληλο κανόνα διατήρησης. Το κοινό δεν χρειάζεται κάθε εσωτερική επεξεργασία, αλλά χρειάζεται να γνωρίζει πότε άλλαξε μια ουσιαστική δήλωση σκοπού, κατάστασης, διαδρομής, περιορισμού ή ιδιοκτησίας. Ένα αρχείο καταγραφής αλλαγών μπορεί να αναφέρει τι μετακινήθηκε χωρίς να αποκαλύπτει ιδιωτικές πληροφορίες. Μια αναγνώσιμη από μηχανή εγγραφή μπορεί να συνδέει την προηγούμενη έκδοση και ένα μανιφέστο. Μια σελίδα αναγνώσιμη από ανθρώπους μπορεί να εξηγεί τη συνέπεια σε απλή γλώσσα. Οι δύο επιφάνειες θα πρέπει να συμφωνούν.

Η έκδοση καθιστά επίσης ουσιαστική την απόσυρση. Αν ένα μοντέλο αποσύρεται επειδή μια διαδρομή έκλεισε, αυτό διαφέρει από μια ανάκληση επειδή ένα σοβαρό ελάττωμα ή νομικό ζήτημα απαιτεί δράση. Αν ένα μοντέλο παραμένει σε υπάρχουσες ιδιωτικές αναπτύξεις, το δημόσιο αρχείο θα πρέπει να το αναφέρει. Αν ένας διάδοχος είναι συμβατός μόνο για ορισμένες ενοποιήσεις, το όριο μετεγκατάστασης θα πρέπει να είναι ορατό. Ένα μητρώο που αφαιρεί ένα όνομα χωρίς να καταγράφει τον λόγο αφήνει κάθε μεταγενέστερο αναγνώστη να επινοήσει μια αιτία.

Το ιστορικό αλλαγών είναι ιδιαίτερα σημαντικό για προσαρμοστικά συστήματα. Η ταυτότητα του μοντέλου μπορεί να παραμένει σταθερή ενώ αλλάζουν οι καταγεγραμμένες καταστάσεις, τα σύνολα περιορισμών, οι πηγές ανάκτησης ή οι έλεγχοι εξόδου. Το μητρώο μπορεί να δηλώνει ποιες αλλαγές δημιουργούν ένα νέο πακέτο, ποιες αλλαγές απαιτούν νέα αξιολόγηση και ποιες αλλαγές παραμένουν εντός του δηλωμένου ορίου ταυτότητας. Αυτό δεν είναι υπερβολική λεπτομέρεια. Είναι η διαφορά μεταξύ ενός συστήματος που μπορεί να αναπαραχθεί και ενός συστήματος που μπορεί μόνο να θυμηθεί.

Οι κάτοχοι αποτελούν μέρος της εγγραφής

Μια εγγραφή στο μητρώο μοντέλων χωρίς υπεύθυνο είναι σαν δελτίο καιρού. Σου λέει πώς ήταν ο ουρανός, αλλά δεν έχεις κανέναν να καλέσεις όταν στάζει η στέγη. Οι ρόλοι του παρόχου και του αναπτύσσοντος δεν είναι οι ίδιοι, και κανένας από τους δύο δεν θα έπρεπε να επιτρέπεται να διαλυθεί μέσα στη λέξη πλατφόρμα.

Ο πάροχος κατέχει την ταυτότητα του μοντέλου, το ιστορικό ανάπτυξης και την απόφαση κυκλοφορίας εντός του πεδίου ευθύνης του. Ο αναπτύσσων κατέχει την απόφαση να χρησιμοποιήσει ένα σύστημα υπό την εξουσία του, συμπεριλαμβανομένου του τοπικού σκοπού, των διασφαλίσεων, της εκτίμησης επιπτώσεων και των επιχειρησιακών ελέγχων. Ένας μεταγενέστερος πάροχος μπορεί να ενσωματώσει ένα γενικής χρήσης μοντέλο σε ένα σύστημα τεχνητής νοημοσύνης και να φέρει ευθύνες που ο πάροχος του μοντέλου δεν μπορεί να δει. Ένα δημόσιο μητρώο θα πρέπει να αποκαλύπτει αυτές τις σχέσεις όπου ο νόμος και ο κίνδυνος το απαιτούν.

Τα στοιχεία επικοινωνίας δεν είναι διοικητικό συμπλήρωμα. Δίνουν στον ενδιαφερόμενο έναν δρόμο για να ρωτήσει ποιος πήρε μια απόφαση, ποια έκδοση χρησιμοποιήθηκε ή πώς μπορεί να ζητηθεί μια διόρθωση. Ένα γενικό γραμματοκιβώτιο μπορεί να είναι κατάλληλο, αλλά θα πρέπει να οδηγεί σε μια διαδικασία που συντηρείται. Η εγγραφή θα πρέπει επίσης να αναφέρει αν η επικοινωνία αφορά τεχνική υποστήριξη, αιτήματα δικαιωμάτων, αναφορά περιστατικών, προμήθειες ή δημόσια λογοδοσία. Ένα γραμματοκιβώτιο δεν μπορεί να είναι όλοι οι θεσμοί ταυτόχρονα, παρά τις καλύτερες προσπάθειες των σύγχρονων φορμών.

Η ιδιοκτησία θα πρέπει να περιλαμβάνει την εξουσία να αλλάζει κανείς την εγγραφή. Αν ο κατονομαζόμενος ιδιοκτήτης δεν μπορεί να αναστείλει μια διαδρομή, να διορθώσει μια κατάσταση ή να δημοσιεύσει μια απόσυρση, η εγγραφή είναι διακοσμητική. Ο οργανισμός μπορεί να έχει κάπου αλλού έναν νόμιμο ιδιοκτήτη, αλλά το επιχειρησιακό κενό παραμένει. Ένα καλό μητρώο κάνει την ευθύνη ορατή πριν ένα περιστατικό αναγκάσει τους ανθρώπους να σχεδιάσουν τον οργανισμό σε έναν πίνακα.

Σχεδιάζοντας ένα μητρώο που μπορεί κανείς πραγματικά να διαβάσει

Ο πρώτος αναγνώστης ενός μητρώου μοντέλων δεν είναι πάντα ρυθμιστής ή μηχανικός. Μπορεί να είναι δημοσιογράφος, υπεύθυνος προμηθειών, τοπικός αξιωματούχος, ερευνητής, εργαζόμενος που καλείται να χρησιμοποιήσει το σύστημα ή ένα άτομο που προσπαθεί να καταλάβει γιατί μια αυτοματοποιημένη υπηρεσία άγγιξε την υπόθεσή του. Η σελίδα θα πρέπει να απαντά στο κοινό ερώτημα πριν καταφύγει σε εξειδικευμένο λεξιλόγιο.

Ξεκινήστε με την ταυτότητα και τον λόγο της εγγραφής. Αναφέρετε ποιος παρέχει το μοντέλο, ποια έκδοση περιγράφεται, τι είδους αντικείμενο είναι και αν πρόκειται για μοντέλο, ενσωματωμένο σύστημα τεχνητής νοημοσύνης ή εγγραφή ανάπτυξης. Αναφέρετε αν είναι εσωτερικό, διαθέσιμο σε προσκεκλημένους χρήστες, στην αγορά, σε αναστολή ή αποσυρμένο. Ο αναγνώστης δεν θα πρέπει να χρειάζεται να συμπεράνει την κατάσταση από ένα κουμπί λήψης.

Στη συνέχεια, δείξτε τον σκοπό και το όριο. Αναφέρετε τι προορίζεται να κάνει το μοντέλο, ποιες χρήσεις είναι εκτός των ισχυρισμών και ποιες αποφάσεις δεν είναι εξουσιοδοτημένο να λαμβάνει. Εξηγήστε αν το μοντέλο μπορεί να προσαρμόζεται κατά τη χρήση, αν απαιτείται καταγεγραμμένη κατάσταση για αναπαραγωγή και αν μια μεταγενέστερη διαδρομή αλλάζει τις συνθήκες. Μια λίστα δυνατοτήτων χωρίς σκοπό είναι ένα μενού χωρίς κουζίνα.

Χρησιμοποιήστε σταδιακή αποκάλυψη. Η κορυφή της σελίδας θα πρέπει να είναι ήρεμη και ευανάγνωστη. Τα βαθύτερα τμήματα μπορούν να εκθέτουν το μηχανικό αρχείο, τις μεθόδους αξιολόγησης, τη σύνοψη του εκπαιδευτικού περιεχομένου, τα νομικά έγγραφα και τα στοιχεία κυκλοφορίας. Ένας γενικός αναγνώστης μπορεί να σταματήσει μετά το πρώτο επίπεδο. Ένας ελεγκτής μπορεί να συνεχίσει. Ένας μηχανικός μπορεί να κατεβάσει μια σταθερή αναπαράσταση. Το να κρύβεις τη λεπτομέρεια δεν είναι απλότητα. Είναι απλώς μια έκπληξη που φορτώνει αργά.

Η προσβασιμότητα είναι μέρος της αξιοπιστίας της εγγραφής. Η σελίδα και η μηχανική αναπαράσταση θα πρέπει να χρησιμοποιούν σαφείς ετικέτες, πλοήγηση με πληκτρολόγιο, χρήσιμες επικεφαλίδες και εναλλακτικό κείμενο για οπτικοποιήσεις. Οι ημερομηνίες δεν θα πρέπει να κωδικοποιούνται μόνο με χρώμα. Ένα κόκκινο σήμα δεν είναι κατάσταση για έναν αναγνώστη που δεν βλέπει το κόκκινο, και ένα γράφημα που δεν μπορεί να διαβαστεί χωρίς ποντίκι δεν είναι προσβάσιμη εξήγηση. Ένας πίνακας ανακοινώσεων στην πλατεία δεν γίνεται δημόσιος αν η ράμπα τελειώνει στο πρώτο σκαλί.

Η αναγνωσιμότητα από μηχανή έχει σημασία για έναν διαφορετικό λόγο. Επιτρέπει στους ερευνητές να συγκρίνουν καταχωρίσεις, στους δημόσιους φορείς να δημιουργούν απογραφές, στους ελεγκτές να εντοπίζουν παρωχημένες εγγραφές και σε ένα μεταγενέστερο εργαλείο να επαληθεύει ότι η σελίδα και η δομημένη εγγραφή αναφέρονται στην ίδια έκδοση. Το αναγνώσιμο από μηχανή δεν σημαίνει μόνο για μηχανές. Η ανθρώπινη σελίδα και η μηχανική εγγραφή θα πρέπει να μοιράζονται αναγνωριστικά, κατάσταση, ημερομηνίες και συνδέσμους, με μια σχέση ακεραιότητας που μπορεί να ελεγχθεί.

Τα πεδία του μητρώου είναι αποφάσεις

Κάθε πεδίο λέει στον αναγνώστη τι πιστεύει ο οργανισμός ότι αξίζει να διατηρηθεί. Ένα πεδίο παρόχου λέει ποιος βρίσκεται πίσω από το μοντέλο. Ένα όνομα και μια έκδοση μοντέλου λένε πώς να το διακρίνει κανείς από τον διάδοχό του. Ένα πεδίο διαδρομής λέει πού μπορεί να προσεγγιστεί. Ένα πεδίο επιδιωκόμενου σκοπού λέει ποια εργασία είναι διατεθειμένος να περιγράψει ο πάροχος. Ένα πεδίο περιορισμών λέει πού σταματά η περιγραφή. Το σχήμα είναι ένα έγγραφο διακυβέρνησης γραμμένο σε μικρά ορθογώνια.

Τα πεδία ταυτότητας θα πρέπει να είναι σαφή και σταθερά. Μπορούν να περιλαμβάνουν την επωνυμία του παρόχου, το όνομα του μοντέλου, την έκδοση, μια μοναδική αναφορά και συνδέσμους προς μια κανονική εγγραφή. Εάν το μοντέλο μπορεί να εξυπηρετηθεί μέσω πολλών προϊόντων, το μητρώο θα πρέπει να διακρίνει την ταυτότητα του μοντέλου από την επιφάνεια ενσωμάτωσης. Εάν ένα προϊόν περιέχει πολλά μοντέλα, η καταχώριση δεν θα πρέπει να κρύβει αυτό το γεγονός πίσω από το όνομα του προϊόντος.

Τα πεδία κατάστασης θα πρέπει να περιλαμβάνουν την τιμή, την ημερομηνία έναρξης ισχύος, τον λόγο ή την αρχή για τη μετάβαση και οποιονδήποτε διάδοχο ή προκάτοχο. Μια ημερομηνία που είναι απλώς προγραμματισμένη θα πρέπει να χαρακτηρίζεται ως προγραμματισμένη. Μια εγγραφή που δεν έχει επαληθευτεί πρόσφατα θα πρέπει να το αναφέρει. Ο αναγνώστης θα πρέπει να μπορεί να καταλάβει αν ένα μοντέλο είναι διαθέσιμο, προτεινόμενο, σε παύση ή ιστορικό, χωρίς να ερμηνεύει ένα επίθετο που επινόησε μια ομάδα μάρκετινγκ.

Τα πεδία σκοπού και εμβέλειας θα πρέπει να περιγράφουν την εργασία με όρους που μπορεί να κατανοήσει ένας μη ειδικός. Θα πρέπει να αναφέρουν τους επιδιωκόμενους χρήστες όπου αυτό έχει σημασία, τα είδη εισόδων και εξόδων που εμπλέκονται και τις αποφάσεις ή τις ενέργειες που μπορεί να υποστηρίξει το μοντέλο. Θα πρέπει επίσης να αναφέρουν τις απαγορευμένες ή μη υποστηριζόμενες χρήσεις. Ένα μοντέλο που μπορεί να δημιουργήσει κείμενο δεν είναι αυτομάτως εξουσιοδοτημένο να συντάσσει μια απόφαση επιλεξιμότητας, και ένα μοντέλο που μπορεί να ταξινομήσει έγγραφα δεν είναι αυτομάτως εξουσιοδοτημένο να ταξινομεί ανθρώπους.

Τα πεδία δυνατοτήτων χρειάζονται προϋποθέσεις. Οι τρόποι λειτουργίας, τα όρια περιβάλλοντος, η πρόσβαση σε εργαλεία, η γλωσσική κάλυψη, η συμπεριφορά προσαρμογής και η σήμανση εξόδων έχουν νόημα μόνο όταν συνδέονται με μια διαδρομή και μια έκδοση. Μια δυνατότητα που υπάρχει σε ένα εσωτερικό πείραμα αλλά όχι στην εξωτερική διαδρομή δεν θα πρέπει να παρουσιάζεται ως ένα καθολικό χαρακτηριστικό. Το μητρώο δεν είναι μια λίστα επιθυμιών.

Τα πεδία δεδομένων θα πρέπει να αναφέρουν τι λαμβάνει το μοντέλο, τι αποθηκεύει, τι μαθαίνει κατά τη χρήση και τι χρησιμοποιείται για αξιολόγηση, στο επίπεδο που μπορεί να δημοσιοποιηθεί χωρίς να εκτίθενται προσωπικά ή εμπιστευτικά στοιχεία. Οι περιλήψεις περιεχομένου εκπαίδευσης και οι πολιτικές δικαιωμάτων θα πρέπει να συνδέονται όπου απαιτείται. Μια αόριστη πρόταση όπως «εκπαιδευμένο σε ποικίλα δεδομένα» λέει σχεδόν τίποτα στον αναγνώστη και του ζητά να προσφέρει μια κολακευτική ερμηνεία.

Τα πεδία αξιολόγησης θα πρέπει να προσδιορίζουν το ερώτημα, τη μέθοδο, τα όρια δεδομένων, την ημερομηνία, το αποτέλεσμα και τους περιορισμούς. Η καταχώριση δεν χρειάζεται να αναπαράγει κάθε πίνακα, αλλά δεν θα πρέπει να εμφανίζει μια βαθμολογία χωρίς παρονομαστή ή ένα τεστ χωρίς σκοπό. Ένας καλός σύνδεσμος αξιολόγησης επιτρέπει στον αναγνώστη να δει αν τα στοιχεία καλύπτουν την επιδιωκόμενη χρήση, μια γειτονική χρήση ή μόνο μια εργαστηριακή συνθήκη.

Τα πεδία εποπτείας θα πρέπει να προσδιορίζουν ποιος μπορεί να θέσει σε παύση, να παρακάμψει, να εξετάσει και να διερευνήσει το σύστημα. Εάν ένα μοντέλο μόνο προτείνει, να αναφέρεται ποια ενέργεια παραμένει στον άνθρωπο. Εάν μια διαδρομή μπορεί να ενεργήσει σε εξωτερικά συστήματα, να αναφέρονται ποιες άδειες και πύλες ισχύουν. Εάν η αναφορά περιστατικών έχει αποκλειστική διαδρομή, να δημοσιεύεται. Η εποπτεία δεν είναι μια παράγραφος για το να παραμένουν οι άνθρωποι στον κύκλο. Είναι ένας χάρτης του ποιος μπορεί να κάνει τι όταν το σύστημα είναι αβέβαιο.

Τα πεδία αποδεικτικών στοιχείων και ακεραιότητας θα πρέπει να συνδέουν τη δημόσια εγγραφή με μια έκδοση μηχαναγνώσιμου αρχείου, ένα πακέτο έκδοσης, μια δήλωση, ένα πακέτο αξιολόγησης ή ένα αρχείο καταγραφής διαφάνειας. Ένας κατακερματισμός μπορεί να αποδείξει ότι ένα αρχείο άλλαξε ή δεν άλλαξε. Δεν μπορεί να αποδείξει ότι το αρχείο ήταν ακριβές, επομένως το μητρώο θα πρέπει να κρατά χωριστά τον ισχυρισμό και τον έλεγχο ακεραιότητας. Η τεχνική ακρίβεια δεν υποκαθιστά την κρίση, αλλά διευκολύνει τον εντοπισμό της.

Τέλος, τα πεδία αλλαγών θα πρέπει να εξηγούν το ιστορικό. Τι άλλαξε, πότε, γιατί, ποιος το ενέκρινε, ποιες διαδρομές επηρεάζονται και αν χρειάζεται νέα αξιολόγηση. Η εγγραφή θα πρέπει να καθιστά δυνατή την απάντηση στην πιο συνηθισμένη ερώτηση στην αίθουσα: τι διαφέρει από την εγγραφή που διαβάσαμε τον περασμένο μήνα;

Τι μπορεί να αποδείξει ένα μητρώο

Ένα καλά συντηρημένο μητρώο μπορεί να αποδείξει ότι ένα καθορισμένο αντικείμενο περιγράφεται από έναν επώνυμο πάροχο υπό μια συγκεκριμένη έκδοση εγγραφής. Μπορεί να αποδείξει τον δηλωμένο σκοπό, την κατάσταση, τη διαδρομή πρόσβασης και την ιδιοκτησία. Μπορεί να αποδείξει ποια υποστηρικτικά έγγραφα και αρχεία ακεραιότητας μπορεί να επιθεωρήσει ένας αναγνώστης και ποιες πληροφορίες ελέγχονται σκόπιμα. Μπορεί να αποδείξει ότι μια αλλαγή δημοσιεύτηκε και ότι μια προηγούμενη εγγραφή παραμένει διαθέσιμη σύμφωνα με τον δηλωμένο κανόνα διατήρησης.

Μπορεί επίσης να αποδείξει τη θέση του ίδιου του οργανισμού. Αν ένας πάροχος δηλώνει ότι ένα μοντέλο προορίζεται για υποστήριξη αποφάσεων και όχι για αυτόματη απόρριψη, η δήλωση αποτελεί δημόσιο όριο. Αν ένας αναπτύσσων δηλώνει ότι ολοκληρώθηκε μια εκτίμηση επιπτώσεων, η δήλωση δημιουργεί το ερώτημα πού μπορεί να βρεθεί η σύνοψη ή το ελεγχόμενο αρχείο. Αν ένας πάροχος χαρακτηρίζει μια έκδοση ως προγραμματισμένη, η ένδειξη εμποδίζει το σχέδιο να παρουσιαστεί ως ιστορικό γεγονός.

Αυτά είναι χρήσιμα στοιχεία. Καθιστούν τις προμήθειες πιο ακριβείς, την ενοποίηση λιγότερο εικαστική και τις δημόσιες ερωτήσεις πιο εύκολο να δρομολογηθούν. Κάνουν επίσης τη διαφωνία πιο ευκρινή. Ένας αναγνώστης μπορεί να πει ότι ο δηλωμένος σκοπός είναι υπερβολικά ευρύς, η κατάσταση είναι παρωχημένη, λείπει ο περιορισμός ή τα υποστηρικτικά στοιχεία δεν καλύπτουν τον ισχυρισμό. Ένα μητρώο δικαιώνει την ύπαρξή του όταν καθιστά δυνατή αυτή την κριτική.

Τι δεν μπορεί να αποδείξει ένα μητρώο

Μια εγγραφή μητρώου δεν μπορεί να αποδείξει ότι ένα μοντέλο είναι ακριβές για κάθε χρήστη, ασφαλές σε κάθε περιβάλλον, δίκαιο για κάθε ομάδα ή νόμιμο για κάθε ανάπτυξη. Δεν μπορεί να αποδείξει ότι μια δημόσια αρχή ακολούθησε τη σωστή διαδικασία απλώς επειδή ένα σύστημα είναι καταχωρισμένο. Δεν μπορεί να δείξει ότι ένας ανθρώπινος αναθεωρητής κατανόησε ένα αποτέλεσμα, ότι ένα υποκείμενο δεδομένων είχε ουσιαστική προσφυγή ή ότι ένα περιστατικό θα εντοπιζόταν έγκαιρα. Αυτά τα συμπεράσματα απαιτούν αποδεικτικά στοιχεία για το σύστημα σε χρήση, τον θεσμό που το χρησιμοποιεί και τους ανθρώπους που επηρεάζονται από αυτό.

Επίσης, δεν μπορεί να αποδείξει ότι ένα μοντέλο είναι ανεξάρτητο από τον προμηθευτή του, ότι μια διαδρομή είναι κυρίαρχη επειδή φιλοξενείται στην Ευρώπη ή ότι μια ανοιχτή άδεια εξαφανίζει την ευθύνη. Η ιδιοκτησία, η δικαιοδοσία, η αλυσίδα εφοδιασμού, ο επιχειρησιακός έλεγχος και η συντήρηση είναι ξεχωριστά ζητήματα. Ένα μητρώο μπορεί να αποκαλύψει τα ονόματα και τους συνδέσμους που απαιτούνται για να τεθούν αυτά τα ερωτήματα. Δεν μπορεί να τα απαντήσει με τυπογραφία.

Ούτε μπορεί ένα μητρώο να αποδείξει το αρνητικό. Μια απουσία εγγραφής μπορεί να σημαίνει ότι το αντικείμενο είναι εκτός πεδίου, ότι ισχύει μια εξαίρεση, ότι η δημοσίευση καθυστερεί ή ότι κάποιος παρέλειψε να δημοσιεύσει. Ο αναγνώστης χρειάζεται μια σαφή δήλωση κάλυψης και μια διαδρομή για να αναφέρει σφάλματα. Ένας δημόσιος πίνακας ανακοινώσεων είναι τόσο αξιόπιστος όσο και η διαδικασία που αντιλαμβάνεται πότε λείπει μια ανακοίνωση.

Ένα υποδειγματικό αρχείο, όχι μια κρυφή μελέτη περίπτωσης

Ακολουθεί ένα υποδειγματικό σχέδιο εγγραφής, όχι μια αναφορά για έναν πραγματικό οργανισμό, μοντέλο ή γεγονός. Δεν χρησιμοποιεί κανέναν πελάτη, δημόσια αρχή, ημερομηνία ανάπτυξης ή μετρημένο αποτέλεσμα. Σκοπός του είναι να δείξει πώς ένας αναγνώστης μπορεί να μεταβεί από μια δημόσια εγγραφή σε μια ελεγχόμενη διαδρομή αποδεικτικών στοιχείων χωρίς να συγχέει τα δύο επίπεδα.

  • Ταυτότητα: όνομα παρόχου, όνομα μοντέλου, έκδοση και σταθερό αναγνωριστικό μηχανήματος.
  • Κατάσταση: ελεγχόμενη αξιολόγηση, με ημερομηνία έναρξης ισχύος και σημείωση ότι δεν υπάρχει ανοιχτή εξωτερική οδός.
  • Σκοπός: υποστήριξη στην ανάλυση εγγράφων για εκπαιδευμένο προσωπικό, με αυτόματες εξωτερικές αποφάσεις εκτός του δηλωμένου πεδίου εφαρμογής.
  • Είσοδοι και έξοδοι: οι αναπαριστώμενες μορφές, τα είδη του αναμενόμενου υλικού πηγής και οι τύποι εξόδου που μπορεί να παράγει η οδός.
  • Όρια: γνωστά όρια γλώσσας, τομέα, επικαιρότητας, ασφάλειας και πρόσβασης, καθένα συνδεδεμένο με τη σχετική αξιολόγηση ή πολιτική.
  • Εποπτεία: ο ρόλος που μπορεί να θέσει σε παύση την οδό, η διαδικασία επανεξέτασης για αβέβαια αποτελέσματα και η επαφή για περιστατικά.
  • Τεκμήρια: δημόσια σύνοψη, τεχνικό αρχείο με έκδοση για εξουσιοδοτημένους αναθεωρητές και δήλωση ακεραιότητας για τα δημοσιευμένα αρχεία.
  • Αλλαγή: σύνδεσμος προς το προηγούμενο αρχείο, δήλωση του τι άλλαξε και η προϋπόθεση που θα απαιτούσε νέα αξιολόγηση.

Τίποτα σε αυτό το αρχείο δεν λέει ότι το μοντέλο είναι καλό. Λέει τι είναι διατεθειμένος να ισχυριστεί ο πάροχος, πού ισχύει ο ισχυρισμός και πώς μπορεί κάποιος άλλος να τον δοκιμάσει ή να τον αμφισβητήσει. Αυτό αρκεί για έναν πίνακα ανακοινώσεων. Αρκεί επίσης για να αποτραπεί μεγάλο μέρος της γλώσσας των διαφημιστικών φυλλαδίων από το να εισχωρήσει απαρατήρητο σε μια νομική ή επιχειρησιακή απόφαση.

Γιατί η προ-έκδοση κατάσταση αξίζει σεβασμό

Η προ-έκδοση δεν είναι μια ασθενέστερη εκδοχή της δημόσιας διάθεσης. Είναι μια διαφορετική κατάσταση. Οι εσωτερικές δοκιμές μπορούν να υποστηρίξουν το έργο μηχανικής και ασφάλειας, διατηρώντας παράλληλα ελεγχόμενη την πρόσβαση. Μια προσκεκλημένη beta μπορεί να εκθέσει μια οδό σε εξωτερικούς χρήστες, διατηρώντας παράλληλα τις προϋποθέσεις, το πεδίο εφαρμογής και το δικαίωμα διακοπής. Μια δημόσια κυκλοφορία αλλάζει ποιος μπορεί να βασιστεί στο σύστημα και ποιες υποχρεώσεις βαρύνουν τον πάροχο, τους ενσωματωτές και τους αναπτυχτές. Το μητρώο θα πρέπει να καθιστά αυτές τις μεταβάσεις ορατές, αντί να αντιμετωπίζει την κυκλοφορία ως ένα μοναδικό σήμα σάλπιγγας.

Ένα αρχείο προ-έκδοσης μπορεί να είναι ακόμα χρήσιμο στο κοινό. Μπορεί να προσδιορίσει το μοντέλο, τον πάροχο, την προβλεπόμενη οδό, την κατάσταση, τα τεκμήρια που υπάρχουν και τα τεκμήρια που εκκρεμούν ακόμα. Μπορεί να αναφέρει ότι έχει προγραμματιστεί μια ημερομηνία και ότι η πρόσβαση δεν έχει ανοίξει. Μπορεί να δημοσιεύσει την πύλη κυκλοφορίας χωρίς να προσποιείται ότι η πύλη έχει περάσει. Αυτό είναι ένα ιδιαίτερα καλό σημείο για ένα μητρώο να είναι βαρετό. Η βαρετή κατάσταση είναι ασφαλέστερη από τη συναρπαστική ασάφεια.

Στη Dweve, προσπαθούμε να εφαρμόζουμε αυτή την πειθαρχία στο δικό μας δημόσιο αρχείο. Στο Trust Centre μας, το μητρώο μοντέλων επισημαίνεται ως προ-έκδοση και καταγράφει το Dweve Loom 1.0 ως εσωτερική δοκιμή προ-έκδοσης μόνο από την 1η Αυγούστου 2026. Καταγράφει ότι δεν έχει πραγματοποιηθεί εξωτερική κυκλοφορία έως εκείνη την ημερομηνία και αναφέρει την 1η Σεπτεμβρίου 2026 ως προγραμματισμένη ημερομηνία πρόσβασης στην αγορά της Ένωσης για μια εξωτερική beta με πρόσκληση. Το «προγραμματισμένη» είναι η σημαντική λέξη: η καταχώριση δεν μετατρέπει ένα σχέδιο σε γεγονός.

Το δημόσιο αρχείο μας διευκρινίζει επίσης ότι το Loom είναι το μόνο μοντέλο που αναφέρεται εκεί, ότι είναι ιδιόκτητο και όχι διαθέσιμο υπό άδεια μοντέλου ανοιχτού κώδικα, και ότι τα προϊόντα μας και τα ξεχωριστά αδειοδοτημένα εργαλεία ανοιχτού κώδικα δεν παρουσιάζονται ως πρόσθετα μοντέλα. Αυτό το όριο αποτρέπει τον κατάλογο προϊόντων από το να εκληφθεί ως μητρώο μοντέλων. Διατηρεί επίσης τον δημόσιο ισχυρισμό αρκετά μικρό ώστε να μπορεί να ελεγχθεί.

Αυτό είναι το μόνο που χρειάζεται να πούμε για τη Dweve εδώ. Ένα μητρώο μοντέλων είναι χρήσιμο όταν καθιστά τη δική μας κατάσταση κυκλοφορίας λιγότερο κολακευτική αλλά πιο ακριβή. Θα πρέπει να κάνει το ίδιο για οποιονδήποτε άλλον.

Το όριο δημόσιου-ιδιωτικού είναι απόφαση σχεδιασμού

Το ισχυρότερο μητρώο δεν είναι αυτό με τα περισσότερα πεδία. Είναι αυτό του οποίου τα πεδία έχουν λόγο ύπαρξης, υπεύθυνο και όριο. Οι δημόσιοι αναγνώστες χρειάζονται σταθερή ταυτότητα, δηλωμένο σκοπό, αληθή κατάσταση, υπόλογο οργανισμό, λειτουργικούς συνδέσμους και αρκετούς περιορισμούς για να κατανοήσουν τον ισχυρισμό. Οι εξουσιοδοτημένοι αξιολογητές χρειάζονται βαθύτερα στοιχεία, ελεγχόμενες τεχνικές λεπτομέρειες και μια διαδρομή για να εξετάσουν περιστατικά ή ευαίσθητες δοκιμές. Οι χειριστές χρειάζονται μυστικά, δικαιώματα και εγχειρίδια λειτουργίας που δεν θα έπρεπε να βρίσκονται στον πίνακα ανακοινώσεων.

Αυτά τα επίπεδα θα πρέπει να συμφωνούν ως προς τα γεγονότα που διασχίζουν το όριο. Αν η δημόσια σελίδα λέει ότι μια διαδρομή έχει τεθεί σε παύση, το ελεγχόμενο αρχείο θα πρέπει να λέει ποιος την έθεσε σε παύση και γιατί. Αν ένα τεχνικό αρχείο έχει αντικατασταθεί, η δημόσια καταχώριση δεν θα πρέπει να συνεχίζει να το συνδέει ως τρέχον. Αν μια αξιολόγηση είναι περιορισμένη, η δημόσια σελίδα θα πρέπει να αναφέρει παρόλα αυτά το πεδίο εφαρμογής και την κατάστασή της. Το όριο θα πρέπει να περιορίζει την πρόσβαση στη λεπτομέρεια, όχι να δημιουργεί τρεις ασύμβατες εκδοχές της πραγματικότητας.

Οι αναγνώστες θα πρέπει να μπορούν να κάνουν πέντε απλές ερωτήσεις και να λαμβάνουν πέντε σταθερές απαντήσεις. Τι είναι αυτό το αντικείμενο; Ποιος είναι υπεύθυνος για αυτό; Τι επιτρέπεται να κάνει; Ποια είναι η τρέχουσα κατάστασή του; Ποια στοιχεία και ποιες διορθωτικές ενέργειες υπάρχουν όταν αμφισβητείται ο ισχυρισμός; Ένα μητρώο που απαντά σε αυτές τις ερωτήσεις κάνει ήδη θεσμικό έργο. Ένα μητρώο που δεν μπορεί να τις απαντήσει δεν θα πρέπει να διασώζεται με κινούμενα σήματα ή έναν πίνακα ελέγχου με δώδεκα φίλτρα.

Υπάρχει ένας αισιόδοξος τρόπος να διαβάσει κανείς την ευρωπαϊκή κίνηση προς τα μητρώα μοντέλων και αλγορίθμων. Δεν είναι ότι μια βάση δεδομένων θα λύσει τη διακυβέρνηση της τεχνητής νοημοσύνης. Είναι ότι οι δημόσιοι θεσμοί χτίζουν χώρους όπου οι ισχυρισμοί έχουν ονόματα, ημερομηνίες, υπεύθυνους και όρια. Αυτά είναι τα μικρά δομικά στοιχεία από τα οποία χτίζονται μεγαλύτερα συστήματα λογοδοσίας.

Ο πίνακας ανακοινώσεων πρέπει να επιβιώνει στις αλλαγές

Ένα μητρώο μοντέλων είναι ο νέος δημόσιος πίνακας ανακοινώσεων μόνο αν οι ανακοινώσεις παραμένουν ευανάγνωστες όταν αλλάζουν οι συνθήκες. Η σελίδα πρέπει να επιβιώνει από μια ενημέρωση μοντέλου, μια αλλαγή προμηθευτή, μια νέα ανάπτυξη, ένα διορθωμένο περιορισμό, μια αποσυρθείσα διαδρομή και μια δύσκολη ερώτηση από κάποιον που δεν ήταν στην αίθουσα. Αυτό σημαίνει διατήρηση του ιστορικού, επισήμανση των σχεδίων, σύνδεση των στοιχείων και αναφορά του τι δεν μπορεί να αποδείξει το αρχείο.

Η δουλειά είναι λιγότερο εντυπωσιακή από μια σελίδα παρουσίασης. Είναι όμως και πιο ανθεκτική. Ένα δημόσιο αρχείο που διακρίνει την ταυτότητα του μοντέλου από την κατάσταση ανάπτυξης, την κατάσταση από την πρόθεση, την τεκμηρίωση από την απόδειξη και τα δημόσια γεγονότα από τα ελεγχόμενα στοιχεία δίνει στους ανθρώπους κάτι καλύτερο από καθησυχασμό. Τους δίνει μια διαδρομή μέσα στο σύστημα.

Τα καλά μητρώα δεν ζητούν από τους αναγνώστες να εμπιστευτούν ένα χρώμα, έναν αριθμό ή ένα διάσημο όνομα. Κάνουν τον ισχυρισμό αρκετά στενό για να εξεταστεί και το όριο αρκετά σαφές για να αμφισβητηθεί. Αφήνουν ένα ίχνος προς τους ανθρώπους που μπορούν να απαντήσουν, τα αρχεία που μπορούν να ελεγχθούν και την απόφαση που μπορεί να αλλάξει. Αυτή είναι μια πολύ παλιά πολιτειακή ιδέα, με μια αρκετά σύγχρονη μορφή αρχείου.

Βάλτε την ανακοίνωση στον πίνακα. Βάλτε τα στοιχεία πίσω της. Κρατήστε την παλιά ανακοίνωση εκεί όπου κάποιος μπορεί ακόμα να τη διαβάσει. Έπειτα αφήστε το κοινό να αποφασίσει τι αξίζει το αρχείο.

Πηγές