Μια δημόσια υπηρεσία δεν μπορεί να αναθέτει την κρίση της σε τρίτους.

Ένας προμηθευτής μπορεί να παρέχει λογισμικό, αποδεικτικά στοιχεία και γνώμη. Δεν μπορεί να γίνει ο δημόσιος φορέας που κατέχει τον σκοπό, την εξουσία, τους...

Μια δημόσια υπηρεσία δεν μπορεί να αναθέτει την κρίση της σε τρίτους.

Η σύμβαση δεν είναι η απόφαση

Ένας δημόσιος φορέας μπορεί να αγοράσει λογισμικό. Μπορεί να αγοράσει φιλοξενία, ανάλυση, μια σύσταση, μια ροή εργασίας, μια μετάφραση, μια κατάταξη ή μια έκθεση. Αυτό που δεν μπορεί να αγοράσει είναι να απαλλαγεί από το να είναι ο δημόσιος φορέας που ενεργεί. Η σύμβαση μπορεί να αναθέτει εργασία σε έναν προμηθευτή, αλλά δεν μεταβιβάζει τον δημόσιο σκοπό του θεσμού, τη νομική του εξουσία, την υποχρέωση αιτιολόγησης ή την υποχρέωση παροχής ένδικης προστασίας. Αυτά ακολουθούν την απόφαση, όχι το τιμολόγιο.

Αυτό ακούγεται προφανές μέχρι η γλώσσα των προμηθειών να μετατρέψει μια κρίση σε παραδοτέο. Μια πρόσκληση ζητά μια βαθμολογία κινδύνου. Ένας προμηθευτής παρέχει μια βαθμολογία κινδύνου. Μια σύμβαση χαρακτηρίζει το αποτέλεσμα συμβουλευτικό. Μια υπηρεσία αλλάζει σιωπηλά την ουρά της, την προσοχή της ή το όριό της επειδή η βαθμολογία είναι βολική. Όταν πλέον επηρεάζεται ένα άτομο, όλοι μπορούν να δείξουν ένα διαφορετικό έγγραφο. Ο προμηθευτής δείχνει τις προδιαγραφές. Η ομάδα προμηθειών δείχνει την ανάθεση. Ο χειριστής δείχνει την οθόνη. Ο θεσμός δείχνει τη σύμβαση. Το άτομο που χρειάζεται μια απάντηση μένει με έναν κύκλο δακτύλων που δείχνουν και κανένα χέρι υπόλογο.

Η δημόσια εργασία πάντα περιλάμβανε ανάθεση αρμοδιοτήτων. Ένας δήμος μπορεί να αναθέσει μια επιθεώρηση, ένα υπουργείο μπορεί να αγοράσει ένα σύστημα διαχείρισης υποθέσεων και ένα νοσοκομείο μπορεί να προμηθευτεί μια υπηρεσία προγραμματισμού. Η ανάθεση δεν είναι το πρόβλημα. Το πρόβλημα αρχίζει όταν επιτρέπεται στο ανατιθέμενο μέρος να φέρει μια απόφαση χωρίς την εξουσία, τα αποδεικτικά στοιχεία και την επανεξέταση που καθιστούν την απόφαση θεμιτή. Ένα εργαλείο μπορεί να είναι εξαιρετικό σε μία εργασία και παρόλα αυτά να είναι το λάθος μέρος για να τοποθετηθεί μια δημόσια κρίση. Οι προμήθειες πρέπει να διατηρήσουν αυτή τη διάκριση προτού το λεξιλόγιο ενός προμηθευτή γίνει το επιχειρησιακό μοντέλο του οργανισμού.

Η ευρωπαϊκή παράδοση των δημοσίων συμβάσεων περιέχει ήδη το σωστό ένστικτο. Οι αναθέτουσες αρχές πρέπει να ενεργούν με διαφάνεια, αναλογικότητα, χωρίς διακρίσεις και χωρίς να περιορίζουν τεχνητά τον ανταγωνισμό. Αυτός δεν είναι μόνο ένας δίκαιος τρόπος διεξαγωγής ενός διαγωνισμού. Είναι μια υπενθύμιση ότι η αρχή παραμένει ορατή μέσα στην αγορά. Ο δημόσιος φορέας επιλέγει έναν σκοπό, ορίζει μια ανάγκη, θέτει τους όρους και αποδέχεται τις συνέπειες. Ένα έξυπνο σύστημα δεν κάνει αυτές τις επιλογές να εξαφανιστούν. Απλώς τους δίνει μια πιο ακριβή διεπαφή.

Η κρίση δεν είναι το ίδιο με το αποτέλεσμα

Τα τεχνικά συστήματα παράγουν αποτελέσματα. Οι δημόσιοι θεσμοί λαμβάνουν αποφάσεις. Τα δύο μπορούν να συνυπάρχουν, αλλά δεν είναι εναλλάξιμα. Ένας ταξινομητής μπορεί να αποδώσει μια κατηγορία. Ένα σύστημα αναζήτησης μπορεί να ανακτήσει έγγραφα. Ένα γλωσσικό μοντέλο μπορεί να συντάξει μια επιστολή. Ένας βελτιστοποιητής μπορεί να βρει μια διαδρομή μέσα από περιορισμούς. Κανένα από αυτά τα ρήματα, από μόνο του, δεν περιέχει το νομικό ή πολιτειακό ερώτημα του τι πρέπει να συμβεί σε ένα άτομο.

Η κρίση εισέρχεται όταν ένας θεσμός αποφασίζει ότι ένα αποτέλεσμα είναι σχετικό, επαρκές και εξουσιοδοτημένο για μια συγκεκριμένη ενέργεια. Εισέρχεται όταν σταθμίζονται ανταγωνιστικά συμφέροντα, όταν εξετάζεται μια εξαίρεση, όταν ένας κανόνας ερμηνεύεται στο πλαίσιό του, όταν ακούγεται ένα άτομο, όταν γίνεται αποδεκτή μια καθυστέρηση, όταν διορθώνεται ένα σφάλμα και όταν δίνεται μια αιτιολογία. Ένα μοντέλο μπορεί να συνεισφέρει πληροφορίες σε αυτές τις στιγμές. Δεν αποκτά δημόσια εξουσία επειδή είναι ακριβές, γρήγορο ή παρουσιάζεται με αυτοπεποίθηση.

Η διάκριση έχει σημασία επειδή οι προμήθειες συχνά περιγράφουν τα συστήματα με γλώσσα ικανοτήτων. Ο προμηθευτής θα εντοπίσει, θα αξιολογήσει, θα ιεραρχήσει, θα συστήσει ή θα αυτοματοποιήσει. Η γλώσσα ικανοτήτων είναι χρήσιμη για την εύρεση αγοράς. Δεν αρκεί για την ανάθεση ευθύνης. Η πρόσκληση πρέπει να αναφέρει ποιος ανθρώπινος ή θεσμικός ρόλος μετατρέπει την ικανότητα σε ενέργεια, ποια αποδεικτικά στοιχεία πρέπει να εξετάσει αυτός ο ρόλος, ποιες ενέργειες απαγορεύονται και πώς το επηρεαζόμενο άτομο μπορεί να προσβάλει το αποτέλεσμα.

Η μετάφραση αυτή από δυνατότητα σε αρμοδιότητα είναι η πρώτη ουσιαστική πράξη προμήθειας. Χωρίς αυτήν, ο αγοραστής δεν αγοράζει μια οριοθετημένη υπηρεσία. Αγοράζει ένα κενό στη δική του περιγραφή ευθύνης. Τα κενά είναι εύκολο να αγνοηθούν όσο ένα έργο γιορτάζεται. Γίνονται εκπληκτικά απτά όταν κάποιος ρωτήσει γιατί λήφθηκε μια απόφαση.

Ξεκινήστε από τον δημόσιο σκοπό

Μια υπεύθυνη προμήθεια ξεκινά από τον δημόσιο σκοπό, όχι από μια κατηγορία μοντέλου. Το ερώτημα δεν είναι αν μια αρχή μπορεί να αγοράσει ένα σύστημα τεχνητής νοημοσύνης. Το ερώτημα είναι ποιο δημόσιο έργο χρειάζεται υποστήριξη, ποιο αποτέλεσμα καλείται να επιτύχει το έργο, ποιοι επηρεάζονται και τι θα θεωρούνταν αποτυχία. Ένας στενός σκοπός καθιστά δυνατές τις μεταγενέστερες επιλογές. Ένα σύνθημα όπως «βελτίωση της αποδοτικότητας» αφήνει κάθε σημαντική απόφαση για αργότερα, συνήθως μέσα σε μια επίδειξη προμηθευτή.

Ο σκοπός θα πρέπει να διατυπώνεται στη γλώσσα της υπηρεσίας. Μια ομάδα μπορεί να χρειαστεί να εντοπίσει πληροφορίες που λείπουν από ένα αρχείο, να δρομολογήσει αιτήματα στον κατάλληλο ειδικό, να μεταφράσει μια δημόσια ανακοίνωση, να συντάξει μια εσωτερική σύνοψη ή να εντοπίσει υποθέσεις που χρήζουν προσοχής. Πρόκειται για διαφορετικά έργα με διαφορετικές συνέπειες. Ένα σχέδιο μπορεί να απορριφθεί. Μια δρομολόγηση μπορεί να καθυστερήσει ένα άτομο. Μια μετάφραση μπορεί να αλλάξει την πρόσβαση. Μια ιεράρχηση μπορεί να αλλάξει ποιος λαμβάνει τον περιορισμένο χρόνο. Μία λέξη, «αυτοματοποίηση», κρύβει μια ολόκληρη γεωγραφία δημόσιας εξουσίας.

Η δήλωση σκοπού θα πρέπει επίσης να αναφέρει τι δεν επιτρέπεται να κάνει το σύστημα. Μπορεί να υποβοηθά έναν χειριστή υπόθεσης αλλά όχι να καθορίζει την επιλεξιμότητα. Μπορεί να προτείνει μια σειρά αναμονής αλλά όχι να αφαιρεί ένα άτομο από την υπηρεσία. Μπορεί να αναδεικνύει έγγραφα αλλά όχι να αποφασίζει ποια αποδεικτικά στοιχεία είναι νομικά σχετικά. Μπορεί να προετοιμάζει μια επικοινωνία αλλά όχι να την αποστέλλει χωρίς την ονομαστική έγκριση. Ο αρνητικός χώρος δεν είναι πολυτέλεια στη σύνταξη. Είναι ο τρόπος με τον οποίο ένα όριο επιβιώνει μια πολυάσχολη Τρίτη.

Υπάρχει ένας πρακτικός λόγος να είμαστε αυστηροί εδώ. Η χρήση ενός συστήματος επεκτείνεται μέσω της ευκολίας. Μόλις ένα εργαλείο είναι διαθέσιμο, η επόμενη ομάδα ρωτά αν μπορεί να διαχειριστεί μια γειτονική εργασία. Ο αρχικός σκοπός ακούγεται αρκετά κοντινός. Προστίθεται ένα νέο πεδίο, συνδέεται μια νέα πηγή δεδομένων και επηρεάζεται μια νέα ομάδα ανθρώπων. Αν ο αρχικός σκοπός ήταν ασαφής, κανείς δεν μπορεί να πει αν πρόκειται για μια μικρή αλλαγή ή για μια νέα δημόσια πράξη. Η προμήθεια θα πρέπει να δημιουργεί ένα ερώτημα αλλαγής στο οποίο ο οργανισμός μπορεί να απαντήσει προτού η νέα χρήση γίνει συνήθης.

Οι ευρωπαϊκοί κανόνες καθιστούν την ευθύνη πιο δύσκολο να κρυφτεί

Η Οδηγία 2014/24/ΕΕ θέτει μια γνωστή βασική γραμμή για τις δημόσιες προμήθειες: ίση μεταχείριση, απαγόρευση διακρίσεων, διαφάνεια και αναλογικότητα. Αυτές οι αρχές δεν επιβάλλουν μια συγκεκριμένη τεχνολογία. Απαιτούν από την αναθέτουσα αρχή να σχεδιάσει μια διαδικασία που μπορεί να εξηγηθεί και να υπερασπιστεί. Μια απαίτηση που μόνο ένας προμηθευτής μπορεί να ικανοποιήσει χωρίς γνήσιο επιχειρησιακό λόγο είναι πρόβλημα διακυβέρνησης, όχι απλώς πρόβλημα αγοράς. Μια απαίτηση που δεν μπορεί να ελεγχθεί είναι μια υπόσχεση που φοράει αριθμό προμήθειας.

Οι ίδιες αρχές ισχύουν όταν το αντικείμενο της προμήθειας είναι ένα μοντέλο, ένας πράκτορας ή μια υπηρεσία υποστήριξης αποφάσεων. Η αρχή πρέπει να περιγράψει την ανάγκη της με τρόπο που να επιτρέπει θεμιτό ανταγωνισμό και ουσιαστική αξιολόγηση. Πρέπει να συγκρίνει τις προσφορές βάσει κριτηρίων που έχουν σημασία για την υπηρεσία, όχι μόνο βάσει ενός προτιμώμενου σημείου αναφοράς του προμηθευτή. Πρέπει να διατηρεί τα αποδεικτικά στοιχεία πίσω από την ανάθεση και να διαχειρίζεται τη σύμβαση όταν η πραγματικότητα διαφέρει από τη διακήρυξη. Η διαφάνεια δεν τελειώνει όταν ανακοινώνεται ο ανάδοχος. Συνεχίζεται μέσα από την απόδοση, την αλλαγή και την έξοδο.

Ο κανονισμός AI Act της ΕΕ προσθέτει ένα δεύτερο επίπεδο για ορισμένα συστήματα υψηλού κινδύνου. Το άρθρο 14 απαιτεί ανθρώπινη εποπτεία που είναι αποτελεσματική, ανάλογη με τον κίνδυνο, τον βαθμό αυτονομίας και το πλαίσιο, και ικανή να εντοπίζει ανωμαλίες, να ερμηνεύει τα αποτελέσματα, να τα αγνοεί ή να τα ανατρέπει και να διακόπτει με ασφάλεια τη λειτουργία του συστήματος. Το άρθρο 27 απαιτεί από τους αρμόδιους δημόσιους φορείς και τους παρόχους δημόσιων υπηρεσιών να αξιολογούν τις επιπτώσεις στα θεμελιώδη δικαιώματα πριν από την ανάπτυξη συγκεκριμένων συστημάτων υψηλού κινδύνου και να επικαιροποιούν την αξιολόγηση όταν αλλάζει το πλαίσιο. Πρόκειται για επιχειρησιακές υποχρεώσεις και όχι για διακοσμητική γλώσσα σε μια σελίδα πολιτικής.

Ο κανονισμός AI Act δεν μετατρέπει κάθε δημόσια προμήθεια λογισμικού στην ίδια νομική κατηγορία. Κάνει κάτι πιο χρήσιμο: καθιστά δυσκολότερη τη συσκότιση της σχέσης μεταξύ παρόχου, αναπτύσσοντος φορέα, συστήματος και θιγόμενου προσώπου. Ο πάροχος πρέπει να περιγράφει τις δυνατότητες και τους περιορισμούς. Ο αναπτύσσων φορέας πρέπει να χρησιμοποιεί το σύστημα κατάλληλα και να διατηρεί την ευθύνη για τη χρήση του. Οι δημόσιες αρχές έχουν υποχρεώσεις καταχώρισης και ενημέρωσης για συγκεκριμένα συστήματα υψηλού κινδύνου. Η ακριβής νομική εφαρμογή εξαρτάται από τη χρήση και τις σχετικές διατάξεις. Το δίδαγμα για τη διακυβέρνηση είναι σταθερό: το μέρος που αγοράζει τη δυνατότητα εξακολουθεί να κατέχει το πλαίσιο εντός του οποίου αυτή ενεργεί.

Το αποτέλεσμα του προμηθευτή χρειάζεται έναν σπίτι

Κάθε αποτέλεσμα που χρησιμοποιείται σε μια δημόσια ροή εργασίας θα πρέπει να έχει έναν συγκεκριμένο υπεύθυνο. Αυτός ο υπεύθυνος δεν είναι απλώς ένας πίνακας βάσης δεδομένων. Είναι ένας ρόλος με εξουσία να αποφασίζει αν το αποτέλεσμα είναι κατάλληλο για τον σκοπό του, ποια στοιχεία το υποστηρίζουν, τι συμβαίνει όταν είναι λανθασμένο και ποια έκδοση το παρήγαγε. Αν ένα αποτέλεσμα δεν έχει ιδιοκτήτη, θα θεωρείται υπόθεση όλων μέχρι την πρώτη διαφωνία, οπότε και γίνεται δουλειά κανενός.

Η ιδιοκτησία θα πρέπει να κατανέμεται χωρίς να κατακερματίζεται. Ένας ιδιοκτήτης υπηρεσίας γνωρίζει τον δημόσιο σκοπό και τον αποδεκτό κίνδυνο. Ένας ιδιοκτήτης δεδομένων γνωρίζει την πηγή, την ποιότητα, την πρόσβαση και τη διαδικασία διόρθωσης. Ένας τεχνικός ιδιοκτήτης γνωρίζει την ανάπτυξη, την ασφάλεια, τη χωρητικότητα και την ενοποίηση. Ένας ιδιοκτήτης μοντέλου ή προμηθευτή γνωρίζει την αξιολόγηση, τα όρια και τις αλλαγές. Ένας επιχειρησιακός αναθεωρητής γνωρίζει την εργασία και μπορεί να σταματήσει μια υπόθεση από το να προχωρήσει παραπέρα. Αυτοί οι ρόλοι μπορούν να ανήκουν σε μια μικρή ομάδα. Δεν μπορούν να αντικατασταθούν από τη φράση άνθρωπος στον βρόχο.

Το άτομο που αναθεωρεί ένα αποτέλεσμα χρειάζεται χρόνο, πληροφορίες και εξουσία. Αν η διεπαφή δείχνει μόνο μια βαθμολογία, ο αναθεωρητής δεν μπορεί να εξετάσει τη βάση της. Αν η ουρά καθιστά την αναθεώρηση αδύνατη, ο αναθεωρητής δεν μπορεί να ασκήσει ουσιαστική εποπτεία. Αν μια πολιτική αναφέρει ότι το αποτέλεσμα είναι συμβουλευτικό ενώ η ροή εργασίας το αντιμετωπίζει ως την προεπιλεγμένη απάντηση, ο αναθεωρητής καλείται να δώσει μια υπογραφή και όχι μια κρίση. Ένα κουμπί με την ένδειξη έγκριση δεν αποτελεί σημείο ελέγχου όταν το άτομο πίσω από αυτό δεν μπορεί με ασφάλεια να επιλέξει οτιδήποτε άλλο.

Η προμήθεια θα πρέπει επομένως να ζητά από τους προμηθευτές να περιγράφουν τη μεταβίβαση. Τι ακριβώς εισέρχεται στο σύστημα. Τι εξέρχεται. Ποια αβεβαιότητα ή περιορισμός συνοδεύει το αποτέλεσμα. Τι μπορεί να δει ο χειριστής. Τι μπορεί να αλλάξει ο χειριστής. Τι κάνει το σύστημα όταν η είσοδος είναι εκτός του δηλωμένου πεδίου εφαρμογής του. Πώς εκτίθεται μια ενέργεια διακοπής. Ποια αρχεία αποδεικνύουν ότι πραγματοποιήθηκε αναθεώρηση. Ένας προμηθευτής που μπορεί να απαντήσει σε αυτές τις ερωτήσεις περιγράφει μια λειτουργική υπηρεσία. Ένας προμηθευτής που απαντά μόνο με μια βαθμολογία απόδοσης περιγράφει ένα εξάρτημα.

Το πρώτο οπτικό στοιχείο: η ευθύνη ακολουθεί την αλυσίδα

Η ευθύνη δεν εξαφανίζεται στα όρια του προμηθευτή. Διατρέχει τον σκοπό, τα τεκμήρια, την επανεξέταση, τη δράση και την επανόρθωση.

Μια βαθμολογία δεν είναι αιτιολογία

Οι βαθμολογίες είναι ελκυστικές στις δημόσιες συμβάσεις επειδή κάνουν τη σύγκριση να φαίνεται καθαρή. Ένας προμηθευτής μπορεί να αναφέρει ακρίβεια, καθυστέρηση, κάλυψη ή μείωση της χειρωνακτικής εργασίας. Ένας αγοραστής μπορεί να τοποθετήσει τις τιμές σε έναν πίνακα και να νιώσει ότι η απόφαση γίνεται αντικειμενική. Η μέτρηση έχει αξία. Όμως μια βαθμολογία απαντά μόνο στην ερώτηση για την οποία σχεδιάστηκε. Δεν μετατρέπεται σε αιτιολογία για μια δημόσια δράση απλώς επειδή απέκτησε ένα δεκαδικό ψηφίο.

Ας υποθέσουμε ότι ένα σύστημα κατατάσσει υποθέσεις για προσοχή. Η κατάταξη μπορεί να είναι χρήσιμη, αλλά ο δημόσιος λόγος δεν είναι απλώς ότι ένας αριθμός ήταν υψηλός. Ο φορέας χρειάζεται να γνωρίζει ποιος νόμιμος σκοπός επιτρέπει την κατάταξη, ποια δεδομένα εξετάστηκαν, ποιες υποθέσεις εξαιρούνται, τι παραλείπει η κατάταξη, πώς μπορεί ένας αναθεωρητής να τη διορθώσει και πώς μπορεί ένα άτομο να προσβάλει το αποτέλεσμα. Η βαθμολογία είναι ένα σήμα μέσα σε μια απόφαση. Αν είναι η μόνη πρόταση που μπορεί να παράγει ο φορέας, δεν αποτελεί τεκμήριο κρίσης. Αποτελεί τεκμήριο ότι ο φορέας ανέθεσε την εξήγηση σε άλλον.

Οι ισχυρισμοί συγκριτικής αξιολόγησης χρειάζονται επίσης σύμβαση. Ποιος πληθυσμός δοκιμάστηκε. Ποιες ετικέτες χρησιμοποιήθηκαν. Ποιες γλώσσες και ακραίες περιπτώσεις συμπεριλήφθηκαν. Με ποια βάση έγινε η σύγκριση. Πώς σταθμίστηκαν τα σφάλματα. Τι συνέβη με ελλιπείς ή διφορούμενες εισόδους. Διόρθωσε κάποιος άνθρωπος το αποτέλεσμα κατά τη διάρκεια της δοκιμής. Εκτελέστηκε η αξιολόγηση στην ίδια έκδοση που θα λειτουργήσει στην υπηρεσία. Χωρίς αυτές τις λεπτομέρειες, μια συγκριτική αξιολόγηση μπορεί να είναι ενδιαφέρουσα, αλλά δεν μπορεί να φέρει όλο το βάρος μιας απόφασης ανάθεσης.

Οι δημόσιοι αγοραστές θα πρέπει να ζητούν τεκμήρια στη μορφή που θα χρειαστεί αργότερα η υπηρεσία. Μια τεχνική δοκιμή μπορεί να δείξει αν ένα μοντέλο εκτελεί μια εργασία. Μια δοκιμή ροής εργασίας μπορεί να δείξει αν οι άνθρωποι μπορούν να εντοπίσουν και να διορθώσουν σφάλματα. Μια δοκιμή διακυβέρνησης μπορεί να δείξει αν μια απόφαση μπορεί να ανασυντεθεί και να προσβληθεί. Μια δοκιμή συνέχειας μπορεί να δείξει αν ο φορέας μπορεί να λειτουργήσει όταν ένας προμηθευτής δεν είναι διαθέσιμος. Αυτές οι δοκιμές απαντούν σε διαφορετικές ερωτήσεις. Ο συνδυασμός τους σε μία βαθμολογία προμηθευτή είναι βολικός και συνήθως λανθασμένος.

Η ανθρώπινη εποπτεία πρέπει να έχει ουσιαστική ισχύ

Η ανθρώπινη εποπτεία παρουσιάζεται συχνά ως το καθησυχαστικό τελευταίο ουσιαστικό σε ένα διάγραμμα συστήματος. Ένα πλαίσιο με την ένδειξη άνθρωπος εμφανίζεται μετά το μοντέλο και πριν από την απόφαση. Το διάγραμμα φαίνεται υπεύθυνο. Το πραγματικό ερώτημα είναι αν ο άνθρωπος μπορεί να κατανοήσει, να αμφισβητήσει και να αλλάξει το αποτέλεσμα υπό τις συνθήκες στις οποίες λειτουργεί η υπηρεσία.

Το άρθρο 14 του AI Act είναι ασυνήθιστα συγκεκριμένο ως προς αυτό. Οι άνθρωποι στους οποίους ανατίθεται η εποπτεία θα πρέπει να κατανοούν τις σχετικές δυνατότητες και τους περιορισμούς, να παρακολουθούν τη λειτουργία, να αναγνωρίζουν την προκατάληψη αυτοματοποίησης, να ερμηνεύουν τα αποτελέσματα, να αποφασίζουν να μην χρησιμοποιήσουν ή να παρακάμψουν το σύστημα και να παρεμβαίνουν ή να διακόπτουν μέσω μιας ασφαλούς διαδικασίας. Αυτές είναι εξουσίες. Απαιτούν διεπαφή, εκπαίδευση, φόρτο εργασίας, αποδεικτικά στοιχεία, αρμοδιότητα και χρόνο. Απαιτούν επίσης έναν οργανισμό που θα στηρίξει έναν αναθεωρητή ο οποίος δηλώνει ότι το σύστημα είναι εκτός του πεδίου εφαρμογής του.

Ένας αναθεωρητής δεν μπορεί να ασκήσει εποπτεία σε ένα αποτέλεσμα που έχει απογυμνωθεί από τα συμφραζόμενά του. Το αποτέλεσμα χρειάζεται τις σχετικές παραπομπές στις πηγές, τις προειδοποιήσεις για την ποιότητα των δεδομένων εισόδου, την έκδοση και τον σκοπό. Ο αναθεωρητής χρειάζεται έναν τρόπο να ζητήσει περισσότερα αποδεικτικά στοιχεία ή να χαρακτηρίσει την υπόθεση ως μη επιλυθείσα. Αν το σύστημα παρουσιάζει μία απάντηση με τρόπο που καθιστά τις εναλλακτικές δαπανηρές, τότε σχεδιάζει την προκατάληψη αυτοματοποίησης μέσα στον χώρο εργασίας. Αν ο μόνος τρόπος να σταματήσει μια ροή εργασίας είναι να καλέσει κανείς τον προμηθευτή, τότε η αρχή έχει αγοράσει ένα σύστημα που δεν μπορεί να λειτουργήσει με ασφάλεια.

Η αναλογικότητα έχει σημασία. Ένα βοήθημα σύνταξης χαμηλών επιπτώσεων δεν χρειάζεται να έχει τους ίδιους ελέγχους με ένα σύστημα που υποστηρίζει ένα δικαίωμα, έναν έλεγχο ή την πρόσβαση σε φροντίδα. Αλλά το αναλογικό δεν σημαίνει συμβολικό. Όσο περισσότερο μπορεί το σύστημα να επηρεάσει δικαιώματα, ασφάλεια ή βασικές υπηρεσίες, τόσο περισσότερο θα πρέπει η αρχή να μπορεί να αποδείξει ότι η εποπτεία ήταν εφικτή, ότι ασκήθηκε και ότι μπορούσε να αλλάξει το αποτέλεσμα. Ένας άνθρωπος που είναι παρών αλλά ανίσχυρος δεν αποτελεί εποπτεία. Είναι ένα διακοσμητικό προσωπείο ευθύνης.

Η δυνατότητα αμφισβήτησης είναι μέρος της υπηρεσίας

Μια δημόσια απόφαση δεν είναι πλήρης όταν μια εσωτερική ροή εργασίας δηλώνει ότι ολοκληρώθηκε. Είναι αρκετά πλήρης για να κατανοήσει ο ενδιαφερόμενος τι συνέβη, να διορθώσει τα σχετικά γεγονότα και να χρησιμοποιήσει τη διαθέσιμη οδό επανεξέτασης ή προσφυγής. Η δυνατότητα αμφισβήτησης δεν είναι ένα προαιρετικό χαρακτηριστικό εξυπηρέτησης πελατών. Είναι μέρος της σχέσης του θεσμού με το κοινό.

Η εξήγηση της Επιτροπής για τις διασφαλίσεις των αυτοματοποιημένων αποφάσεων στον GDPR διατυπώνει το βασικό σημείο με σαφήνεια. Ένα άτομο δεν θα πρέπει να υπόκειται σε μια αποκλειστικά αυτοματοποιημένη απόφαση που έχει έννομες ή παρόμοια σημαντικές επιπτώσεις, εκτός εάν πληρούνται καθορισμένες προϋποθέσεις και διασφαλίσεις. Όπου ισχύουν οι διασφαλίσεις, οι άνθρωποι χρειάζονται ενημέρωση, τη δυνατότητα ανθρώπινης παρέμβασης και έναν τρόπο να εκφράσουν την άποψή τους και να αμφισβητήσουν την απόφαση. Η ακριβής νομική οδός εξαρτάται από την επεξεργασία και το εφαρμοστέο δίκαιο. Η επιχειρησιακή αρχή είναι ευρύτερη: ο ενδιαφερόμενος χρειάζεται ένα πραγματικό μέσο ελέγχου της απόφασης, όχι μια γενική υπόσχεση ότι κάποιος κάπου μπορεί να την εξετάσει.

Αυτό το μέσο ελέγχου πρέπει να συνδέεται με αποδεικτικά στοιχεία. Αν κάποιος αμφισβητήσει μια ιεράρχηση προτεραιοτήτων, η αρχή πρέπει να μπορεί να ανακτήσει το σχετικό πλαίσιο της απόφασης, όχι απλώς την τρέχουσα έκδοση του μοντέλου. Αν μια εγγραφή πηγής διορθώθηκε αργότερα, ο οργανισμός πρέπει να διακρίνει την αρχική κατάσταση από τη διορθωμένη και να αναφέρει τι άλλαξε. Αν ένας ανθρώπινος αναθεωρητής απέρριψε ένα αποτέλεσμα, το αρχείο θα πρέπει να δείχνει ότι το σύστημα δεν έκανε την τελική επιλογή. Η δυνατότητα αμφισβήτησης χωρίς αρχείο είναι μια ευγενική πρόσκληση να επαναλάβει κανείς την ερώτηση.

Οι προμηθευτές μπορούν να συμβάλουν στο να καταστεί εφικτή η αμφισβήτηση. Μπορούν να παρέχουν εκδόσεις των δεδομένων εισόδου, αιτιολογίες, συνδέσμους προς τις πηγές, καταστάσεις αναθεώρησης, γεγονότα διόρθωσης και μορφές εξαγωγής. Μπορούν να κάνουν την υπηρεσία να διακόπτεται αντί να συνεχίζει σιωπηλά όταν λείπουν αποδεικτικά στοιχεία. Δεν μπορούν να αποφασίσουν ποια εξήγηση οφείλεται βάσει του δημοσίου δικαίου ή ποια αποκατάσταση πρέπει να παρέχει ένας δημόσιος φορέας. Αυτές είναι θεσμικές επιλογές. Ένας προμηθευτής μπορεί να κατασκευάσει τα μέσα ελέγχου. Η αρχή πρέπει να αποφασίσει πού οδηγούν αυτά τα μέσα.

Τα όρια των δεδομένων είναι όρια της δημόσιας αρχής

Οι συζητήσεις για τις προμήθειες συχνά αντιμετωπίζουν τα δεδομένα ως ένα στοιχείο εισόδου που θα συνδεθεί αφού επιλεγεί ο προμηθευτής. Σε μια δημόσια υπηρεσία, τα όρια των δεδομένων είναι επίσης όρια της αρχής. Η πηγή καθορίζει τι επιτρέπεται να γνωρίζει το σύστημα, τι μπορεί να συνάγει, τι μπορεί να διατηρήσει και ποια άτομα μπορεί να επηρεαστούν από ένα λάθος. Ένας προμηθευτής δεν θα πρέπει να καθορίζει αυτά τα όρια κάνοντας τη σύνδεση εύκολη.

Οι απαιτήσεις θα πρέπει να αναφέρουν τις εξουσιοδοτημένες πηγές, τον σκοπό, την επικαιρότητα, τη διατήρηση, την πρόσβαση, τη διόρθωση και τη διαγραφή. Θα πρέπει να διακρίνουν τα πρωτογενή αρχεία από το παράγωγο υλικό, όπως ενσωματώσεις, περιλήψεις, ετικέτες, προσωρινές μνήμες και βαθμολογίες. Θα πρέπει να αναφέρουν ποια δεδομένα εξέρχονται από την αρχή, ποιοι υπεργολάβοι μπορούν να τα διαχειριστούν και πώς καταγράφεται η πρόσβαση υποστήριξης. Θα πρέπει να καθορίζουν τι συμβαίνει όταν μια πηγή είναι ελλιπής, παρωχημένη, αμφισβητούμενη ή εκτός του σκοπού που αρχικά δηλώθηκε.

Αυτό δεν είναι μόνο ζήτημα προστασίας προσωπικών δεδομένων. Η πειθαρχία στις πηγές επηρεάζει την ποιότητα και τη νομιμότητα μιας απόφασης. Ένας δημόσιος φορέας μπορεί να διαθέτει πολλά αρχεία και παρόλα αυτά να μην έχει νόμιμη ή αξιόπιστη βάση για να τα χρησιμοποιήσει σε μια συγκεκριμένη ροή εργασίας. Ένα μοντέλο μπορεί να βρει μια συσχέτιση που είναι τεχνικά χρήσιμη αλλά θεσμικά απαράδεκτη. Ένα ανακτημένο έγγραφο μπορεί να είναι επίκαιρο αλλά όχι έγκυρο. Η προϋπόθεση της προμήθειας πρέπει να επιτρέπει στον φορέα εκμετάλλευσης να διακρίνει τις διαθέσιμες πληροφορίες από τις αιτιολογημένες πληροφορίες.

Η ίδια πειθαρχία βοηθά και τον προμηθευτή. Τα σαφή όρια των πηγών μειώνουν τον πειρασμό να υποσχεθεί κανείς ότι ένα γενικό μοντέλο μπορεί να διαχειριστεί κάθε ερώτηση. Καθιστούν τις αξιολογήσεις αναπαράξιμες. Καθορίζουν τι πρέπει να κάνει η υπηρεσία όταν μια είσοδος βρίσκεται εκτός του συμβατικού της πεδίου. Ένα σύστημα που μπορεί να πει ότι τα στοιχεία είναι ανεπαρκή είναι συχνά πιο χρήσιμο από ένα που μπορεί πάντα να επιστρέψει μια απάντηση. Οι δημόσιοι αγοραστές θα πρέπει να επιβραβεύουν αυτή τη συμπεριφορά αντί να θεωρούν την άρνηση ελάττωμα στην επίδειξη.

Οι απαιτήσεις πρέπει να περιγράφουν την αποτυχία

Οι περισσότεροι διαγωνισμοί περιγράφουν την επιθυμητή διαδρομή: λήψη δεδομένων, επεξεργασία, επιστροφή αποτελέσματος, μέτρηση απόδοσης. Οι δημόσιες υπηρεσίες χρειάζονται όμως και τις ανεπιθύμητες διαδρομές. Ένα αρχείο λείπει. Μια γλώσσα δεν υποστηρίζεται. Το μοντέλο αλλάζει. Μια πηγή συγκρούεται με έναν κανόνα. Ένας προμηθευτής δεν είναι διαθέσιμος. Ένας αξιολογητής διαφωνεί. Ένα άτομο ασκεί ένσταση. Το αποτέλεσμα χρησιμοποιείται εκτός του προβλεπόμενου σκοπού. Ένα υποκείμενο δεδομένων ζητά διόρθωση. Ένα περιστατικό ανακαλύπτεται μήνες μετά την απόφαση.

Οι απαιτήσεις αποτυχίας θα πρέπει να είναι ελέγξιμες. Το σύστημα πρέπει να διακόπτεται όταν λείπει ένα υποχρεωτικό πεδίο. Πρέπει να προσδιορίζει την έκδοση και το εύρος της πηγής πίσω από μια σύσταση. Πρέπει να παρέχει μια ασφαλή διαδικασία διακοπής. Πρέπει να εξάγει αρχεία σε τεκμηριωμένη μορφή. Πρέπει να ειδοποιεί την αρχή για ουσιώδεις αλλαγές. Πρέπει να υποστηρίζει μια διαδρομή διόρθωσης για παράγωγα τεχνουργήματα. Πρέπει να διατηρεί αρκετό πλαίσιο για μια εξουσιοδοτημένη έρευνα. Δεν πρέπει να υποκαθιστά σιωπηλά ένα διαφορετικό μοντέλο ή κατηγορία πηγής όταν το δηλωμένο δεν είναι διαθέσιμο.

Αυτές οι απαιτήσεις δεν είναι απόπειρες πρόβλεψης κάθε κακής ημέρας. Είναι τρόποι να γίνει ορατή η στάση ασφαλείας της υπηρεσίας. Ένας προμηθευτής μπορεί να προτείνει διαφορετική υλοποίηση, αλλά η αρχή μπορεί να συγκρίνει τις προτάσεις βάσει παρατηρήσιμης συμπεριφοράς. Ο διαγωνισμός γίνεται λιγότερο θέμα λίστας χαρακτηριστικών και περισσότερο θέμα του αν η υπηρεσία μπορεί να φέρει ευθύνη υπό πίεση.

Η γλώσσα της αποτυχίας βελτιώνει επίσης την εμπορική συζήτηση. Ένας προμηθευτής που δεν μπορεί να προσφέρει ασφαλή διακοπή, αξιόπιστη εξαγωγή ή ειδοποίηση έκδοσης μπορεί να είναι κατάλληλος για μια εργασία χαμηλών συνεπειών. Η αρχή μπορεί να το αποφασίσει ανοιχτά. Δεν χρειάζεται να ανακαλύψει τον περιορισμό μετά την υπογραφή. Κανείς δεν χρειάζεται έναν διαγωνισμό που είναι τεχνικά συναρπαστικός και λειτουργικά στοιχειωμένος.

Η σύμβαση είναι ένα λειτουργικό σχέδιο

Μια σύμβαση για μια δημόσια υπηρεσία με τεχνητή νοημοσύνη θα πρέπει να περιγράφει κάτι περισσότερο από τη διαθεσιμότητα και τις ώρες υποστήριξης. Θα πρέπει να περιγράφει τα αποδεικτικά στοιχεία, την αλλαγή, την πρόσβαση, την επανεξέταση, την αντιμετώπιση περιστατικών και την αποχώρηση. Αυτοί οι όροι διαμορφώνουν τι μπορεί να γνωρίζει και να κάνει η αρχή αφού ξεκινήσει η υπηρεσία. Αποτελούν μέρος της αρχιτεκτονικής ακόμη και όταν εμφανίζονται σε νομικά παραρτήματα.

Ο έλεγχος αλλαγών είναι κεντρικής σημασίας. Τι συνιστά ουσιώδη αλλαγή σε μοντέλο, προτροπή, δεδομένα, ανάκτηση ή πολιτική. Πόση προειδοποίηση απαιτείται. Ποιες αξιολογήσεις πρέπει να επαναληφθούν. Ποιος μπορεί να εγκρίνει την αλλαγή. Τι συμβαίνει αν η απόδοση μεταβληθεί για μια υποομάδα ή μια γλώσσα. Μπορεί η αρχή να αναβάλει μια ενημέρωση. Μπορεί να την ανακαλέσει. Ο προμηθευτής μπορεί να χρειάζεται ευελιξία για να διατηρήσει μια υπηρεσία, αλλά η ευελιξία χωρίς καταγραφή είναι μεταφορά κινδύνου μεταμφιεσμένη σε ευκινησία.

Οι όροι πρόσβασης θα πρέπει να καλύπτουν περισσότερα από τους πίνακες ελέγχου. Η αρχή μπορεί να χρειάζεται αρχεία καταγραφής, διαμόρφωση, τεχνικά τεκμήρια δοκιμών, αναγνωριστικά πηγαίου κώδικα, αρχεία υποστήριξης και ιστορικό αλλαγών. Η πρόσβαση πρέπει να είναι αναλογική και ασφαλής, με προστασία των προσωπικών δεδομένων και διαχωρισμό των απορρήτων. Το ζητούμενο δεν είναι να απαιτούνται όλες οι εσωτερικές λεπτομέρειες υλοποίησης. Είναι να διασφαλιστεί ότι η αρχή μπορεί να επαληθεύσει τι έκανε η υπηρεσία στο πλαίσιο στο οποίο τη χρησιμοποίησε.

Οι όροι για περιστατικά χρειάζονται συγκεκριμένες διαδρομές και χρονικά όρια που να αντιστοιχούν στις συνέπειες του συστήματος. Θα πρέπει να ορίζουν ποιος μπορεί να δηλώσει περιστατικό, ποιος μπορεί να θέσει σε παύση τη ροή εργασίας, ποια αποδεικτικά στοιχεία διατηρούνται, πώς λαμβάνονται υπόψη οι επηρεαζόμενοι και πώς επαληθεύεται η αποκατάσταση. Μια υπηρεσία που αναφέρει μόνο διακοπές υποδομής δεν αναφέρει τα περιστατικά για τα οποία ένας δημόσιος φορέας είναι πιθανότερο να χρειαστεί βοήθεια για να τα εξηγήσει.

Η λογοδοσία του προμηθευτή είναι πραγματική, αλλά διαφορετική

Είναι λάθος να λέμε ότι ο προμηθευτής δεν έχει καμία ευθύνη. Οι πάροχοι σχεδιάζουν συστήματα, διατυπώνουν ισχυρισμούς, θέτουν όρια, διαχειρίζονται ενημερώσεις, επιλέγουν υπεργολάβους και ελέγχουν μέρος των αποδεικτικών στοιχείων. Ένας δημόσιος φορέας θα πρέπει να τους κρατά υπόλογους για αυτές τις δεσμεύσεις. Η τεχνική και συμβατική λογοδοσία του προμηθευτή έχει σημασία, ιδίως όταν ο φορέας δεν μπορεί να αναπαράγει ανεξάρτητα κάθε συνιστώσα.

Είναι εξίσου λάθος να καθίσταται η λογοδοσία του προμηθευτή υποκατάστατο της θεσμικής ευθύνης. Ο προμηθευτής δεν επέλεξε τον δημόσιο σκοπό, δεν όρισε την επηρεαζόμενη ομάδα, δεν αποφάσισε ότι ένα αποτέλεσμα ήταν επαρκές για την υπηρεσία, δεν καθόρισε τη διαδρομή προσφυγής ούτε αποφάσισε ποιον κίνδυνο πρέπει να αποδεχθεί το κοινό. Αυτές οι αποφάσεις ανήκουν στον φορέα και στο νομικό πλαίσιο που τον περιβάλλει. Ένας δημόσιος φορέας που λέει ότι το μοντέλο αποφάσισε περιγράφει τη δική του αποτυχία να κρατήσει την απόφαση στα δημόσια χέρια.

Η χρήσιμη σχέση είναι η ρητή αλληλεξάρτηση. Ο πάροχος παρέχει μια συνιστώσα ή υπηρεσία υπό τεκμηριωμένες προϋποθέσεις. Ο φορέας ανάπτυξης την ενσωματώνει σε μια δομή σκοπού, διαδικασίας και ρόλων. Και τα δύο μέρη διατηρούν αποδεικτικά στοιχεία για το μέρος που ελέγχουν. Ο φορέας παραμένει σε θέση να αμφισβητήσει τον πάροχο, να θέσει σε παύση τη χρήση και να εξηγήσει τη δημόσια δράση. Αν ο σχεδιασμός ενός προμηθευτή καθιστά αυτές τις δυνατότητες αδύνατες, η ίδια η επιλογή προμήθειας καθίσταται μέρος του κινδύνου.

Τα καλά συμβόλαια δεν απαιτούν από τον προμηθευτή να αποδεχθεί κάθε άγνωστη ευθύνη. Κατανέμουν τα καθήκοντα έτσι ώστε κάθε μέρος να μπορεί να τα εκτελέσει. Ο φορέας πρέπει να παρέχει νόμιμο και κατάλληλο πλαίσιο. Ο προμηθευτής πρέπει να αποκαλύπτει περιορισμούς και αλλαγές. Ο χειριστής πρέπει να χρησιμοποιεί το σύστημα εντός του πεδίου εφαρμογής. Ο αξιολογητής πρέπει να έχει πραγματική εξουσία. Τα αρχεία πρέπει να επιβιώνουν της διαφοράς. Η ακρίβεια στους ρόλους είναι πιο δίκαιη από μια ρήτρα που λέει ότι τα μέρη θα συνεργαστούν και ελπίζει ότι όλοι θα φέρουν το ίδιο λεξικό.

Η φορητότητα είναι απαίτηση κρίσης

Η έξοδος αντιμετωπίζεται συχνά ως εμπορικό ζήτημα. Για τις δημόσιες υπηρεσίες είναι επίσης ζήτημα κρίσης. Αν ο φορέας δεν μπορεί να ανακτήσει τα αποδεικτικά στοιχεία, τη διαμόρφωση, τα αρχεία και τις αποφάσεις που χρειάζεται για να συνεχίσει μια υπηρεσία ή να διερευνήσει το παρελθόν της, δεν μπορεί να οικειοποιηθεί πλήρως τις αποφάσεις που ελήφθησαν μέσω της υπηρεσίας. Ένα σύστημα που δεν μπορεί να φύγει παίρνει μαζί του μέρος της μνήμης του θεσμού.

Η φορητότητα θα πρέπει να καλύπτει την επιχειρησιακή κατάσταση και όχι μόνο τις εγγραφές μιας βάσης δεδομένων. Η αρχή μπορεί να χρειάζεται αρχεία εισόδου και εξόδου, παραπομπές σε πηγές, εκδόσεις μοντέλων και προτροπών, ρυθμίσεις πολιτικής, αποφάσεις αναθεώρησης, συμβάντα ελέγχου, ιστορικό διορθώσεων, μεταδεδομένα διατήρησης και τα σχήματα που τα εξηγούν. Το ακριβές σύνολο εξαρτάται από την υπηρεσία. Η αρχή είναι ότι ένας μελλοντικός φορέας εκμετάλλευσης θα πρέπει να μπορεί να κατανοήσει τι συνέβη χωρίς να χρειαστεί να αποκωδικοποιήσει τον ιδιωτικό πίνακα ελέγχου ενός προμηθευτή.

Η έξοδος θα πρέπει να δοκιμάζεται πριν γίνει επείγουσα. Μια σύντομη πρόβα μπορεί να αποκαλύψει αν μια εξαγωγή είναι πλήρης, αν τα αναγνωριστικά παραμένουν σταθερά, αν οι εγγραφές μπορούν να διαβαστούν χωρίς άδεια, αν τα παράγωγα δεδομένα μπορούν να συμβιβαστούν και αν η υπηρεσία μπορεί να λειτουργήσει κατά τη διάρκεια μιας μετάβασης. Η δοκιμή αποκαλύπτει επίσης ποια μέρη της ροής εργασιών δεν ανήκαν ποτέ πραγματικά στην αρχή. Μια επιτυχημένη δοκιμή εξόδου δεν αποτελεί ψήφο δυσπιστίας προς τον προμηθευτή. Είναι απόδειξη ότι η δημόσια υπηρεσία διαθέτει διακόπτη απενεργοποίησης.

Η συνέχεια έχει σημασία ακόμη και όταν μια σύμβαση εξελίσσεται ομαλά. Οι προμηθευτές μπορούν να αλλάξουν ιδιοκτησία, τιμολόγηση, όρους, υποδομές ή στρατηγική κατεύθυνση. Ένας δημόσιος φορέας δεν θα πρέπει να χρειάζεται μια κρίση για να ανακαλύψει ότι οι μόνοι άνθρωποι που κατανοούν το ίχνος αποφάσεών του εργάζονται για κάποιον άλλο. Οι προμήθειες είναι η στιγμή να γίνει η συνέχεια κάτι συνηθισμένο και όχι ηρωικό.

Το δεύτερο οπτικό: μια πύλη κρίσης, όχι μια σφραγίδα έγκρισης

Ένας αναθεωρητής αποτελεί σημείο ελέγχου μόνο όταν η υπόθεση μπορεί ακόμη να αλλάξει, τα στοιχεία είναι ορατά και παραμένει δυνατή μια επανόρθωση.

Αγοράστε τη δυνατότητα να λέτε όχι

Η ισχυρότερη απαίτηση προμηθειών είναι μερικές φορές μια άρνηση. Η αρχή θα πρέπει να μπορεί να λέει όχι σε μια χρήση που δεν μπορεί να τεκμηριωθεί, όχι σε μια αλλαγή που δεν έχει αξιολογηθεί, όχι σε ένα αποτέλεσμα εκτός πεδίου εφαρμογής και όχι σε έναν προμηθευτή που δεν μπορεί να προσφέρει μια εφικτή έξοδο. Αυτό δεν είναι εχθρότητα προς την τεχνολογία. Είναι η ελάχιστη ανεξαρτησία που απαιτείται για να επιλέξει κανείς τεχνολογία για έναν δημόσιο σκοπό, αντί να επιλέξει έναν σκοπό που ταιριάζει στην τεχνολογία που έχει ήδη αγοραστεί.

Το να λες όχι απαιτεί μια εσωτερική διαδρομή. Ένας αναθεωρητής πρέπει να γνωρίζει ποιος μπορεί να αποφασίσει ότι μια υπόθεση είναι επικίνδυνη για αυτοματοποίηση. Ένας ιδιοκτήτης υπηρεσίας πρέπει να μπορεί να κάνει παύση χωρίς να περιμένει μια επιτροπή καθοδήγησης που συνεδριάζει τον επόμενο μήνα. Οι προμήθειες πρέπει να αναγνωρίζουν ότι μια προσφορά με λιγότερες δυνατότητες μπορεί να είναι ασφαλέστερη επειδή τα όριά της είναι σαφέστερα. Οι νομικές, τεχνικές και επιχειρησιακές ομάδες πρέπει να μπορούν να αμφισβητήσουν τον προτιμώμενο προμηθευτή πριν η απόφαση γίνει κοινωνικά δύσκολη.

Οι προμηθευτές επωφελούνται επίσης από αυτή την πειθαρχία. Ένα σαφές «όχι» τους δίνει ένα καθορισμένο πεδίο εντός του οποίου μπορούν να βελτιωθούν. Αποτρέπει ένα πολλά υποσχόμενο πρωτότυπο από το να πωλείται ως καθολική λύση. Κάνει τα κριτήρια αποδοχής ουσιαστικά. Εμποδίζει επίσης την πιο ενθουσιώδη ερμηνεία του προμηθευτή από το να γίνεται η de facto πολιτική. Ο ενθουσιασμός είναι χρήσιμο καύσιμο για την εξερεύνηση. Δεν υποκαθιστά το φρένο.

Η ικανότητα άρνησης αποτελεί μέρος της κυριαρχίας σε επίπεδο υπηρεσίας. Σημαίνει ότι η αρχή μπορεί να διατηρήσει μια εργασία ανθρώπινη, να περιορίσει τα δεδομένα, να ζητήσει περισσότερα αποδεικτικά στοιχεία, να επιλέξει διαφορετικό προμηθευτή ή να σταματήσει μια ανάπτυξη χωρίς να χάσει τον δημόσιο σκοπό. Αυτός είναι καλύτερος ορισμός της τεχνολογικής ανεξαρτησίας από τον αριθμό των προϊόντων σε έναν κατάλογο.

Οι προμήθειες θα πρέπει να περιλαμβάνουν τους ανθρώπους που θα αναλάβουν το έργο

Οι ομάδες αγοράς χρειάζονται κάτι περισσότερο από μια τεχνική αξιολόγηση και μια νομική επισκόπηση. Οι άνθρωποι που θα λειτουργούν την υπηρεσία θα πρέπει να βοηθήσουν στον καθορισμό της εργασίας, των τρόπων αποτυχίας και των αποδεικτικών στοιχείων που μπορούν ρεαλιστικά να επιθεωρήσουν. Οι λειτουργοί υποθέσεων, οι επιθεωρητές, οι διοικητικοί υπάλληλοι, οι μεταφραστές, οι κλινικοί γιατροί, οι εκπαιδευτικοί ή οι σχεδιαστές γνωρίζουν πού ένα τακτοποιημένο αποτέλεσμα γίνεται δύσκολη υπόθεση. Γνωρίζουν επίσης ποιες λύσεις ανάγκης θα εμφανιστούν όταν ένα σύστημα δεν ταιριάζει.

Η συμμετοχή θα πρέπει να είναι συγκεκριμένη. Ζητήστε από τους χειριστές να εξετάσουν αντιπροσωπετικές και δύσκολες περιπτώσεις. Ρωτήστε τους τι χρειάζονται για να δουν πριν αποδεχτούν μια σύσταση. Ρωτήστε πού ξεκινά μια ένσταση, πού διορθώνεται μια πηγή και ποιες προθεσμίες καθιστούν επικίνδυνη μια παύση. Ρωτήστε πώς μοιάζει μια ασφαλής άρνηση. Αυτές δεν είναι χειρονομίες έρευνας χρηστών. Είναι ανακάλυψη απαιτήσεων για μια υπηρεσία που θα λειτουργείται από ανθρώπους και όχι από το σχεδιάγραμμα παρουσίασης.

Θα πρέπει να λαμβάνονται υπόψη και οι επηρεαζόμενοι άνθρωποι. Η οπτική τους μπορεί να αποκαλύψει ότι μια τεχνική διάκριση δεν οδηγεί σε κατανοητή εξήγηση, ότι μια διαδρομή διόρθωσης είναι πολύ αργή ή ότι μια μεταφρασμένη ειδοποίηση αλλάζει την πρακτική σημασία. Οι δημόσιες προμήθειες δεν μπορούν να μετατρέψουν κάθε υπηρεσία σε διαβούλευση, αλλά μπορούν να ελέγξουν αν το προτεινόμενο όριο είναι ορατό από έξω από τον θεσμό. Ένα άτομο δεν θα πρέπει να χρειάζεται να κατανοεί την αρχιτεκτονική για να κατανοήσει πώς να αμφισβητήσει ένα αποτέλεσμα.

Το αποτέλεσμα είναι συνήθως λιγότερο κομψό από μια επίδειξη και πιο ανθεκτικό από αυτήν. Η πραγματική εργασία περιέχει διακοπές, εξαιρέσεις, γλωσσικές διαφορές, παλιά αρχεία, ανάγκες προσβασιμότητας και ανθρώπους που δεν συμπεριφέρονται σαν δεδομένα δοκιμής. Αυτό δεν αποτελεί αποτυχία της δημόσιας υπηρεσίας. Είναι η δημόσια υπηρεσία. Οι προμήθειες θα πρέπει να αγοράζουν για αυτόν τον κόσμο.

Η παρακολούθηση είναι ο τρόπος με τον οποίο συνεχίζεται η ιδιοκτησία

Η ιδιοκτησία δεν τελειώνει με την έναρξη λειτουργίας. Τα μοντέλα, τα συστήματα πηγών, οι πολιτικές, η συμπεριφορά του προσωπικού και οι δημόσιες ανάγκες αλλάζουν. Ένα σύστημα μπορεί να συνεχίσει να επιστρέφει αποτελέσματα ενώ το νόημά του απομακρύνεται. Η παρακολούθηση θα πρέπει επομένως να συνδέει τα τεχνικά σήματα με τη δημόσια δράση που υποστηρίζουν. Ο χρόνος λειτουργίας και η καθυστέρηση έχουν σημασία, αλλά το ίδιο ισχύει και για τις παρακάμψεις, τις διορθώσεις, τις ενστάσεις, τις επιπτώσεις στην ουρά, τα ελλιπή αποδεικτικά στοιχεία, τα αποτελέσματα υποομάδων, την κάλυψη γλωσσών και τη σοβαρότητα των σφαλμάτων.

Το σχέδιο παρακολούθησης θα πρέπει να αναφέρει τι συμβαίνει όταν ένα σήμα υπερβαίνει ένα όριο. Ποιος διερευνά. Ποιος μπορεί να κάνει παύση. Ποια αρχεία διατηρούνται. Ποιοι άνθρωποι μπορεί να έχουν επηρεαστεί. Αν επικοινωνείται με τον προμηθευτή. Πότε επικοινωνεί η αρχή. Πώς επαληθεύεται ένα μέτρο αποκατάστασης. Ένας πίνακας ελέγχου χωρίς κανόνα απόκρισης δεν αποτελεί διακυβέρνηση. Είναι μια πολύχρωμη πρόταση.

Η αξιολόγηση θα πρέπει να επαναλαμβάνεται μετά από ουσιαστικές αλλαγές και σε διαστήματα κατάλληλα για τη χρήση. Μια ενημέρωση μοντέλου μπορεί να αλλάξει το αποτέλεσμα ακόμη και όταν ο προμηθευτής δηλώνει ότι η διεπαφή είναι αμετάβλητη. Μια αλλαγή πολιτικής μπορεί να αλλάξει το τι σημαίνει σωστό αποτέλεσμα. Μια νέα πηγή δεδομένων μπορεί να εισαγάγει ένα υποκατάστατο ή ένα διαφορετικό μοτίβο σφαλμάτων. Ένας δημόσιος φορέας χρειάζεται αρκετό ιστορικό εκδόσεων για να συγκρίνει καταστάσεις και αρκετή εξουσία για να αποφασίσει ότι μια φαινομενικά μικρή αλλαγή απαιτεί ευρύτερη επανεξέταση.

Η παρακολούθηση προστατεύει επίσης τον αξιολογητή. Αν αναμένεται από ένα άτομο να παρακάμπτει ένα σύστημα, ο οργανισμός θα πρέπει να παρακολουθεί αν ο φόρτος εργασίας, η διεπαφή ή τα κίνητρα καθιστούν αυτό πρακτικά εφικτό. Τα υψηλά ποσοστά παράκαμψης μπορεί να υποδηλώνουν αδύναμο μοντέλο, ασαφή πολιτική ή αξιολογητή που επιτελεί στην πραγματικότητα το έργο γύρω από ένα κακοσχεδιασμένο εργαλείο. Το να αντιμετωπίζεται κάθε παράκαμψη ως ανθρώπινος θόρυβος είναι ένας εύκολος τρόπος να διαφύγει η πραγματική προδιαγραφή του συστήματος.

Μια υποθετική υπηρεσία καθιστά το όριο ορατό

Σκεφτείτε μια υποθετική δημόσια υπηρεσία που δέχεται αιτήσεις και χρησιμοποιεί το σύστημα ενός προμηθευτή για να εντοπίζει ελλιπείς πληροφορίες και να προτείνει μια διαδρομή για αξιολόγηση. Το σύστημα δεν επιτρέπεται να αποφασίζει για την επιλεξιμότητα. Η αρχή έχει τεκμηριώσει τον σκοπό, τις πηγές δεδομένων και τις περιπτώσεις που απαιτούν εξειδικευμένη προσοχή. Ο αξιολογητής βλέπει τις παραπομπές στις πηγές, την εξήγηση για το ελλιπές πεδίο, την έκδοση του συστήματος και μια σαφή επιλογή να αγνοήσει την πρόταση. Το αρχείο διατηρεί την ενέργεια του αξιολογητή και την ειδοποίηση που στάλθηκε στον αιτούντα.

Σε αυτό το παράδειγμα, ο προμηθευτής έχει ουσιαστικό ρόλο. Μπορεί να βελτιώσει την εξαγωγή δεδομένων, να αποκαλύψει την αβεβαιότητα, να υποστηρίξει ασφαλείς ενημερώσεις και να ανταποκριθεί στις υποχρεώσεις του για περιστατικά και εξαγωγές. Η αρχή εξακολουθεί να κατέχει τον σκοπό της υπηρεσίας, το νομικό πρότυπο, τον ρόλο της αξιολόγησης και το μέσο επανόρθωσης. Αν ένα πεδίο είναι λάθος, ο αιτών μπορεί να το διορθώσει. Αν η πρόταση είναι εκτός πεδίου, ο αξιολογητής μπορεί να την απορρίψει. Αν το σύστημα αποτύχει, η αρχή μπορεί να θέσει τη διαδρομή σε παύση και να συνεχίσει με μια τεκμηριωμένη εναλλακτική. Η χρησιμότητα προέρχεται από το όριο, όχι από την προσποίηση ότι ο προμηθευτής έχει γίνει ο θεσμός.

Τώρα αλλάξτε μία συνθήκη. Η προτεινόμενη διαδρομή του συστήματος αντιμετωπίζεται ως προεπιλογή, οι αξιολογητές βλέπουν μόνο ένα χρώμα και μια ένδειξη εμπιστοσύνης, και ο προμηθευτής μπορεί να ενημερώσει το μοντέλο χωρίς ειδοποίηση που να φτάνει στον υπεύθυνο της υπηρεσίας. Η σύμβαση εξακολουθεί να χαρακτηρίζει το αποτέλεσμα ως συμβουλευτικό. Η ροή εργασίας το έχει μετατρέψει σε αρχή. Γι' αυτό οι νομικές ετικέτες δεν μπορούν να διασώσουν έναν λειτουργικό σχεδιασμό που δίνει στο αποτέλεσμα τη δύναμη να αποφασίζει.

Το υποθετικό παράδειγμα είναι σκόπιμα απλό. Δεν περιέχει επινοημένο δήμο, περιστατικό ή πελάτη. Σκοπός του είναι να καταστήσει παρατηρήσιμες τις επιλογές που πρέπει να κάνει η προμήθεια. Οι πραγματικές υπηρεσίες θα προσθέσουν πολυπλοκότητα. Τα ερωτήματα παραμένουν: ποιος ορίζει τη χρήση, ποιος βλέπει τα αποδεικτικά στοιχεία, ποιος μπορεί να αλλάξει το αποτέλεσμα, ποιος καταγράφει τον λόγο και ποιος μπορεί να επανορθώσει τη βλάβη.

Τι πρέπει να ρωτά ένας δημόσιος αγοραστής

Ένα πρακτικό πακέτο προμήθειας μπορεί να μετατρέψει αυτές τις αρχές σε ερωτήσεις που οι προσφέροντες και οι εσωτερικές ομάδες πρέπει να απαντήσουν. Η λίστα δεν είναι καθολικό πρότυπο και κάθε τομέας θα χρειαστεί τη δική του νομική και επιχειρησιακή λεπτομέρεια. Είναι ένας τρόπος να φέρει κανείς το όριο στο τραπέζι από νωρίς.

  • Ποιο δημόσιο καθήκον υποστηρίζεται και ποιες ενέργειες είναι ρητά εκτός πεδίου;
  • Ποιοι επηρεάζονται, τι θα μπορούσε να αλλάξει ένα λάθος αποτέλεσμα και πόσο αναστρέψιμη είναι αυτή η αλλαγή;
  • Ποια δεδομένα, πηγές, εκδόσεις και παραδοχές χρησιμοποιούνται και ποιος μπορεί να τα διορθώσει;
  • Ποια αποδεικτικά στοιχεία συνοδεύουν ένα αποτέλεσμα και μπορεί ένας εξουσιοδοτημένος αξιολογητής να τα επιθεωρήσει και να τα αμφισβητήσει;
  • Τι συμβαίνει όταν η είσοδος λείπει, είναι αντικρουόμενη, μη υποστηριζόμενη ή εκτός της δηλωμένης κατανομής;
  • Ποιος ρόλος μπορεί να απορρίψει, να παρακάμψει, να θέσει σε παύση, να σταματήσει ή να κλιμακώσει και είναι αυτός ο ρόλος επανδρωμένος και εξουσιοδοτημένος;
  • Πώς εντοπίζονται, δοκιμάζονται, εγκρίνονται και αναστρέφονται οι αλλαγές στο μοντέλο, στο prompt, στην ανάκτηση, στην πολιτική και στα δεδομένα;
  • Πώς λαμβάνει ένα επηρεαζόμενο άτομο ειδοποίηση, διόρθωση, εξήγηση και μια εφικτή διαδρομή επανεξέτασης;
  • Ποια αρχεία καταγραφής, εγγραφές και εξαγωγές παραμένουν διαθέσιμα στην αρχή κατά τη διάρκεια της σύμβασης και μετά την αποχώρηση;
  • Τι αναφέρει ο προμηθευτής ως περιστατικό και πώς αποδεικνύεται η αποκατάσταση;

Αυτές οι ερωτήσεις δεν υποκαθιστούν διαγωνισμό, εκτίμηση επιπτώσεων ή νομική συμβουλή. Κάνουν πιο δύσκολο για κάθε έγγραφο να υποθέτει ότι ένα άλλο έγγραφο αναλαμβάνει το δύσκολο μέρος. Επιτρέπουν επίσης στον αγοραστή να συγκρίνει προμηθευτές με βάση όσα καθιστούν μια υπηρεσία διαχειρίσιμη, και όχι μόνο όσα κάνουν μια επίδειξη εντυπωσιακή.

Ένα μικρό σημείωμά μας, αργά και επίτηδες

Στη Dweve ασχολούμαστε με διακυβερνώμενα συστήματα, οπότε γνωρίζουμε καλά τον πειρασμό να κάνουμε το προϊόν πρωταγωνιστή. Η πιο χρήσιμη πειθαρχία είναι πιο λιτή: να δηλώνεται ο σκοπός, να οριοθετείται η εξουσία, να παραμένουν τα αποδεικτικά στοιχεία συνδεδεμένα, να είναι ελέγξιμες οι παραδόσεις και να υπάρχει δίοδος διόρθωσης. Το δικό μας υλικό για προμήθειες και διακυβέρνηση ξεκινά από αυτά τα όρια, επειδή μια λογοδοτούμενη ροή εργασίας είναι πιο σημαντική από μια πειστική περιγραφή ενός εργαλείου. Αυτό αποτελεί παράδειγμα σχεδιαστικής θέσης, όχι απόδειξη ότι ένα προϊόν μπορεί να αντικαταστήσει έναν δημόσιο θεσμό.

Το ζητούμενο δεν είναι ότι κάθε δημόσιος αγοραστής πρέπει να χρησιμοποιεί το λογισμικό μας, ούτε ότι μια αρχιτεκτονική λύνει τις προμήθειες. Είναι ότι το ίδιο τεστ ισχύει για εμάς όσο και για οποιονδήποτε άλλον. Μπορεί ο αγοραστής να καταλάβει τι αγοράζεται, τι επιτρέπεται να κάνει, τι αποδεικτικά στοιχεία αφήνει, πώς αλλάζει και πώς αποχωρεί ο αγοραστής. Αν η απάντηση είναι όχι, ο αγοραστής έχει λόγο να συνεχίσει να ρωτά, ανεξάρτητα από το πόσο ευρωπαϊκός, ανοιχτός ή ευγενικός ακούγεται ο προμηθευτής.

Η απόφαση παραμένει στον δημόσιο φορέα

Οι δημόσιες προμήθειες περιγράφονται συχνά ως δρόμος προς την αντιστοιχία κόστους και αξίας. Αυτό ισχύει, αλλά η αξία δεν είναι μόνο χαμηλότερη τιμή ή ταχύτερη διαδικασία. Μια δημόσια υπηρεσία χρειάζεται επίσης τη δυνατότητα να αιτιολογεί, να διορθώνει λάθη, να αντέχει στον έλεγχο, να προστατεύει δικαιώματα και να συνεχίζει να λειτουργεί όταν αλλάζει κάποιο στοιχείο. Ένα σύστημα που εξοικονομεί χρόνο ενώ καθιστά αυτά τα καθήκοντα αδύνατα δεν είναι αντιστοιχία κόστους και αξίας. Είναι μια μελλοντική διαφορά αγορασμένη με έκπτωση.

Ο προμηθευτής μπορεί να παρέχει δυνατότητες, αποδεικτικά στοιχεία, συντήρηση και δρόμο βελτίωσης. Ο φορέας πρέπει να παρέχει σκοπό, εξουσία, κρίση, επανόρθωση και κυριότητα. Η σύμβαση πρέπει να καθιστά αυτές τις σχέσεις ρητές. Η ροή εργασίας πρέπει να τις καθιστά ορατές. Το αρχείο πρέπει να τις καθιστά ανακτήσιμες. Το πρόσωπο που επηρεάζεται πρέπει να μπορεί να βρει την πόρτα από την οποία μπορεί να εισέλθει μια διόρθωση.

Γι' αυτό μια δημόσια υπηρεσία δεν μπορεί να αναθέσει εξωτερικά την κρίση της. Ο θεσμός μπορεί να αναθέσει μια εργασία, αλλά δεν μπορεί να αναθέσει το δημόσιο νόημα του αποτελέσματος. Μπορεί να χρησιμοποιήσει ένα μοντέλο, αλλά δεν μπορεί να χρησιμοποιήσει την αυτοπεποίθηση του μοντέλου ως λόγο για να σταματήσει να σκέφτεται. Μπορεί να αγοράσει έναν βοηθό, αλλά δεν μπορεί να αγοράσει έναν βοηθό και μετά να τον αποκαλεί υπεύθυνο μέρος. Η δημόσια εξουσία δεν μετακινείται απλώς επειδή ένα διάγραμμα λογισμικού έχει ένα βέλος.

Η ειλικρινής ερώτηση για τις προμήθειες δεν είναι λοιπόν αν μπορεί ο προμηθευτής να το αυτοματοποιήσει. Είναι αν μπορεί ο δημόσιος φορέας να παραμείνει ικανός να κατανοεί, να αμφισβητεί, να σταματά, να διορθώνει, να εξηγεί και να αποχωρεί ενώ ο προμηθευτής βοηθά. Αν η απάντηση είναι ναι, η τεχνολογία έχει θέση μέσα σε μια διακυβερνώμενη υπηρεσία. Αν η απάντηση είναι όχι, η σωστή απόφαση μπορεί να είναι να περιοριστεί η χρήση, να αλλάξει η σύμβαση ή να απορριφθεί η αγορά. Ένας δημόσιος φορέας που μπορεί να πει όχι εξακολουθεί να κάνει τη δουλειά του.

Πηγές