Ο δημόσιος τομέας χρειάζεται προμήθειες που μπορούν να πουν όχι

Μια δημόσια αρχή δεν καθίσταται υπόλογη όταν υπογράφει για ένα σύστημα τεχνητής νοημοσύνης. Καθίσταται υπόλογη όταν οι απαιτήσεις της, τα αποδεικτικά...

Ο δημόσιος τομέας χρειάζεται προμήθειες που μπορούν να πουν όχι

Το έγγραφο που μπορεί να σταματήσει μια προμήθεια

Ένας φάκελος δημοσίων προμηθειών συχνά ξεκινά με ένα αίτημα που ακούγεται αθώο: να βρεθεί ένα σύστημα που να βοηθά σε μια εργασία. Το αίτημα περνά από μια περιγραφή του προβλήματος, μια διαβούλευση με την αγορά, ένα σύνολο απαιτήσεων, μια αξιολόγηση, μια σύμβαση και, αν η διαδικασία είναι υγιής, μια απόφαση που μπορεί ακόμη να σταματήσει το έργο. Αυτό το τελευταίο ενδεχόμενο χάνεται εύκολα. Μόλις τα χρήματα, τα χρονοδιαγράμματα και η πολιτική προσοχή συγκεντρωθούν γύρω από μια προμήθεια, η λέξη «όχι» αρχίζει να ακούγεται σαν αποτυχία παράδοσης. Στα δημόσια έργα, μπορεί να είναι η πιο χρήσιμη απόφαση σε ολόκληρο τον φάκελο.

Η ευρωπαϊκή νομοθεσία για τις δημόσιες συμβάσεις ήδη αντιμετωπίζει μια προσφορά ως κάτι περισσότερο από έναν διαγωνισμό ελκυστικών υποσχέσεων. Η Οδηγία 2014/24/ΕΕ ορίζει ότι τα κριτήρια ανάθεσης πρέπει να επιτρέπουν αποτελεσματικό και θεμιτό ανταγωνισμό και να συνοδεύονται από ρυθμίσεις που επιτρέπουν στην αναθέτουσα αρχή να επαληθεύει τις πληροφορίες που παρέχουν οι προσφέροντες. Η οδηγία ορίζει επίσης ότι τα κριτήρια δεν πρέπει να παρέχουν στην αρχή απεριόριστη ελευθερία επιλογής. Ένας δημόσιος αγοραστής πρέπει να περιγράψει τι έχει σημασία, να εξηγήσει πώς θα σταθμιστεί και να ελέγξει αν η προσφορά όντως το ικανοποιεί. Αυτό δεν είναι μια διοικητική υποσημείωση. Είναι το νομικό σχήμα μιας απόφασης που άλλοι πρέπει να μπορούν να κατανοήσουν και να αμφισβητήσουν.

Η τεχνητή νοημοσύνη δυσκολεύει την παλιά πειθαρχία, επειδή ένας προμηθευτής μπορεί να προσφέρει ένα σύστημα του οποίου η συμπεριφορά εξαρτάται από δεδομένα, ενημερώσεις μοντέλων, προτροπές, όρια, ενοποιήσεις, ανθρώπους και μια υπηρεσία που μπορεί να αλλάξει ενώ η σύμβαση είναι ακόμη νωπή. Το ενημερωτικό φυλλάδιο μπορεί να παραμένει το ίδιο ενώ το πράγμα πίσω από αυτό αλλάζει. Μια ομάδα προμηθειών πρέπει επομένως να αγοράσει κάτι περισσότερο από μια διεπαφή. Πρέπει να αγοράσει μια οριοθετημένη δυνατότητα, τα αποδεικτικά ότι η δυνατότητα είναι κατάλληλη, την εξουσία να την εποπτεύει και έναν αξιόπιστο τρόπο να τη σταματήσει ή να την αντικαταστήσει.

Ο δημόσιος τομέας χρειάζεται προμήθειες που μπορούν να πουν «όχι», επειδή ο δημόσιος τομέας δεν μπορεί να εκχωρήσει την κρίση του. Ένας προμηθευτής μπορεί να παρέχει ένα μοντέλο, μια ροή εργασίας, μια φιλοξενούμενη υπηρεσία ή ένα σύνολο εργαλείων. Δεν μπορεί να παρέχει τη νομιμοποίηση της απόφασης που λαμβάνεται με αυτά. Η αρχή πρέπει ακόμη να γνωρίζει ποιο πρόβλημα επιλύει, ποια συμφέροντα ενδέχεται να θιγούν, ποια αποδεικτικά στηρίζουν το σύστημα, ποιο άτομο μπορεί να παρέμβει και πώς θα συνεχιστεί η υπηρεσία αν ο προμηθευτής αλλάξει πορεία. Μια υπογραφή δεν είναι μεταβίβαση ευθύνης. Είναι καταγραφή ότι η ευθύνη έχει διευθετηθεί.

Αυτό το άρθρο ακολουθεί αυτή τη διευθέτηση από την πρώτη πρόταση μιας απαίτησης έως την τελευταία γραμμή ενός αρχείου εξόδου. Χρησιμοποιεί ευρωπαϊκές δημόσιες κατευθυντήριες γραμμές και υλικό προμηθειών ως αποδεικτικά. Τα πρακτικά πρότυπα είναι συστάσεις, όχι ισχυρισμοί ότι κάθε αρχή πρέπει να χρησιμοποιεί μία μορφή. Κάθε επινοημένη κατάσταση χαρακτηρίζεται ως υποθετική. Ένα εύλογο γραφείο, μια προσεγμένη προσφορά και μια δραματική αποτυχία δεν αποτελούν αποδεικτικά μόνο και μόνο επειδή ταιριάζουν σε μια γνώριμη ιστορία.

Ένας δημόσιος αγοραστής αγοράζει μια υπόσχεση δύο φορές

Κάθε δημόσια προμήθεια φέρει δύο υποσχέσεις. Η πρώτη είναι η υπόσχεση του προμηθευτή για ένα προϊόν ή μια υπηρεσία. Η δεύτερη είναι η υπόσχεση της αρχής προς τους ανθρώπους που εξαρτώνται από το έργο: ότι τα χρήματα δαπανήθηκαν για έναν καθορισμένο δημόσιο σκοπό, ότι η απόφαση μπορεί να εξηγηθεί, ότι ελήφθησαν υπόψη τα σχετικά δικαιώματα και ότι κάποιος παραμένει υπόλογος όταν το σύστημα κάνει λάθος. Η δεύτερη υπόσχεση είναι αυτή που επιβιώνει από την εκδήλωση παρουσίασης.

Οι προμήθειες τεχνητής νοημοσύνης συχνά κάνουν την πρώτη υπόσχεση ζωντανή και τη δεύτερη ασαφή. Μια επίδειξη μπορεί να δείξει μια άρτια σύνοψη, μια λίστα κατάταξης ή μια γρήγορη απάντηση. Σπάνια δείχνει ποιος μπορεί να απορρίψει το αποτέλεσμα, τι συμβαίνει όταν λείπει μια πηγή, πώς εγκρίνεται μια αλλαγή, αν τα αρχεία μπορούν να εξαχθούν ή ποιο άτομο μπορεί να θέσει σε παύση την υπηρεσία χωρίς να διαπραγματεύεται τη δική του εξουσία στη μέση ενός περιστατικού. Αυτές οι ερωτήσεις είναι λιγότερο εντυπωσιακές. Είναι όμως και οι ερωτήσεις που καθορίζουν αν ένας δημόσιος φορέας μπορεί να παραμείνει επικεφαλής.

Η Κοινότητα Δημοσίων Αγοραστών της Ευρωπαϊκής Επιτροπής περιγράφει τις επικαιροποιημένες συμβατικές ρήτρες της ΕΕ για την τεχνητή νοημοσύνη σε τρία μέρη: μια πλήρη έκδοση για συστήματα ΤΝ υψηλού κινδύνου που ευθυγραμμίζεται με την Πράξη για την ΤΝ, μια ελαφριά έκδοση που μπορεί να προσαρμοστεί για συστήματα ΤΝ που δεν ενέχουν υψηλό κίνδυνο, και σχόλια σχετικά με τον τρόπο χρήσης και προσαρμογής των ρητρών. Η διάκριση έχει σημασία. Μια υποδειγματική ρήτρα δεν είναι μια μαγική σφραγίδα που καθιστά μια προμήθεια κατάλληλη. Είναι ένα σημείο εκκίνησης για την κατανομή υποχρεώσεων μεταξύ ενός δημόσιου φορέα και ενός προμηθευτή, σε μια σύμβαση της οποίας το πεδίο εφαρμογής, ο σκοπός και τα αποδεικτικά στοιχεία πρέπει να καθοριστούν από τον αγοραστή.

Ένας αγοραστής θα πρέπει επομένως να αναρωτηθεί τι υπόσχεται πραγματικά στο κοινό πριν ρωτήσει τι μπορεί να αποδείξει ένας προμηθευτής. Υπόσχεται η αρχή μια ταχύτερη διαδρομή μέσα από μια εκκρεμότητα, μια πιο συνεπή πρώτη αξιολόγηση, μια ασφαλέστερη επιθεώρηση, μια καλύτερη αξιοποίηση της περιορισμένης τεχνογνωσίας ή απλώς ένα πείραμα του οποίου τα όρια είναι ορατά; Κάθε σκοπός δημιουργεί διαφορετικά αποδεικτικά στοιχεία και διαφορετικούς λόγους διακοπής. Ένα σύστημα που συντάσσει εσωτερικές σημειώσεις μπορεί να χρειάζεται διαφορετικό όριο εξουσίας από ένα σύστημα που ιεραρχεί αιτήσεις για μια υπηρεσία την οποία οι πολίτες δεν μπορούν να αποφύγουν.

Εξετάστε μια υποθετική ομάδα αξιολόγησης που εξετάζει ένα εργαλείο το οποίο συνοψίζει τις υποβολές προμηθευτών. Η ομάδα μπορεί να αποφασίσει ότι η εργασία είναι κατάλληλη για υποβοήθηση, αλλά μόνο εάν η σύνοψη διατηρεί τις εξαιρέσεις, τους όρους και τις ημερομηνίες και παραπέμπει τους αξιολογητές πίσω στα αρχικά αποσπάσματα. Εάν ο προμηθευτής δεν μπορεί να δείξει πώς θα δοκιμαστούν αυτές οι απαιτήσεις, η ομάδα θα πρέπει να μπορεί να απορρίψει το εργαλείο ή να περιορίσει τη σύμβαση. Αυτό δεν αποτελεί κατηγορία εναντίον του προμηθευτή. Είναι ένα συμπέρασμα σχετικά με τα διαθέσιμα αποδεικτικά στοιχεία για τον καθορισμένο σκοπό.

Η ίδια λογική ισχύει όταν το πρόβλημα είναι ελκυστικό αλλά κακώς οριοθετημένο. Ένας δημόσιος φορέας μπορεί να θέλει να προβλέψει τη ζήτηση, να ιεραρχήσει τις επιθεωρήσεις ή να δρομολογήσει την αλληλογραφία. Αυτά τα ρήματα κρύβουν τις αποφάσεις που βρίσκονται από κάτω. Τι συνιστά ζήτηση. Τι αλλάζει η προτεραιότητα. Ποια αλληλογραφία μπορεί να δρομολογηθεί με ασφάλεια χωρίς να τη διαβάσει άνθρωπος. Το πρώτο όχι μπορεί να αφορά το πεδίο εφαρμογής του προβλήματος, όχι τη χρήση λογισμικού. Η απόρριψη μιας ασαφούς αγοράς είναι συχνά ο τρόπος με τον οποίο μια αρχή προστατεύει το χρήσιμο μέρος της εργασίας από ένα μη ελέγξιμο μέρος.

Περιγράψτε το πρόβλημα πριν από τη λύση

Η διαδικασία προμηθειών γίνεται εύθραυστη όταν μια κατηγορία προϊόντος εμφανίζεται πριν ονομαστεί ένα δημόσιο πρόβλημα. Η τεχνητή νοημοσύνη είναι ιδιαίτερα καλή στο να δημιουργεί αυτή τη σειρά, επειδή το ίδιο μοντέλο μπορεί να παρουσιαστεί ως βοηθός γραφής, ταξινομητής, επίπεδο αναζήτησης ή πράκτορας, ανάλογα με τη διαφάνεια. Η αρχή πρέπει να περιγράψει το έργο με όρους που παραμένουν ουσιαστικοί όταν αφαιρεθούν ο προμηθευτής, η οικογένεια μοντέλων και η διεπαφή.

Το ολλανδικό Algoritmekader, το οποίο συντηρείται για δημόσιους οργανισμούς, εντάσσει αυτή την εργασία στα συνιστώμενα μέτρα του. Ζητά από τους οργανισμούς να περιγράψουν τον επιδιωκόμενο σκοπό και τα δεδομένα που χρησιμοποιούνται, να προσδιορίσουν την εφαρμοστέα ομάδα κινδύνου, να εκτιμήσουν τον αντίκτυπο εάν ο αλγόριθμος δεν λειτουργεί όπως προβλέπεται και να αποφασίσουν εάν μια λύση θα πρέπει να αναπτυχθεί ή να αγοραστεί. Επισημαίνει επίσης μια αρχιτεκτονική εκκίνησης έργου για την ανάπτυξη ή την προμήθεια αλγορίθμων. Αυτά δεν είναι διακοσμητικά στοιχεία των προμηθειών. Είναι τρόποι να γίνει το πρόβλημα ευανάγνωστο πριν προσφερθεί μια απάντηση.

Μια καλή απαίτηση ξεκινά με την απόφαση ή την υπηρεσία που πρέπει να βελτιωθεί, τους ανθρώπους που την εκτελούν ή τη λαμβάνουν, τις πληροφορίες που μπορεί να χρησιμοποιήσει το σύστημα, τις πληροφορίες που δεν πρέπει να χρησιμοποιήσει και την ανθρώπινη εξουσία που παραμένει. Δηλώνει τις συνθήκες υπό τις οποίες το σύστημα είναι χρήσιμο και τις συνθήκες υπό τις οποίες δεν πρέπει να χρησιμοποιείται. Κατονομάζει τα αρχεία που πρέπει να υπάρχουν όταν το αποτέλεσμα γίνεται αποδεκτό, απορρίπτεται, διορθώνεται ή προωθείται σε ανώτερο επίπεδο. Δεν χρειάζεται να προβλέψει τον εσωτερικό σχεδιασμό του προμηθευτή. Πρέπει να ορίσει τη δημόσια δυνατότητα που μπορεί να επιθεωρηθεί.

Εδώ είναι το σημείο όπου έχουν σημασία οι λειτουργικές απαιτήσεις και οι απαιτήσεις επιδόσεων. Η Οδηγία 2014/24/ΕΕ απαιτεί οι τεχνικές προδιαγραφές να είναι αρκετά ακριβείς ώστε οι προσφέροντες να κατανοούν το αντικείμενο και οι αναθέτουσες αρχές να αξιολογούν πώς οι προσφορές πληρούν τα κριτήρια. Μια απαίτηση όπως «παροχή έξυπνης λύσης» δεν αποτελεί χρήσιμο κριτήριο ελέγχου. Μια απαίτηση όπως «διατήρηση των πηγών που χρησιμοποιήθηκαν σε ένα σχέδιο, εμφάνιση της ημερομηνίας ανάκτησης, δυνατότητα του αναθεωρητή να απορρίψει το σχέδιο και εξαγωγή του τελικού αρχείου» είναι πιο κοντά σε μια ελέγξιμη δημόσια ανάγκη. Περιγράφει μια συμπεριφορά και μια διαδρομή τεκμηρίωσης και όχι μια μόδα.

Οι απαιτήσεις θα πρέπει επίσης να αποκαλύπτουν τα όρια του έργου. Μια δημόσια αρχή μπορεί να δηλώσει ότι ένα σύστημα μπορεί να προτείνει μια διαδρομή, αλλά δεν μπορεί να λαμβάνει την τελική απόφαση. Μπορεί να ορίσει ότι μια σύσταση δεν πρέπει να χρησιμοποιείται όταν μια συγκεκριμένη πηγή απουσιάζει ή είναι αντιφατική. Μπορεί να απαιτήσει μια ανθρώπινη διαδρομή για ένα άτομο που επηρεάζεται και επιθυμεί να αμφισβητήσει το αποτέλεσμα. Αυτοί δεν είναι εχθρικοί περιορισμοί. Είναι οι συνθήκες υπό τις οποίες η αγορά παραμένει δημόσια υπηρεσία και όχι ιδιωτική διαδικασία με κυβερνητικό λογότυπο.

Μια στενή διατύπωση του προβλήματος δεν αποτελεί έλλειψη φιλοδοξίας. Είναι ένας τρόπος να καταστεί η φιλοδοξία υπόλογη. Εάν η αρχή δεν μπορεί να εξηγήσει ποιο βήμα αλλάζει το σύστημα, ποιος ωφελείται, τι μπορεί να πάει στραβά και τι μπορεί να κάνει ένα άτομο στη συνέχεια, δεν είναι έτοιμη να συγκρίνει προμηθευτές. Η σωστή ενέργεια μπορεί να είναι περισσότερη διερεύνηση, μια λύση χωρίς τεχνητή νοημοσύνη, μια μικρή ελεγχόμενη πιλοτική εφαρμογή ή καμία αγορά. Ο φάκελος της προμήθειας θα πρέπει να έχει χώρο για κάθε απάντηση.

Μετατρέψτε τις απαιτήσεις σε τεκμήρια

Η λέξη τεκμήριο χρησιμοποιείται χαλαρά στις προμήθειες τεχνολογίας. Μια παρουσίαση προμηθευτή, μια περιήγηση στο προϊόν και μια δήλωση ότι το σύστημα είναι αξιόπιστο μπορεί να είναι όλα χρήσιμες πληροφορίες. Κανένα από αυτά δεν αποδεικνύει αυτόματα ότι πληρείται μια απαίτηση. Το τεκμήριο πρέπει να συνδέεται με έναν ισχυρισμό, μια δοκιμή, ένα πεδίο εφαρμογής και ένα άτομο που μπορεί να το επιθεωρήσει. Χωρίς αυτή τη σύνδεση, η αξιολόγηση μετατρέπεται σε διαγωνισμό όπου κερδίζει η πιο καλοδουλεμένη πρόταση.

Η οδηγία για τις προμήθειες είναι σαφής ως προς τη βασική σχέση: τα κριτήρια ανάθεσης πρέπει να συνοδεύονται από ρυθμίσεις που επιτρέπουν την αποτελεσματική επαλήθευση των πληροφοριών που παρέχουν οι προσφέροντες. Αυτή η αρχή είναι ιδιαίτερα σημαντική για την τεχνητή νοημοσύνη, επειδή ένα αποτέλεσμα μπορεί να φαίνεται πειστικό ενώ οι συνθήκες που το παρήγαγαν παραμένουν κρυφές. Ο αγοραστής θα πρέπει να ρωτήσει τι θα παρουσιαστεί, υπό ποιες συνθήκες δεδομένων και εργασιών, με ποια βάση σύγκρισης και πώς μπορεί ένας αναθεωρητής να αναπαράγει ή να αμφισβητήσει το αποτέλεσμα.

Το ολλανδικό Algoritmekader θέτει την ίδια απαίτηση σε πρακτική γλώσσα. Τα μέτρα του για τις δημόσιες προμήθειες περιλαμβάνουν την ενσωμάτωση των απαιτήσεων για τους αλγορίθμους στα έγγραφα της προμήθειας και στη σύμβαση, την υποχρέωση των προμηθευτών να παρέχουν τεκμήρια ότι πληρούνται οι απαιτήσεις στο πλαίσιο της αξιολόγησης, την αξιολόγηση των όρων ευθύνης του προμηθευτή, την απαίτηση δυνατότητας ελέγχου στη σύμβαση, τη συμφωνία για το τι συμβαίνει με τα δεδομένα και τα τεχνουργήματα και την αίτηση σχεδίου για τη διακοπή λειτουργίας του αλγορίθμου. Η λίστα αποτελεί καθοδήγηση και όχι ένα καθολικό νομικό κατάλογο ελέγχου. Η αξία της έγκειται στο ότι αντιμετωπίζει την απόδειξη ως αντικείμενο της προμήθειας.

Ένας αγοραστής μπορεί να διαχωρίσει τα τεκμήρια σε τρεις χρήσιμες κατηγορίες. Τα επιδεικνυόμενα τεκμήρια είναι όσα παρουσιάζει ο προμηθευτής σε μια ελεγχόμενη αξιολόγηση: η είσοδος, η έξοδος, ο χειρισμός σφαλμάτων, η χρήση πηγών και η ανθρώπινη διαδρομή μπορούν να παρατηρηθούν. Τα επιθεωρήσιμα τεκμήρια είναι όσα μπορεί να εξετάσει η αρχή χωρίς να βασίζεται σε μια επίδειξη: τεκμηρίωση, αποτελέσματα δοκιμών, αρχεία καταγραφής, διεπαφές, αρχεία αλλαγών, περιγραφές δεδομένων και η δυνατότητα εκτέλεσης ενός συμφωνημένου ελέγχου. Τα συμβατικά τεκμήρια είναι όσα πρέπει να συνεχίσει να παρέχει ο προμηθευτής: ειδοποιήσεις ουσιωδών αλλαγών, πληροφορίες για περιστατικά, πρόσβαση για έλεγχο, αρχεία υπηρεσιών, δυνατότητες εξαγωγής και υποστήριξη για μια ελεγχόμενη έξοδο. Οι κατηγορίες αλληλοκαλύπτονται, αλλά αποτρέπουν το να στηρίζεται ολόκληρη η σύμβαση σε μια μόνο εντυπωσιακή συνεδρία.

Τα στοιχεία χρειάζονται επίσης ένα πεδίο εφαρμογής. Ένας προμηθευτής μπορεί να δείξει ότι ένα σύστημα αποδίδει καλά σε ένα σύνολο παραδειγμάτων. Ο αγοραστής πρέπει ωστόσο να γνωρίζει αν τα παραδείγματα αντιπροσωπεύουν την επιδιωκόμενη γλώσσα, την ποιότητα των εγγράφων, τη σύνθεση των περιστατικών, τις ανάγκες προσβασιμότητας και τους επιχειρησιακούς περιορισμούς. Ένας ισχυρισμός για ένα μοντέλο σε εργαστήριο δεν είναι αυτόματα ισχυρισμός για μια δημόσια υπηρεσία. Είναι ισχυρισμός για το πείραμα που διεξήχθη. Η ομάδα προμηθειών θα πρέπει να διατηρεί την εργασία, τις συνθήκες των δεδομένων, την έκδοση και το αποτέλεσμα, ώστε η μεταγενέστερη απόφαση να μην αποσυνδέεται από τη δοκιμή.

Φανταστείτε, ως υποθετικό σενάριο, ότι ένας υποψήφιος παρέχει ένα δείγμα συνόλου παραγόμενων περιλήψεων και μια γενική δήλωση ακρίβειας. Η αρχή μπορεί να ζητήσει τα πηγαία έγγραφα, τον κανόνα επιλογής, την έκδοση που χρησιμοποιήθηκε, τον χειρισμό του ελλείποντος υλικού, τη διαδικασία επανεξέτασης και το τεκμήριο που θα παραμείνει μετά την αποδοχή. Αν η απάντηση είναι ότι οι λεπτομέρειες είναι ιδιόκτητες και δεν μπορούν να επιθεωρηθούν, η ομάδα έχει μάθει κάτι σημαντικό. Δεν έμαθε ότι το σύστημα είναι κακό. Έμαθε ότι το προτεινόμενο όριο των στοιχείων μπορεί να είναι πολύ αδύναμο για τον δημόσιο σκοπό.

Τα στοιχεία θα πρέπει να είναι αναλογικά. Ένα μικρό εσωτερικό βοήθημα σύνταξης δεν χρειάζεται το ίδιο πακέτο επιθεώρησης με ένα σύστημα που επηρεάζει την πρόσβαση σε μια δημόσια υπηρεσία. Η αναλογικότητα δεν σημαίνει αποδοχή ενός συνθήματος σε χαμηλό κίνδυνο. Σημαίνει αντιστοίχιση του βάθους της απόδειξης με τη συνέπεια, την αναστρεψιμότητα, τους επηρεαζόμενους ανθρώπους και τη δυνατότητα εντοπισμού και διόρθωσης ενός σφάλματος. Ο προμηθευτής θα πρέπει να γνωρίζει τα απαιτούμενα στοιχεία πριν από την υποβολή της προσφοράς. Διαφορετικά, η αρχή αλλάζει τον διαγωνισμό μετά τον αγώνα, που είναι ένας γνωστός τρόπος να προκύψει μια ακριβή έκπληξη.

Μια απαίτηση θα πρέπει να οδηγεί σε απόδειξη, και η απόδειξη θα πρέπει να μπορεί να αλλάξει την απόφαση ανάθεσης.

Ο αγοραστής πρέπει να μπορεί να διαφωνήσει

Η δημόσια λογοδοσία δεν είναι το ίδιο με τη διαφάνεια του προμηθευτή. Ένας προμηθευτής μπορεί να εξηγήσει την υπηρεσία του ενώ η αρχή εξακολουθεί να μην έχει οδό για έναν κάτοικο, εργαζόμενο, επιχείρηση ή επαγγελματία να αμφισβητήσει τον τρόπο με τον οποίο χρησιμοποιήθηκε η υπηρεσία. Ο φάκελος προμηθειών θα πρέπει επομένως να ρωτά πώς λειτουργεί η διαφωνία, όχι μόνο πώς το σύστημα παράγει μια απάντηση.

Το Algoritmekader τοποθετεί τον ανθρώπινο έλεγχο, τα θεμελιώδη δικαιώματα, τη διαφάνεια και τις οδούς υποβολής καταγγελιών μεταξύ των θεμάτων του δημόσιου τομέα. Τα συνιστώμενα μέτρα του περιλαμβάνουν ουσιαστική ανθρώπινη παρέμβαση στη λήψη αποφάσεων, μια διαδικασία μέσω της οποίας οι πολίτες ή άλλοι ενδιαφερόμενοι μπορούν να υποβάλουν καταγγελία, ένσταση ή προσφυγή, μια δημόσια απόφαση σχετικά με τη χρήση του αλγορίθμου και έναν τρόπο δημοσίευσης αλγορίθμων που επηρεάζουν τη λήψη αποφάσεων στο Ολλανδικό Μητρώο Αλγορίθμων. Αυτά τα μέτρα δεν μετατρέπουν κάθε αλγόριθμο σε δημόσιο θέαμα. Καθιστούν την ευθύνη της αρχής αρκετά ορατή ώστε να μπορεί να αμφισβητηθεί.

Μια προδιαγραφή προμηθειών για ανθρώπινη εποπτεία θα πρέπει να κατονομάζει την ανθρώπινη ενέργεια. Μπορεί ο αναθεωρητής να δει τις πληροφορίες που διαμόρφωσαν τη σύσταση. Μπορεί να διορθώσει το αρχείο. Μπορεί να απορρίψει το αποτέλεσμα χωρίς να ζητήσει πρώτα άδεια από το σύστημα. Μπορεί να ζητήσει εναλλακτική διαδρομή όταν λείπει μια πηγή. Μπορεί να σταματήσει μια παρτίδα, να απομονώσει μια έκδοση ή να αναβαθμίσει μια ανησυχία σε κάποιον με εξουσία. Αν η απάντηση είναι μόνο ότι υπάρχει ένα άτομο κάπου στη διαδικασία, η προδιαγραφή περιγράφει έπιπλα, όχι εποπτεία.

Η διαφωνία χρειάζεται επίσης χρόνο. Ένας αναθεωρητής που αναμένεται να ελέγχει κάθε αποτέλεσμα ενώ κουβαλά τον αρχικό φόρτο εργασίας μπορεί να είναι τεχνικά εντός του κύκλου και πρακτικά εκτός αυτού. Οι προμήθειες μπορούν να απαιτούν εκπαίδευση, υποστήριξη, αξιοποιήσιμα αποδεικτικά στοιχεία και μια παραδοχή φόρτου εργασίας για την αναθεώρηση. Μπορούν να ορίζουν ποιες περιπτώσεις χρειάζονται έγκριση πριν από την ενέργεια και ποιες αναστρέψιμες ενέργειες χαμηλού αντικτύπου μπορούν να προχωρήσουν με καταγραφή και μεταγενέστερη δειγματοληψία. Μπορούν να ζητούν από τον προμηθευτή να υποστηρίζει τη διαδρομή αντί να την κρύβει πίσω από μια διεπαφή προγραμματισμού εφαρμογών.

Η αρχή πρέπει να διαφωνεί και με τον δικό της ενθουσιασμό. Μια επιτυχημένη πιλοτική εφαρμογή μπορεί να δημιουργήσει πίεση να επεκταθεί ένα εργαλείο σε πληθυσμό ή απόφαση που δεν ήταν ποτέ μέρος της δοκιμής. Η σύμβαση θα πρέπει να διατηρεί τον αρχικό σκοπό και να απαιτεί νέα απόφαση όταν αλλάζουν ο σκοπός, τα δεδομένα, οι επηρεαζόμενοι άνθρωποι ή οι συνέπειες. Μια ενημέρωση δεν είναι αυτόματα ακίνδυνη επειδή παρέχεται ως υπηρεσία. Μια νέα χρήση δεν καλύπτεται αυτόματα επειδή το ίδιο λογότυπο εμφανίζεται στην κορυφή της οθόνης.

Όταν ένας προμηθευτής λέει ότι το μοντέλο είναι μόνο συμβουλευτικό, η αρχή θα πρέπει να εξετάσει τι κάνει στην πραγματικότητα η εργασία. Αν το προσωπικό έχει οδηγίες να αποδέχεται την κατάταξη, αν δεν υπάρχει χρόνος για αναθεώρηση ή αν το σύστημα ελέγχει ποιες περιπτώσεις φτάνουν σε ένα άτομο, η συμβουλή μπορεί να έχει γίνει απόφαση στην πράξη. Η ομάδα προμηθειών δεν χρειάζεται να διαφωνήσει για την τέλεια ετικέτα. Χρειάζεται να τεκμηριώσει τη διαδρομή από το αποτέλεσμα στη συνέπεια και να διατηρήσει την εξουσία να αλλάξει αυτή τη διαδρομή.

Τα όρια του προμηθευτή αποτελούν μέρος της σύμβασης

Οι προμήθειες τεχνητής νοημοσύνης περιγράφονται συχνά ως επιλογή μεταξύ κατασκευής και αγοράς. Η δυσκολότερη επιλογή είναι πώς να διαχωριστεί το όριο μεταξύ προμηθευτή και δημόσιου οργανισμού. Ο προμηθευτής μπορεί να ελέγχει ένα μοντέλο, μια υπηρεσία, μια διαδρομή ενημέρωσης, τις υποδομές, την ομάδα υποστήριξης και μέρος της επεξεργασίας δεδομένων. Η αρχή ελέγχει τον δημόσιο σκοπό, την απόφαση, τον επηρεαζόμενο πληθυσμό και την υποχρέωση παροχής νόμιμης και λειτουργικής υπηρεσίας. Μια σύμβαση πρέπει να συνδέει αυτές τις ευθύνες αντί να τις αφήνει ως δύο ευγενικά διαγράμματα.

Οι επικαιροποιημένες ρήτρες τεχνητής νοημοσύνης του υποδείγματος σύμβασης της ΕΕ είναι χρήσιμες επειδή αναγνωρίζουν ότι οι δημόσιοι αγοραστές χρειάζονται διαφορετικές προσεγγίσεις για την τεχνητή νοημοσύνη υψηλού και μη υψηλού κινδύνου και χρειάζονται καθοδήγηση για την προσαρμογή των ρητρών στην πράξη. Δεν υποκαθιστούν μια στρατηγική προμηθειών ή έναν νομικό έλεγχο. Αποτελούν μια κοινή γλώσσα για να γίνουν οι ευθύνες σαφείς. Ο αγοραστής εξακολουθεί να πρέπει να αποφασίσει ποιες αποδείξεις, δικαιώματα δεδομένων, πρόσβαση ελέγχου, ειδοποίηση αλλαγών, υποστήριξη, ευθύνη και συνθήκες εξόδου είναι αναλογικές για το σύστημα που αγοράζεται.

Τα δεδομένα και τα τεχνουργήματα αξίζουν ιδιαίτερη προσοχή. Ένα σύστημα μπορεί να αγγίζει πηγαία έγγραφα, ετικέτες, προτροπές, ενσωματώσεις, παραγόμενα προσχέδια, ανθρώπινες διορθώσεις, σύνολα αξιολόγησης, αρχεία καταγραφής και τελικά αρχεία. Η σύμβαση θα πρέπει να διακρίνει τι παρέχει η αρχή, τι δημιουργεί ο προμηθευτής, τι μπορεί να χρησιμοποιήσει κάθε μέρος, τι πρέπει να επιστραφεί, τι πρέπει να διαγραφεί και τι απόδειξη διαγραφής ή διατήρησης απαιτείται. Το να λέμε ότι η αρχή κατέχει τα δεδομένα της δεν απαντά στο πού ζουν τα παράγωγα τεχνουργήματα ή πώς μπορεί η αρχή να ανακτήσει τα αρχεία που εξηγούν ένα αποτέλεσμα.

Τα δικαιώματα ελέγχου χρειάζονται πρακτική μορφή. Ο αγοραστής θα πρέπει να γνωρίζει ποια αρχεία μπορούν να ελεγχθούν, πώς ζητείται η πρόσβαση, ποια ειδοποίηση είναι εύλογη, ποιες ρυθμίσεις εμπιστευτικότητας ισχύουν και τι συμβαίνει όταν ένας έλεγχος εντοπίσει κενό. Μια ρήτρα ελέγχου χωρίς εφαρμόσιμη διαδικασία είναι μια επιστολή που περιμένει μια διαφορά. Το ίδιο ισχύει και για μια ρήτρα περιστατικών που αναφέρει ότι ο προμηθευτής θα συνεργαστεί χωρίς να προσδιορίζει τις πληροφορίες, το χρονοδιάγραμμα και τον υπεύθυνο που απαιτούνται για τη συνεργασία.

Ο έλεγχος αλλαγών δεν θα πρέπει να αφήνεται στις σημειώσεις έκδοσης. Η αναθέτουσα αρχή μπορεί να απαιτεί ειδοποίηση για κάθε ουσιώδη αλλαγή στο μοντέλο, τις πηγές δεδομένων, τον τόπο επεξεργασίας, τους υπεργολάβους, τις διεπαφές, τα όρια, τη μέθοδο αξιολόγησης ή την ανθρώπινη διαδρομή. Μπορεί να ορίσει ποια αποδεικτικά στοιχεία απαιτούνται πριν από τη χρήση μιας τροποποιημένης έκδοσης για το δημόσιο καθήκον. Μπορεί να απαιτήσει το δικαίωμα αναστολής, απόρριψης ή επαναφοράς όταν η τροποποιημένη υπηρεσία δεν πληροί πλέον κάποια ουσιώδη απαίτηση. Αυτές είναι συστάσεις για να καταστεί η σύμβαση λειτουργική. Δεν αποτελούν ισχυρισμούς ότι μία ρήτρα μπορεί να επιλύσει κάθε σχέση με προμηθευτή.

Η ευθύνη περιλαμβάνει επίσης όσα δεν μπορεί να παράσχει ο προμηθευτής. Μια υπηρεσία μπορεί να εξαρτάται από μοντέλο ή υποδομή τρίτου μέρους, των οποίων οι αλλαγές είναι εκτός του άμεσου ελέγχου του προμηθευτή. Ο αγοραστής θα πρέπει να ενημερώνεται για αυτή την εξάρτηση και να γνωρίζει ποιες υποχρεώσεις μετακυλίονται σε αυτόν. Ένας δημόσιος οργανισμός δεν μπορεί να αξιολογήσει μια αλυσίδα εξετάζοντας μόνο την είσοδο. Η σύμβαση θα πρέπει να διατηρεί μια διαδρομή προς τα σχετικά αποδεικτικά στοιχεία, ή ο αγοραστής θα πρέπει να αναγνωρίσει ότι η αβεβαιότητα αποτελεί λόγο περιορισμού ή απόρριψης της αγοράς.

Τα σαφή όρια προστατεύουν και τους προμηθευτές. Ένας δημόσιος αγοραστής που ζητά κάθε πιθανό έγγραφο, κάθε λεπτομέρεια του πηγαίου κώδικα και απεριόριστη υποστήριξη χωρίς καθορισμένο σκοπό μπορεί να μειώσει τον ανταγωνισμό και να καταστήσει τη σύμβαση μη ελκυστική για μικρότερους ευρωπαϊκούς παρόχους. Η αναλογικότητα, η σαφήνεια και ένα αξιόπιστο πεδίο αποδεικτικών στοιχείων επιτρέπουν στον προμηθευτή να δηλώσει τι μπορεί να κάνει και στον αγοραστή να δηλώσει τι χρειάζεται. Οι δημόσιες προμήθειες θα πρέπει να είναι απαιτητικές χωρίς να είναι θεατρικές. Ένας τοίχος από ανέφικτες απαιτήσεις αποκλείει τα κακά συστήματα και τα καλά με την ίδια αποτελεσματικότητα.

Η αλλαγή μετά την ανάθεση εξακολουθεί να είναι προμήθεια

Η ανάθεση δεν είναι το τέλος της απόφασης. Είναι το σημείο όπου η υπηρεσία εισέρχεται σε ένα διαφορετικό είδος ελέγχου. Κατά τη λειτουργία, τα δεδομένα μεταβάλλονται, οι πολιτικές αλλάζουν, οι διεπαφές αντικαθίστανται, το προσωπικό μαθαίνει συντομεύσεις, οι προμηθευτές αναθεωρούν τα μοντέλα τους και ένα σύστημα μπορεί να χρησιμοποιηθεί σε καταστάσεις που η αρχική ομάδα δεν είχε φανταστεί. Η αναθέτουσα αρχή χρειάζεται έναν τρόπο να αντιλαμβάνεται αυτές τις αλλαγές πριν αυτές μετατραπούν κατά λάθος σε νέο δημόσιο σκοπό.

Το Algoritmekader συνιστά τακτικούς ελέγχους ότι ένας αλγόριθμος λειτουργεί όπως προβλέπεται, παρακολούθηση των αλλαγών στα δεδομένα και αξιολόγηση της απόδοσης και των αποτελεσμάτων όταν τα δεδομένα αλλάζουν, καθώς και τήρηση σχεδίου συνεχούς παρακολούθησης. Περιλαμβάνει επίσης μέτρο για σχέδιο έκτακτης ανάγκης για τη διακοπή του αλγορίθμου. Αυτές οι συστάσεις εντάσσουν τον χρόνο στο μοντέλο διακυβέρνησης. Μια προμήθεια που αποτυπώνει μόνο την αρχική προδιαγραφή έχει αγοράσει μια φωτογραφία μιας υπηρεσίας εν κινήσει.

Δεν θα πρέπει κάθε ενημέρωση να ενεργοποιεί την ίδια διαδικασία. Μια ενημέρωση ασφαλείας που αφήνει το μοντέλο, τα όρια δεδομένων και τον ρόλο απόφασης αμετάβλητα μπορεί να ακολουθεί διαφορετική διαδρομή από μια νέα οικογένεια μοντέλων, μια αλλαγμένη πηγή ανάκτησης ή ένα νέο όριο. Η σύμβαση μπορεί να ορίσει την ουσιαστικότητα με επιχειρησιακούς όρους: μια αλλαγή είναι ουσιώδης όταν μεταβάλλει το καθήκον, τα επηρεαζόμενα άτομα, τη διαδρομή αποδεικτικών στοιχείων, τη συνέπεια της απόφασης, τη δικαιοδοσία ανάπτυξης, τον υπεργολάβο, τη χρήση δεδομένων ή τη δυνατότητα παρέμβασης. Ο ακριβής ορισμός απαιτεί νομική και τεχνική κρίση. Η αρχή είναι απλή: η αλλαγή αποτελεί μέρος της αγορασμένης δυνατότητας.

Η παρακολούθηση θα πρέπει να διατηρεί τις πληροφορίες που χρειάζονται για τη λήψη μιας απόφασης. Ένας πίνακας ελέγχου μπορεί να δείξει ότι μια υπηρεσία είναι απασχολημένη· μπορεί να μην δείξει ότι μια πηγή έχει καταστεί παρωχημένη ή ότι οι αξιολογητές παρακάμπτουν την ίδια σύσταση. Η αναθέτουσα αρχή θα πρέπει να διατηρεί τη σχετική έκδοση, το πεδίο εφαρμογής του έργου, τις συνθήκες τεκμηρίωσης, την ανθρώπινη ενέργεια και τον λόγο μιας αλλαγής. Θα πρέπει να γνωρίζει ποιες αλλαγές έγιναν αποδεκτές, ποιες αναστράφηκαν, ποιες περιορίστηκαν και ποιες δημιούργησαν νέο προμηθευτικό ζήτημα.

Ένας προμηθευτής μπορεί να μην είναι σε θέση να δώσει εκ των προτέρων ειδοποίηση για κάθε εσωτερική αλλαγή. Η σύμβαση μπορεί ωστόσο να απαιτεί χρησιμοποιήσιμη ειδοποίηση και πακέτο τεκμηρίων προτού βασιστεί κανείς στην αλλαγμένη συμπεριφορά. Η αναθέτουσα αρχή μπορεί να επιλέξει σταδιακή ανάπτυξη, ελεγχόμενη αξιολόγηση ή προσωρινή αναστολή. Η δυνατότητα παύσης δεν είναι τιμωρία. Είναι αυτό που επιτρέπει σε μια δημόσια υπηρεσία να παραμένει υπόλογη ενώ διαπιστώνονται τα γεγονότα.

Ένα αρχείο αλλαγών προστατεύει επίσης από την ψευδή βεβαιότητα. Εάν η αναθέτουσα αρχή δεν μπορεί να διακρίνει αν μια διαφορά προήλθε από νέο μοντέλο, αλλαγή δεδομένων, προτροπή, ανθρώπινο έργο ή εξωτερική εξάρτηση, δεν θα πρέπει να ισχυρίζεται ότι το σύστημα συμπεριφέρθηκε με συνέπεια. Η σωστή απάντηση μπορεί να είναι ο περιορισμός της χρήσης, η συλλογή καλύτερων τεκμηρίων ή η διακοπή της επηρεαζόμενης διαδρομής. Τα δημόσια χρήματα δεν γίνονται ασφαλέστερα επειδή η εξήγηση είναι τακτοποιημένη.

Η διαλειτουργικότητα είναι ο ευγενικός όρος για την αποχώρηση

Οι άνθρωποι συχνά συζητούν τη διαλειτουργικότητα σαν να ήταν μια τεχνική ευγένεια μεταξύ συστημάτων. Στις δημόσιες προμήθειες είναι επίσης ένας έλεγχος συνέχειας. Εάν μια δημόσια υπηρεσία δεν μπορεί να μεταφέρει τα αρχεία, τις διαμορφώσεις, τα τεκμήρια, τις διεπαφές και τη λειτουργική γνώση της σε άλλη διαδρομή, η αναθέτουσα αρχή μπορεί να είναι νομικά ελεύθερη να αποχωρήσει και πρακτικά ανίκανη να το πράξει. Η σύμβαση έχει δημιουργήσει μια εξάρτηση που το αρχείο προμηθειών δεν ονόμασε.

Η έκθεση του JRC της Επιτροπής για την προώθηση της υιοθέτησης της τεχνητής νοημοσύνης στις δημόσιες διοικήσεις της ΕΕ χαρακτηρίζει τις προμήθειες ως κρίσιμο υποστηρικτικό ρόλο και αναφέρει ότι η διαλειτουργικότητα θα πρέπει να ενσωματώνεται εξαρχής. Παρουσιάζει επίσης τις στρατηγικές προμήθειες ως τρόπο μείωσης της εξάρτησης από παρόχους εκτός ΕΕ και υποστήριξης ευρωπαϊκών νεοφυών επιχειρήσεων τεχνητής νοημοσύνης, λύσεων ανοιχτού κώδικα και GovTech. Αυτό δεν είναι επιχείρημα για αγορά ευρωπαϊκών προϊόντων με συνθήματα ή για αντιμετώπιση του ανοιχτού κώδικα ως αυτόματης εγγύησης. Είναι επιχείρημα για να καταστεί η τεχνική και θεσμική ικανότητα αλλαγής πορείας μέρος της αξίας που αγοράζεται.

Η έξοδος ξεκινά με μια λίστα όσων πρέπει να επιβιώσουν. Αυτό μπορεί να περιλαμβάνει αρχεία προέλευσης, αναγνωριστικά, ετικέτες, προτροπές, εκδόσεις μοντέλων και διαμορφώσεων, σύνολα αξιολόγησης, αρχεία ελέγχου, αντιστοιχίσεις χρηστών και ρόλων, συμβάσεις ενοποίησης, κατάσταση διατήρησης, υλικό ασφαλείας και τη σημασία των πεδίων. Η λίστα εξαρτάται από την υπηρεσία. Ένα φορητό αρχείο χωρίς πλαίσιο μπορεί να είναι λιγότερο χρήσιμο από ένα μικρότερο αρχείο με τα συμφραζόμενα και τα δικαιώματά του άθικτα. Η εξαγωγή είναι δυνατότητα που πρέπει να δοκιμάζεται, όχι πλαίσιο που πρέπει να σημειώνεται.

Η διαλειτουργικότητα σημαίνει επίσης ότι η αναθέτουσα αρχή μπορεί να διεξαγάγει μια ουσιαστική σύγκριση. Μπορεί ένας προορισμός να επεξεργαστεί τα αρχεία χωρίς να αλλάξει σιωπηρά τη σημασία τους. Μπορούν οι αξιολογητές να συγκρίνουν μια παλιά και μια νέα έξοδο υπό τις ίδιες συνθήκες εργασίας. Μπορεί η δημόσια υπηρεσία να συνεχίσει σε περιορισμένη λειτουργία εάν μια εξάρτηση δεν είναι διαθέσιμη. Μπορούν τα τεκμήρια να παραμείνουν αναγνώσιμα αφού εξαφανιστεί η διεπαφή. Αυτά τα ερωτήματα ανήκουν στις απαιτήσεις, την αξιολόγηση και τη σύμβαση, επειδή μια έξοδος που ανακαλύπτεται κατά τη διάρκεια έκτακτης ανάγκης είναι συνήθως μια αρχαιολογική ανασκαφή.

Η φορητότητα δεν σημαίνει κατ' ανάγκην ότι ο προμηθευτής οφείλει να παραδώσει κάθε εσωτερική λεπτομέρεια υλοποίησης. Σημαίνει ότι η αναθέτουσα αρχή μπορεί να διατηρήσει τη δημόσια λειτουργία και τα αρχεία για τα οποία είναι υπεύθυνη, υπό την επιφύλαξη των νόμιμων δικαιωμάτων και των περιορισμών ασφαλείας. Το όριο θα πρέπει να δηλώνεται πριν από την υπογραφή. Εάν το μοντέλο του προμηθευτή είναι απροσπέλαστο, η αρχή μπορεί να απαιτήσει φορητές εισόδους, εξόδους, αρχεία αποφάσεων, αξιολογήσεις, διαμόρφωση και μια διαδρομή για την ανασύσταση των δημόσιων υποχρεώσεων της υπηρεσίας. Εάν δεν μπορεί να αποκτήσει αυτή τη διαδρομή, θα πρέπει να αποτιμήσει την εξάρτηση με ειλικρίνεια ή να την απορρίψει.

Μια δοκιμή εξόδου έχει αξία επειδή μετατρέπει μια συμβατική υπόσχεση σε παρατηρήσιμη ικανότητα. Ένας δημόσιος αγοραστής μπορεί να δοκιμάσει μια εξαγωγή, να επιθεωρήσει τα πεδία, να εκτελέσει ένα αντιπροσωπευτικό φόρτο εργασίας σε έναν ελεγχόμενο προορισμό και να συγκρίνει τα προκύπτοντα αρχεία. Μπορεί να καταγράψει τι δεν μετακινήθηκε και να αποφασίσει αν το κενό είναι αποδεκτό. Η άσκηση δεν χρειάζεται να είναι εντυπωσιακή. Μια μικρή δοκιμή που γίνεται πριν από την ανανέωση είναι καλύτερη από μια ηρωική μετανάστευση που πραγματοποιείται αφού ο προμηθευτής έχει γίνει ο μόνος που θυμάται το σύστημα.

Η αποχώρηση είναι μια ακολουθία εξουσίας, εξαγωγής, νοήματος, επαλήθευσης, συνέχειας και περάτωσης. Ένα κουμπί με την ένδειξη εξαγωγή δεν είναι η ακολουθία.

Το κόστος είναι κάτι περισσότερο από τη γραμμή στον διαγωνισμό

Η τιμή είναι εύκολο να συγκριθεί όταν το αντικείμενο της αγοράς είναι σταθερό. Η προμήθεια τεχνητής νοημοσύνης έχει μεγαλύτερο χρονικό ορίζοντα κόστους. Μπορεί να υπάρχουν εργασίες ενοποίησης, προετοιμασία πηγών, χρόνος αναθεώρησης, έλεγχοι ασφαλείας, αποθήκευση, αξιολόγηση, ενημερώσεις μοντέλου, εργασίες προσβασιμότητας, αντιμετώπιση περιστατικών, υποστήριξη, εξαγωγή και αντικατάσταση. Ορισμένα κόστη βαρύνουν την αναθέτουσα αρχή. Άλλα μετακυλίονται στους εργαζόμενους ή στο κοινό όταν μια υπηρεσία γίνεται δυσκολότερο να αμφισβητηθεί. Μια προμήθεια που συγκρίνει μόνο το αρχικό τέλος δεν είναι κατ' ανάγκην οικονομική. Απλώς μετρά ένα ορατό μέρος.

Η Οδηγία 2014/24/ΕΕ προβλέπει την κοστολόγηση του κύκλου ζωής όταν η αναθέτουσα αρχή επιλέγει αυτή την προσέγγιση. Η οδηγία περιγράφει κόστη όπως η απόκτηση, η χρήση, η συντήρηση, το τέλος του κύκλου ζωής και, όπου είναι σχετικές και επαληθεύσιμες, οι περιβαλλοντικές εξωτερικότητες. Απαιτεί επίσης από τα έγγραφα της προμήθειας να αναφέρουν τα δεδομένα που πρέπει να παρέχουν οι προσφέροντες και τη μέθοδο που χρησιμοποιείται για την εκτίμηση του κόστους του κύκλου ζωής. Αυτή είναι μια χρήσιμη πειθαρχία για την τεχνητή νοημοσύνη, επειδή απαιτεί από τον αγοραστή να προσδιορίσει τι θα προσμετρηθεί, αντί να καλεί κάθε προμηθευτή να φέρει έναν διαφορετικό ορισμό του φθηνού.

Η ίδια αρχή ισχύει και για την ανθρώπινη προσοχή. Αν ένα σύστημα παράγει συστάσεις που χρειάζονται έλεγχο, η εργασία του ελέγχου ανήκει στο επιχειρησιακό μοντέλο. Αν μια δημόσια υπηρεσία χρειάζεται μια διαδρομή διόρθωσης, η διαδρομή χρειάζεται έναν υπεύθυνο και χρόνο. Αν μια ενημέρωση προμηθευτή απαιτεί νέα αξιολόγηση, η αρχή χρειάζεται τη δυνατότητα να την πραγματοποιήσει. Αυτά δεν είναι επιχειρήματα κατά του αυτοματισμού. Είναι υπενθυμίσεις ότι ο αυτοματισμός αλλάζει το πού γίνεται η εργασία. Μια εξοικονόμηση στο τιμολόγιο μπορεί να γίνει έξοδο στην ουρά αναμονής, αν η προμήθεια δεν κατονομάζει τη νέα εργασία.

Το κόστος θα πρέπει επίσης να περιλαμβάνει το κόστος της αδυναμίας αποχώρησης. Μια εξάρτηση μπορεί να φαίνεται φθηνή όσο είναι νέα και να γίνει ακριβή όταν συσσωρευτούν γύρω της αρχεία, τεχνογνωσία, ενσωματώσεις και προσδοκίες του κοινού. Ο αγοραστής μπορεί να ζητήσει εκτίμηση μετεγκατάστασης, καταγραφή δεδομένων και τεκμηρίων, υποχρέωση υποστήριξης και χρονοδιάγραμμα δοκιμών. Μπορεί να συγκρίνει αυτούς τους όρους ως μέρος της αξίας της προσφοράς. Η επιλογή δεν είναι μεταξύ αισιοδοξίας και απαισιοδοξίας. Είναι μεταξύ μιας εξάρτησης που είναι ορατή και μιας που είναι κρυμμένη στον μέλλοντα χρόνο.

Η σκέψη για τον κύκλο ζωής βοηθά την ομάδα προμηθειών να πει όχι χωρίς να προσποιείται ότι η φθηνότερη ορατή προσφορά είναι η ουδέτερη επιλογή. Η ομάδα μπορεί να απορρίψει μια πρόταση επειδή τα αποδεικτικά στοιχεία, ο φόρτος ελέγχου, η διαδρομή αλλαγής ή το κόστος εξόδου δεν είναι συμβατά με τον δημόσιο σκοπό. Μπορεί να εξηγήσει την απόφαση βάσει δημοσιευμένων κριτηρίων. Αυτή δεν είναι μια κίνηση κατά της αγοράς. Είναι αυτό που μια αγορά με επαληθεύσιμες απαιτήσεις υποτίθεται ότι επιτρέπει.

Οι δημόσιοι αγοραστές χρειάζονται εξουσία να λένε όχι

Μια ομάδα προμηθειών δεν μπορεί να ασκήσει μια εξουσία που ο οργανισμός δεν της έχει δώσει. Πολλές αρχές έχουν άτομα που μπορούν να αξιολογήσουν νομικά, τεχνικά, οικονομικά και υπηρεσιακά ζητήματα, αλλά η εξουσία να συνδυάσουν αυτές τις αξιολογήσεις σε μια παύση ή άρνηση είναι ασαφής. Το αποτέλεσμα είναι γνωστό: οι ανησυχίες καταγράφονται σε ένα έγγραφο, ο ενθουσιασμός σε άλλο και η ανάθεση προχωρά επειδή κανείς δεν ξέρει ποιος ρόλος μπορεί να κλείσει την πύλη.

Η αρχή θα πρέπει να κατονομάζει τους ρόλους που μπορούν να αποδεχτούν, να απορρίψουν, να περιορίσουν ή να αναστείλουν μια αγορά σε κάθε στάδιο. Οι ρόλοι χρειάζονται πρόσβαση στα σχετικά αποδεικτικά στοιχεία και μια διαδρομή για την καταγραφή του λόγου. Ένας υπάλληλος προμηθειών μπορεί να κατέχει τη διαδικασία, ένας υπεύθυνος υπηρεσίας τον δημόσιο σκοπό, ένας υπεύθυνος προστασίας δεδομένων μια προϋπόθεση ιδιωτικότητας, ένας υπεύθυνος ασφάλειας έναν έλεγχο, ένας τεχνικός αξιολογητής μια δοκιμή και ένας ανώτερος υπόλογος ρόλος την τελική απόφαση. Η ακριβής διάταξη ποικίλλει. Η απουσία διάταξης είναι το επικίνδυνο μέρος.

Μια χρήσιμη συνθήκη διακοπής δεν είναι ένα κόκκινο σήμα που λέει υψηλός κίνδυνος. Είναι ένα γεγονός που μπλοκάρει την επόμενη απόφαση. Ο επιδιωκόμενος σκοπός δεν είναι επαρκώς καθορισμένος. Ο προμηθευτής δεν μπορεί να παράσχει αποδεικτικά στοιχεία για μια ουσιώδη απαίτηση. Το επηρεαζόμενο άτομο δεν έχει χρησιμοποιήσιμη διαδρομή ελέγχου. Η αρχή δεν μπορεί να επιθεωρήσει τη σχετική αλλαγή. Τα δικαιώματα επί των δεδομένων ή των τεκμηρίων είναι ασαφή. Το σύστημα δεν μπορεί να εξαχθεί ή να αντικατασταθεί εντός του σχεδίου συνέχειας. Ο ανθρώπινος αξιολογητής έχει ευθύνη αλλά όχι εξουσία. Κάθε συνθήκη μπορεί να έχει διαφορετική θεραπεία. Κάποιες απαιτούν διευκρίνιση, κάποιες αλλαγή σύμβασης, κάποιες στενότερο πεδίο εφαρμογής και κάποιες ένα όχι.

Οι συνθήκες διακοπής θα πρέπει να είναι γνωστές πριν από την αξιολόγηση της προσφοράς. Θα πρέπει να συνδέονται με τα κριτήρια ανάθεσης και με τη σύμβαση, ώστε ο αγοραστής να μην επινοεί νέο πρότυπο αφού δει την απάντηση του προμηθευτή. Θα πρέπει επίσης να επανεξετάζονται μετά την ανάθεση. Μια απαίτηση που ικανοποιήθηκε κατά την έναρξη μπορεί να πάψει να ικανοποιείται μετά από μια ουσιώδη αλλαγή ή μια νέα χρήση. Η ικανότητα να λες όχι δεν είναι μια ενιαία πύλη στο τέλος. Είναι μια διατηρούμενη εξουσία σε όλη τη διάρκεια ζωής της υπηρεσίας.

Εξετάστε μια υποθετική δημόσια ομάδα που προμηθεύεται μια υπηρεσία δρομολόγησης εγγράφων. Οι δημοσιευμένες απαιτήσεις της περιλαμβάνουν ιχνηλασιμότητα πηγής, διαδρομή ανθρώπινης αναθεώρησης, ειδοποίηση για ουσιώδεις αλλαγές μοντέλου, εξαγωγή αρχείων και καθορισμένη διαδικασία διακοπής. Ένας υποψήφιος προσφέρει ισχυρή επίδειξη, αλλά δεν μπορεί να επιτρέψει στην αρχή να επιθεωρήσει την επιλογή πηγής ή να διατηρήσει τα εκδοχοποιημένα αποδεικτικά δρομολόγησης. Ένας άλλος υποψήφιος προσφέρει λιγότερες λειτουργίες, αλλά πληροί τις απαιτήσεις αποδεικτικών και εξόδου. Η ομάδα δεν υποχρεούται να προτιμήσει την πιο εντυπωσιακή επίδειξη. Μπορεί να εφαρμόσει τα δηλωμένα κριτήρια, να θέσει αναλογικές ερωτήσεις και να απορρίψει την πρώτη προσφορά εάν μια ουσιώδης απαίτηση παραμένει αναπόδεικτη.

Αυτή η απόφαση δεν θα πρέπει να διατυπωθεί ως ηθική κρίση για τον προμηθευτή ή την τεχνολογία. Θα πρέπει να αναφέρει τον δημόσιο σκοπό, την απαίτηση, τα αποδεικτικά που ελήφθησαν, την ανεπίλυτη προϋπόθεση και την απόφαση που επιτρέπεται από τα έγγραφα προμήθειας. Ένα σαφές όχι είναι πιο σεβαστικό από ένα ασαφές ίσως που αργότερα μετατρέπεται σε υποχρεωτική ανανέωση. Δίνει επίσης στην αγορά ένα χρήσιμο σήμα: οι δημόσιοι αγοραστές θα πληρώσουν για αποδεικτικά και έλεγχο, όχι μόνο για θεαματικές επιδείξεις ικανοτήτων.

Η ανθρώπινη εξουσία διακοπής πρέπει να είναι χρησιμοποιήσιμη σε ένα περιστατικό. Ο χειριστής θα πρέπει να γνωρίζει ποιον να καλέσει, ποια κατάσταση συστήματος να διατηρήσει, ποια διαδρομή υπηρεσίας μπορεί να συνεχιστεί και ποια επικοινωνία απαιτείται. Το αρχείο απόφασης θα πρέπει να διακρίνει τον άμεσο περιορισμό από μια μακροπρόθεσμη απόφαση προμήθειας. Ένας δημόσιος φορέας δεν χρειάζεται να περιμένει μια τέλεια έρευνα πριν αποτρέψει περαιτέρω ζημία, αλλά θα πρέπει να αποφεύγει να ισχυρίζεται περισσότερη βεβαιότητα από όση έχει. Η διακοπή είναι ένας έλεγχος. Η εξήγηση μπορεί να εξελιχθεί.

Η προμήθεια διαμορφώνει την αγορά

Η δημόσια προμήθεια είναι ένας από τους τρόπους με τους οποίους η Ευρώπη αποφασίζει ποιες ικανότητες αξίζει να αναπτυχθούν. Η έκθεση του JRC για την προώθηση της υιοθέτησης της τεχνητής νοημοσύνης στις δημόσιες διοικήσεις της ΕΕ περιγράφει τον δημόσιο τομέα ως σημαντική δύναμη διαμόρφωσης της αγοράς. Συνδέει την επιτυχή υιοθέτηση με τη διακυβέρνηση, την ετοιμότητα του εργατικού δυναμικού, την υπεύθυνη προμήθεια, τη διαλειτουργικότητα και την εμπιστοσύνη του κοινού. Αναφέρει επίσης ότι η στρατηγική προμήθεια μπορεί να μειώσει την εξάρτηση από παρόχους εκτός ΕΕ και να υποστηρίξει ευρωπαϊκές νεοφυείς επιχειρήσεις, λύσεις ανοιχτού κώδικα και GovTech. Το ζητούμενο δεν είναι ότι μια δημόσια αρχή θα πρέπει να γίνει ταμείο επιχειρηματικών συμμετοχών. Το ζητούμενο είναι ότι οι απαιτήσεις της μπορούν είτε να επιβραβεύουν μια υπεύθυνη ικανότητα είτε να επιβραβεύουν ένα πειστικό περιτύλιγμα γύρω από την εξάρτηση.

Η Ειδική Έκθεση αριθ. 28/2023 του Ευρωπαϊκού Ελεγκτικού Συνεδρίου φέρει τον τίτλο Public procurement in the EU: less competition for contracts awarded for works, goods and services in the ten years up to 2021. Η δημόσια σύνοψή της περιγράφει τον ανταγωνισμό για δημόσιους διαγωνισμούς στην Ευρώπη ως συρρικνούμενο. Μια αγορά με λιγότερους αποτελεσματικούς ανταγωνιστές είναι κακό μέρος για να κρύψεις ασαφείς απαιτήσεις. Εάν η αρχή δεν μπορεί να συγκρίνει αποδεικτικά, μπορεί να επιλέξει μεταξύ στυλ μάρκετινγκ και όχι μεταξύ υπηρεσιών. Το να πει όχι σε μια μη ελέγξιμη προσφορά μπορεί να διατηρήσει τις συνθήκες για έναν καλύτερο διαγωνισμό αργότερα.

Ταυτόχρονα, ένας αγοραστής μπορεί κατά λάθος να αποκλείσει χρήσιμους προμηθευτές ζητώντας αποδεικτικά σε μορφή που μόνο ο μεγαλύτερος πάροχος μπορεί να παράγει. Αναλογικές απαιτήσεις, σαφείς διεπαφές, ανοιχτές μορφές και σταδιακές αξιολογήσεις μπορούν να επιτρέψουν σε μικρότερους οργανισμούς να επιδείξουν μια περιορισμένη ικανότητα χωρίς να προσποιούνται ότι διαθέτουν τους πόρους μιας πολυεθνικής. Ο αγοραστής θα πρέπει να είναι αυστηρός ως προς τον δημόσιο σκοπό και ευέλικτος ως προς την υλοποίηση, όταν η υλοποίηση δεν επηρεάζει αυτόν τον σκοπό. Έτσι, ένα όχι γίνεται μια καλύτερη ερώτηση αντί για μια κλειστή πόρτα.

Η διαμόρφωση της αγοράς σημαίνει επίσης να αρνείται κανείς να ορίσει την ιδιωτική αρχιτεκτονική ενός προμηθευτή ως τον ορισμό της δημόσιας ανάγκης. Εάν μια απαίτηση κατονομάζει ένα συγκεκριμένο μοντέλο, cloud ή ιδιόκτητη ροή εργασίας χωρίς αιτιολογημένη σύνδεση με το έργο, ο ανταγωνισμός μπορεί να περιοριστεί πριν καν εξεταστούν τα αποδεικτικά. Οι λειτουργικές απαιτήσεις και τα επαληθεύσιμα αποτελέσματα δίνουν στους δημόσιους αγοραστές μεγαλύτερη ευχέρεια να συγκρίνουν προσεγγίσεις. Καθιστούν επίσης τη σύμβαση λιγότερο εύθραυστη όταν αλλάζει το επιλεγμένο στοιχείο.

Μια δημόσια αρχή μπορεί να είναι απαιτητικός πελάτης χωρίς να γίνεται δύσκολος πελάτης. Μπορεί να δημοσιεύει τα στοιχεία που αναμένει, να εξηγεί τον λόγο μιας συνθήκης διακοπής, να προσφέρει οδό διευκρίνισης και να πληρώνει για εργασία που δημιουργεί διαρκή δημόσια ικανότητα. Η αγορά έχει τότε κάτι χρήσιμο στο οποίο να ανταποκριθεί. Δεν χρειάζεται να μαντεύει αν ο καθοριστικός παράγοντας ήταν μια κρυφή προτίμηση, μια εντυπωσιακή επίδειξη ή το κόστος ενός μελλοντικού προβλήματος.

Ένα λειτουργικό πρότυπο για μια προμήθεια που μπορεί να αρνηθεί

Το ακόλουθο πρότυπο είναι μια πρακτική σύσταση, όχι μια νέα νομική διαδικασία. Είναι ένας τρόπος να παραμένει ορατή η δημόσια απόφαση ενώ ένα σύστημα μεταβαίνει από την ιδέα στη λειτουργία. Μια αρχή θα πρέπει να το προσαρμόζει στο δίκαιό της, στον τομέα της, στον κίνδυνο και στη μέθοδο προμήθειας που χρησιμοποιεί. Το σημαντικό είναι ότι κάθε πύλη έχει έναν υπεύθυνο, στοιχεία και ένα επιτρεπόμενο αποτέλεσμα που περιλαμβάνει παύση ή άρνηση.

Πρώτον, διατυπώστε τον δημόσιο σκοπό. Ονομάστε την υπηρεσία, τα άτομα που την εκτελούν, τα άτομα που τη λαμβάνουν, την απόφαση ή την ενέργεια που μπορεί να αλλάξει και τον λόγο για τον οποίο εξετάζεται ένα σύστημα. Δηλώστε τι βρίσκεται εκτός πεδίου. Αν ο σκοπός δεν μπορεί να περιγραφεί χωρίς το λεξιλόγιο προϊόντος του προμηθευτή, η αρχή βρίσκεται ακόμη σε στάδιο διερεύνησης της αγοράς. Το αποτέλεσμα αυτής της πύλης είναι μια διατύπωση του προβλήματος και μια απόφαση για το αν η προμήθεια είναι το σωστό επόμενο βήμα.

Δεύτερον, διατυπώστε το όριο των στοιχείων. Για κάθε ουσιώδη ισχυρισμό, δηλώστε τι θα έδειχνε ότι είναι αληθής στην προβλεπόμενη εργασία. Ονομάστε τις συνθήκες δεδομένων, τη γλώσσα, τις ανάγκες προσβασιμότητας, τα αρχεία προέλευσης, την έκδοση, τη γραμμή βάσης και την οδό επανεξέτασης που καθιστούν τη δοκιμή ουσιαστική. Προσδιορίστε τι πρέπει να είναι επιθεωρήσιμο, τι μπορεί να παραμείνει εμπιστευτικό και τι πρέπει να παραδοθεί ως συμβατικό αρχείο. Το αποτέλεσμα αυτής της πύλης είναι ένα σύνολο απαιτήσεων που μπορούν να κατανοήσουν οι διαγωνιζόμενοι και ένα σχέδιο αξιολόγησης που μπορεί να αλλάξει την ανάθεση.

Τρίτον, διατυπώστε το όριο της αρχής. Ονομάστε τις ενέργειες που μπορεί να προτείνει το σύστημα, τις ενέργειες που μπορεί να εκτελεί, τις ενέργειες που χρειάζονται έγκριση και τις ενέργειες που απαγορεύονται. Ονομάστε ποιος μπορεί να διορθώσει μια πηγή, να απορρίψει ένα αποτέλεσμα, να αλλάξει έναν κανόνα, να θέσει μια υπηρεσία σε παύση και να μιλήσει σε ένα επηρεαζόμενο άτομο. Καθορίστε τι συμβαίνει όταν το σύστημα είναι αβέβαιο ή τα στοιχεία συγκρούονται. Το αποτέλεσμα αυτής της πύλης είναι μια ανθρώπινη οδός που είναι πιο συγκεκριμένη από ένα πλαίσιο επιλογής.

Τέταρτον, διατυπώστε το όριο των αλλαγών. Προσδιορίστε τις αλλαγές που απαιτούν ειδοποίηση, αξιολόγηση, έγκριση ή νέα απόφαση προμήθειας. Συμπεριλάβετε μοντέλο, δεδομένα, προμηθευτή, υπεργολάβο, υποδομή, τοποθεσία επεξεργασίας, διεπαφή, όριο, πληθυσμό, σκοπό και ανθρώπινη οδό. Αποφασίστε ποια στοιχεία παραμένουν στο αρχείο της αλλαγής και ποια μπορούν να αποκρυφθούν για νόμιμους λόγους. Το αποτέλεσμα αυτής της πύλης είναι ένα διατηρούμενο αρχείο και όχι μια υπόσχεση ότι το σύστημα θα παραμείνει στατικό.

Πέμπτον, διατυπώστε το όριο εξόδου. Καταγράψτε τα αρχεία, τα δεδομένα, τη διαμόρφωση, τα στοιχεία, τις άδειες, τις ενοποιήσεις και τη λειτουργική γνώση που πρέπει να επιβιώσουν. Καθορίστε μορφές, χρονοδιαγράμματα, υποστήριξη, επαλήθευση, μειωμένη υπηρεσία, μεταφορά, διακοπή πρόσβασης και διαγραφή. Δοκιμάστε μια μικρή εξαγωγή πριν από την ανανέωση ή μια ουσιαστική επέκταση. Το αποτέλεσμα αυτής της πύλης είναι μια οδός που μπορεί να δοκιμαστεί όσο ο προμηθευτής είναι ακόμη συνεργάτης, όχι μόνο αφού η σχέση έχει μετατραπεί σε διαφορά.

Έκτον, διατυπώστε το δημόσιο αρχείο. Αποφασίστε τι μπορεί να δημοσιευθεί σχετικά με τον σκοπό, τον ρόλο του συστήματος, τα στοιχεία, την ανθρώπινη οδό, τις αλλαγές, τα περιστατικά και την επαφή για αμφισβήτηση. Προστατέψτε τις εμπιστευτικές και προσωπικές πληροφορίες χωρίς να μετατρέψετε ολόκληρη την απόφαση σε ιδιωτική συνομιλία. Ένα δημόσιο αρχείο μπορεί να αναφέρει τι είναι γνωστό, τι δεν είναι γνωστό και πότε θα πραγματοποιηθεί η επόμενη επανεξέταση. Η δουλειά του δεν είναι να κάνει το σύστημα να φαίνεται τέλειο. Είναι να καταστήσει επιθεωρήσιμη την κρίση της αρχής.

Τέλος, γράψτε την άρνηση. Η άρνηση δεν είναι ένα θεαματικό δελτίο τύπου. Είναι ένα φυσιολογικό αποτέλεσμα στο αρχείο απόφασης: η απαίτηση ήταν ουσιώδης, τα αποδεικτικά στοιχεία δεν την πληρούσαν, το μέσο επανόρθωσης εξετάστηκε και η αρχή επέλεξε να απορρίψει, να περιορίσει, να αναστείλει ή να αναζητήσει διαφορετική διαδρομή. Μια προμήθεια που δεν μπορεί να παράγει αυτό το αρχείο έχει κάνει την αγορά να φαίνεται αναπόφευκτη πριν την αξίζει.

Αυτές οι πύλες μπορούν να αποτυπωθούν σε μια προσφορά, σε μια αρχιτεκτονική εκκίνησης έργου, σε ένα χρονοδιάγραμμα σύμβασης, σε μια σύσκεψη αναθεώρησης και σε ένα εγχειρίδιο διαχείρισης περιστατικών. Δεν θα πρέπει να γίνουν μια μεγαλύτερη φόρμα για χάρη της φόρμας. Αν μια πύλη δεν αλλάζει τι μπορεί να αποφασίσει η ομάδα, πιθανότατα είναι θέατρο τεκμηρίωσης. Αν δίνει σε ένα άτομο αποδεικτικά στοιχεία και εξουσία να ενεργήσει, είναι μέρος της υπηρεσίας.

Ερωτήσεις που αξίζει να μπουν σε μια προκήρυξη

Οι καλύτερες ερωτήσεις δεν είναι αυτές που κάνουν τον προμηθευτή να επαναλαμβάνει το μάρκετινγκ του. Είναι αυτές που καθιστούν ορατό τον δημόσιο σκοπό και το όριο των αποδεικτικών στοιχείων. Ο αγοραστής μπορεί να προσαρμόσει τις παρακάτω ερωτήσεις στο σύστημα και στη διαδικασία:

  • Ποιο συγκεκριμένο δημόσιο καθήκον υποστηρίζει η προτεινόμενη δυνατότητα και ποια καθήκοντα είναι εκτός της προβλεπόμενης χρήσης της;
  • Ποια άτομα, αρχεία και πηγές δεδομένων εμπίπτουν στο πεδίο εφαρμογής και ποια πρέπει να αποκλειστούν;
  • Τι αποτέλεσμα παράγει το σύστημα και ποια απόφαση ή ενέργεια μπορεί να προκύψει από αυτό;
  • Ποια απαίτηση μπορεί να αποδειχθεί, ποια μπορεί να επιθεωρηθεί και ποια θα διατηρηθεί συμβατικά;
  • Πώς θα αναπαράγει η αρχή ένα αποτέλεσμα με τη σχετική έκδοση, τις πηγές, τη διαμόρφωση και τις συνθήκες του καθήκοντος;
  • Τι μπορεί να δει, να αλλάξει, να απορρίψει, να αναβαθμίσει ή να σταματήσει ένας άνθρωπος που κάνει αναθεώρηση πριν από μια σημαντική ενέργεια;
  • Ποιες αλλαγές στο μοντέλο, στα δεδομένα, στην υποδομή, στον υπεργολάβο ή στην πολιτική απαιτούν ειδοποίηση και επαναξιολόγηση;
  • Ποια αρχεία και τεκμήρια μπορεί να εξάγει η αρχή, σε ποιες μορφές, με ποια σημασία, δικαιώματα και καθεστώς διατήρησης;
  • Τι συμβαίνει όταν η υπηρεσία δεν είναι διαθέσιμη, τα αποδεικτικά στοιχεία είναι ελλιπή ή κάποιος αμφισβητεί το αποτέλεσμα;
  • Ποιες υποχρεώσεις υποστήριξης, ελέγχου, διαχείρισης περιστατικών, εκπαίδευσης και αποχώρησης συνεχίζονται μετά την πρώτη έκδοση;

Αυτές οι ερωτήσεις δεν υποκαθιστούν την οδηγία για τις προμήθειες, την Πράξη για την Τεχνητή Νοημοσύνη, τη νομοθεσία για την προστασία δεδομένων ή τους κανόνες του τομέα. Είναι προτροπές για την αρχή να κάνει λειτουργικές τις δικές της υποχρεώσεις. Ένας προμηθευτής που μπορεί να τις απαντήσει με σαφήνεια μπορεί και πάλι να μην είναι ο σωστός προμηθευτής. Ένας προμηθευτής που δεν μπορεί να τις απαντήσει μπορεί να έχει ένα χρήσιμο εξάρτημα, αλλά η αρχή δεν θα πρέπει να συγχέει ένα χρήσιμο εξάρτημα με μια πλήρη δημόσια δυνατότητα.

Το σύντομο σημείωμά μας

Στη Dweve, το AI Compas μας περιλαμβάνει μια ουδέτερη ως προς τους προμηθευτές διαδρομή προμηθειών και διακυβέρνησης για ρυθμιζόμενους ευρωπαϊκούς οργανισμούς. Το υλικό RFI και RFP ζητά από τις ομάδες να ταξινομήσουν την περίπτωση χρήσης, να εφαρμόσουν κριτήρια αποκλεισμού, να συγκρίνουν προμηθευτές, να εκτελέσουν μια απόδειξη ιδέας και να διατηρήσουν αποδεικτικά στοιχεία μέσω της παρακολούθησης. Αυτό είναι το πλαίσιο εφαρμογής μας, όχι ανεξάρτητα αποδεικτικά στοιχεία για τις δημόσιες προμήθειες και όχι ισχυρισμός ότι ένα πλαίσιο ταιριάζει σε κάθε αρχή. Το αναφέρουμε επειδή η πειθαρχία που περιγράφεται εδώ είναι και η πειθαρχία που προσπαθούμε να εφαρμόσουμε στη δική μας δουλειά: ορίστε το όριο, απαιτήστε απόδειξη, κρατήστε την απόφαση ανθρώπινη και κάντε ορατή την έξοδο.

Το Trust Centre μας κάνει την ίδια διάκριση σε διαφορετικό ύφος. Ένα δημόσιο αρχείο μπορεί να περιγράφει τι είναι τεκμηριωμένο, τι είναι προετοιμασμένο και τι παραμένει μελλοντικό γεγονός χωρίς να μετατρέπει μια δήλωση πρόθεσης σε απόδειξη. Μια ομάδα προμηθειών αξίζει την ίδια ειλικρίνεια από τους προμηθευτές της. Ο αγοραστής θα πρέπει να μπορεί να δει την κατάσταση ενός ισχυρισμού, τα αποδεικτικά στοιχεία πίσω από αυτόν και τη διαδρομή για να τον αμφισβητήσει.

Το μάθημα

Μια δημόσια αρχή δεν καθίσταται υπόλογη όταν υπογράφει για ένα σύστημα τεχνητής νοημοσύνης. Καθίσταται υπόλογη όταν η διαδικασία προμήθειας μπορεί να εξηγήσει γιατί το σύστημα ανήκει στο έργο, ποια στοιχεία στηρίζουν αυτό το συμπέρασμα, ποιος μπορεί να παρέμβει, τι συμβαίνει όταν το σύστημα αλλάζει και πώς μπορεί να συνεχιστεί η δημόσια λειτουργία αν ο προμηθευτής δεν μπορεί.

Οι ευρωπαϊκοί κανόνες προμηθειών παρέχουν ήδη σημαντικές πρακτικές: τα κριτήρια θα πρέπει να συνδέονται με το αντικείμενο της σύμβασης, οι πληροφορίες να είναι επαληθεύσιμες, οι σταθμίσεις να δηλώνονται και οι όροι της σύμβασης να είναι σαφείς. Οι ρήτρες προμηθειών τεχνητής νοημοσύνης της Ευρωπαϊκής Επιτροπής δίνουν στους δημόσιους αγοραστές τη δυνατότητα να συζητούν συστήματα υψηλού και μη υψηλού κινδύνου και να κατανέμουν τις ευθύνες. Το ολλανδικό Algoritmekader μετατρέπει την υπεύθυνη προμήθεια σε πρακτικά μέτρα για τον σκοπό, τα δεδομένα, τα αποδεικτικά στοιχεία, τον έλεγχο, την ανθρώπινη εποπτεία, τη διακοπή και την έξοδο. Η έκθεση του JRC εντάσσει την προμήθεια στον ευρωπαϊκό διάλογο για τις ικανότητες και την κυριαρχία. Η προειδοποίηση του ΕΕΣ για τη συρρίκνωση του ανταγωνισμού υπενθυμίζει ότι ένας αδύναμος διαγωνισμός δεν διορθώνεται με μια σίγουρη ανάθεση.

Η δύσκολη λέξη παραμένει το όχι. Όχι, ο σκοπός δεν έχει οριστεί. Όχι, τα αποδεικτικά στοιχεία δεν μπορούν να επιθεωρηθούν. Όχι, η ανθρώπινη οδός είναι διακοσμητική. Όχι, η διαδρομή αλλαγής είναι αόρατη. Όχι, το δημόσιο αρχείο δεν μπορεί να διατηρηθεί. Όχι, η υπηρεσία δεν μπορεί να αποχωρήσει χωρίς να χάσει το έργο που προοριζόταν να προστατεύσει. Κάθε όχι μπορεί να είναι άρνηση, περιορισμός, παύση ή αίτημα για καλύτερη απάντηση. Η αρχή θα πρέπει να αποφασίσει ποιο από αυτά ισχύει, να καταγράψει τον λόγο και να αφήσει την απόφαση ανοιχτή σε αμφισβήτηση.

Μια προμήθεια που μπορεί να πει όχι δεν είναι προμήθεια που φοβάται την τεχνολογία. Είναι προμήθεια που γνωρίζει τη διαφορά μεταξύ ικανότητας και υπόσχεσης. Πληρώνει για ένα σύστημα που μπορεί να δοκιμαστεί, να εποπτευθεί, να αλλάξει και να εγκαταλειφθεί. Δίνει στους προμηθευτές έναν δικαιότερο διαγωνισμό επειδή το ερώτημα είναι ορατό. Δίνει στους δημόσιους υπαλλήλους μια οδό παρέμβασης πριν ένα πρόβλημα γίνει πολιτική. Δίνει στους ανθρώπους που επηρεάζονται από την υπηρεσία κάτι πιο χρήσιμο από μια δήλωση ότι ένας προμηθευτής έχει εγκριθεί.

Μια δημόσια αγορά θα πρέπει να καταλήγει σε μια υπηρεσία που η αρχή μπορεί ακόμη να διέπει. Αν τα αποδεικτικά στοιχεία είναι ισχυρά, το ναι έχει νόημα. Αν τα αποδεικτικά στοιχεία είναι αδύναμα, το όχι είναι το δημόσιο έργο. Ο φάκελος της προμήθειας θα πρέπει να μπορεί να περιέχει και τις δύο προτάσεις.

Πηγές