Λιγότερα επιδείγματα, περισσότεροι θεσμοί στον ευρωπαϊκό διάλογο για την Τεχνητή Νοημοσύνη

Μια πειστική επίδειξη μοντέλου μπορεί να δείξει μια δυνατότητα. Δεν μπορεί να αποφασίσει ποιος έχει εξουσία, πώς αμφισβητείται ένα αποτέλεσμα, πού...

Λιγότερα επιδείγματα, περισσότεροι θεσμοί στον ευρωπαϊκό διάλογο για την Τεχνητή Νοημοσύνη

Μια επίδειξη δεν είναι δημόσιος θεσμός

Μια καλή επίδειξη έχει ένα ιδιαίτερο είδος δύναμης. Συμπυκνώνει μια δυνατότητα σε λίγα λεπτά. Συμπληρώνεται μια φόρμα, συνοψίζεται ένα έγγραφο, εμφανίζεται μια εικόνα, μια δύσκολη ερώτηση λαμβάνει μια εύλογη απάντηση. Όλοι στην αίθουσα μπορούν να δουν γιατί κάποιος θα μπορούσε να θέλει αυτό το πράγμα. Αυτό είναι χρήσιμο. Είναι επίσης το σημείο όπου πολύ πιο δύσκολες ερωτήσεις αναβάλλονται ευγενικά για αργότερα.

Αργότερα είναι εκεί όπου αρχίζει ο θεσμός. Ποιος δικαιούται να αποφασίσει αν το σύστημα μπορεί να χρησιμοποιηθεί; Ποιον δημόσιο σκοπό εξυπηρετεί; Ποια αποδεικτικά στοιχεία επαρκούν για αυτόν τον σκοπό και ποιος μπορεί να πει ότι δεν επαρκούν; Τι συμβαίνει όταν αλλάζει μια έκδοση, όταν ένας εργαζόμενος αμφισβητεί μια σύσταση, όταν κάποιος ζητά εξήγηση, όταν ένας περιορισμός ενέργειας κλείνει μια διαδρομή ή όταν ο οδικός χάρτης του προμηθευτή γίνεται ένας διαφορετικός οδικός χάρτης; Μια επίδειξη δεν έχει σχεδιαστεί για να απαντήσει σε αυτές τις ερωτήσεις. Ένας δημόσιος θεσμός έχει.

Η Ευρώπη έχει αφιερώσει αρκετό χρόνο συζητώντας την ΤΝ ως διαγωνισμό δυνατοτήτων. Αυτή η συζήτηση είναι κατανοητή. Η δυνατότητα είναι ορατή. Φτιάχνει ένα τακτοποιημένο βίντεο. Οι θεσμοί είναι κυρίως ορατοί μέσα από το έργο που αποτρέπουν από το να γίνει μυστηριώδες: όροι προμηθειών, τήρηση αρχείων, έλεγχοι πρόσβασης, εκπαίδευση, εποπτεία, διαδρομές προσφυγής, προϋπολογισμοί συντήρησης, γλωσσική υποστήριξη, τεχνικά πρότυπα, ένα άτομο του οποίου το όνομα συνδέεται με μια απόφαση. Τίποτα από αυτά δεν δίνει στην κεντρική ομιλία τη συνηθισμένη της λάμψη. Ωστόσο, καθορίζει αν ένα σύστημα παραμένει υπόλογο όταν η αίθουσα έχει αδειάσει.

Αυτό δεν είναι επιχείρημα υπέρ της διστακτικής τεχνολογίας ή υπέρ ενός δημόσιου τομέα που δεν αγοράζει τίποτα έως ότου μπορέσει να δει το μέλλον. Είναι επιχείρημα για την άρνηση ενός σφάλματος κατηγοριοποίησης. Ένα μοντέλο μπορεί να δημιουργεί, να ταξινομεί, να προβλέπει ή να προτείνει. Δεν μπορεί από μόνο του να δημιουργήσει μια νόμιμη εντολή, να κατανείμει δημόσια ευθύνη, να διδάξει σε έναν συνάδελφο πώς να το αμφισβητήσει, να διατηρήσει μια εθνική γλώσσα, να διαπραγματευτεί μια σύνδεση με το δίκτυο ή να διατηρήσει μια προσφυγή για ένα άτομο που επηρεάζεται από τη χρήση του. Αυτές οι δουλειές ανήκουν σε ανθρώπους και οργανισμούς, ακόμη και όταν το λογισμικό βοηθά στο έργο.

Η ευρωπαϊκή συζήτηση για την ΤΝ χρειάζεται λιγότερες επιδείξεις με την έννοια ότι χρειάζεται λιγότερες επιδείξεις που υποκαθιστούν τα αποδεικτικά ετοιμότητας. Χρειάζεται περισσότερους θεσμούς με την έννοια ότι χρειάζεται καλύτερους τόπους για τη λήψη αποφάσεων, τη διατήρηση της γνώσης και τη διόρθωση της πορείας. Η μετατόπιση δεν είναι από την τεχνολογία στη γραφειοκρατία. Είναι από μια λεπτή εικόνα της τεχνολογίας στην πραγματική διάταξη στην οποία η τεχνολογία έχει συνέπειες.

Το ζήτημα έχει σημασία πολύ πέρα από την κυβέρνηση. Ένα νοσοκομείο, ένας δήμος, ένα σχολείο, ένας κατασκευαστής, ένας πολιτιστικός φορέας και μια μικρή επιχείρηση δεν έχουν τις ίδιες υποχρεώσεις ή κινδύνους. Αλλά όλοι τους ανακαλύπτουν τελικά ότι το μοντέλο είναι ένα στοιχείο σε μια μεγαλύτερη διάταξη. Η μεγαλύτερη διάταξη καθορίζει ποιος παρέχει τα δεδομένα εισόδου, ποιος διαβάζει τα αποτελέσματα, ποιος αποδέχεται τον υπολειπόμενο κίνδυνο, ποιος μπορεί να σταματήσει το σύστημα και ποιος παραμένει όταν η εταιρεία λογισμικού έχει στείλει το τριμηνιαίο ενημερωτικό της δελτίο.

Γι' αυτό η γλώσσα των θεσμών δεν είναι υποχώρηση από την τεχνική φιλοδοξία. Είναι η γλώσσα της συνέχειας. Μια δημόσια υπηρεσία πρέπει να λειτουργεί ένα συνηθισμένο πρωινό Τρίτης, στη γλώσσα των ανθρώπων που τη χρησιμοποιούν, υπό έναν προϋπολογισμό που μπορεί κάποιος να ελέγξει, μετά από μια αλλαγή προσωπικού, κατά τη διάρκεια μιας διαφωνίας με τον προμηθευτή και όταν ο αρχικός ενθουσιασμός έχει γίνει ένα δελτίο συντήρησης. Οποιοσδήποτε σοβαρός ισχυρισμός για την ΤΝ πρέπει τελικά να επιβιώσει αυτού του ταξιδιού.

Η δυνατότητα είναι μόνο μία από τις ερωτήσεις

Μια επίδειξη συνήθως θέτει ένα στενό και εύλογο ερώτημα: μπορεί το σύστημα να εκτελέσει αυτή την εργασία υπό αυτές τις συνθήκες; Ένας θεσμός πρέπει να θέσει ένα ευρύτερο σύνολο ερωτημάτων ταυτόχρονα. Είναι αυτή η εργασία κατάλληλη για αυτοματοποίηση ή υποβοήθηση; Είναι ο δηλωμένος σκοπός νόμιμος και αναλογικός; Μπορούν όσοι εκτελούν την εργασία να εξακολουθούν να κατανοούν και να αμφισβητούν το αποτέλεσμα; Υπάρχει δίοδος για ένα μέλος του κοινού να ρωτήσει τι συνέβη; Μπορεί ο οργανισμός να αλλάξει πάροχο χωρίς να εγκαταλείψει τα αρχεία του; Εξαρτάται το σύστημα από σπάνια υπολογιστική ισχύ, από κάποιο γλωσσικό πόρο ή από μια ροή δεδομένων που κανείς δεν έχει προϋπολογίσει να συντηρεί;

Αυτά τα ερωτήματα δεν καθιστούν το μοντέλο χειρότερο. Καθιστούν την απόφαση πιο έντιμη. Διακρίνουν ένα χαρακτηριστικό από μια υπηρεσία και μια υπηρεσία από μια δημόσια δυνατότητα. Ένα χαρακτηριστικό μπορεί να είναι εντυπωσιακό ενώ η γύρω διευθέτηση είναι εύθραυστη. Μια υπηρεσία μπορεί να είναι χρήσιμη ενώ η σύμβασή της καθιστά αδύνατο να ελεγχθεί μια ουσιώδης αλλαγή. Μια δημόσια δυνατότητα πρέπει να παραμείνει χρησιμοποιήσιμη, διακυβερνώμενη και επισκευάσιμη με την πάροδο του χρόνου. Πρέπει να μεταφέρει κάτι περισσότερο από ένα αποτέλεσμα.

Ο νόμος για την τεχνητή νοημοσύνη συχνά αντιμετωπίζεται λες και αποτελεί μια ενιαία απάντηση σε αυτό το πρόβλημα. Δεν είναι. Αποτελεί ένα σημαντικό νομικό πλαίσιο, και ο δηλωμένος σκοπός του συνδέει τη λειτουργία της εσωτερικής αγοράς με την ανθρωποκεντρική και αξιόπιστη τεχνητή νοημοσύνη και με υψηλό επίπεδο προστασίας της υγείας, της ασφάλειας, των θεμελιωδών δικαιωμάτων, της δημοκρατίας, του κράτους δικαίου και της προστασίας του περιβάλλοντος. Αλλά ο ίδιος ο νόμος επισημαίνει ένα σημαντικό σημείο για την θεσμική πραγματικότητα: λειτουργεί παράλληλα με το υφιστάμενο ενωσιακό δίκαιο για την προστασία των δεδομένων, τους καταναλωτές, την απασχόληση, τους εργαζομένους και την ασφάλεια των προϊόντων. Το νομικό πλαίσιο δεν αντικαθιστά αυτούς τους τομείς. Τους συναντά.

Αυτό θα πρέπει να διαμορφώσει την πρακτική συζήτηση. Μια ομάδα δεν μπορεί να κηρύξει ένα σύστημα κοινωνικά υγιές επισημαίνοντας μια ταξινόμηση κινδύνου τεχνητής νοημοσύνης ενώ αγνοεί τη διαδικασία απασχόλησης γύρω από αυτό. Μια δημόσια αρχή δεν μπορεί να κηρύξει ένα σύστημα υπόλογο επειδή ολοκλήρωσε μια τεχνική αξιολόγηση ενώ αφήνει τους κατοίκους ανίκανους να βρουν τον ιδιοκτήτη ή το αρχείο. Ένας προμηθευτής δεν μπορεί να εξαφανίσει ένα πρόβλημα φορητότητας χρησιμοποιώντας τη λέξη cloud. Το ερώτημα είναι πάντα πώς συμπεριφέρεται το νέο στοιχείο εντός των υποχρεώσεων που ήδη υπήρχαν.

Υπάρχει ένας πρακτικός πειρασμός να αντιμετωπιστεί αυτό ως επιχείρημα για έναν μεγαλύτερο φάκελο συμμόρφωσης. Δεν είναι. Περισσότερες σελίδες μπορούν να καταστήσουν έναν οργανισμό λιγότερο ικανό να δράσει αν κανείς δεν γνωρίζει ποια σελίδα αλλάζει την απόφαση. Οι θεσμοί δεν αποκτούν ικανότητα συλλέγοντας πρότυπα. Αποκτούν ικανότητα όταν ένας καθορισμένος σκοπός, μια ονομαστική αρχή, χρησιμοποιήσιμα αποδεικτικά στοιχεία και μια δίοδος διόρθωσης μπορούν να συναντηθούν στο ίδιο κομμάτι εργασίας.

Αυτό είναι ένα πολύ πιο απαιτητικό πρότυπο από μια επίδειξη. Είναι επίσης πιο δίκαιο. Ένας πάροχος μοντέλου δεν θα πρέπει να λογοδοτεί για κάθε τοπική πολιτική επιλογή που κάνει ένας αναπτύσσων. Ένας αναπτύσσων δεν θα πρέπει να καλείται να ανακατασκευάσει αντίστροφα κάθε ανάντη τεχνική απόφαση. Κάθε μέρος χρειάζεται ένα όριο, ένα αρχείο του τι το διασχίζει και έναν τρόπο να εντοπίζει πότε το όριο έχει μετακινηθεί. Οι θεσμοί υπάρχουν εν μέρει για να καθιστούν αυτά τα όρια ευανάγνωστα.

Ο νόμος είναι ένα δάπεδο, όχι ολόκληρο το κτίριο

Η Ευρώπη συχνά περιγράφεται λες και έχει επιλέξει κανόνες αντί για τεχνολογία. Η περιγραφή είναι υπερβολικά τακτοποιημένη για να είναι χρήσιμη. Ο νόμος μπορεί να απαγορεύει, να απαιτεί, να κατανέμει καθήκοντα και να διατηρεί ένδικα μέσα. Μπορεί να ορίσει ένα ελάχιστο δημόσιο δάπεδο κάτω από το οποίο ένα σύστημα δεν θα πρέπει να πέσει. Δεν μπορεί να προσλάβει τον αξιολογητή που κατανοεί μια τοπική ροή εργασίας, να συντηρήσει μια διεπαφή δεδομένων, να συντάξει μια συνετή προδιαγραφή προμηθειών ή να κάνει μια εξαντλημένη ομάδα να βρει ξαφνικά χρόνο να μάθει μια νέα διαδικασία. Αυτά τα πράγματα απαιτούν ικανότητα.

Η διάκριση έχει σημασία, γιατί η νομική γλώσσα μπορεί να κρύβει την επιχειρησιακή απουσία. Μια πολιτική μπορεί να αναφέρει ότι υπάρχει ανθρώπινη εποπτεία. Η δήλωση αυτή είναι κενή περιεχομένου αν ο άνθρωπος δεν έχει την εξουσία να διακόψει τη διαδρομή, δεν έχει χρόνο να εξετάσει μια υπόθεση, δεν έχει πληροφορίες για την έκδοση του μοντέλου, δεν έχει εκπαίδευση στο έργο και δεν έχει δρόμο για να θέσει μια διαφωνία σε ανώτερο επίπεδο. Η εποπτεία υπάρχει στα χαρτιά, σαν έξοδος κινδύνου κρυμμένη πίσω από μια ντουλάπα. Θα είναι πολύ καθησυχαστική μέχρι να τη χρειαστεί κανείς.

Το ίδιο ισχύει και για τη διαφάνεια. Μια γνωστοποίηση μπορεί να είναι τεχνικά διαθέσιμη και πρακτικά άχρηστη. Ένα άτομο μπορεί να λάβει μια μακροσκελή περιγραφή ενός συστήματος χωρίς να μάθει ποιος κατέχει την απόφαση, ποιο αρχείο μπορεί να αμφισβητηθεί ή πώς μπορεί να επιτύχει επανόρθωση. Ένα δημόσιο μητρώο μπορεί να καταγράφει έναν αλγόριθμο χωρίς να αναφέρει αν η καταγεγραμμένη έκδοση είναι τρέχουσα, για τι χρησιμοποιείται το σύστημα ή ποιος έχει την εξουσία να απαντήσει σε μια ερώτηση. Διαφάνεια δεν είναι ο όγκος του κειμένου. Είναι η ικανότητα να εντοπίζει κανείς μια απόφαση και τον ιδιοκτήτη της.

Το νομικό έργο της Ευρώπης είναι πολύτιμο ακριβώς επειδή καθιστά ορισμένα από αυτά τα ερωτήματα δυσκολότερο να απορριφθούν. Δίνει κοινή γλώσσα σε παρόχους, αναπτύσσοντες, ρυθμιστικές αρχές και επηρεαζόμενα άτομα. Κάνει επίσης τα κενά πιο ορατά. Όταν ένας οργανισμός δεν μπορεί να δηλώσει τον επιδιωκόμενο σκοπό του, να προσδιορίσει τη ροή δεδομένων του, να τηρήσει αρχείο μιας ουσιώδους αλλαγής ή να κατονομάσει το άτομο που μπορεί να σταματήσει μια χρήση, το πρόβλημα δεν είναι απλώς ότι τα έγγραφα καθυστερούν. Ο οργανισμός δεν έχει ακόμη κατασκευάσει αυτό που ισχυρίζεται ότι λειτουργεί.

Εδώ οι θεσμοί έχουν ένα μέτριο πλεονέκτημα έναντι των συνθημάτων. Θυμούνται ότι έλαβε χώρα μια απόφαση. Διατηρούν τις προϋποθέσεις μαζί της. Διατηρούν τη διάκριση μεταξύ σχεδίου και γεγονότος. Τοποθετούν ένα όνομα, μια διεύθυνση ηλεκτρονικού ταχυδρομείου και μερικές φορές μια ελαφρώς επίμονη φόρμα δίπλα σε μια υπόσχεση. Η φόρμα δεν είναι το επίτευγμα. Το επίτευγμα είναι ότι κάποιος μπορεί να λογοδοτήσει για την απάντηση.

Ένας καλός νόμος δημιουργεί χώρο για αυτό το έργο. Δεν θα πρέπει να χρησιμοποιείται ως υποκατάστατό του. Το ώριμο ερώτημα δεν είναι αν ένα σύστημα είναι συμβατό αφηρημένα. Είναι αν οι υπεύθυνοι μπορούν να αποδείξουν πώς η συγκεκριμένη χρήση του ανταποκρίνεται στις ισχύουσες υποχρεώσεις, τι δεν γνωρίζουν ακόμη και τι θα κάνουν όταν αλλάξουν τα δεδομένα. Αυτό είναι ταυτόχρονα νομικό, επιχειρησιακό και θεσμικό ερώτημα.

Οι δημόσιες συμβάσεις είναι το σημείο όπου η δημόσια πρόθεση συναντά τη σύμβαση προμηθευτή

Οι δημόσιες συμβάσεις ακούγονται διαδικαστικές επειδή είναι διαδικαστικές. Είναι επίσης ένα από τα σημεία όπου η δημόσια πρόθεση γίνεται πραγματικότητα. Μια δημόσια αρχή αγοράζει έργα, αγαθά ή υπηρεσίες από επιλεγμένες εταιρείες μέσω μιας διαδικασίας που διαμορφώνεται από κανόνες που αποσκοπούν στη διατήρηση του ανοικτού και ανταγωνιστικού χαρακτήρα των συμβάσεων. Στο πλαίσιο της τεχνητής νοημοσύνης, αυτή η διαδικασία δεν είναι απλώς η στιγμή επιλογής ενός προϊόντος. Είναι η στιγμή κατά την οποία μια αρχή μπορεί να αποφασίσει τι πρέπει να καταστήσει ελέγξιμο ο προμηθευτής, ποιες αλλαγές απαιτούν ειδοποίηση, ποια αρχεία παραμένουν διαθέσιμα, πώς μπορεί να παραδοθεί το έργο και τι συμβαίνει αν το σύστημα πρέπει να σταματήσει.

Μια διαδικασία σύναψης σύμβασης που ζητά μόνο τις δυνατότητες ενός μοντέλου τείνει να αγοράζει μια επίδειξη με συνημμένο τιμολόγιο. Μια διαδικασία που ζητά τις συνθήκες λειτουργίας αγοράζει κάτι πιο κοντά σε υπηρεσία. Μπορεί να ζητήσει καθορισμένο επιδιωκόμενο σκοπό, διεπαφές, τεκμηρίωση, προσβάσιμα αποδεικτικά στοιχεία, δικαιώματα βάσει ρόλου, επαφές για περιστατικά, ειδοποιήσεις ενημερώσεων, μορφές εξαγωγής, όρια υποστήριξης, ρυθμίσεις διατήρησης, βοήθεια αποχώρησης και σαφή κατανομή ευθυνών. Μπορεί να ζητήσει ποιος κατέχει έναν συγκεκριμένο κίνδυνο αντί να επιτρέπει σε κάθε μέρος να υποθέτει ότι τον κατέχει το άλλο.

Δεν υπάρχει κάποια γενική ρήτρα που να ρυθμίζει αυτά τα ζητήματα. Ένας μικρός οργανισμός που αγοράζει ένα εξειδικευμένο εσωτερικό εργαλείο δεν θα έπρεπε να κληρονομεί μια σύμβαση σχεδιασμένη για μια εθνική κρίσιμη υπηρεσία. Αντίστοιχα, μια δημόσια χρήση υψηλού αντικτύπου δεν θα έπρεπε να λαμβάνει τη συμβατική πειθαρχία μιας δωρεάν δοκιμής με ελαφρώς μεγαλύτερη φόρμα. Η σύμβαση πρέπει να ακολουθεί τις συνέπειες της απόφασης, την εξάρτηση που δημιουργεί η υπηρεσία και την ικανότητα του οργανισμού να τη λειτουργήσει.

Ενδεικτικό σενάριο, όχι αναφορά πραγματικού διαγωνισμού: φανταστείτε έναν δημόσιο φορέα που εξετάζει ένα σύστημα το οποίο βοηθά το προσωπικό να οργανώνει τις εισερχόμενες υποθέσεις. Η επίδειξη δείχνει περιλήψεις, εξαγόμενα πεδία και μια προτεινόμενη ουρά. Το κρίσιμο ερώτημα δεν είναι αν η ουρά φαίνεται τακτοποιημένη. Είναι αν το προσωπικό μπορεί να δει το πρωτότυπο υλικό, αν οι κανόνες προτεραιότητας είναι τεκμηριωμένοι, αν μια υπόθεση μπορεί να διορθωθεί χωρίς να δημιουργηθεί κρυφή δεύτερη ροή εργασίας, αν μια ενημέρωση του συστήματος αλλάζει το αποτέλεσμα, αν τα αρχεία μπορούν να εξαχθούν και ποιος απαντά όταν κάποιος αμφισβητεί τον χειρισμό του υλικού του. Κανένα από αυτά τα ερωτήματα δεν απαιτεί θεατρικό φόβο για την τεχνητή νοημοσύνη. Απαιτούν μια ώριμη σύμβαση.

Ο διαγωνισμός μπορεί επίσης να προστατεύσει τον οργανισμό από τη δική του αισιοδοξία. Αν ένας πάροχος λέει ότι μια νέα λειτουργία θα έρθει αργότερα, ο φορέας μπορεί να την καταγράψει ως σχέδιο αντί να την αγοράσει ως υπάρχουσα δυνατότητα. Αν ένας πάροχος υπόσχεται διαδρομή ανθρώπινης αναθεώρησης, η σύμβαση μπορεί να περιγράφει τον πραγματικό ρόλο, την προϋπόθεση απόκρισης και τα αποδεικτικά στοιχεία αντί να δέχεται μια φράση που ακούγεται καθησυχαστική. Αν μια υπηρεσία εξαρτάται από μια συγκεκριμένη μορφή δεδομένων, ο φορέας μπορεί να απαιτήσει τη χαρτογράφηση και την εξαγωγή προτού το σύστημα γίνει δύσκολο να εγκαταλειφθεί. Η αισιοδοξία έχει θέση στην καινοτομία. Δεν θα έπρεπε να επιτρέπεται να υπογράφει συμβάσεις χωρίς συνοδεία.

Αυτό δεν σημαίνει ότι κάθε ομάδα διαγωνισμών πρέπει να γίνει πρότυπο εργαστήριο. Σημαίνει ότι οι ομάδες χρειάζονται πρόσβαση στη σωστή τεχνογνωσία. Οι νομικές, τεχνικές, επιχειρησιακές, οικονομικές γνώσεις και οι γνώσεις για τον χρήστη πρέπει να συναντηθούν προτού ληφθούν οι μη αναστρέψιμες αποφάσεις. Αυτός είναι ένας λόγος που οι θεσμοί έχουν σημασία. Δημιουργούν έναν τρόπο να συνυπάρχουν διαφορετικές μορφές γνώσης χωρίς να προσποιούνται ότι ένα άτομο μπορεί να τις φέρει όλες.

Η καλύτερη ερώτηση στον διαγωνισμό είναι συχνά απογοητευτικά απλή: τι θα απαιτήσει από εμάς αυτή η ρύθμιση μετά την έναρξη λειτουργίας; Η απάντηση μπορεί να περιλαμβάνει χρόνο προσωπικού, αρχεία, παρακολούθηση, ενέργεια, γλωσσική εξειδίκευση, εργασίες ενοποίησης, διαδρομές αναθεώρησης και σχέδιο εξόδου. Αν κανένα από αυτά δεν εμφανίζεται στην απάντηση, ο διαγωνισμός δεν έχει εξαφανίσει το βάρος. Απλώς το έχει αφήσει έξω από τον προϋπολογισμό.

Οι υποδομές έχουν δημόσια διεύθυνση

Είναι δελεαστικό να μιλάμε για την υπολογιστική ισχύ σαν να ήταν καιρός. Μια φόρτος εργασίας χρειάζεται χωρητικότητα, η χωρητικότητα είναι κάπου αλλού και το σημαντικό είναι αν η σελίδα τελικά φορτώνει. Αλλά η υπολογιστική ισχύς έχει τοποθεσία, αλυσίδα εφοδιασμού, διαδρομή δικτύου, ενεργειακή ζήτηση, καθεστώς συντήρησης και νομικό πλαίσιο. Η υποδομή είναι επομένως μέρος της θεσμικής ικανότητας, όχι το σκηνικό της.

Η εργασία της Ευρωπαϊκής Επιτροπής για την ψηφιοποίηση του ενεργειακού συστήματος καθιστά δύσκολο να το αγνοήσει κανείς. Αφορά τη βελτιστοποίηση του δικτύου, την αποδοτικότητα, την ευελιξία και τη βιώσιμη ενοποίηση των κέντρων δεδομένων. Η σημαντική λέξη είναι η ενοποίηση. Ένα κέντρο δεδομένων δεν είναι απλώς ένα ιδιωτικό κουτί μηχανημάτων που τυχαίνει να καταναλώνει ηλεκτρική ενέργεια. Βρίσκεται μέσα σε ένα κοινό ενεργειακό σύστημα με τοπικούς περιορισμούς, δημόσιο σχεδιασμό και άλλες διεκδικήσεις στο δίκτυο. Μια σοβαρή στρατηγική τεχνητής νοημοσύνης πρέπει να βλέπει ολόκληρη τη διάταξη αντί να αντιμετωπίζει την ηλεκτρική ενέργεια ως υποσημείωση κάτω από ένα διάγραμμα υπολογιστικής ισχύος.

Αυτό δεν οδηγεί σε έναν απλό κανόνα ότι όλη η επεξεργασία πρέπει να είναι τοπική, κεντρική, εθνική ή ευρωπαϊκή. Κάθε επιλογή έχει τις προϋποθέσεις της. Μια τοπική ανάπτυξη μπορεί να μειώσει ορισμένες μεταφορές δεδομένων και να φέρει τον έλεγχο κοντά στον οργανισμό, αυξάνοντας όμως το κόστος συντήρησης. Μια κοινή ευρωπαϊκή υποδομή μπορεί να διευρύνει την πρόσβαση σε δαπανηρές δυνατότητες, απαιτώντας όμως σαφείς κανόνες πρόσβασης και ένα ρεαλιστικό μονοπάτι από το πείραμα στην παραγωγική λειτουργία. Μια εμπορική υπηρεσία φιλοξενίας μπορεί να αποτελέσει χρήσιμη οδό για ορισμένες εργασίες, δημιουργώντας όμως ερωτήματα σχετικά με τη δικαιοδοσία, την εξάρτηση, τα αρχεία και τον έλεγχο αλλαγών. Η γεωγραφία είναι μια σχεδιαστική απόφαση με συνέπειες, όχι ένα ηθικό αυτοκόλλητο.

Τα AI Factories του EuroHPC παρουσιάζουν ενδιαφέρον από αυτή την άποψη, επειδή η δημόσια περιγραφή τους είναι ευρύτερη από ένα δωμάτιο γεμάτο επιταχυντές. Οι υπηρεσίες περιλαμβάνουν υπολογιστική ισχύ και αποθήκευση, πρόσβαση σε δεδομένα και λογισμικό, υποστήριξη, εκπαίδευση, ενσωμάτωση και συνεργασία με επίκεντρο συγκεκριμένους τομείς. Αυτός ο συνδυασμός έχει σημασία. Μια μηχανή χωρίς προσβάσιμη οδό, ανθρώπους που μπορούν να βοηθήσουν και μια τεκμηριωμένη σύνδεση με ένα πεδίο εργασίας δεν είναι δημόσια υποδομή. Είναι ακριβά έπιπλα με εντυπωσιακό θόρυβο ανεμιστήρα.

Η δημόσια υποδομή χρειάζεται επίσης θεσμική μνήμη. Ποιος μπορεί να χρησιμοποιήσει τον πόρο; Υπό ποιες προϋποθέσεις; Ποια εργασία έχει προτεραιότητα όταν η χωρητικότητα είναι περιορισμένη; Ποια δεδομένα μπορούν να εισαχθούν; Ποια αποτελέσματα μπορούν να εξαχθούν; Τι συμβαίνει όταν ολοκληρώνεται ένα έργο; Πώς βοηθούνται οι μικρότεροι οργανισμοί να χρησιμοποιήσουν τον πόρο, χωρίς να αναμένεται να έρθουν με δικό τους γραφείο έρευνας και μια εβδομάδα στη διάθεσή τους; Η προμήθεια υλικού δεν απαντά σε αυτά τα ερωτήματα. Η λειτουργία απαντά.

Υπάρχει εδώ ένα μάθημα κυριαρχίας που συχνά περιορίζεται σε έναν χάρτη. Μια υπηρεσία μπορεί να είναι φυσικά κοντά και παρόλα αυτά δύσκολο να ελεγχθεί. Ένα σύστημα μπορεί να φιλοξενείται σε ευρωπαϊκό έδαφος ενώ κρίσιμοι έλεγχοι, εξουσία ενημερώσεων, διεπαφές ή εμπορική μόχλευση παραμένουν αλλού. Αντιστρόφως, μια διασυνοριακή ευρωπαϊκή ρύθμιση μπορεί να υποστηρίξει ουσιαστική δημόσια υποδομή όταν τα όρια, τα δικαιώματα πρόσβασης, οι ευθύνες και οι οδοί εξόδου είναι ρητά. Το σχετικό ερώτημα δεν είναι απλώς πού βρίσκεται ένα rack. Είναι ποιος μπορεί να αποφασίζει, να επιθεωρεί, να συντηρεί και να αποχωρεί.

Χρειάζονται θεσμοί για να συγκρατούν αυτά τα ερωτήματα μαζί. Οι ενεργειακοί σχεδιαστές δεν μπορούν να συμπεράνουν ένα φόρτο εργασίας AI από μια σελίδα μάρκετινγκ. Οι υπεύθυνοι προμηθειών δεν μπορούν να διαπραγματευτούν μια σχέση με κέντρο δεδομένων με βάση ένα σημείο αναφοράς μοντέλου. Μια ερευνητική ομάδα δεν μπορεί να μετατρέψει την πρόσβαση σε μια μηχανή σε διαρκή ικανότητα χωρίς υποστήριξη, πρακτική διαχείρισης δεδομένων και μια οδό αξιοποίησης του αποτελέσματος. Το νήμα που συνδέει αυτά τα ζητήματα δεν είναι ένα συγκεκριμένο μοντέλο. Είναι η δημόσια ικανότητα να λαμβάνει μια οριοθετημένη απόφαση και να διατηρεί τη δυνατότητα να την επανεξετάζει.

Η ικανότητα δεν βρίσκεται από μόνη της στο κέντρο. Επιλέξτε ένα πεδίο για να δείτε τη δημόσια εργασία που πρέπει να σηκώσει.

Η εργασία δεν είναι λεπτομέρεια ανάπτυξης

Κάθε σύστημα AI αλλάζει κάπου την εργασία. Μερικές φορές η αλλαγή είναι προφανής επειδή μια εργασία ανατίθεται στο λογισμικό. Πιο συχνά είναι πιο ήσυχη. Ένας εργαζόμενος ελέγχει μια πρόταση αντί να δημιουργεί το πρώτο προσχέδιο. Ένας διευθυντής βλέπει μια βαθμολογία πριν από μια συνομιλία. Ένας χειριστής κλήσεων λαμβάνει μια σύνοψη που διαμορφώνει την επόμενη ερώτηση. Ένας υπάλληλος υποθέσεων ξοδεύει λιγότερο χρόνο για να βρει ένα έγγραφο και περισσότερο για να εξηγήσει μια εξαίρεση. Η εργασία έχει αλλάξει ακόμα κι αν ο τίτλος της θέσης δεν έχει αλλάξει.

Γι' αυτό η εργασία δεν μπορεί να μείνει στο τέλος ενός σχεδίου υλοποίησης, κάτω από τον τίτλο «διαχείριση αλλαγής». Η εργασία δεν είναι μια επιφάνεια που διαχειρίζεται κανείς αφού ληφθεί η τεχνική απόφαση. Είναι εκεί όπου το σύστημα αποκτά το πρακτικό του νόημα. Οι εργαζόμενοι γνωρίζουν ποια αρχεία είναι ελλιπή, ποιες εξαιρέσεις είναι συχνές, πού ένας λογικός κανόνας γίνεται παράλογος και τι καλείται να απορροφήσει ένα άτομο από μια διαδικασία που φαίνεται αποδοτική. Το να τους αποκλείει κανείς από τη συζήτηση για τον σχεδιασμό είναι ένας σίγουρος τρόπος να κάνει μια ροή εργασίας λιγότερο κατανοητή.

Η επισκόπηση του EU-OSHA για τη διαχείριση εργαζομένων με βάση την τεχνητή νοημοσύνη επισημαίνει τόσο ευκαιρίες όσο και κινδύνους για την επαγγελματική ασφάλεια και υγεία. Αυτή η διατύπωση είναι χρήσιμη επειδή απορρίπτει δύο εύκολες αφηγήσεις. Η πρώτη λέει ότι κάθε εργαλείο τεχνητής νοημοσύνης είναι ένας μάνατζερ μεταμφιεσμένος. Η δεύτερη λέει ότι η τεχνολογία είναι ουδέτερη μέχρι να την κάνει κακή χρήση κάποιος συγκεκριμένος κακόβουλος παράγοντας. Στην πράξη, ο σχεδιασμός της παρακολούθησης, των στόχων, των συστάσεων, των ειδοποιήσεων και της κατανομής μπορεί να διαμορφώσει την ποιότητα της εργασίας προτού κανείς πει μια δραματική λέξη για την αντικατάσταση.

Μια ανθρώπινη θεσμική απάντηση δεν είναι να επιμένει κανείς ότι κάθε εργαζόμενος γίνεται ειδικός στην τεχνητή νοημοσύνη. Είναι να κάνει τη σχέση μεταξύ εργαλείου και εργασίας αντικείμενο συζήτησης. Τι επιτρέπεται να προτείνει το σύστημα; Τι δεν επιτρέπεται να αποφασίζει; Ποια σήματα τροφοδοτούν μια συζήτηση για την απόδοση; Μπορεί ένας εργαζόμενος να ελέγξει και να διορθώσει το αρχείο που χρησιμοποιείται για εκείνον; Τι συμβαίνει όταν το αποτέλεσμα του συστήματος συγκρούεται με την επαγγελματική κρίση; Υπάρχει χρόνος για να μάθει κανείς το εργαλείο, και αυτός ο χρόνος αντιμετωπίζεται ως εργασία και όχι ως ιδιωτικό χόμπι που γίνεται αφού κοιμηθούν τα παιδιά;

Το ζήτημα της εξουσίας είναι ιδιαίτερα σημαντικό. Ένας εργαζόμενος που είναι τυπικά ελεύθερος να παρακάμψει ένα αποτέλεσμα αλλά κρίνεται από έναν πίνακα ελέγχου που επιβραβεύει τη συμφωνία δεν έχει λάβει ουσιαστική διακριτική ευχέρεια. Ένας μάνατζερ που λαμβάνει μια βαθμολογία χωρίς να γνωρίζει τη βάση της δεν έχει λάβει ουσιαστική ευθύνη. Ένας συνδικαλιστής εκπρόσωπος που βλέπει το σύστημα μόνο μετά την προμήθεια δεν μπορεί να προσθέσει τη γνώση που θα είχε αποτρέψει μια αποφεύξιμη σύγκρουση. Οι θεσμοί κάνουν χώρο για αυτά τα δεδομένα προτού ένα υπολογιστικό φύλλο τα μετατρέψει σε εκπλήξεις.

Δεν υπάρχει ένας ενιαίος ευρωπαϊκός χώρος εργασίας. Οι κλαδικές συμφωνίες, το εθνικό εργατικό δίκαιο, η οργανωσιακή κουλτούρα και η φύση της εργασίας έχουν όλα σημασία. Αλλά η θεσμική αρχή ταξιδεύει καλά: μην αντιμετωπίζετε τους ανθρώπους ως το επίπεδο διαχείρισης σφαλμάτων για ένα σύστημα που δεν τους επιτράπηκε να κατανοήσουν. Αν η ανθρώπινη κρίση αποτελεί μέρος του επιχειρήματος για την ασφάλεια, τότε ο οργανισμός πρέπει να δώσει σε αυτή την κρίση πληροφόρηση, εξουσία και έναν δρόμο για να ακουστεί.

Η εκπαίδευση είναι πρακτική, και η γλώσσα είναι μέρος της πρακτικής

Ο ψηφιακός γραμματισμός στην τεχνητή νοημοσύνη έχει γίνει μια δημοφιλής απάντηση στη θεσμική αδυναμία. Στείλτε τους ανθρώπους σε ένα μάθημα, εκδώστε ένα πιστοποιητικό, βάλτε μια χαρούμενη διαφάνεια στο intranet και θεωρήστε το θέμα λυμένο. Είναι καλύτερη απάντηση από το να μην υπάρχει καθόλου μάθηση. Δεν αρκεί.

Η καθοδήγηση της Επιτροπής για τον γραμματισμό στην τεχνητή νοημοσύνη τοποθετεί την υποχρέωση σε ένα πιο στέρεο έδαφος. Οι πάροχοι και οι αναπτύσσοντες θα πρέπει να λαμβάνουν μέτρα για να διασφαλίσουν επαρκές επίπεδο γραμματισμού μεταξύ του προσωπικού και άλλων ατόμων που διαχειρίζονται συστήματα τεχνητής νοημοσύνης για λογαριασμό τους. Οι σχετικοί παράγοντες περιλαμβάνουν την τεχνική γνώση, την εμπειρία, την εκπαίδευση και την κατάρτιση, καθώς και το πλαίσιο στο οποίο χρησιμοποιείται το σύστημα. Αυτό δεν είναι απαίτηση για ένα γενικό κουίζ για τη μηχανική μάθηση. Είναι μια πρόσκληση να αντιστοιχιστεί η γνώση με την ευθύνη.

Ένας υπεύθυνος προμηθειών πρέπει να αναγνωρίζει έναν ισχυρισμό που δεν μπορεί να αξιολογηθεί από ένα ενημερωτικό φυλλάδιο. Ένας εργαζόμενος πρώτης γραμμής πρέπει να γνωρίζει πότε ένα αποτέλεσμα πρέπει να ελέγχεται σε σχέση με το υλικό προέλευσης. Ένας διευθυντής πρέπει να κατανοεί τι δεν μπορεί να του πει μια συνολική βαθμολογία για μια μεμονωμένη υπόθεση. Ένα μέλος διοικητικού συμβουλίου πρέπει να μπορεί να ρωτήσει ποιος έχει την εξουσία να σταματήσει ένα σύστημα. Ένας προγραμματιστής χρειάζεται βαθύτερη κατανόηση των δεδομένων, των διεπαφών, της αξιολόγησης και της αποτυχίας. Το να αποκαλούμε όλα αυτά γραμματισμό μπορεί να είναι κάπως ανορθόδοξο. Στους πραγματικούς οργανισμούς επιτρέπεται να είναι ανορθόδοξοι όταν η εναλλακτική είναι να προσποιούνται ότι ένα μόνο πρόγραμμα καθιστά κάθε ρόλο εξίσου έτοιμο.

Η εκπαίδευση έχει επίσης ένα χρονικό πρόβλημα. Ένα άτομο μπορεί να κατανοήσει ένα εργαλείο τον Μάρτιο και να βρεθεί αντιμέτωπο με μια ουσιαστικά διαφορετική διεπαφή, μοντέλο ή ροή εργασίας τον Οκτώβριο. Ένα χρήσιμο εκπαιδευτικό πρόγραμμα παρακολουθεί επομένως τις αλλαγές που έχουν σημασία. Δίνει στους ανθρώπους έναν τρόπο να επανεξετάζουν τις συνθήκες απόφασης, όχι απλώς μια ανάμνηση μιας εκδήλωσης παρουσίασης. Οι δεοντολογικές κατευθυντήριες γραμμές της Επιτροπής για τους εκπαιδευτικούς διατυπώνουν ένα συναφές σημείο σε άλλο πλαίσιο: η πρακτική κρίση για την τεχνητή νοημοσύνη στη διδασκαλία και τη μάθηση δεν μπορεί να περιοριστεί στο πάτημα ενός διακόπτη. Το πλαίσιο, ο σκοπός και οι άνθρωποι στην αίθουσα παραμένουν σημαντικοί.

Η γλώσσα ανήκει επίσης εδώ. Η γλώσσα που εμφανίζει ένα σύστημα δεν είναι η γλώσσα μιας κοινωνίας. Ένα μοντέλο μπορεί να παράγει άπταιστο κείμενο σε μια γλώσσα, ενώ να του λείπουν οι διοικητικοί όροι, οι περιφερειακές μορφές, το επαγγελματικό λεξιλόγιο, οι πολιτισμικές αναφορές ή οι νομικές σημασίες που καθιστούν μια πραγματική απόφαση κατανοητή. Μια μετάφραση μπορεί να είναι γραμματικά άρτια και παρόλα αυτά να αλλάζει μια ευθύνη, μια υποχρέωση ή ένα δικαίωμα. Η πολύγλωσση χρήση δεν είναι ένα διακοσμητικό στάδιο τοπικής προσαρμογής στο τέλος ενός κατά τα άλλα ολοκληρωμένου προϊόντος.

Για την Ευρώπη, αυτό είναι ένα πρακτικό θεσμικό ζήτημα. Οι δημόσιες υπηρεσίες, οι χώροι εργασίας και τα σχολεία λειτουργούν σε πολλές γλώσσες, μερικές φορές σε περισσότερες από μία εντός του ίδιου οργανισμού. Η τεκμηρίωση, οι διαδρομές σφαλμάτων, η εκπαίδευση, η υποστήριξη και οι διαδικασίες αμφισβήτησης πρέπει να συναντούν τους ανθρώπους εκεί όπου γίνεται η εργασία. Εάν η πολιτική είναι διαθέσιμη σε μία γλώσσα αλλά η διεπαφή λειτουργίας σε άλλη, ο οργανισμός έχει χωρίσει το σύστημα στα δύο. Εάν ένα άτομο μπορεί να λάβει μια απόφαση στη γλώσσα του αλλά δεν μπορεί να βρει την εξήγηση ή τη διαδρομή αμφισβήτησης σε αυτή τη γλώσσα, το ένδικο μέσο έχει γίνει θεωρητικό.

Η λύση δεν είναι να υποσχεθούμε ότι κάθε σύστημα κατανοεί κάθε γλώσσα εξίσου. Αυτό θα ήταν ένας ισχυρισμός με πολύ λίγα στοιχεία πίσω του. Η λύση είναι να δηλώνουμε με ειλικρίνεια την κάλυψη, να δοκιμάζουμε τη χρήση που πραγματικά προορίζεται, να διατηρούμε ορατούς τους περιορισμούς της γλώσσας και να διασφαλίζουμε ότι ένα κενό δεν μετατρέπεται σιωπηλά σε μειονέκτημα για τους ανθρώπους που είναι λιγότερο σε θέση να το διορθώσουν. Αυτό είναι λιγότερο εντυπωσιακό από την ανακοίνωση πολύγλωσσης τεχνητής νοημοσύνης. Είναι πιο σεβαστό.

Η ασφάλεια ξεκινά με έναν ισχυρισμό που μπορεί να συζητηθεί

Η ασφάλεια είναι μια άλλη λέξη που γίνεται ασαφής όταν της ζητείται να σηκώσει πάρα πολύ βάρος. Ένα σύστημα τεχνητής νοημοσύνης δεν είναι ασφαλές επειδή ένας προμηθευτής λέει ότι έχει διασφαλίσεις. Δεν είναι ασφαλές επειδή ένα σημείο αναφοράς περιέχει έναν καθησυχαστικό αριθμό. Δεν είναι ασφαλές επειδή ένα άτομο παραμένει κάπου στον κύκλο. Η ασφάλεια αφορά έναν οριοθετημένο ισχυρισμό: αυτό το σύστημα μπορεί να χρησιμοποιηθεί για αυτόν τον σκοπό, σε αυτό το περιβάλλον, υπό αυτές τις συνθήκες, με αυτούς τους ελέγχους, τα στοιχεία, τους υπολειπόμενους κινδύνους και τους ανθρώπους που μπορούν να δράσουν.

Γι' αυτό οι μελέτες ασφάλειας είναι χρήσιμες πέρα από τους τομείς στους οποίους συζητούνται συνήθως. Μια μελέτη ασφάλειας δεν είναι ένα σήμα. Είναι ένα επιχείρημα που συνδέει έναν ισχυρισμό με κινδύνους, ελέγχους, παραδοχές, στοιχεία και μια απόφαση. Έχει χώρο για την αβεβαιότητα. Μπορεί να πει ότι μια προϋπόθεση δεν έχει ακόμη εκπληρωθεί. Μπορεί να πει ότι μια αλλαγή απαιτεί επανεκτίμηση. Μπορεί να πει ότι η σωστή απόφαση είναι να σταματήσουμε. Μια επίδειξη δεν έχει πραγματικό τρόπο να πει αυτά τα πράγματα χωρίς να χαλάσει τη δική της ατμόσφαιρα.

Στην εργαία με την τεχνητή νοημοσύνη, το σημαντικό βήμα είναι να συνδέεται η τεκμηρίωση με την πραγματική χρήση. Μια αξιολόγηση μοντέλου μπορεί να πει σε έναν οργανισμό κάτι για μια δυνατότητα υπό μια συγκεκριμένη μέθοδο. Δεν αποδεικνύει αυτόματα ότι το μοντέλο είναι κατάλληλο σε κάθε ροή εργασίας, για κάθε ομάδα, σε κάθε γλώσσα ή μετά από κάθε αλλαγή ενσωμάτωσης. Ένας φορέας πρέπει να φέρει την αλυσίδα από το μοντέλο στην υπηρεσία και στην τοπική απόφαση. Σε αυτή την αλυσίδα πολλοί κατά τα άλλα ειλικρινείς ισχυρισμοί γίνονται υπερβολικοί.

Η τεκμηρίωση έχει ημερομηνία λήξης ακόμη και όταν το ίδιο το αρχείο δεν έχει. Αλλάζει μια έκδοση. Αλλάζει μια συλλογή ανάκτησης. Ένα νέο πρότυπο προτροπής αλλάζει τη συμπεριφορά που βλέπει ο χρήστης. Ένας εργαζόμενος ανακαλύπτει μια κατάσταση αποτυχίας που δεν ήταν στο σύνολο δοκιμών. Αλλάζει ένας νόμος, μια πολιτική ή μια πηγή δεδομένων. Αυτά δεν είναι ενοχλητικές διακοπές σε ένα τέλειο σύστημα. Είναι συνήθεις συνθήκες λειτουργίας λογισμικού στον κόσμο. Το θεσμικό καθήκον είναι να αποφασιστεί ποιες αλλαγές απαιτούν νέα επανεξέταση, ποιος παίρνει αυτή την απόφαση και πώς το προηγούμενο αρχείο παραμένει διαθέσιμο για σύγκριση.

Η ικανότητα διακοπής είναι μέρος του ίδιου επιχειρήματος. Μια συνθήκη διακοπής που κανείς δεν μπορεί να επικαλεστεί είναι μια διακοσμητική ρήτρα. Ένα κουμπί διακοπής χωρίς υπεύθυνο είναι ένα μικρό έργο σύγχρονης τέχνης. Μια αξιόπιστη ρύθμιση κατονομάζει την αρχή, το σήμα που μπορεί να ενεργοποιήσει τη δράση, τη διαδρομή για κλιμάκωση, την ασφαλή κατάσταση και τον τρόπο καταγραφής της απόφασης. Οι λεπτομέρειες διαφέρουν. Η ανάγκη για λεπτομέρειες δεν διαφέρει.

Η ασφάλεια δεν είναι λοιπόν το τμήμα που έρχεται στο τέλος με κόκκινο στυλό. Είναι ένας τρόπος να γίνει μια κοινή απόφαση πιο ακριβής πριν το σύστημα γίνει δύσκολο να αλλάξει. Θέτει την ερώτηση που οι επιδείξεις αποφεύγουν επειδή η απάντηση μπορεί να είναι άβολη: ποια τεκμηρίωση θα μας έπειθε να μην προχωρήσουμε; Ένας φορέας που μπορεί να απαντήσει σε αυτή την ερώτηση έχει ήδη γίνει πιο ικανός από έναν που μπορεί μόνο να γιορτάσει μια κυκλοφορία.

Η δημόσια ικανότητα είναι αλυσίδα, όχι έκθεση

Η δημόσια ικανότητα της Ευρώπης για τεχνητή νοημοσύνη δεν θα μετρηθεί μόνο από τον αριθμό των μοντέλων, των κέντρων δεδομένων ή των ερευνητικών ανακοινώσεων που μπορεί να τοποθετήσει σε έναν χάρτη. Αυτά τα πράγματα έχουν σημασία. Δεν είναι αυτοσυντηρούμενα. Ικανότητα είναι η δυνατότητα χρήσης τεχνικών πόρων για έναν δημόσιο σκοπό με την πάροδο του χρόνου, με επαρκή επάρκεια και εξουσία ώστε να αποφεύγεται η εξάρτηση που μεταμφιέζεται σε πρόοδο.

Η πράξη για μια διαλειτουργική Ευρώπη προσφέρει μια χρήσιμη ένδειξη. Το ενδιαφέρον της είναι η διαλειτουργικότητα του δημόσιου τομέα σε ολόκληρη την Ένωση και η ανταλλαγή και επαναχρησιμοποίηση λύσεων διαλειτουργικότητας. Η διαλειτουργικότητα αντιμετωπίζεται μερικές φορές ως τεχνική προτίμηση: ένα ζήτημα μορφής για ανθρώπους που απολαμβάνουν διαγράμματα με βέλη. Στη δημόσια εργασία είναι επίσης θεσμική ιδιότητα. Καθορίζει αν ένα αρχείο μπορεί να ταξιδέψει με τη σημασία του, αν μια αρχή μπορεί να κατανοήσει τα όρια του συστήματος μιας άλλης αρχής, αν μια έξοδος προμηθευτή γίνεται διαχειρίσιμη μετάβαση ή ένα ντουλάπι γεμάτο μη αναγνώσιμες εξαγωγές.

Η διαλειτουργικότητα δεν σημαίνει ότι κάθε σύστημα πρέπει να φαίνεται το ίδιο ή ότι όλη η δημόσια εργασία πρέπει να συγκεντρωθεί. Σημαίνει ότι ένα όριο δεν πρέπει να καταστρέφει τις πληροφορίες που χρειάζονται για να συνεχιστεί υπεύθυνα η εργασία. Ένας οργανισμός θα πρέπει να μπορεί να αναγνωρίζει το αντικείμενο, τον ιδιοκτήτη του, τον σκοπό του, την έκδοσή του, την τεκμηρίωση που συνδέεται με αυτό και τις αποφάσεις που το άλλαξαν. Μια νέα υπηρεσία θα πρέπει να μπορεί να λαμβάνει τα απαραίτητα αρχεία χωρίς να χρειάζεται την άδεια του παλιού προμηθευτή για να τα ερμηνεύσει. Αυτό δεν είναι διακοσμητική πινελιά. Είναι ο τρόπος με τον οποίο ένας δημόσιος φορέας παραμένει ελεύθερος να αποφασίσει αργότερα.

Το ολλανδικό μητρώο αλγορίθμων είναι ένα άλλο μικρό αλλά χρήσιμο θεσμικό αντικείμενο. Δημοσιεύει πληροφορίες για αλγορίθμους που χρησιμοποιούνται από κυβερνητικούς οργανισμούς και επικεντρώνεται σε αλγορίθμους υψηλού αντικτύπου, συμπεριλαμβανομένων συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου. Ένα μητρώο δεν αποδεικνύει ότι κάθε καταχωρισμένο σύστημα είναι καλό, δίκαιο ή νόμιμο. Η αξία του βρίσκεται αλλού. Κάνει την ύπαρξη ενός συστήματος, μια δηλωμένη χρήση και έναν υπόλογο δημόσιο φορέα πιο εύκολα εντοπίσιμα. Δημιουργεί μια επιφάνεια στην οποία μπορεί να προσγειωθεί μια ερώτηση.

Χρειαζόμαστε περισσότερες τέτοιες επιφάνειες, όχι απαραίτητα περισσότερους ιστοτόπους. Μια εγγραφή μοντέλου ή συστήματος, μια δημόσια εξήγηση, ένα ελεγχόμενο τεχνικό αρχείο, μια διαδρομή περιστατικού, μια εγγραφή προμηθειών, ένα σχέδιο κατάρτισης και μια προδιαγραφή διαλειτουργικότητας εξυπηρετούν όλα διαφορετικούς αναγνώστες. Θα πρέπει να συμφωνούν ως προς τα γεγονότα που διασταυρώνονται μεταξύ τους. Μια δημόσια σελίδα δεν χρειάζεται να εκθέτει κάθε ευαίσθητη λεπτομέρεια. Αλλά δεν θα πρέπει να έρχεται σε αντίφαση με τα εσωτερικά στοιχεία. Ένα αρχείο προμηθειών δεν χρειάζεται να είναι εγχειρίδιο για το κοινό. Αλλά δεν θα πρέπει να επιτρέπει στον οργανισμό να ξεχνά τους όρους που αγόρασε.

Ο κίνδυνος είναι να μπερδεύουμε την ορατότητα με την ικανότητα. Μια καλοφτιαγμένη πύλη μπορεί να κρύβει ένα ανύπαρκτο επιχειρησιακό μοντέλο. Μια εθνική στρατηγική μπορεί να ονομάζει μια προτεραιότητα χωρίς να παρέχει προσωπικό, πρόσβαση, συντήρηση ή μια διαδρομή για μικρότερους οργανισμούς. Ένα ταμείο καινοτομίας μπορεί να υποστηρίξει μια απόδειξη ιδέας χωρίς να υποστηρίξει την εργασία που απαιτείται για να παραμείνει ζωντανή μια χρήσιμη υπηρεσία. Το χάσμα μεταξύ αυτών των πραγμάτων είναι εκεί όπου πολλά λογικά έργα τελειώνουν αθόρυβα.

Η δημόσια ικανότητα έχει λιγότερο φωτογενή μορφή. Περιλαμβάνει κοινή τεχνογνωσία, προσβάσιμες υποδομές, ικανότητα προμηθειών, εργασίες προτύπων, πόρους στην τοπική γλώσσα, μακροπρόθεσμη χρηματοδότηση, ανεξάρτητο έλεγχο και ανθρώπους που κατανοούν αρκετά ώστε να κάνουν σε έναν προμηθευτή μια δύσκολη ερώτηση. Περιλαμβάνει την ικανότητα να λες όχι, να κάνεις παύση, να προσαρμόζεσαι και να αποχωρείς. Μια ήπειρος που μπορεί να κάνει αυτά τα πράγματα έχει κάτι περισσότερο από έναν τομέα τεχνητής νοημοσύνης. Έχει τα θεμέλια της τεχνολογικής αυτοδιακυβέρνησης.

Η δημόσια ικανότητα είναι ένας κύκλος: σκοπός, στοιχεία, εξουσία, λειτουργία και μάθηση πρέπει να παραμένουν συνδεδεμένα μετά από μια κυκλοφορία.

Η δουλειά μετά το χειροκρότημα

Μπορεί να βοηθήσει να φανταστούμε την εβδομάδα μετά από μια επίδειξη και όχι τη στιγμή της. Όχι ένα πραγματικό γεγονός, όχι μια συγκεκαλυμμένη μελέτη περίπτωσης, απλώς η συνηθισμένη δουλειά που ακολουθεί μια υποσχόμενη ιδέα. Κάποιος πρέπει να μετατρέψει τον δηλωμένο σκοπό σε ένα πεδίο εφαρμογής που μπορεί να αξιολογηθεί. Κάποιος πρέπει να αποφασίσει ποιες πηγές εγγραφών είναι κατάλληλο να χρησιμοποιηθούν. Κάποιος πρέπει να χαρτογραφήσει πώς ένα αποτέλεσμα εισέρχεται σε μια ροή εργασίας. Κάποιος πρέπει να ρωτήσει αν η εργασία αλλάζει για τους ανθρώπους που την εκτελούν ήδη. Κάποιος πρέπει να διασφαλίσει ότι η διαδρομή υποστήριξης λειτουργεί στις γλώσσες που έχουν σημασία. Κάποιος πρέπει να κοστολογήσει την ενσωμάτωση, την παρακολούθηση και την τελική αποχώρηση.

Σε αυτό το σημείο το έργο μπορεί να φαίνεται πιο αργό, επειδή έχει αποκτήσει ονόματα, όρους και εξαρτήσεις. Στην πραγματικότητα έχει γίνει δυνατό να διαχειριστεί. Μια επίδειξη είναι γρήγορη επειδή αγνοεί τη δουλειά του να καταστήσει ένα σύστημα υπόλογο. Ένας θεσμός δεν είναι αργός επειδή χρησιμοποιεί μια λίστα ελέγχου. Είναι αργός όταν ανακαλύπτει τις πραγματικές εξαρτήσεις αφού έχει ήδη υποσχεθεί ένα αποτέλεσμα.

Η πρακτική πειθαρχία είναι να τοποθετούνται τα άλυτα ερωτήματα εκεί όπου μπορούν να αλλάξουν την απόφαση. Αν ο οργανισμός δεν γνωρίζει πώς θα τον ειδοποιήσει ένας προμηθευτής για μια ουσιαστική αλλαγή μοντέλου, να το καταγράψει πριν ολοκληρωθεί η σύμβαση. Αν δεν μπορεί να εξηγήσει ποιος μπορεί να παρακάμψει μια σύσταση, να το επιλύσει πριν η διεπαφή γίνει συνήθεια. Αν κανείς δεν κατέχει τα δεδομένα πηγής, να μην αποκαλεί τα δεδομένα έτοιμα. Αν ο οργανισμός δεν μπορεί να υποστηρίξει τις προβλεπόμενες γλώσσες, να περιορίσει την προβλεπόμενη χρήση αντί να επιτρέπει σε μια ευρεία υπόσχεση να γίνει μια σιωπηλή εξαίρεση.

Αυτό δεν είναι γραφειοκρατικός μεγισμαλισμός. Είναι αναλογικότητα. Ένας εσωτερικός βοηθός χαμηλού αντικτύπου μπορεί να χρειάζεται μια περιορισμένη ρύθμιση: μια δηλωμένη χρήση, σαφή όρια δεδομένων, καθοδήγηση του προσωπικού, έναν τρόπο αναφοράς προβλήματος και μια οδό εξόδου. Ένα σύστημα που διαμορφώνει την πρόσβαση στην εργασία, τις υπηρεσίες, την εκπαίδευση, την πίστη, την υγεία ή τη δημόσια εξουσία χρειάζεται πολύ ισχυρότερη ρύθμιση. Η σωστή απάντηση στην αναλογικότητα δεν είναι λιγότερες ερωτήσεις. Είναι ερωτήσεις προσαρμοσμένες στη βλάβη που μπορεί να προκαλέσει ένα λάθος.

Η θεσμική εργασία καθιστά επίσης την καινοτομία πιο επαναχρησιμοποιήσιμη. Όταν μια ομάδα τεκμηριώνει πώς αξιολόγησε μια ροή εργασίας, μια άλλη ομάδα μπορεί να μάθει από τη μέθοδο αντί να επαναλάβει την ίδια αβεβαιότητα. Όταν μια αρχή δημοσιεύει ένα χρήσιμο αρχείο συστήματος, οι πολίτες και άλλοι δημόσιοι φορείς έχουν ένα σημείο εκκίνησης. Όταν μια σύμβαση διατηρεί δικαιώματα εξαγωγής και αρχεία αλλαγών, ένας διάδοχος δεν αναγκάζεται να ανακατασκευάσει το παρελθόν από στιγμιότυπα οθόνης και τιμολόγια. Η επαναχρησιμοποίηση δεν αφορά μόνο τον κώδικα. Αφορά τη διατήρηση των αποφάσεων γύρω από τον κώδικα κατανοητών.

Υπάρχει μια ευχάριστη ειρωνεία εδώ. Οι οργανισμοί που ανησυχούν περισσότερο ότι η διακυβέρνηση θα τους επιβραδύνει συχνά κουβαλούν την περισσότερη κρυφή επανεργασία. Ξανατρέχουν αξιολογήσεις επειδή οι συνθήκες δεν καταγράφηκαν ποτέ. Συζητούν για την ευθύνη επειδή οι ρόλοι δεν ονομάστηκαν ποτέ. Επαναδιαπραγματεύονται μια σύμβαση επειδή η έξοδος θεωρήθηκε δεδομένη αντί να προσδιοριστεί. Εκπαιδεύουν ανθρώπους μετά την ανάπτυξη επειδή η ροή εργασίας θεωρήθηκε αυτονόητη. Οι θεσμοί μοιάζουν με περιττό βάρος μόνο όταν η απουσία τους δεν είναι ακόμη ορατή σε ένα σχέδιο έργου.

Τι κάνουν στην πραγματικότητα οι θεσμοί

Είναι εύκολο να κάνεις τους θεσμούς να ακούγονται μεγαλειώδεις και απόμακροι. Στην πράξη επιτελούν συνηθισμένες πράξεις συντήρησης. Διατηρούν διακρίσεις που μια συζήτηση της αγοράς προτιμά να θολώνει. Διακρίνουν έναν στόχο από ένα αποτέλεσμα, ένα σχέδιο από ένα γεγονός, ένα μοντέλο από μια υπηρεσία, μια υπηρεσία από μια δημόσια απόφαση, ένα αρχείο από μια απόδειξη και ένα παράπονο από μια θεραπεία.

Κατανέμουν την εξουσία. Όχι συμβολική εξουσία, αλλά την εξουσία να εγκρίνουν μια προβλεπόμενη χρήση, να αρνηθούν μια πηγή δεδομένων, να αναστείλουν μια διαδρομή, να δημοσιεύσουν μια διόρθωση, να αποδεχτούν έναν υπολειπόμενο κίνδυνο και να πουν σε έναν προμηθευτή ότι η απάντηση δεν είναι επαρκής. Ένα σύστημα χωρίς αυτή την κατανομή τείνει να ανακαλύπτει την εξουσία μέσω συγκρούσεων. Αυτός είναι ένας ακριβός τρόπος να το σχεδιάσεις.

Διατηρούν τη μνήμη. Το αρχείο μιας προηγούμενης απόφασης μπορεί να μην είναι εντυπωσιακό, αλλά είναι αυτό που επιτρέπει σε ένα νέο μέλος της ομάδας να κατανοήσει γιατί υπάρχει ένας περιορισμός. Η ιστορία επιτρέπει σε έναν οργανισμό να συγκρίνει ένα αλλαγμένο σύστημα με τις συνθήκες υπό τις οποίες εγκρίθηκε. Προστατεύει ένα άτομο που αμφισβητεί ένα αποτέλεσμα από το να του λένε ότι τα σχετικά στοιχεία έχουν διαλυθεί σε μια προηγούμενη έκδοση. Η λήθη είναι περιστασιακά βολική. Σπάνια αποτελεί ισχυρό μοντέλο διακυβέρνησης.

Δημιουργούν διαύλους για τη διαφωνία. Ένας καλός θεσμός δεν υποθέτει ότι ένα παράπονο είναι απόδειξη αποτυχίας. Δίνει στο παράπονο έναν προορισμό, αρκετές πληροφορίες για να εξεταστεί και ένα άτομο που μπορεί να απαντήσει χωρίς να εφεύρει μια νέα διαδικασία υπό πίεση. Αυτό έχει σημασία για τους εργαζόμενους, τους πολίτες, τους πελάτες, τους προμηθευτές και τις εσωτερικές ομάδες. Ένας δίαυλος αμφισβήτησης δεν είναι παραχώρηση στην απαισιοδοξία. Είναι μέρος του τρόπου με τον οποίο ένα σύστημα αντιλαμβάνεται τα δικά του όρια.

Επενδύουν στην ικανότητα. Η εργασία δεν είναι μόνο τεχνική. Περιλαμβάνει ανθρώπους που μπορούν να διαβάσουν μια σύμβαση, να αξιολογήσουν ένα όριο δεδομένων, να κατανοήσουν μια ροή εργασίας, να εξηγήσουν ένα αποτέλεσμα σε απλή γλώσσα, να λειτουργήσουν υποδομές, να εκπαιδεύσουν συναδέλφους και να αναγνωρίσουν πότε τα στοιχεία είναι πολύ αδύναμα για την απόφαση που προτείνεται. Κανένας οργανισμός δεν προσλαμβάνει όλους αυτούς τους ανθρώπους για κάθε μικρό έργο. Αλλά οι σοβαροί οργανισμοί ξέρουν πώς να τους βρουν, να τους μοιραστούν ή να τους ρωτήσουν πριν σκληρύνει η απόφαση.

Τελικά, οι θεσμοί κάνουν τις δεσμεύσεις βιώσιμες. Μια εταιρεία μπορεί να αλλάξει κατεύθυνση, ένας υπουργός μπορεί να αλλάξει χαρτοφυλάκιο, ένα μοντέλο μπορεί να αλλάξει έκδοση και ένας προϋπολογισμός μπορεί να γίνει λιγότερο ευφάνταστος. Ο δημόσιος σκοπός, το αρχείο, η εξουσία και το μέσο επανόρθωσης δεν θα έπρεπε να εξαφανίζονται μαζί με την αρχική παρουσίαση. Γι' αυτό τα ανθεκτικά συστήματα χρειάζονται βαρετά πράγματα: ανοιχτές διεπαφές όπου είναι δυνατόν, σαφή ιδιοκτησία, διατηρημένα αρχεία, ρεαλιστικούς όρους υποστήριξης, καθορισμένα σημεία επανεξέτασης και μια εφαρμόσιμη έξοδο. Τα βαρετά πράγματα δεν είναι το αντίθετο της καινοτομίας. Είναι αυτά που επιτρέπουν στην καινοτομία να αναθεωρείται χωρίς να μετατρέπεται σε επιχείρηση κατεδάφισης.

Ένα ευρωπαϊκό πλεονέκτημα που αξίζει να χτιστεί

Η Ευρώπη δεν χρειάζεται να κερδίσει μια διαφωνία για το αν οι θεσμοί είναι συναρπαστικοί. Δεν είναι, τις περισσότερες ημέρες. Ένα καλά οργανωμένο μητρώο δεν είναι συναρπαστικό. Μια προδιαγραφή διαλειτουργικότητας δεν έχει προκαλέσει ποτέ κύμα ενθουσιασμού σε γήπεδο. Μια ρήτρα προμηθειών για μορφές εξαγωγής δεν θα τυπωθεί σε τσάντα. Η έλλειψη γοητείας είναι μέρος της αξίας τους. Συνεχίζουν να λειτουργούν όταν η προσοχή στρέφεται αλλού.

Δεν υπάρχει επίσης λόγος να μετατραπεί αυτό σε μια ιστορία ευρωπαϊκής ηθικής ανωτερότητας. Κάθε περιοχή έχει θεσμούς, αποτυχίες, τεχνικά επιτεύγματα και τυφλά σημεία. Η Ευρώπη έχει μια ευκαιρία, όχι ένα ολοκληρωμένο πλεονέκτημα. Οι νομικές της παραδόσεις, οι δημόσιες υπηρεσίες, οι πολύγλωσσες κοινωνίες, τα ερευνητικά δίκτυα, η βιομηχανική βάση και οι διασυνοριακές ρυθμίσεις μπορούν να υποστηρίξουν μια ξεχωριστή προσέγγιση, αν συνδεθούν με πραγματική επιχειρησιακή ικανότητα. Μπορούν επίσης να παραμείνουν μια συλλογή αξιόλογων εγγράφων, αν οι άνθρωποι που χρειάζονται για να γίνει η δουλειά μείνουν χωρίς χρόνο, εξουσία ή εργαλεία.

Η επιλογή είναι πρακτική. Χτίστε προμήθειες που αγοράζουν αποδεικτικά στοιχεία και οδούς εξόδου, όχι μόνο δυνατότητες. Χτίστε υποδομές που περιλαμβάνουν πρόσβαση, υποστήριξη, ενεργειακή συνείδηση και υπεύθυνη λειτουργία. Χτίστε διαδικασίες στον χώρο εργασίας που δίνουν στους ανθρώπους πληροφορίες και πραγματική διακριτική ευχέρεια. Ενσωματώστε τον ψηφιακό γραμματισμό στους ρόλους και τις αλλαγές, όχι σε ένα μόνο απόγευμα. Ενσωματώστε τη γλωσσική υποστήριξη στην υπηρεσία, όχι μόνο στη σελίδα εκκίνησης. Χτίστε επιχειρήματα ασφάλειας που μπορούν να επανεξεταστούν. Χτίστε δημόσια αρχεία που επιτρέπουν σε μια δύσκολη ερώτηση να φτάσει στον σωστό υπεύθυνο.

Τότε η επόμενη επίδειξη μπορεί να γίνει δεκτή σωστά. Μπορεί να εκτιμηθεί γι' αυτό που είναι: απόδειξη ότι μια τεχνική δυνατότητα μπορεί να αξίζει διερεύνησης. Δεν χρειάζεται να φέρει το αδύνατο βάρος της απόδειξης ότι η γύρω κοινωνία είναι έτοιμη. Αυτή η απόδειξη, όπου είναι καθόλου δυνατή, χτίζεται αργά από θεσμούς που κάνουν τη δουλειά τους.

Ένα μικρό σημείωμα από εμάς

Στη Dweve, προσεγγίζουμε το ίδιο θεσμικό πρόβλημα με έναν σκόπιμα στενό δημόσιο ισχυρισμό. Το Trust Centre μας καταγράφει ότι το Dweve Loom 1.0 παραμένει σε εσωτερικές δοκιμές προ-έκδοσης, με κλειστή την εξωτερική πρόσβαση. Η δημοσιευμένη πύλη έκδοσης αναφέρει ότι το άνοιγμα μιας εξωτερικής οδού εξαρτάται από αποδεικτικά στοιχεία που αντιστοιχούν στην έκδοση, επιτυχείς ελέγχους ανά οδό, καταγεγραμμένη απόφαση έκδοσης και επαλήθευση ακεραιότητας των δημόσιων αρχείων. Αυτό δεν είναι ισχυρισμός ότι ένα αρχείο καθιστά ένα σύστημα ασφαλές ή ότι θα πραγματοποιηθεί μελλοντική έκδοση. Είναι ένας ισχυρισμός για το να κρατάμε ένα σχέδιο ξεχωριστό από ένα γεγονός, και μια επιχειρησιακή απόφαση συνδεδεμένη με αποδεικτικά στοιχεία.

Αυτό είναι το πρότυπο που αξίζει να εφαρμοστεί ευρύτερα. Μην ζητάτε από ένα μοντέλο να είναι θεσμός. Ζητήστε από τους θεσμούς να είναι αρκετά καλοί ώστε να αποφασίζουν πού ανήκει ένα μοντέλο, τι μπορεί να κάνει, πώς μπορεί να αμφισβητηθεί και πότε πρέπει να σταματήσει.

Πηγές