Η ευρωπαϊκή απάντηση στην εξάρτηση από τα μαύρα κουτιά
Το γραφείο εξυπηρέτησης χωρίς πόρτα
Το περιστατικό ξεκίνησε σε ένα ευπρεπές δωμάτιο με μια υπομονετική μηχανή του καφέ και μια οθόνη που έδειχνε έναν αριθμό αιτήματος. Ένας δημόσιος οργανισμός είχε χάσει την πρόσβαση σε μια ροή εργασίας που χρησιμοποιούσαν αρκετές περιφερειακές ομάδες. Τα δεδομένα υποτίθεται ότι ήταν τοπικά. Το συμβόλαιο χρησιμοποιούσε τις σωστές λέξεις. Ο πίνακας ελέγχου είχε ακόμη και μια μικρή σημαία στη γωνία, που είχε σκοπό να καθησυχάζει τον κόσμο με τον ίδιο τρόπο που ένα αυτοκόλλητο για τις ζώνες ασφαλείας καθησυχάζει τους επιβάτες σε ένα λεωφορείο χωρίς φρένα.
Η πρώτη ώρα ήταν συνηθισμένη. Κάποιος έλεγξε τα διαπιστευτήρια. Κάποιος έλεγξε το δίκτυο. Κάποιος έγραψε ένα μήνυμα στο κανάλι περιστατικών με τη φράση υπάρχει καμία ενημέρωση, που δεν έχει επισκευάσει ποτέ τίποτα, αλλά διανέμει αποτελεσματικά την ανησυχία. Μέχρι τη δεύτερη ώρα, το δωμάτιο είχε μάθει κάτι δυσάρεστο. Ο οργανισμός μπορούσε να δει την εφαρμογή, αλλά όχι το επίπεδο ελέγχου. Μπορούσε να εξάγει αναφορές, αλλά όχι τα στοιχεία πίσω από αυτές. Μπορούσε να ζητήσει υποστήριξη, αλλά όχι να επιθεωρήσει την εξάρτηση που είχε αποτύχει.
Δεν χρειαζόταν κανένας κακός. Ο προμηθευτής δεν ήταν κακόβουλος. Οι μηχανικοί δεν ήταν απρόσεκτοι. Η ομάδα προμηθειών δεν είχε βγει για ψώνια με αδιάβροχο. Το σύστημα είχε απλώς αγοραστεί ως μαύρο κουτί, επειδή το κουτί υποσχόταν ταχύτητα, και η ταχύτητα είναι πολύ πειστική πριν από τον πρώτο έλεγχο, τη διακοπή λειτουργίας, την αλλαγή πολιτικής, την αλλαγή τιμής ή την προσφυγή πολίτη. Ο οργανισμός είχε αναθέσει σε εξωτερικό συνεργάτη μια εργασία και κατά λάθος είχε αναθέσει και μέρος της ικανότητάς του να γνωρίζει τι συμβαίνει.
Αυτό είναι το ευρωπαϊκό πρόβλημα σε μικρογραφία. Η Ευρώπη δεν εξαρτάται απλώς από ξένα ή εμπορικά συστήματα. Συχνά εξαρτάται από συστήματα που δεν μπορεί να επιθεωρήσει, να δοκιμάσει, να μετακινήσει, να επισκευάσει ή να εξηγήσει στο επίπεδο όπου βρίσκεται η πρακτική εξουσία. Η εξάρτηση από μαύρα κουτιά δεν είναι απλώς μια τεχνική ταλαιπωρία. Είναι ένα πρόβλημα διακυβέρνησης με διακομιστές προσαρτημένους.
Το μαύρο κουτί είναι μια σχέση, όχι ένα σχήμα
Οι μηχανικοί χρησιμοποιούν συχνά τον όρο μαύρο κουτί για να περιγράψουν ένα εξάρτημα του οποίου τα εσωτερικά είναι κρυφά. Αυτό είναι χρήσιμο, αλλά ελλιπές. Στις δημόσιες υποδομές, την υγειονομική περίθαλψη, τα οικονομικά, την ενέργεια, την εκπαίδευση, τα logistics και τη βιομηχανία, το σχετικό μαύρο κουτί είναι μια σχέση. Εμφανίζεται όταν το ένα μέρος φέρει την ευθύνη ενώ το άλλο μέρος ελέγχει τα γεγονότα, τα χειριστήρια ή τη διαδρομή επισκευής. Το κουτί μπορεί να έχει ένα API, ένα νομικό παράρτημα και έναν φιλικό διαχειριστή λογαριασμού. Παραμένει μαύρο αν ο οργανισμός δεν μπορεί να απαντήσει σε βασικές ερωτήσεις χωρίς να ζητήσει άδεια από το υποκείμενο της ερώτησης.
Μπορούμε να δούμε ποια δεδομένα χρησιμοποιήθηκαν. Μπορούμε να αναπαράγουμε την απόφαση. Μπορούμε να επιθεωρήσουμε την έκδοση του μοντέλου. Μπορούμε να περιστρέψουμε τα κλειδιά. Μπορούμε να μετακινήσουμε τον φόρτο εργασίας. Μπορούμε να κρατήσουμε την υπηρεσία ζωντανή κατά τη διάρκεια ενός περιστατικού προμηθευτή. Μπορούμε να αμφισβητήσουμε μια αλλαγή στη συμπεριφορά. Μπορούμε να αποδείξουμε σε έναν ελεγκτή ότι το σύστημα έκανε αυτό που λέμε ότι έκανε. Αυτές οι ερωτήσεις δεν είναι αντιτεχνολογικές. Είναι τα ελάχιστα στοιχεία ευγένειας μιας σοβαρής εξάρτησης.
Υπάρχουν ακίνδυνα μαύρα κουτιά. Κανείς δεν χρειάζεται να επιθεωρήσει το υλικολογισμικό σε κάθε βραστήρα γραφείου, αν και ο βραστήρας θα βρει πάλι τρόπο να γίνει προμήθεια. Η ανησυχία μεγαλώνει όταν το κουτί αγγίζει δικαιώματα, κρίσιμες λειτουργίες, ευαίσθητα δεδομένα, ισχύ στην αγορά, ασφάλεια, δημόσια εμπιστοσύνη ή θεσμική συνέχεια. Σε εκείνο το σημείο, η αδιαφάνεια παύει να είναι ευκολία και γίνεται μεταβίβαση εξουσίας.
Η Ευρώπη το έχει μάθει αυτό σταδιακά. Η προστασία δεδομένων αποκάλυψε το χάσμα μεταξύ τόπου αποθήκευσης και πραγματικού ελέγχου. Η συγκέντρωση στο cloud αποκάλυψε το χάσμα μεταξύ σύμβασης και εξόδου. Η τεχνητή νοημοσύνη αποκάλυψε το χάσμα μεταξύ αποτελέσματος και εξήγησης. Τα περιστατικά κυβερνοασφάλειας αποκάλυψαν το χάσμα μεταξύ πινάκων ελέγχου και επισκευής. Κάθε μάθημα δείχνει την ίδια απάντηση: η Ευρώπη χρειάζεται συστήματα που μπορούν να διαβαστούν υπό πίεση, όχι μόνο να αγοραστούν με αισιοδοξία.
Η πρώτη απάντηση είναι η επιθεώρηση
Η πιο ευρωπαϊκή απάντηση σε ένα μαύρο κουτί δεν είναι απαραίτητα να κατασκευάσουμε ένα ανταγωνιστικό κουτί με τοπικό αυτοκόλλητο. Αυτό μπορεί να είναι χρήσιμο σε ορισμένα στρατηγικά επίπεδα, αλλά δεν αρκεί. Ένα εθνικό μαύρο κουτί παραμένει μαύρο κουτί, μόνο με συντομότερες πτήσεις προς την επιτροπή καθοδήγησης. Η πρώτη απάντηση είναι η επιθεώρηση. Τα κρίσιμα συστήματα θα πρέπει να εκθέτουν αρκετά από τη συμπεριφορά, τα αποδεικτικά στοιχεία, τη διαμόρφωση, την αλυσίδα εξαρτήσεων και το ιστορικό αλλαγών τους, ώστε οι υπόλογοι οργανισμοί να μπορούν να κατανοήσουν σε τι βασίζονται.
Η επιθεώρηση ξεκινά με την προέλευση των δεδομένων. Ποιες πηγές εισήλθαν στη ροή εργασίας. Ποια πηγή επικράτησε κατά τη διάρκεια μιας σύγκρουσης. Ποια εγγραφά μετατράπηκαν σε χαρακτηριστικά, ενσωματώσεις, περιλήψεις, βαθμολογίες ή συστάσεις. Ποια παράγωγα αντικείμενα αποθηκεύτηκαν. Ποια διαγράφηκαν. Αυτό δεν είναι χόμπι γραφειοκρατίας. Ειδικά στα συστήματα τεχνητής νοημοσύνης, τα παράγωγα δεδομένα μπορούν να φέρουν μεγαλύτερη επιχειρησιακή επιρροή από την αρχική εγγραφή. Αν κανείς δεν μπορεί να τα επιθεωρήσει, κανείς δεν μπορεί να τα διαχειριστεί.
Η επιθεώρηση συνεχίζεται με επιχειρησιακά αποδεικτικά στοιχεία. Τα αρχεία καταγραφής είναι χρήσιμα, αλλά δεν αποτελούν αυτόματα αποδεικτικά στοιχεία. Ένα αρχείο καταγραφής που ελέγχεται από τον ίδιο τον φορέα που αξιολογείται μπορεί να είναι ένδειξη, όχι απόδειξη. Τα αποδεικτικά στοιχεία χρειάζονται ανθεκτικότητα, πλαίσιο, ανεξαρτησία και δυνατότητα αναπαραγωγής. Θα πρέπει να συνδέουν εκδόσεις, πολιτικές, προτροπές, πηγές ανάκτησης, όρια, ανθρώπινες ενέργειες και αποτελέσματα. Θα πρέπει να επιβιώνουν περισσότερο από τον επόμενο επανασχεδιασμό πίνακα ελέγχου, ένα ευγενές γεγονός που έχει θάψει πολλές αλήθειες.
Η επιθεώρηση σημαίνει επίσης ορατότητα αλλαγών. Ένα σύστημα που ήταν αποδεκτό τον Μάρτιο μπορεί να γίνει μη αποδεκτό τον Μάιο επειδή άλλαξε ένα μοντέλο, μετακινήθηκε μια σημαία λειτουργίας, ένας προμηθευτής ενημέρωσε μια εξάρτηση ή αναδιοργανώθηκε μια διαδρομή υποστήριξης. Η Ευρώπη δεν χρειάζεται παγωμένα συστήματα. Χρειάζεται αλλαγή που μπορεί να φανεί, να αξιολογηθεί, να εγκριθεί και να ανακληθεί όταν το καθήκον το απαιτεί.
Η δεύτερη απάντηση είναι η φορητότητα που όντως μετακινεί
Η φορητότητα είναι μια λέξη που έχει υποφέρει από υπερβολική αισιοδοξία. Πολλά συμβόλαια υπόσχονται εξαγωγή. Λιγότερα συστήματα μπορούν να μετακινηθούν με δικαιώματα, προέλευση, μεταδεδομένα, αρχεία ελέγχου, ενσωματώσεις, ρυθμίσεις μοντέλου, προτροπές, σύνολα αξιολόγησης και επιχειρησιακό πλαίσιο άθικτα. Ένας φάκελος με αρχεία CSV δεν είναι έξοδος αν το λειτουργικό νόημα του συστήματος παραμένει παγιδευμένο σε μια πλατφόρμα. Μοιάζει περισσότερο με το να παραλαμβάνεις τα έπιπλα αφού το κτίριο έχει κρατήσει τις πόρτες.
Η πραγματική φορητότητα απαιτεί μορφότυπους και διεπαφές που διατηρούν τη σημασιολογία, όχι μόνο τη σύνταξη. Μια κατάσταση υπόθεσης πρέπει να σημαίνει το ίδιο πράγμα μετά την εξαγωγή. Ένα μοντέλο δικαιωμάτων πρέπει να επιβιώσει από το ταξίδι. Μια έκδοση πολιτικής πρέπει να παραμείνει συνδεδεμένη με τις αποφάσεις που διείπε. Μια ανακτημένη πηγή πρέπει να παραμείνει συνδεδεμένη με την απάντηση που υποστήριξε. Μια αξιολόγηση μοντέλου πρέπει να παραμένει αρκετά αναπαράξιμη ώστε να μπορεί να κριθεί ένα υποκατάστατο. Αυτή είναι άδοξη μηχανική, γι' αυτό συνήθως λείπει από τις λαμπερές προμήθειες.
Η φορητότητα χρειάζεται επίσης πρόβα. Η πρώτη δοκιμή μετανάστευσης δεν πρέπει να γίνεται κατά τη διάρκεια μιας νομικής διαφοράς, ενός δημοσιονομικού σοκ ή μιας διακοπής προμηθευτή. Οι οργανισμοί θα πρέπει να εκτελούν ασκήσεις εξόδου για κρίσιμα συστήματα με το ίδιο πνεύμα με τις ασκήσεις επαναφοράς. Μπορεί η ομάδα να εξάγει. Μπορεί ένα άλλο περιβάλλον να διαβάσει την εξαγωγή. Μπορούν οι χρήστες να συνεχίσουν τη δουλειά. Μπορούν οι παλιές αποφάσεις να εξηγηθούν ακόμη. Μπορεί ο οργανισμός-πηγή να αποδείξει ότι το αντίγραφο είναι πλήρες. Αν αυτό ακούγεται απαιτητικό, είναι. Το ίδιο είναι και η εξάρτηση.
Η Ευρώπη μπορεί να το κάνει αυτό συνηθισμένο μέσω προμηθειών και προτύπων. Ρωτήστε όχι μόνο αν ένας προμηθευτής υποστηρίζει εξαγωγή, αλλά πότε δοκιμάστηκε η τελευταία εξαγωγή, τι τεκμήρια περιλάμβανε και πόσο χρόνο χρειάστηκε μια ανεξάρτητη ομάδα για να επαναφέρει μια ουσιαστική υπηρεσία. Η απάντηση θα είναι μερικές φορές άβολη. Το άβολο είναι φθηνότερο πριν από την υπογραφή.
Η τρίτη απάντηση είναι τα ευανάγνωστα επίπεδα ελέγχου
Το επίπεδο δεδομένων μεταφέρει το έργο. Το επίπεδο ελέγχου αποφασίζει ποιος μπορεί να αγγίξει το έργο, πού εκτελείται, ποια έκδοση είναι ενεργή, ποια κλειδιά το ξεκλειδώνουν, ποιες πολιτικές ισχύουν, ποια αρχεία καταγραφής διατηρούνται, ποιος φορέας υποστήριξης μπορεί να εισέλθει και ποια διαδρομή ακολουθεί η κυκλοφορία κατά τη διάρκεια βλάβης. Αν το επίπεδο δεδομένων είναι τοπικό και το επίπεδο ελέγχου είναι αδιαφανές, ο οργανισμός έχει μια πολύ τοπική εξάρτηση από το τιμόνι κάποιου άλλου.
Αυτό έχει σημασία για την τεχνητή νοημοσύνη επειδή το επίπεδο ελέγχου περιλαμβάνει πλέον τη δρομολόγηση μοντέλων, τη διαμόρφωση ανάκτησης, τη διαχείριση προτροπών, τα φίλτρα πολιτικής, τις σουίτες αξιολόγησης, τους κανόνες τηλεμετρίας, τις ουρές ανθρώπινης αναθεώρησης, τη συλλογή σχολίων και τα όρια ασφαλείας. Ένα έγγραφο μπορεί να παραμείνει στην Ευρώπη ενώ η απόφαση για το τι βλέπει, αποθηκεύει, κατατάσσει ή καταστέλλει το μοντέλο λαμβάνεται αλλού. Η τοποθεσία βοηθά. Η εντολή αποφασίζει.
Τα αναγνώσιμα επίπεδα ελέγχου δεν απαιτούν από κάθε μέλος του διοικητικού συμβουλίου να γίνει μηχανικός πλατφορμών. Απαιτούν από τους θεσμούς να γνωρίζουν ποιοι φορείς έχουν ποιες εξουσίες, ποιες εξουσίες είναι τεχνικές και όχι συμβατικές, ποιες εξουσίες μπορούν να ασκηθούν κατά τη διάρκεια περιστατικών και ποιες εξουσίες καταγράφονται ανεξάρτητα. Το διοικητικό συμβούλιο δεν χρειάζεται να διαμορφώσει ένα θησαυροφυλάκιο κλειδιών. Χρειάζεται όμως να γνωρίζει αν ο οργανισμός μπορεί να ανακαλέσει την πρόσβαση χωρίς να στείλει ένα αγχωτικό email.
Μια ευρωπαϊκή απάντηση θα πρέπει επομένως να διαχωρίζει τις ετικέτες φιλοξενίας από τα δικαιώματα ελέγχου. Μια κυρίαρχη υπηρεσία δεν είναι αυτή με ένα εντυπωσιακό όνομα περιοχής. Είναι αυτή όπου ο υπόχρεος μπορεί να επιθεωρεί τη διαμόρφωση, να διαχειρίζεται τα κλειδιά, να εγκρίνει τις αλλαγές, να περιορίζει την υποστήριξη, να διατηρεί τα αποδεικτικά στοιχεία και να μετακινεί τα δεδομένα υπό καθορισμένες συνθήκες. Η γλώσσα είναι λιγότερο εμπορεύσιμη. Είναι επίσης λιγότερο πιθανό να εκτεθεί σε περίοδο διακοπής λειτουργίας.
Η τέταρτη απάντηση είναι η τοπική επάρκεια
Η Ευρώπη δεν μπορεί να επιθεωρήσει ό,τι δεν κατανοεί πλέον. Αυτό είναι το λιγότερο μοδάτο κομμάτι της κυριαρχίας, επειδή περιλαμβάνει εκπαίδευση, στελέχωση, τεκμηρίωση, συντήρηση και τη σταδιακή οικοδόμηση εσωτερικής κρίσης. Είναι ευκολότερο να αγοράσεις μια πλατφόρμα παρά να διατηρήσεις αρκετούς ανθρώπους που μπορούν να αναρωτηθούν αν οι ισχυρισμοί της πλατφόρμας αντέχουν στην επαφή με την πραγματικότητα. Ευκολότερο, αλλά όχι φθηνότερο όταν η εξάρτηση ωριμάσει.
Η τοπική επάρκεια δεν σημαίνει ότι κάθε δήμος, νοσοκομείο, κατασκευαστής, σχολείο ή φορέας πρέπει να απασχολεί μια ομάδα μεταγλωττιστών και έναν σχεδιαστή τσιπ. Σημαίνει ότι οι κρίσιμες αποφάσεις δεν μπορούν να εξαρτώνται εξ ολοκλήρου από εξωτερική ερμηνεία. Κάποιος κοντά στον υπόχρεο πρέπει να κατανοεί το μοντέλο δεδομένων, το επίπεδο ελέγχου, το ίχνος αποδεικτικών στοιχείων, τη διαδρομή ανάκαμψης, τη στάση ασφαλείας, τους μοχλούς κόστους και τα όρια του συστήματος. Ο στόχος δεν είναι η αυτάρκεια ως θέατρο. Ο στόχος είναι η ενημερωμένη εξάρτηση.
Η επάρκεια αλλάζει τις προμήθειες. Ένας ικανός αγοραστής θέτει πιο οξείες ερωτήσεις. Ζητά αποτελέσματα δοκιμών αντί για υποσχέσεις. Διακρίνει την απόδοση του μοντέλου από την θεσμική εμπιστοσύνη. Παρατηρεί όταν η εξαγωγή διατηρεί τα αρχεία αλλά χάνει το νόημα. Ρωτά ποιος μπορεί να επισκευάσει την Πέμπτη στις 16:40. Μπορεί να δεχτεί βοήθεια χωρίς να παραδώσει την κρίση του. Οι προμηθευτές που αξίζει να διατηρηθούν γενικά το προτιμούν αυτό, επειδή οι ασαφείς πελάτες παράγουν δραματικές εκπλήξεις και στη συνέχεια τις αποκαλούν ζητήματα συνεργασίας.
Υπάρχει επίσης ένα δημοκρατικό επιχείρημα. Όταν τα βασικά συστήματα επηρεάζουν πολίτες, ασθενείς, φοιτητές, εργαζόμενους και επιχειρήσεις, οι δημόσιοι θεσμοί δεν θα πρέπει να υποβαθμίζονται σε διαβιβαστές μηνυμάτων μεταξύ των πληγέντων και των αδιαφανών προμηθευτών. Χρειάζονται επαρκή τεχνικό γραμματισμό για να εξηγούν, να αμφισβητούν και να διορθώνουν. Διαφορετικά, η δημόσια λογοδοσία γίνεται μια αίθουσα αναμονής με καλύτερα γραφικά.
Η πέμπτη απάντηση είναι μια κουλτούρα άρνησης
Τα μαύρα κουτιά ευδοκιμούν όταν οι οργανισμοί ντρέπονται να πουν όχι. Όχι στα ελλιπή στοιχεία. Όχι στις μη τεκμηριωμένες αλλαγές μοντέλων. Όχι στην εξαγωγή που χάνει τα συμφραζόμενα. Όχι στην πρόσβαση υποστήριξης χωρίς όρια. Όχι στους πίνακες ελέγχου που δεν μπορούν να αναπαράγουν τα δεδομένα. Όχι στα αποτελέσματα πιλοτικών προγραμμάτων που παρουσιάζονται ως αποδεδειγμένη λειτουργία. Όχι στη γοητευτική φράση ότι το χαρακτηριστικό βρίσκεται στον οδικό χάρτη. Οι οδικοί χάρτες είναι υπέροχοι. Είναι επίσης εκεί όπου οι ανεκπλήρωτες υποχρεώσεις πηγαίνουν για μικρές διακοπές.
Η άρνηση πρέπει να είναι συγκεκριμένη, όχι θεατρική. Μια ομάδα προμηθειών μπορεί να πει ότι το σύστημα είναι αποδεκτό για σύνταξη χαμηλού κινδύνου, αλλά όχι για τελικές αποφάσεις. Ένα νοσοκομείο μπορεί να επιτρέψει σε ένα μοντέλο να υποστηρίζει τη διαλογή ασθενών, ενώ απαιτεί ξεχωριστή διαδρομή τεκμηρίωσης για την κλινική σύσταση. Ένας δήμος μπορεί να χρησιμοποιήσει μια φιλοξενούμενη ροή εργασίας, εφόσον η διαχείριση κλειδιών, η καταγραφή και η έξοδος βρίσκονται υπό καθορισμένο τοπικό έλεγχο. Το ζητούμενο δεν είναι να απορρίπτουμε οτιδήποτε είναι αδιαφανές. Το ζητούμενο είναι να περιορίσουμε τι επιτρέπεται να κάνει η αδιαφάνεια.
Εδώ βοηθά η ταξινόμηση κινδύνου. Δεν χρειάζεται κάθε σύστημα το ίδιο βάθος επιθεώρησης. Ένα chatbot για μενού μεσημεριανού γεύματος δεν χρειάζεται τους ελέγχους μιας μηχανής αποφάσεων κοινωνικής πρόνοιας, αν και μπορεί να παρεξηγήσει τη σούπα. Η ευρωπαϊκή απάντηση πρέπει να κλιμακώνεται. Οι υψηλές συνέπειες, η χαμηλή αναστρεψιμότητα, τα ευαίσθητα δεδομένα, η εξάρτηση από μονοπώλιο ή τα δημόσια δικαιώματα απαιτούν ισχυρότερη επιθεώρηση, φορητότητα, τεκμηρίωση και επάρκεια. Τα εργαλεία χαμηλού κινδύνου μπορούν να κινούνται ταχύτερα, υπό την προϋπόθεση ότι δεν μετατρέπονται σιωπηλά σε εργαλεία υψηλού κινδύνου μέσω της σταδιακής διεύρυνσης της χρήσης τους.
Η άρνηση προστατεύει την καινοτομία αντί να την εμποδίζει. Οι ομάδες μπορούν να πειραματίζονται με μεγαλύτερη ασφάλεια όταν τα όρια είναι σαφή. Ένα πιλοτικό πρόγραμμα μπορεί να μαθαίνει χωρίς να γίνεται κατά λάθος εξάρτηση παραγωγής. Ένας προμηθευτής μπορεί να βελτιώνεται με βάση συγκεκριμένα κριτήρια αποδοχής. Οι χρήστες μπορούν να εμπιστεύονται ότι δεν θα προωθηθεί κάθε εντυπωσιακό αποτέλεσμα σε θέση εξουσίας μόνο από τον ενθουσιασμό.
Το ανοιχτό δεν σημαίνει αυτόματα κυρίαρχο
Υπάρχει ο πειρασμός να απαντήσουμε σε κάθε μαύρο κουτί με ανοιχτό κώδικα. Το ανοιχτό βοηθά και σε στρατηγικά επίπεδα μπορεί να είναι καθοριστικό. Αλλά ο ανοιχτός κώδικας από μόνος του δεν είναι κυριαρχία. Ένα αποθετήριο που κανείς δεν μπορεί να χτίσει, ένα μοντέλο που κανείς δεν μπορεί να αξιολογήσει, μια εξάρτηση που κανείς δεν συντηρεί και ένα πρότυπο που κανείς δεν δοκιμάζει μπορούν να γίνουν στην πράξη μαύρο κουτί. Το ανοιχτό παρέχει δικαίωμα επιθεώρησης. Δεν παρέχει αυτόματα την ικανότητα επιθεώρησης.
Η ίδια προσοχή ισχύει και για την ευρωπαϊκή επωνυμία. Ένας τοπικός προμηθευτής μπορεί να είναι αδιαφανής. Ένα ξένο εξάρτημα μπορεί να είναι αποδεκτό αν ο ρόλος του είναι περιορισμένος, τα στοιχεία είναι ανεξάρτητα και η έξοδος είναι πραγματική. Μια δημόσια πλατφόρμα μπορεί να γίνει μονοπώλιο με εξαιρετικά δελτία τύπου. Μια εμπορική υπηρεσία μπορεί να διοικείται σωστά για τη σωστή κατηγορία εργασίας. Το ζήτημα δεν είναι ηθική γεωγραφία. Το ζήτημα είναι πού βρίσκεται η εξουσία, πώς ελέγχεται και τι συμβαίνει όταν αλλάζουν οι συνθήκες.
Γι' αυτό η ευρωπαϊκή απάντηση πρέπει να είναι αρχιτεκτονική και όχι φυλετική. Συνδυάστε τον τοπικό έλεγχο με ανοιχτά πρότυπα. Χρησιμοποιήστε προμηθευτές, αλλά ορίστε την εξάρτηση. Χρησιμοποιήστε το cloud, αλλά κρατήστε τα κλειδιά, τα στοιχεία και την έξοδο ευανάγνωστα. Χρησιμοποιήστε την τεχνητή νοημοσύνη, αλλά διαχωρίστε την εμπιστοσύνη του μοντέλου από την θεσμική εξουσία. Χρησιμοποιήστε ανοιχτό κώδικα, αλλά χρηματοδοτήστε τη συντήρηση. Χρησιμοποιήστε ρυθμίσεις, αλλά απαιτήστε τεχνικές αποδείξεις συμπεριφοράς, όχι μόνο ποιητική συμμόρφωσης.
Η καλή αρχιτεκτονική επιτρέπει στους θεσμούς να συνεργάζονται χωρίς να παραδίδουν τα καθήκοντά τους. Δημιουργεί χώρους όπου οι προμηθευτές μπορούν να ανταγωνίζονται στην υπηρεσία, ενώ τα αρχεία, οι διεπαφές, τα στοιχεία και τα δικαιώματα παραμένουν φορητά. Υποστηρίζει μια αγορά, αλλά εμποδίζει την αγορά να καταπιεί την ικανότητα διακυβέρνησης. Αυτό δεν είναι αντιεπιχειρηματικό. Έτσι οι σοβαροί πελάτες παραμένουν πελάτες αντί για όμηροι με αριθμούς προμηθειών.
Το επίπεδο της τεχνητής νοημοσύνης ανεβάζει τον πήχη
Η τεχνητή νοημοσύνη κάνει την εξάρτηση από το μαύρο κουτί πιο έντονη, επειδή τα αποτελέσματα μπορεί να φαίνονται πλήρη ακόμα και όταν η τεκμηρίωση είναι αδύναμη. Μια άνετη απάντηση μπορεί να κρύβει ελλιπείς πηγές. Μια βαθμολογία εμπιστοσύνης μπορεί να κρύβει κακή βαθμονόμηση. Ένα αποτέλεσμα ανάκτησης μπορεί να κρύβει ένα ξεπερασμένο ευρετήριο. Ένα φίλτρο ασφαλείας μπορεί να κρύβει επιλογές πολιτικής. Μια ενημέρωση μοντέλου μπορεί να αλλάξει τη συμπεριφορά πολλών ροών εργασίας ταυτόχρονα. Το κουτί δεν επεξεργάζεται μόνο εργασία. Συμμετέχει στην κρίση.
Αυτό δεν σημαίνει ότι η τεχνητή νοημοσύνη πρέπει να αποφεύγεται. Σημαίνει ότι η τεχνητή νοημοσύνη πρέπει να τοποθετείται μέσα σε ένα λειτουργικό μοντέλο που μπορεί να επιθεωρεί το πεδίο εφαρμογής, τα στοιχεία, την αβεβαιότητα και τις συνέπειες. Τι επιτρέπεται να κάνει το μοντέλο. Ποιες πηγές μπορεί να χρησιμοποιεί. Ποιες πηγές αποκλείονται. Πότε αρνείται. Πότε αποφασίζει ένας άνθρωπος. Πώς καταγράφονται οι παρακάμψεις. Πώς χειρίζονται οι ενστάσεις. Ποια αρχεία αποφάσεων μπορούν να αναπαραχθούν. Ποιες αλλαγές μοντέλου απαιτούν αναθεώρηση. Αυτά είναι συνηθισμένα ερωτήματα μηχανικής με δημόσιες συνέπειες.
Η χειρότερη εξάρτηση από την τεχνητή νοημοσύνη είναι αυτή που ξεκινά ως βοήθεια και γίνεται εξουσία από συνήθεια. Στην αρχή το σύστημα συντάσσει. Μετά προτείνει. Μετά η πρόταση γίνεται η προεπιλογή. Μετά οι ομάδες αξιολογούνται με βάση την προεπιλογή. Μετά η διαφωνία μοιάζει με αναποτελεσματικότητα. Κανείς δεν αποφάσισε επίσημα να μεταφέρει την εξουσία. Η ροή εργασίας απλώς έμαθε να υποκλίνεται. Πολύ αποτελεσματικό, με τον τρόπο που είναι αποτελεσματική μια καταπακτή.
Η Ευρώπη θα πρέπει επομένως να απαιτεί όχι μόνο επεξηγήσιμα μοντέλα, αλλά και συστήματα αποφάσεων με λογοδοσία. Η εξήγηση είναι μέρος αυτού. Τα στοιχεία είναι μέρος αυτού. Η ανθρώπινη εξουσία είναι μέρος αυτού. Η διόρθωση είναι μέρος αυτού. Η άρνηση είναι μέρος αυτού. Η φορητότητα είναι μέρος αυτού. Η απάντηση δεν είναι ένα μαγικό εξάρτημα. Είναι η άρνηση να εξαφανιστεί η σημαντική κρίση μέσα σε ένα κουτί του οποίου η συμπεριφορά δεν μπορεί να αμφισβητηθεί.
Η πολιτική θα πρέπει να αγοράζει λειτουργικά δικαιώματα
Η ευρωπαϊκή πολιτική μιλά συχνά με αρχές, και οι αρχές έχουν σημασία. Η ιδιωτικότητα, η δικαιοσύνη, η λογοδοσία, ο ανταγωνισμός, η ανθεκτικότητα και ο δημοκρατικός έλεγχος δεν είναι διακοσμητικά. Αλλά η πολιτική γίνεται πραγματική όταν αγοράζει λειτουργικά δικαιώματα. Το δικαίωμα επιθεώρησης. Το δικαίωμα εξαγωγής ουσιαστικών δεδομένων. Το δικαίωμα σε ανεξάρτητα αρχεία καταγραφής. Το δικαίωμα τοπικού ελέγχου κλειδιών. Το δικαίωμα να γνωρίζει κανείς τις αλλαγές μοντέλου. Το δικαίωμα δοκιμής της εξόδου. Το δικαίωμα άρνησης μιας διαδρομής υποστήριξης. Το δικαίωμα διατήρησης αποδεικτικών στοιχείων αποφάσεων.
Αυτά τα δικαιώματα θα πρέπει να εμφανίζονται στις προμήθειες, την πιστοποίηση, τη χρηματοδότηση και την εποπτεία. Ένα κρίσιμο σύστημα δεν θα πρέπει να κερδίζει εμπιστοσύνη επειδή χρησιμοποιεί τα σωστά επίθετα. Θα πρέπει να επιδεικνύει ασκήσεις αποκατάστασης, ασκήσεις εξόδου, ίχνη αποδεικτικών στοιχείων, όρια πρόσβασης, μητρώα εξαρτήσεων και επάρκεια ρόλων. Η άσκηση μπορεί να φαίνεται βαρετή. Η βαρετή είναι ο φυσικός βιότοπος της αξιόπιστης υποδομής.
Η πολιτική μπορεί επίσης να μειώσει την επανάληψη. Δεν χρειάζεται κάθε οργανισμός να εφευρίσκει το δικό του πρότυπο τεκμηρίωσης, τη δική του δοκιμή εξαγωγής ή τη δική του λίστα ελέγχου αλλαγών μοντέλου. Η Ευρώπη είναι καλή στα πρότυπα όταν αυτά συνδέονται με πραγματική χρήση. Κοινά πρότυπα για αρχεία ελέγχου, αποδείξεις αποφάσεων τεχνητής νοημοσύνης, μητρώα εξαρτήσεων, έλεγχο κλειδιών και δοκιμές εξόδου θα διευκόλυναν τις σοβαρές αγορές και θα δυσκόλευαν τις προσχηματικές. Αυτός είναι ένας ανταλλαγή που αξίζει.
Η σημαντική πειθαρχία είναι να συνδέεται ο νομικός ισχυρισμός με την τεχνική συμπεριφορά. Αν ένας κανόνας λέει ότι ένας οργανισμός πρέπει να εξηγεί μια απόφαση, το σύστημα πρέπει να διατηρεί το υλικό που χρειάζεται για να την εξηγήσει. Αν ένας νόμος λέει ότι τα δικαιώματα δεδομένων έχουν σημασία, η εξαγωγή πρέπει να μεταφέρει το πλαίσιο που καθιστά αυτά τα δικαιώματα χρησιμοποιήσιμα. Αν μια πολιτική απαιτεί ανθρώπινη εποπτεία, η διεπαφή πρέπει να δίνει στους ανθρώπους πραγματική εξουσία. Διαφορετικά, η Ευρώπη θα ρυθμίζει τη σκιά και θα αγοράζει το κουτί.
Η απάντηση κάτω από την απάντηση
Η ευρωπαϊκή απάντηση στην εξάρτηση από το μαύρο κουτί δεν είναι μία κατηγορία προϊόντος, ένα εθνικό νέφος, μία επιτροπή, ένας κανονισμός ή μία σημαία. Είναι ένα σύνολο λειτουργικών συνηθειών. Επιθεώρησε το σύστημα. Κράτα αποδεικτικά στοιχεία. Διατήρησε το νόημα κατά την έξοδο. Διάβασε το επίπεδο ελέγχου. Διατήρησε την τοπική ικανότητα. Ταξινόμησε τον κίνδυνο. Χρηματοδότησε τα πρότυπα. Εξάσκησε την άρνηση. Αντιμετώπισε τα αποτελέσματα τεχνητής νοημοσύνης ως αποφάσεις μόνο όταν το περιβάλλον σύστημα μπορεί να φέρει την ευθύνη.
Αυτή η απάντηση είναι πιο αργή από το να αγοράσεις ένα γυαλιστερό κουτί και να διακηρύξεις τη νίκη. Ζητά δοκιμές πριν από τα συνθήματα, αρχιτεκτονική πριν από τη στάση και αρχεία πριν από τις διαβεβαιώσεις. Κάνει επίσης την Ευρώπη λιγότερο εύθραυστη. Οι οργανισμοί που μπορούν να επιθεωρούν, να μετακινούν, να επισκευάζουν και να εξηγούν είναι καλύτεροι πελάτες, καλύτεροι ρυθμιστές, καλύτεροι διαχειριστές και καλύτεροι θεματοφύλακες της δημόσιας εμπιστοσύνης.
Το γραφείο εξυπηρέτησης στην εναρκτήρια ιστορία βρήκε τελικά μια λύση. Τα περισσότερα περιστατικά βρίσκουν. Οι λύσεις είναι χρήσιμες, αλλά δεν είναι στρατηγική. Το μάθημα δεν ήταν ότι κάθε εξωτερική υπηρεσία είναι κακή. Το μάθημα ήταν ότι ένας υπόχρεος δεν πρέπει ποτέ να ανακαλύπτει κατά τη διάρκεια μιας διακοπής ότι το μόνο πραγματικό του εργαλείο είναι ένας αριθμός αιτήματος.
Η Ευρώπη δεν χρειάζεται να απομονωθεί για να ανακτήσει τον έλεγχο. Χρειάζεται να κάνει την κρίσιμη εξάρτηση ευανάγνωστη. Το κουτί μπορεί να παραμείνει. Η τύφλωση δεν πρέπει.