Όταν η διακυβέρνηση γίνεται πρόβλημα κατά την εκτέλεση
Η πολιτική που έχασε το αίτημα
Η συνεδρίαση διακυβέρνησης ήταν προσεκτική. Οι κίνδυνοι καταγράφηκαν. Η περίπτωση χρήσης ταξινομήθηκε. Οι πηγές δεδομένων εγκρίθηκαν. Η νομική βάση σημειώθηκε. Η ανθρώπινη εποπτεία ήταν υποχρεωτική για περιπτώσεις υψηλού αντικτύπου. Τα πρακτικά ήταν αρκετά καθαρά ώστε να κάνουν έναν υπεύθυνο συμμόρφωσης να πιστέψει για λίγο στον πολιτισμό. Έπειτα το σύστημα τέθηκε σε λειτουργία και το πρώτο άβολο αίτημα έφτασε στις 09:14 ένα πρωί Τρίτης.
Το αίτημα δεν ενδιαφερόταν ότι η επιτροπή συνεδρίαζε μηνιαίως. Έφερε έναν ρόλο χρήστη, έναν φάκελο πελάτη, μια έκδοση πολιτικής, μια διαδρομή μοντέλου, μια άδεια εργαλείου, ένα ζήτημα εγκατάστασης δεδομένων, ένα όριο προϋπολογισμού και μια πιθανή εξωτερική επίπτωση. Η ροή εργασίας έπρεπε να αποφασίσει μέσα σε δευτερόλεπτα αν θα ανακτήσει, θα δημιουργήσει, θα κλιμακώσει, θα αρνηθεί, θα καταγράψει, θα ειδοποιήσει ή θα ενεργήσει. Η διακυβέρνηση δεν ήταν πλέον ένα έγγραφο πίσω από το σύστημα. Είχε γίνει ένα πρόβλημα χρόνου εκτέλεσης μέσα στο σύστημα.
Εδώ πολλά προγράμματα τεχνητής νοημοσύνης αισθάνονται το έδαφος να κινείται. Ο σχεδιασμός διακυβέρνησης δεν ήταν απαραίτητα λάθος. Το διοικητικό συμβούλιο δεν ήταν ανόητο. Η γλώσσα της πολιτικής μπορεί να ήταν ακόμη και καλή. Το πρόβλημα είναι ότι τα συστήματα τεχνητής νοημοσύνης εκτελούνται εν κινήσει. Αντλούν νέο πλαίσιο, καλούν εργαλεία, διασχίζουν όρια υπηρεσιών, επαναχρησιμοποιούν δεδομένα, δημιουργούν νέα τεχνουργήματα και προσκαλούν τους ανθρώπους να βασιστούν στα αποτελέσματα. Μια πολιτική που δεν μπορεί να εισέλθει σε αυτή την κίνηση γίνεται έργο αναφοράς. Χρήσιμη, ίσως. Όχι επαρκής.
Διακυβέρνηση χρόνου εκτέλεσης σημαίνει ότι το σύστημα μπορεί να αξιολογεί τις συνθήκες διακυβέρνησης ενώ η εργασία βρίσκεται σε εξέλιξη. Ποιος ζητά. Για ποιον σκοπό. Ποια δεδομένα μπορούν να χρησιμοποιηθούν. Ποιο μοντέλο επιτρέπεται. Ποιο εργαλείο μπορεί να ενεργήσει. Ποια δικαιοδοσία ισχύει. Ποιος προϋπολογισμός είναι αποδεκτός. Ποιες περιπτώσεις χρειάζονται ανθρώπινη αναθεώρηση. Ποιο αρχείο πρέπει να καταγραφεί. Ποια διαδρομή υπάρχει για ένσταση. Αυτά δεν είναι μόνο ζητήματα προμηθειών ή ζητήματα ετήσιας αναθεώρησης. Είναι ζητήματα της διαδρομής αιτήματος.
Τα έγγραφα εξακολουθούν να έχουν σημασία
Υπάρχει ένας μοδάτος πειρασμός να χλευάζουμε τα έγγραφα διακυβέρνησης. Πολιτικές, μητρώα, εκτιμήσεις αντικτύπου, πλαίσια κινδύνου, αναθεωρήσεις προμηθευτών, δελτία μοντέλων, εκτιμήσεις προστασίας δεδομένων, σημειώσεις προμηθειών, χρονοδιαγράμματα διατήρησης. Μπορούν σίγουρα να γίνουν διακοσμητικά. Κάποια έγγραφα είναι γραμμένα με τη στοιχειωμένη κομψότητα ανθρώπων που ξέρουν ότι κανείς δεν θα διαβάσει πέρα από τη σελίδα πέντε. Αλλά η απάντηση δεν είναι να περιφρονούμε τα έγγραφα. Η απάντηση είναι να σταματήσουμε να προσποιούμαστε ότι είναι η τελική μορφή της διακυβέρνησης.
Τα έγγραφα περιγράφουν προθέσεις, αρμοδιότητες, πεδίο εφαρμογής, κινδύνους και ερμηνείες. Δημιουργούν θεσμική μνήμη. Επιτρέπουν στους ανθρώπους να διαφωνήσουν πριν από την ανάπτυξη αντί μετά τη ζημιά. Δίνουν σε ελεγκτές, αγοραστές, μηχανικούς, δικηγόρους και διευθυντικά στελέχη ένα κοινό σημείο αναφοράς. Αυτό έχει αξία. Η διακυβέρνηση κατά τον χρόνο εκτέλεσης εξαρτάται από αυτό. Ένα σύστημα δεν μπορεί να αξιολογήσει μια πολιτική που κανείς δεν έγραψε. Δεν μπορεί να επιβάλει έναν σκοπό που κανείς δεν όρισε. Δεν μπορεί να διατηρήσει αποδεικτικά στοιχεία σύμφωνα με ένα χρονοδιάγραμμα που δεν υπάρχει.
Το πρόβλημα αρχίζει όταν ένα έγγραφο αντιμετωπίζεται σαν να εκτελείται. Μια πολιτική λέει ότι τα αποτελέσματα υψηλού κινδύνου απαιτούν έλεγχο, αλλά η ροή εργασίας δεν έχει κατάσταση για απαιτούμενο έλεγχο. Μια εκτίμηση κινδύνου λέει ότι ένα μοντέλο δεν επιτρέπεται να χρησιμοποιεί μια ευαίσθητη πηγή, αλλά η ανάκτηση δεν έχει προστασία πεδίου πηγής. Μια σημείωση προμηθειών λέει ότι ο προμηθευτής πρέπει να υποστηρίζει έλεγχο, αλλά η ενοποίηση αποθηκεύει μόνο συγκεντρωτικά αρχεία καταγραφής. Ένα χρονοδιάγραμμα διατήρησης λέει ότι τα αρχεία λήγουν, αλλά τα παραγόμενα τεχνουργήματα καταλήγουν σε συστήματα κατάντη χωρίς ιχνηλασιμότητα. Το έγγραφο έκανε το μέρος του. Το σύστημα εκτέλεσης δεν έλαβε το μήνυμα, και αυτό δεν είναι μεταφορά όταν το μήνυμα στάλθηκε κυριολεκτικά με email.
Η σωστή διακυβέρνηση έχει επομένως ένα βήμα μετάφρασης. Η γραπτή πολιτική γίνεται συνθήκες εκτέλεσης: πύλες, ρόλοι, όρια, σχήματα, αρχεία καταγραφής, ειδοποιήσεις, οδοί προσφυγής, κανόνες διατήρησης και έλεγχοι έκδοσης. Δεν γίνεται κάθε πρόταση κώδικας. Κάποια κρίση παραμένει ανθρώπινη. Αλλά το σύστημα πρέπει να γνωρίζει ποια μέρη είναι επιχειρησιακά. Διαφορετικά, η διακυβέρνηση γίνεται μια τελετουργική στέγη πάνω από ένα κτίριο χωρίς τοίχους.
Η διαδρομή αιτήματος είναι όπου δοκιμάζονται οι υποσχέσεις
Η διακυβέρνηση της τεχνητής νοημοσύνης συζητείται συχνά σε επίπεδο συστημάτων. Είναι εγκεκριμένο αυτό το σύστημα. Είναι αξιόπιστο αυτό το μοντέλο. Είναι αποδεκτή αυτή η περίπτωση χρήσης. Αυτά τα ερωτήματα έχουν σημασία, αλλά ο πραγματικός κίνδυνος εμφανίζεται σε επίπεδο αιτημάτων. Το ίδιο σύστημα μπορεί να είναι χαμηλού κινδύνου για έναν χρήστη και υψηλού κινδύνου για έναν άλλο. Το ίδιο μοντέλο μπορεί να είναι αποδεκτό για σύνταξη και απαράδεκτο για αυτόνομη δράση. Τα ίδια δεδομένα μπορεί να επιτρέπονται για υποστήριξη και να απαγορεύονται για μάρκετινγκ. Η ίδια απάντηση μπορεί να είναι ακίνδυνη εσωτερικά και να έχει σοβαρές συνέπειες όταν σταλεί εκτός.
Η διακυβέρνηση κατά τον χρόνο εκτέλεσης βλέπει αυτές τις διαφορές επειδή αξιολογεί το πλαίσιο. Ένα αίτημα από εκπαιδευμένο υπάλληλο με στενό σκοπό δεν είναι το ίδιο με ένα αίτημα από εξωτερικό χρήστη με ευρεία πρόσβαση σε εργαλεία. Ένα ερώτημα σε δημόσια τεκμηρίωση δεν είναι το ίδιο με την ανάκτηση από έναν ευαίσθητο φάκελο υπόθεσης. Ένα προσχέδιο μηνύματος δεν είναι το ίδιο με ένα σταλμένο μήνυμα. Μια σύσταση που ένας άνθρωπος μπορεί να αγνοήσει δεν είναι το ίδιο με μια απόφαση που ενημερώνει ένα αρχείο. Η διαδρομή αιτήματος είναι όπου αυτές οι διακρίσεις γίνονται πραγματικές.
Αυτό δεν σημαίνει ότι κάθε αίτημα χρειάζεται νομικό σεμινάριο. Σημαίνει ότι το σύστημα θα πρέπει να φέρει αρκετό πλαίσιο για να δρομολογεί σωστά. Ταυτότητα, σκοπός, κατηγορία δεδομένων, κατηγορία επιπτώσεων, έγκριση μοντέλου, πεδίο εργαλείων, δικαιοδοσία, αναστρεψιμότητα, ανθρώπινος ρόλος και απαίτηση αποδεικτικών στοιχείων. Πολλοί έλεγχοι είναι απλοί μόλις ονομαστούν. Το δύσκολο μέρος δεν είναι πάντα ο υπολογισμός. Το δύσκολο μέρος είναι να παραδεχτούμε ότι το πλαίσιο έχει σημασία και να αρνηθούμε να το εξομαλύνουμε για λόγους ευκολίας.
Η ευκολία είναι εκεί όπου συνήθως χάνεται η διακυβέρνηση κατά τον χρόνο εκτέλεσης. Ένας προγραμματιστής προσθέτει μια συντόμευση επειδή η ουρά ελέγχου είναι αργή. Μια ομάδα προϊόντος επαναχρησιμοποιεί μια πηγή δεδομένων επειδή τα ονόματα πεδίων ταιριάζουν. Ένας διευθυντής εγκρίνει μια προσωρινή εξαίρεση επειδή η κυκλοφορία πλησιάζει. Ένα prompt αποκτά μια νέα οδηγία επειδή η πύλη πολιτικής δεν είναι έτοιμη. Κάθε κίνηση μπορεί να είναι κατανοητή. Μαζί χτίζουν ένα σύστημα όπου η διακυβέρνηση υπάρχει στα λόγια και αποτυγχάνει στη διαδρομή. Τα λόγια είναι φτωχή εξάρτηση για τον χρόνο εκτέλεσης.
Οι πύλες πολιτικής δεν είναι ιδιοκτήτες πολιτικής
Μια πύλη εκτέλεσης μπορεί να επιβάλει μια συνθήκη, αλλά δεν κατέχει το νόημα της συνθήκης. Αυτή η διάκριση έχει σημασία. Ο ιδιοκτήτης της πολιτικής αποφασίζει ποιες περιπτώσεις απαιτούν έλεγχο, ποιες πηγές επιτρέπονται, ποια περίοδος διατήρησης ισχύει και ποιες βλάβες έχουν σημασία. Μια πύλη εφαρμόζει αυτές τις αποφάσεις με ταχύτητα. Αν ο οργανισμός συγχέει τα δύο, η μηχανική καταλήγει σιωπηλά να γίνεται πολιτική, ή η πολιτική προσποιείται ότι η λεπτομέρεια υλοποίησης είναι κάποιου άλλου πρόβλημα.
Το υγιές πρότυπο είναι μια σύμβαση μεταξύ πολιτικής και εκτέλεσης. Οι ιδιοκτήτες πολιτικής ορίζουν κανόνες, όρια, εξαιρέσεις και υποχρεώσεις ελέγχου. Οι μηχανικοί υλοποιούν πύλες, δοκιμές, αρχεία και τρόπους αποτυχίας. Οι χειριστές παρακολουθούν αν οι πύλες ενεργοποιούνται όπως αναμένεται. Οι αξιολογητές αναφέρουν πού οι κανόνες δημιουργούν παράλογα αποτελέσματα. Τα όργανα διακυβέρνησης εξετάζουν τα στοιχεία και αλλάζουν την πολιτική όταν η πραγματικότητα υπήρξε αγενής. Αυτή είναι διακυβέρνηση ως βρόχος, όχι ως πλαισιωμένο PDF.
Οι πύλες πολιτικής χρειάζονται επίσης έλεγχο εκδόσεων. Ένα αίτημα που εξετάστηκε με τον κανόνα του περασμένου μήνα δεν θα πρέπει να κρίνεται αργότερα σαν να υπήρχε ο σημερινός κανόνας. Μια εκκρεμής υπόθεση μπορεί να διασχίσει μια έκδοση πολιτικής. Ένα μοντέλο μπορεί να παράγει προσχέδια με ένα όριο και ενέργειες με άλλο. Αν το σύστημα καταγράφει μόνο την τρέχουσα κατάσταση πολιτικής, οι έλεγχοι γίνονται ταξίδι στον χρόνο με κακή σήμανση. Το αρχείο πρέπει να αναφέρει ποια έκδοση κανόνα εφαρμόστηκε σε ποια μετάβαση.
Υπάρχει μια μέτρια πειθαρχία εδώ που σώζει πολύ δράμα. Αντιμετωπίστε την πολιτική σαν ζωντανή εξάρτηση. Δώστε της αναγνωριστικά. Δώστε της ιδιοκτήτες. Δοκιμάστε την. Σταδιοποιήστε την. Ανακαλέστε την. Παρατηρήστε την. Καταγράψτε τις αποφάσεις της. Αυτό δεν κάνει την πολιτική μηχανική. Κάνει το μηχανικό μέρος αρκετά έντιμο ώστε οι άνθρωποι να διαχειρίζονται το υπόλοιπο.
Η τοπικότητα μετατρέπει τη διακυβέρνηση σε δρομολόγηση
Η τοπικότητα δεδομένων συζητιόταν παλιά ως ζήτημα αποθήκευσης. Πού είναι η βάση δεδομένων. Ποια περιοχή. Ποιος πάροχος. Ποιο αντίγραφο ασφαλείας. Στα συστήματα τεχνητής νοημοσύνης η τοπικότητα γίνεται πιο ενεργή. Η ανάκτηση μπορεί να αντλεί δεδομένα από μια περιοχή, ένα μοντέλο μπορεί να τρέχει σε άλλη, ένα εργαλείο μπορεί να καλεί μια υπηρεσία τρίτου μέρους και ένας ανθρώπινος αξιολογητής μπορεί να υπάγεται σε διαφορετικό νομικό καθεστώς. Το ερώτημα δεν είναι πλέον μόνο πού βρίσκονται τα δεδομένα. Είναι πού η εργασία διασχίζει σύνορα.
Η διακυβέρνηση εκτέλεσης πρέπει επομένως να δρομολογεί σύμφωνα με την τοπικότητα. Ορισμένα δεδομένα μπορούν να φύγουν από μια συσκευή μόνο ως σύνολο. Ορισμένα αρχεία μπορούν να υποβληθούν σε επεξεργασία σε μια δικαιοδοσία αλλά όχι σε άλλη. Ορισμένοι πάροχοι μπορεί να είναι εγκεκριμένοι για χαμηλή ευαισθησία και αποκλεισμένοι για υψηλότερες κατηγορίες. Ορισμένες διαδρομές μοντέλων μπορεί να επιτρέπονται για δημόσιο κείμενο αλλά όχι για προσωπικά αρχεία. Ορισμένα αρχεία καταγραφής μπορεί να παραμένουν τοπικά ακόμη και όταν η κλήση μοντέλου είναι απομακρυσμένη. Αυτές οι επιλογές δεν μπορούν να λυθούν μόνο κατά την προμήθεια. Το ζωντανό αίτημα φέρει την απάντηση.
Η τοπικότητα δεν είναι μόνο νόμος. Είναι απόδοση, ανθεκτικότητα, ασφάλεια, κόστος και θεσμικός έλεγχος. Ένα τοπικό μοντέλο μπορεί να είναι πιο αργό αλλά πιο αποδεκτό για ευαίσθητη εργασία. Μια απομακρυσμένη υπηρεσία μπορεί να είναι φθηνότερη αλλά ακατάλληλη για ορισμένα αρχεία. Ένα περιφερειακό ευρετήριο μπορεί να μειώσει την καθυστέρηση αλλά να δημιουργήσει απόκλιση εκδόσεων. Ένας πάροχος μπορεί να υποστηρίζει κρυπτογράφηση αλλά όχι τη μορφή εξαγωγής που απαιτείται για έλεγχο. Η διακυβέρνηση εκτέλεσης δεν λύνει μαγικά αυτούς τους συμβιβασμούς. Τους καθιστά ρητούς προτού το σύστημα στείλει εργασία πέρα από ένα σύνορο.
Η εναλλακτική είναι η κρυφή δρομολόγηση. Η ροή εργασίας καλεί όποιο τελικό σημείο είναι βολικό. Το τελικό σημείο καλεί μια άλλη υπηρεσία. Τα αρχεία καταγραφής μετακινούνται αλλού. Παράγωγα δεδομένα εμφανίζονται στην αναλυτική. Έξι μήνες αργότερα κάποιος ρωτά πού πήγε μια υπόθεση. Η απάντηση απαιτεί διάγραμμα, δύο μηχανικούς και εκπληκτική ποσότητα αισιοδοξίας. Αυτό δεν είναι διακυβέρνηση. Είναι χαρτογραφία μετά την αποστολή.
Οι προϋπολογισμοί είναι ζήτημα διακυβέρνησης, όχι λογιστική λεπτομέρεια
Οι προϋπολογισμοί AI συχνά συζητιούνται αφού φτάσουν οι λογαριασμοί, κάτι που είναι εξίσου αργά με το να κλείνεις την πόρτα του στάβλου αφού το άλογο έχει εγγραφεί σε ένα premium πρόγραμμα διακριτικών. Το κόστος είναι ζήτημα διακυβέρνησης κατά τον χρόνο εκτέλεσης, επειδή το μη διαχειριζόμενο κόστος αλλάζει τη συμπεριφορά. Οι ομάδες απενεργοποιούν τα ίχνη. Συντομεύουν την αξιολόγηση. Αποφεύγουν την ανθρώπινη αναθεώρηση. Μειώνουν την ποιότητα των πηγών. Ομαδοποιούν υπερβολικά επιθετικά. Αφήνουν τους βρόχους πρακτόρων να περιπλανώνται. Ένα πρόβλημα κόστους γίνεται πρόβλημα ελέγχου με λογιστική από πάνω.
Ένα σύστημα χρόνου εκτέλεσης θα πρέπει να γνωρίζει τον προϋπολογισμό ως μέρος της διαδρομής. Πόσες κλήσεις μοντέλου μπορεί να κάνει αυτό το αίτημα. Ποια εργαλεία επιτρέπονται. Πόσο περιεχόμενο δικαιολογείται. Πόσες επαναλήψεις. Πότε πρέπει να σταματήσει ένας πράκτορας. Πότε είναι αποδεκτή μια φθηνότερη διαδρομή. Πότε μια υπόθεση υψηλού αντίκτυπου αξίζει ακριβότερα αποδεικτικά στοιχεία. Το κόστος δεν είναι μόνο ένα όριο. Είναι ένας τρόπος να εκφραστεί προτεραιότητα και να αποτραπεί η ανεξέλεγκτη συμπεριφορά.
Οι προστατευτικοί μηχανισμοί προϋπολογισμού μειώνουν επίσης τον κίνδυνο ασφάλειας. Ένας βρόχος που καίει χρήματα μπορεί επίσης να επαναλαμβάνει ενέργειες, να αντιγράφει μηνύματα, να κλειδώνει εγγραφές ή να επιβαρύνει έναν προμηθευτή. Μια διαδικασία ανάκτησης που αντλεί υπερβολικά πολλά δεδομένα μπορεί να αυξήσει την έκθεση σε θέματα ιδιωτικότητας. Μια εργασία σύνοψης που επεξεργάζεται κάθε έγγραφο μπορεί να δημιουργήσει παράγωγες εγγραφές με νέες υποχρεώσεις. Τα όρια βημάτων, τα όρια ποσοτήτων, η ακύρωση και οι μετρήσεις κόστους ανά χρήσιμο αποτέλεσμα είναι μέσα ελέγχου διακυβέρνησης. Είναι λιγότερο ευγενή από τις δηλώσεις αξιών και πιο πιθανό να σταματήσουν τη μηχανή την κατάλληλη στιγμή.
Αυτό δεν σημαίνει ότι η φθηνότερη διαδρομή είναι η υπεύθυνη διαδρομή. Μερικές φορές τα ισχυρότερα αποδεικτικά στοιχεία κοστίζουν περισσότερο. Μερικές φορές η τοπική επεξεργασία κοστίζει περισσότερο και εξακολουθεί να είναι η σωστή επιλογή. Μερικές φορές η ανθρώπινη αναθεώρηση είναι ακριβή επειδή είναι το ζητούμενο. Η διακυβέρνηση κατά τον χρόνο εκτέλεσης θα πρέπει να καθιστά αυτές τις επιλογές ορατές. Ο στόχος δεν είναι το φθηνό AI. Ο στόχος είναι το AI του οποίου το κόστος, τα αποδεικτικά στοιχεία και ο κίνδυνος είναι κατανοητά ενώ η εργασία βρίσκεται σε εξέλιξη.
Οι τρόποι αποτυχίας έχουν μια γνώριμη μυρωδιά
Οι αποτυχίες διακυβέρνησης κατά τον χρόνο εκτέλεσης σπάνια έρχονται με ταμπέλα. Μυρίζουν γνώριμα. Μετατόπιση πολιτικής. Σκιώδη εργαλεία. Υπέρβαση εξουσίας. Έλλειψη ένστασης. Βρόχοι προϋπολογισμού. Ξεπερασμένη συναίνεση. Αυτά δεν είναι εξωτικά τέρατα του AI. Είναι συνηθισμένες οργανωτικές αποτυχίες που επιταχύνονται από το λογισμικό. Αυτό είναι σχεδόν χειρότερο, επειδή οι συνηθισμένες αποτυχίες είναι εύκολο να δικαιολογηθούν μέχρι να γίνουν υποδομή.
Η απόκλιση πολιτικής εμφανίζεται όταν αλλάζει ο γραπτός κανόνας αλλά όχι η διαδρομή εκτέλεσης, ή όταν αλλάζει η διαδρομή εκτέλεσης αλλά όχι ο γραπτός κανόνας. Τα ανεπίσημα εργαλεία εμφανίζονται όταν οι ομάδες παρακάμπτουν τους αργούς ελέγχους με ανεπίσημες ενοποιήσεις. Η υπέρβαση εμφανίζεται όταν ένα σύστημα που εγκρίθηκε για υποστήριξη αρχίζει σιωπηλά να επηρεάζει την επιβολή, την τιμολόγηση ή την πρόσβαση. Η έλλειψη ένστασης εμφανίζεται όταν οι χρήστες λαμβάνουν ένα αποτέλεσμα που διαμορφώθηκε από τεχνητή νοημοσύνη αλλά δεν μπορούν να το αμφισβητήσουν με τρόπο που να καταγράφεται. Οι βρόχοι προϋπολογισμού εμφανίζονται όταν οι πράκτορες ή οι μαζικές εργασίες συνεχίζουν να ξοδεύουν αφού έχει τελειώσει η χρήσιμη εργασία. Η παρωχημένη συναίνεση εμφανίζεται όταν οι παλιές άδειες αντιμετωπίζονται ως πρόσφατες επειδή κανείς δεν έκανε τη συναίνεση μέρος της διαδρομής αιτήματος.
Η χρήσιμη απάντηση δεν είναι ο πανικός. Είναι η παρακολούθηση. Ονομάστε τον τύπο αποτυχίας. Προσθέστε έναν φραγμό όπου μπορεί να προληφθεί. Προσθέστε μια ειδοποίηση όπου μπορεί να εντοπιστεί. Προσθέστε έναν υπεύθυνο όπου μπορεί να επιδιορθωθεί. Προσθέστε μια καταγραφή όπου πρέπει να ελεγχθεί. Ορισμένες αποτυχίες απαιτούν αλλαγή πολιτικής. Ορισμένες απαιτούν αλλαγή διεπαφής. Ορισμένες απαιτούν συμβάσεις δεδομένων. Ορισμένες απαιτούν πειθαρχία στις προμήθειες. Η διακυβέρνηση εκτέλεσης βοηθά επειδή δίνει στον οργανισμό ένα σημείο όπου μπορεί να προσαρτηθεί η διόρθωση.
Αποκαλύπτει επίσης άβολες αλήθειες. Ένας φραγμός μπορεί να δείξει ότι μια δημοφιλής περίπτωση χρήσης δεν έχει νομική βάση. Ένας έλεγχος συναίνεσης μπορεί να δείξει ότι ο αγωγός δεδομένων δεν είναι τόσο τακτοποιημένος όσο παρουσιάζεται. Ένα όριο προϋπολογισμού μπορεί να δείξει ότι το επιχειρηματικό σκεπτικό λειτουργεί μόνο όταν η αξιολόγηση υποχρηματοδοτείται. Μια καταγραφή ένστασης μπορεί να δείξει ότι μια πολιτική, όχι ένα μοντέλο, δημιουργεί άδικα αποτελέσματα. Τα καλά στοιχεία διακυβέρνησης είναι αγενή. Αυτό είναι ένα από τα καλύτερα χαρακτηριστικά τους.
Η ανθρώπινη διακυβέρνηση πρέπει να παραμείνει στον βρόχο
Η διακυβέρνηση εκτέλεσης δεν είναι ένα σχέδιο για να αφαιρεθούν οι άνθρωποι από τη διακυβέρνηση. Ακριβώς το αντίθετο. Δίνει στους ανθρώπους καλύτερα σημεία παρέμβασης. Ένα διοικητικό συμβούλιο δεν μπορεί να αξιολογήσει κάθε αίτημα. Ένας υπεύθυνος πολιτικής δεν μπορεί να εγκρίνει κάθε κλήση εργαλείου. Ένας νομικός δεν μπορεί να συμμετέχει σε κάθε απόφαση ανάκτησης. Ένας αναθεωρητής δεν μπορεί να επιθεωρήσει κάθε σχέδιο χαμηλού κινδύνου. Το σύστημα πρέπει να διαχειρίζεται τους συνήθεις ελέγχους. Οι άνθρωποι πρέπει να κατέχουν τους κανόνες, τις εξαιρέσεις, τις αμφισβητούμενες περιπτώσεις, την ερμηνεία και την επιδιόρθωση.
Το κλειδί είναι ο σχεδιασμός κλιμάκωσης. Πότε πρέπει το σύστημα να σταματά και να ρωτά. Πότε πρέπει να αρνείται χωρίς να ρωτά. Πότε πρέπει να επιτρέπει και να καταγράφει. Πότε πρέπει να δειγματίζει για μεταγενέστερη αναθεώρηση. Πότε τα επαναλαμβανόμενα σήματα χαμηλού κινδύνου πρέπει να γίνονται μοτίβο υψηλού κινδύνου. Πότε ένα παράπονο χρήστη πρέπει να επαναφέρει μια κλειστή κατάσταση. Αυτές είναι επιλογές διακυβέρνησης. Δεν πρέπει να κρύβονται σε προτροπές, προεπιλογές ουράς ή στην ηρωική κρίση όποιου είναι σε υπηρεσία.
Τα δεδομένα από το σύστημα σε πραγματικό χρόνο βελτιώνουν τη διακυβέρνηση από ανθρώπους, επειδή δίνουν στις επιτροπές κάτι καλύτερο από ανέκδοτα. Η ομάδα διακυβέρνησης μπορεί να δει πόσο συχνά μπήκαν εμπόδια στις πύλες ελέγχου, πού συγκεντρώθηκαν οι εξαιρέσεις, ποιες προσφυγές έγιναν δεκτές, ποιοι προμηθευτές προκάλεσαν τριβές, ποιες πολιτικές επιβράδυναν την εργασία και ποιες διαδρομές μοντέλων οδήγησαν σε συμβάντα. Έτσι, η συνάντηση γίνεται για τα δεδομένα. Μπορεί να εξακολουθεί να είναι μακρά. Δεν πρέπει να υποσχόμαστε θαύματα. Αλλά τουλάχιστον έχει πιθανότητες να είναι χρήσιμη.
Οι άνθρωποι παραμένουν επίσης απαραίτητοι, επειδή η πολιτική μερικές φορές συγκρούεται με την πραγματικότητα. Ένας κανόνας μπορεί να είναι νομικά ορθός και επιχειρησιακά σκληρός. Μια πηγή δεδομένων μπορεί να επιτρέπεται και παρόλα αυτά να είναι κοινωνικά επικίνδυνη. Ένα μοντέλο μπορεί να αποδίδει καλά συνολικά και να αποτυγχάνει σε μια ευάλωτη οριακή περίπτωση. Ένα όριο προϋπολογισμού μπορεί να εξοικονομεί χρήματα και να δημιουργεί άδικες καθυστερήσεις. Τα συστήματα πραγματικού χρόνου μπορούν να αναδείξουν αυτές τις συγκρούσεις. Οι άνθρωποι πρέπει να αποφασίσουν τι σημαίνουν.
Η διακυβέρνηση πραγματικού χρόνου αλλάζει τις προμήθειες
Η αγορά τεχνητής νοημοσύνης χωρίς υποστήριξη διακυβέρνησης πραγματικού χρόνου σημαίνει αγορά μελλοντικής αβεβαιότητας. Ένας προμηθευτής μπορεί να έχει εξαιρετικά μοντέλα, ευχάριστες επιδείξεις, πιστοποιήσεις και γεμάτες αυτοπεποίθηση παρουσιάσεις. Τα πρακτικά ερωτήματα είναι λιγότερο εντυπωσιακά. Μπορεί το σύστημα να αποκαλύπτει τις αποφάσεις πολιτικής ανά αίτημα. Μπορούν οι εκδόσεις μοντέλων και προτροπών να καθηλωθούν. Μπορεί η τοποθεσία δεδομένων να επιβληθεί δυναμικά. Μπορούν οι κλήσεις εργαλείων να περιοριστούν και να καταγραφούν. Μπορούν τα αρχεία καταγραφής να διαχωριστούν ανά σκοπό. Μπορούν τα δεδομένα να εξαχθούν σε χρησιμοποιήσιμη μορφή. Μπορεί ένας οργανισμός να αποχωρήσει με τα αρχεία του. Μπορεί μια υπόθεση να αναπαραχθεί όταν ο προμηθευτής έχει αλλάξει την πλατφόρμα του.
Αυτά τα ερωτήματα δεν είναι εχθρικά προς τους προμηθευτές. Είναι ώριμα. Ένας προμηθευτής που υποστηρίζει τη διακυβέρνηση πραγματικού χρόνου βοηθά τον αγοραστή να λειτουργεί υπεύθυνα. Ένας προμηθευτής που δεν μπορεί να την υποστηρίξει μπορεί να είναι ακόμα χρήσιμος για εργασίες χαμηλού κινδύνου, αλλά ο αγοραστής θα πρέπει να γνωρίζει το όριο. Το χειρότερο αποτέλεσμα είναι να προσποιούμαστε ότι μια γενική δυνατότητα είναι κατάλληλη για σημαντική εργασία απλώς επειδή η επίδειξη δεν περιλάμβανε πρόβλημα διακυβέρνησης. Οι επιδείξεις σπάνια το κάνουν. Γι' αυτό χωρούν σε αίθουσες με σνακ.
Οι προμήθειες θα πρέπει επίσης να ρωτούν για την αποτυχία. Τι συμβαίνει όταν μια πύλη πολιτικής δεν είναι διαθέσιμη. Αποτυγχάνει το σύστημα κλειστά, ανοιχτά ή δρομολογεί σε έλεγχο. Τι συμβαίνει όταν ένα μοντέλο αποσύρεται. Τι συμβαίνει όταν μια περιοχή γίνεται μη διαθέσιμη. Τι συμβαίνει όταν ζητείται εξαγωγή ελέγχου. Τι συμβαίνει όταν ένας χρήστης ζητά διαγραφή. Τι συμβαίνει όταν τα αρχεία καταγραφής περιέχουν ευαίσθητα δεδομένα. Η απάντηση στη διακυβέρνηση συχνά κρύβεται στον τρόπο αποτυχίας.
Η διακυβέρνηση πραγματικού χρόνου δεν απαιτεί από κάθε προμηθευτή να αποκαλύπτει κάθε εσωτερική μέθοδο. Απαιτεί το όριο υπηρεσίας να είναι υπόλογο. Ο αγοραστής χρειάζεται αρκετό έλεγχο και δεδομένα για να εκπληρώσει τις δικές του υποχρεώσεις. Αν ένα στοιχείο μαύρου κουτιού μπορεί να τοποθετηθεί με ασφάλεια πίσω από ένα ελεγχόμενο όριο, καλώς. Αν το ίδιο το όριο είναι μαύρο κουτί, ο αγοραστής έχει αναθέσει σε τρίτον όχι μόνο τη δυνατότητα αλλά και μέρος της ικανότητάς του να λογοδοτεί για το έργο.
Η διακυβέρνηση ως κύκλος λειτουργίας
Το ώριμο πρότυπο είναι ένας κύκλος λειτουργίας. Αντιλαμβάνεσαι τι συμβαίνει. Αξιολογείς το πλαίσιο. Φράσσεις τη δράση. Ενεργείς εντός ορίων. Εξετάζεις τα αποτελέσματα. Ενημερώνεις πολιτικές, δεδομένα, μοντέλα και διεπαφές. Αυτός ο κύκλος τρέχει με διαφορετικές ταχύτητες. Ορισμένοι έλεγχοι γίνονται ανά αίτημα. Άλλοι καθημερινά. Άλλοι μετά από κυκλοφορία. Άλλοι τριμηνιαία. Άλλοι μετά από συμβάντα. Το σημαντικό είναι ότι οι κύκλοι συνδέονται. Ένα παράπονο πρέπει να φτάνει στην αξιολόγηση. Μια προσφυγή πρέπει να φτάνει στην πολιτική. Μια αλλαγή πολιτικής πρέπει να φτάνει στις πύλες ελέγχου. Μια αναβάθμιση μοντέλου πρέπει να φτάνει στις δοκιμές. Ένα συμβάν προμηθευτή πρέπει να φτάνει στη δρομολόγηση.
Έτσι η διακυβέρνηση γίνεται λιγότερο θεατρική. Παύει να είναι ένα σύνολο τελετών γύρω από ένα σύστημα και γίνεται ιδιότητα της λειτουργίας του συστήματος. Ο οργανισμός μπορεί να εξακολουθεί να έχει επιτροπές, μητρώα, πολιτικές και αναφορές. Θα πρέπει. Αλλά αυτά τα τεχνουργήματα συνδέονται πλέον με ζωντανά δεδομένα. Η συνάντηση διακυβέρνησης μπορεί να ρωτήσει τι έκανε το σύστημα, όχι μόνο τι ισχυρίζεται ότι είναι.
Ένας λειτουργικός βρόχος κάνει επίσης τη διακυβέρνηση πιο προσαρμόσιμη. Τα συστήματα τεχνητής νοημοσύνης αλλάζουν. Οι νόμοι αλλάζουν. Τα δεδομένα αλλάζουν. Η συμπεριφορά των χρηστών αλλάζει. Τα μοντέλα αλλάζουν. Οι όροι των προμηθευτών αλλάζουν. Μια στατική έγκριση δεν μπορεί να καλύψει όλα αυτά. Η διακυβέρνηση κατά τον χρόνο εκτέλεσης δεν επιλύει την αβεβαιότητα παγώνοντας τον κόσμο. Δίνει στον οργανισμό έναν τρόπο να εντοπίζει, να αποφασίζει και να ενημερώνει χωρίς να χάνει τη λογοδοσία για προηγούμενες επιλογές.
Ο βρόχος πρέπει να έχει μνήμη. Διαφορετικά, η προσαρμογή γίνεται σιωπηλή επανεγγραφή. Όταν αλλάζει ένας κανόνας, οι παλιές περιπτώσεις εξακολουθούν να χρειάζονται το παλιό τους πλαίσιο. Όταν μια διαδρομή μοντέλου αποσύρεται, οι προηγούμενες αποφάσεις εξακολουθούν να χρειάζονται εξήγηση. Όταν αφαιρείται μια πηγή, τα παράγωγα αποτελέσματα εξακολουθούν να χρειάζονται γενεαλογία. Η διακυβέρνηση κατά τον χρόνο εκτέλεσης θα πρέπει να υποστηρίζει την αλλαγή χωρίς να σβήνει τους λόγους που προηγήθηκαν. Αυτή είναι μια βαρετή πρόταση με μεγάλες συνέπειες.
Το μάθημα
Η διακυβέρνηση γίνεται πρόβλημα κατά τον χρόνο εκτέλεσης όταν τα συστήματα τεχνητής νοημοσύνης κινούνται πιο γρήγορα, ευρύτερα και με μεγαλύτερη επίγνωση του πλαισίου από ό,τι μπορούν να διαχειριστούν από μόνα τους τα εργαλεία των διοικητικών συμβουλίων. Η απάντηση δεν είναι να εγκαταλειφθούν τα έγγραφα διακυβέρνησης ούτε να αντικατασταθεί η ανθρώπινη κρίση με κώδικα. Η απάντηση είναι να συνδεθούν έγγραφα, ρόλοι, πολιτικές, πύλες, αρχεία και βρόχοι αναθεώρησης, ώστε η διακυβέρνηση να μπορεί να λειτουργεί ενώ εκτελείται η εργασία.
Η διακυβέρνηση κατά τον χρόνο εκτέλεσης ελέγχει την ταυτότητα, τον σκοπό, τα δεδομένα, την τοποθεσία, τη διαδρομή μοντέλου, την εξουσιοδότηση εργαλείων, τον προϋπολογισμό, την ανθρώπινη αναθεώρηση, τα αποδεικτικά στοιχεία, την ένσταση και τη διατήρηση στη ζωντανή διαδρομή. Αντιμετωπίζει τις πολιτικές ως ζωντανές εξαρτήσεις. Δρομολογεί σκόπιμα σε νομικά και επιχειρησιακά όρια. Καταγράφει ποιος κανόνας εφαρμόστηκε. Ονομάζει τους τρόπους αποτυχίας πριν γίνουν συνήθειες. Δίνει στους ανθρώπους αποδεικτικά στοιχεία αντί για ανέκδοτα.
Αυτή είναι μια λιγότερο ρομαντική άποψη της διακυβέρνησης και μια πιο χρήσιμη. Το σοβαρό ερώτημα δεν είναι αν ο οργανισμός έχει ένα πλαίσιο διακυβέρνησης τεχνητής νοημοσύνης. Το σοβαρό ερώτημα είναι τι συμβαίνει στις 09:14 ένα πρωί Τρίτης όταν ένα πραγματικό αίτημα ζητά από το σύστημα να κινηθεί. Αν η απάντηση είναι ελεγμένη, περιορισμένη, καταγεγραμμένη και αναθεωρήσιμη, η διακυβέρνηση λειτουργεί. Αν η απάντηση είναι ότι η πολιτική βρίσκεται σε έναν φάκελο, η διακυβέρνηση εξακολουθεί να περιμένει το ωράριο γραφείου.