Η μηχανή καταστάσεων πίσω από την υπεύθυνη τεχνητή νοημοσύνη
Η φόρμα που δεν εκτελέστηκε
Το πρώτο εργαστήριο για την υπεύθυνη τεχνητή νοημοσύνη συχνά καταλήγει σε μια φόρμα. Η φόρμα είναι συνήθως προσεγμένη με τον τρόπο που οι εσωτερικές φόρμες μπορούν να είναι προσεγμένες όταν μια επιτροπή έχει ανακαλύψει τα περιθώρια. Ρωτάει για τον σκοπό, τον αντίκτυπο, τα δεδομένα, τον κίνδυνο, την προκατάληψη, την ανθρώπινη εποπτεία, την εξάρτηση από προμηθευτές, τη διατήρηση και την κλιμάκωση. Οι άνθρωποι τη συμπληρώνουν με προσοχή. Ένα πλαίσιο σημειώνεται. Μια επιτροπή αξιολόγησης κουνάει το κεφάλι καταφατικά. Ένα έργο προχωράει. Κάπου, ένας φάκελος δέχεται άλλο ένα έγγραφο και γίνεται λίγο πιο σίγουρος για τον εαυτό του.
Τρεις μήνες αργότερα το σύστημα είναι σε παραγωγή και η φόρμα δεν βρίσκεται πλέον εκεί που γίνεται η δουλειά. Ένα αίτημα υποστήριξης φτάνει με πεδία που λείπουν. Ένα μοντέλο επιστρέφει μια σίγουρη απάντηση με αδύναμα στοιχεία. Μια κλήση εργαλείου θα ενημέρωνε μια εγγραφή πελάτη. Μια πολιτική αλλάζει μεταξύ του προσχεδίου και της τελικής ενέργειας. Ο άνθρωπος που κάνει την αξιολόγηση είναι άρρωστος. Το ευρετήριο ανάκτησης είναι παρωχημένο. Μια νέα πηγή δεδομένων προτείνεται επειδή θα ήταν βολική, που είναι ο τρόπος με τον οποίο πολλές κακές ιδέες συστήνονται ευγενικά.
Εκείνη τη στιγμή η υπεύθυνη τεχνητή νοημοσύνη δεν είναι αρχή. Είναι μετάβαση κατάστασης. Το σύστημα βρίσκεται σε μια κατάσταση και θέλει να μετακινηθεί σε μια άλλη. Από προσχέδιο σε απόφαση. Από πρόταση σε ενέργεια. Από χαμηλό αντίκτυπο σε υψηλό αντίκτυπο. Από εσωτερική βοήθεια σε εξωτερική επικοινωνία. Από ελεγμένο σε εκτελεσμένο. Από επιτρεπόμενο σε αποκλεισμένο. Από προσωρινή εξαίρεση σε μόνιμη διαδρομή, αν κανείς δεν παρακολουθεί. Το ερώτημα είναι αν η μετάβαση έχει φύλακα, αρχείο, υπεύθυνο και διαδρομή εξόδου.
Αυτό είναι το μηχάνημα καταστάσεων πίσω από την υπεύθυνη τεχνητή νοημοσύνη. Όχι επειδή η ηθική μπορεί να αναχθεί σε πλαίσια και βέλη. Αυτό θα ήταν περίεργο να το πιστεύει κανείς και ακόμα πιο περίεργο να το προμηθεύεται. Το ζητούμενο είναι πιο απλό. Τα σοβαρά συστήματα ήδη κινούνται μέσα από καταστάσεις. Αν αυτές οι καταστάσεις δεν έχουν όνομα, το μοντέλο θα κινηθεί ούτως ή άλλως, η ροή εργασίας θα προχωρήσει και ο οργανισμός θα ανακαλύψει τη διακυβέρνησή του κατά τύχη. Το να δίνεις ονόματα στις καταστάσεις δεν είναι γραφειοκρατική φασαρία. Είναι ο τρόπος με τον οποίο η υπευθυνότητα αποκτά μορφή κατά τον χρόνο εκτέλεσης.
Γιατί οι αρχές χρειάζονται όρια
Οι αρχές είναι χρήσιμες στην αρχή επειδή δίνουν κατεύθυνση. Δικαιοσύνη, διαφάνεια, λογοδοσία, ιδιωτικότητα, ασφάλεια, ανθρώπινη δράση, ευρωστία, δυνατότητα αμφισβήτησης. Αυτές οι λέξεις δεν είναι κενές. Δεν είναι όμως ούτε εκτελέσιμες από μόνες τους. Ένα σύστημα δεν μπορεί να καλέσει μια αρχή κατά τον χρόνο εκτέλεσης και να ρωτήσει αν η επόμενη ενέργεια επιτρέπεται. Ένας προγραμματιστής μπορεί να γράψει μια προτροπή που λέει να είσαι δίκαιος, αλλά η ροή εργασίας πρέπει και πάλι να ξέρει πότε να σταματήσει, πότε να ρωτήσει, πότε να καταγράψει και πότε να αρνηθεί.
Οι ακμές είναι εκεί όπου οι αρχές γίνονται χρήσιμες. Μια αρχή δικαιοσύνης γίνεται απαίτηση ότι μια συγκεκριμένη κατηγορία αποφάσεων πρέπει να περάσει από αξιολόγηση σε επίπεδο ομάδας πριν από τη δημοσίευση και πρέπει να παράγει κωδικούς αιτιολογίας σε επίπεδο περίπτωσης μετά τη δημοσίευση. Μια αρχή διαφάνειας γίνεται απόδειξη που κατονομάζει πηγές, έκδοση μοντέλου, έκδοση πολιτικής και ανθρώπινο ρόλο. Μια αρχή ιδιωτικότητας γίνεται φύλακας που αρνείται την ανάκτηση εκτός σκοπού, περιόδου διατήρησης, συγκατάθεσης ή νομικής βάσης. Η λογοδοσία γίνεται κατάσταση που δεν μπορεί να προχωρήσει χωρίς ιδιοκτήτη. Η αμφισβητησιμότητα γίνεται οδός ένστασης που υπάρχει πριν από το πρώτο παράπονο, όχι μετά την πρώτη κλήση από εφημερίδα.
Χωρίς ακμές, η υπεύθυνη τεχνητή νοημοσύνη γίνεται ένα σύνολο επιθέτων γύρω από ένα σύστημα που εξακολουθεί να συμπεριφέρεται όπως επιτρέπει η ροή εργασίας. Μια ομάδα μπορεί ειλικρινά να πιστεύει ότι έχει ανθρώπινη εποπτεία επειδή ένα άτομο μπορεί να δει τα αποτελέσματα. Αλλά αν το σύστημα μπορεί να ενεργήσει πριν το άτομο δει τα στοιχεία, η εποπτεία είναι διακοσμητική. Μια ομάδα μπορεί να πιστεύει ότι έχει διαφάνεια επειδή το μοντέλο εξηγεί τον εαυτό του. Αλλά αν η εξήγηση δεν μπορεί να συνδεθεί με πηγές και κατάσταση, η διαφάνεια έχει μετατραπεί σε θέατρο. Μια ομάδα μπορεί να πιστεύει ότι είναι ασφαλής επειδή το μοντέλο αρνείται επικίνδυνα αιτήματα. Αλλά αν η πύλη εργαλείων παρέχει ευρεία εξουσιοδότηση, η άρνηση είναι μόνο μία πόρτα σε ένα σπίτι με πολύ ενθουσιώδη παράθυρα.
Το μηχάνημα καταστάσεων δεν αντικαθιστά την κρίση. Είναι ένας τρόπος να κάνει την κρίση να προσγειωθεί κάπου. Αναγκάζει την ομάδα να απαντήσει σε πρακτικές ερωτήσεις. Σε ποια κατάσταση βρίσκεται αυτή η περίπτωση. Ποιες μεταβάσεις είναι δυνατές από εδώ. Ποια στοιχεία απαιτούνται. Ποιος ρόλος μπορεί να εγκρίνει. Ποια μετάβαση είναι μη αναστρέψιμη. Ποια μετάβαση δημιουργεί αρχείο. Ποια μετάβαση δημιουργεί υποχρέωση ειδοποίησης, διατήρησης, διαγραφής ή κλιμάκωσης. Αυτές οι ερωτήσεις είναι λιγότερο ποιητικές από τις δηλώσεις αξιών. Είναι επίσης πιο δύσκολο να αποφευχθούν.
Το κρυφό μηχάνημα υπάρχει πάντα
Κάθε ροή εργασίας τεχνητής νοημοσύνης έχει ήδη ένα μηχάνημα καταστάσεων, ακόμη και όταν κανείς δεν το έχει σχεδιάσει. Η κρυφή έκδοση ζει σε καταστάσεις αιτημάτων, στήλες υπολογιστικών φύλλων, ουρές επανάληψης, διακλαδώσεις προτροπών, συνήθειες αξιολογητών, μηνύματα Slack, σημαίες βάσεων δεδομένων, πίνακες εξαιρέσεων και στη μνήμη του ενός ατόμου που όλοι ρωτούν επειδή ήταν εκεί όταν έγινε το πιλοτικό. Αυτό δεν είναι μια γοητευτική κατανεμημένη αρχιτεκτονική. Είναι θεσμική λαογραφία με καθυστέρηση.
Το κρυφό μηχάνημα είναι επικίνδυνο επειδή δίνει την εντύπωση ελέγχου ενώ μεταφέρει την ευθύνη σε μέρη που δεν μπορούν να ελεγχθούν. Η προτροπή μπορεί να λέει ότι οι ευαίσθητες περιπτώσεις πρέπει να κλιμακώνονται, αλλά η ουρά μπορεί να μην διατηρεί τον λόγο. Το σύστημα περιπτώσεων μπορεί να δείχνει εγκεκριμένο, αλλά όχι αν η έγκριση αφορούσε την απάντηση του μοντέλου, την κλήση εργαλείου ή την εξωτερική επικοινωνία. Ένας αξιολογητής μπορεί να απορρίψει ένα αποτέλεσμα, αλλά η απόρριψη μπορεί να μην εισέλθει ποτέ στο σύνολο αξιολόγησης. Μια περίπτωση μπορεί να είναι κλειστή, αλλά τα παράγωγα δεδομένα μπορεί να εξακολουθούν να υπάρχουν σε ένα χώρο χαρακτηριστικών. Ένα μοντέλο μπορεί να αντικατασταθεί, αλλά οι εκκρεμείς περιπτώσεις μπορεί να εξακολουθούν να φέρουν αποτελέσματα από την παλαιότερη έκδοση. Το σύστημα κινείται· το αρχείο σέρνεται πίσω του φορώντας γραβάτα.
Το να γίνει ρητό το μηχάνημα καταστάσεων δεν απαιτεί τη μετατροπή του οργανισμού σε εργαστήριο τυπικών μεθόδων. Απαιτεί αρκετή πειθαρχία για να διαχωριστούν καταστάσεις που έχουν διαφορετικές υποχρεώσεις. Το προσχέδιο δεν είναι αξιολογημένο. Το αξιολογημένο δεν είναι εκτελεσμένο. Το εκτελεσμένο δεν είναι κλειστό. Το κλειστό δεν είναι διαγεγραμμένο. Το διαγεγραμμένο δεν είναι αρχειοθετημένο. Το αποκλεισμένο από πολιτική δεν είναι αποτυχημένο από υποδομή. Το χρήζει ανθρώπινης κρίσης δεν είναι χαμηλή εμπιστοσύνη. Το ύποπτο περιστατικό δεν είναι επιβεβαιωμένο περιστατικό. Αυτές οι διακρίσεις ακούγονται συνηθισμένες μέχρι να ρωτήσει ένας έλεγχος ποια από αυτές συνέβη, πότε και γιατί.
Τα ονοματισμένα states σταματούν επίσης μια συνηθισμένη αποτυχία του αυτοματισμού: την ομαλή ολίσθηση από τη βοήθεια στην απόφαση. Ένα σύστημα ξεκινά ως βοήθημα σύνταξης. Οι άνθρωποι το εμπιστεύονται. Το προσχέδιο γίνεται προεπιλογή. Η προεπιλογή γίνεται σύσταση. Η σύσταση γίνεται ενέργεια. Κανείς δεν ψήφισε υπέρ της πλήρους αυτοματοποίησης. Κανείς δεν σχεδίασε τη νέα επιφάνεια λογοδοσίας. Η μετάβαση συνέβη μέσω της ευκολίας, που είναι ο πιο επιτυχημένος λομπίστας στο λογισμικό. Ένα state machine μπορεί να κάνει αυτή τη μετατόπιση ορατή.
Οι φύλακες δεν είναι διαθέσεις
Μια μετάβαση χρειάζεται έναν φύλακα. Ο φύλακας είναι η συνθήκη που πρέπει να ισχύει προτού το σύστημα επιτραπεί να μετακινηθεί. Στο συνηθισμένο λογισμικό αυτό μπορεί να είναι ένας boolean έλεγχος, μια αξιολόγηση πολιτικής, ένα όριο αδειών, ένα αποτέλεσμα επικύρωσης ή μια ανθρώπινη έγκριση. Στην υπεύθυνη τεχνητή νοημοσύνη είναι επίσης το σημείο όπου οι θεσμικές υποσχέσεις γίνονται επιχειρησιακές. Ο φύλακας ρωτά αν ο σκοπός επιτρέπεται, τα δεδομένα είναι εντός πεδίου, το αποτέλεσμα έχει αρκετά στοιχεία, το μοντέλο είναι εγκεκριμένο για αυτή τη χρήση, η ενέργεια είναι αναστρέψιμη, το άτομο έχει εξουσία, το κόστος είναι περιορισμένο και ο επηρεαζόμενος χρήστης έχει μια οδό επιστροφής.
Το πρακτικό κόλπο είναι να κρατάμε τους φύλακες κοντά στη μετάβαση που προστατεύουν. Αν ένας φύλακας ζει μόνο σε ένα έγγραφο πολιτικής, το runtime θα τον ξεχάσει με εντυπωσιακή ταχύτητα. Αν ζει μόνο σε ένα prompt, θα είναι δύσκολο να δοκιμαστεί και εύκολο να παρακαμφθεί. Αν ζει μόνο σε μια ανθρώπινη συνήθεια, θα αποτύχει σε μέρες ασθένειας, αργίες, αναδιοργανώσεις και την εβδομάδα που όλοι προσπαθούν να ολοκληρώσουν την κυκλοφορία. Ένας καλός φύλακας είναι αρκετά ρητός για να δοκιμαστεί και αρκετά τοπικός για να έχει σημασία.
Αυτό δεν σημαίνει ότι κάθε φύλακας πρέπει να είναι αυτοματοποιημένος. Κάποιοι φύλακες είναι ανθρώπινοι επειδή το ερώτημα είναι πραγματικά συμφραζόμενο. Αλλά ακόμη και οι ανθρώπινοι φύλακες χρειάζονται state. Ο αξιολογητής θα πρέπει να βλέπει τα στοιχεία, την εφαρμοστέα πολιτική, την ταξινόμηση κινδύνου, την προτεινόμενη ενέργεια και τις συνέπειες της έγκρισης. Το σύστημα θα πρέπει να καταγράφει την απόφαση ως μετάβαση, όχι ως σχόλιο που η μελλοντική αρχαιολογία μπορεί ή δεν μπορεί να ανακαλύψει. Η ανθρώπινη εποπτεία χωρίς αλλαγή state είναι συχνά απλώς μια συνάντηση με διεπαφή χρήστη.
Υπάρχει επίσης ένα βαρετό αλλά σημαντικό σημείο για τους αρνητικούς φύλακες. Η υπεύθυνη τεχνητή νοημοσύνη δεν αφορά μόνο το να λες ναι υπεύθυνα. Αφορά το να λες όχι καθαρά. Όχι επειδή λείπει ο σκοπός. Όχι επειδή η πηγή είναι παρωχημένη. Όχι επειδή το μοντέλο είναι εκτός του εγκεκριμένου πεδίου του. Όχι επειδή ο χρήστης δεν έχει εξουσία. Όχι επειδή απαιτείται ανθρώπινη αναθεώρηση. Όχι επειδή η ενέργεια είναι πολύ σημαντική για τα διαθέσιμα στοιχεία. Μια άρνηση με αιτιολογία είναι καλύτερη κατάσταση συστήματος από μια ασαφή αποτυχία που προσκαλεί σε επανάληψη μέχρι να κινηθεί κάτι.
Τα states καθιστούν την ευθύνη αποδόσιμη
Ένας λόγος που η λογοδοσία της τεχνητής νοημοσύνης γίνεται θολή είναι ότι η ευθύνη συζητείται σε επίπεδο ολόκληρου του συστήματος. Ο οργανισμός είναι υπεύθυνος. Ο προμηθευτής είναι υπεύθυνος. Ο ιδιοκτήτης του προϊόντος είναι υπεύθυνος. Ο υπεύθυνος προστασίας δεδομένων είναι υπεύθυνος. Το μοντέλο είναι υπεύθυνο, μια φράση που θα έκανε έναν δικηγόρο να κοιτάζει το ταβάνι για να βρει κουράγιο. Κατά τη λειτουργία, η ευθύνη χρειάζεται μια πιο συγκεκριμένη λαβή.
Οι καταστάσεις δημιουργούν αυτή τη λαβή. Κατά την εισαγωγή, ο ιδιοκτήτης της υπηρεσίας μπορεί να είναι υπεύθυνος για τον σκοπό και το πεδίο εφαρμογής. Κατά την ανάκτηση, ο ιδιοκτήτης των δεδομένων μπορεί να είναι υπεύθυνος για την ποιότητα της πηγής και τις άδειες. Κατά τη δημιουργία από το μοντέλο, ο τεχνικός ιδιοκτήτης μπορεί να είναι υπεύθυνος για τις εγκεκριμένες εκδόσεις και ρυθμίσεις. Κατά την επανεξέταση, ένας ανθρώπινος ρόλος μπορεί να είναι υπεύθυνος για την κρίση. Κατά την εκτέλεση, ο ιδιοκτήτης της ροής εργασίας μπορεί να είναι υπεύθυνος για τις εξωτερικές επιπτώσεις. Κατά το κλείσιμο, η διαχείριση αρχείων μπορεί να είναι υπεύθυνη για τη διατήρηση και τη διαγραφή. Ο ακριβής χάρτης θα διαφέρει, αλλά η αρχή ισχύει: η ευθύνη προσκολλάται καλύτερα στις μεταβάσεις παρά στην ομίχλη.
Αυτό έχει σημασία όταν κάτι πάει στραβά. Αν μια έξοδος ήταν κακή επειδή η πηγή ήταν παρωχημένη, η μηχανή καταστάσεων θα πρέπει να δείχνει πού ελέγχθηκε ή χάθηκε η επικαιρότητα. Αν ένας άνθρωπος ενέκρινε μια επικίνδυνη ενέργεια, το αρχείο θα πρέπει να δείχνει ποια στοιχεία είδε. Αν άλλαξε μια πολιτική, οι εκκρεμείς υποθέσεις θα πρέπει να αποκαλύπτουν ποια έκδοση τις διείπε. Αν αναβαθμίστηκε ένα μοντέλο, οι μεταβάσεις πέρα από το όριο έκδοσης θα πρέπει να είναι ελέγξιμες. Το ζητούμενο δεν είναι να βρεθεί πιο γρήγορα κάποιος να κατηγορηθεί. Το ζητούμενο είναι να καταστεί δυνατή η επιδιόρθωση χωρίς να προσποιούμαστε ότι ολόκληρο το σύστημα απέτυχε σε ένα ενιαίο, αδιαφοροποίητο παραπονιάρικο σήκωμα των ώμων.
Η αναθέσιμη ευθύνη βελτιώνει και την καθημερινή εργασία. Οι ομάδες ξέρουν ποια κατάσταση κατέχουν. Οι μετρήσεις γίνονται λιγότερο θεατρικές. Αντί να ανακοινώνει ότι το πρόγραμμα υπεύθυνης τεχνητής νοημοσύνης είναι ώριμο, ο οργανισμός μπορεί να μετράει μπλοκαρίσματα παρωχημένων πηγών, αρνήσεις λόγω έλλειψης σκοπού, παρακάμψεις επανεξέτασης, αποτελέσματα ενστάσεων, μεταβάσεις συμβάντων και καθυστερήσεις κλεισίματος. Αυτό είναι λιγότερο κατάλληλο για μια γυαλιστερή διαφάνεια. Είναι πολύ πιο κατάλληλο για τη λειτουργία ενός συστήματος.
Οι κακές καταστάσεις αξίζουν σωστά ονόματα
Οι περισσότερες αποτυχίες της υπεύθυνης τεχνητής νοημοσύνης δεν είναι κακόβουλες. Είναι συνηθισμένες καταστάσεις με κακά ονόματα ή χωρίς ονόματα. Ένα προσχέδιο απάντησης αντιμετωπίζεται ως τελική απάντηση. Μια προσωρινή εξαίρεση γίνεται μόνιμη διαδρομή. Μια έξοδος χαμηλής εμπιστοσύνης γίνεται ενέργεια υψηλού αντικτύπου επειδή η ροή εργασίας δεν είχε ενδιάμεση κατάσταση. Ένα μοντέλο βλέπει δεδομένα που δεν έπρεπε να δει επειδή η κατάσταση ανάκτησης δεν έφερε τον σκοπό. Ένας ανθρώπινος αναθεωρητής γίνεται σφραγίδα επειδή η κατάσταση που ονομαζόταν επανεξέταση δεν απαιτούσε στοιχεία ή καταγραφή διαφωνίας.
Το να δίνουμε στις κακές καταστάσεις σωστά ονόματα είναι άβολο και χρήσιμο. Σιωπηλό προσχέδιο. Διεύρυνση πεδίου. Παρωχημένη πηγή. Έλλειψη ιδιοκτήτη. Μη αναθεωρημένη ενέργεια. Χωρίς έξοδο. Αυτά δεν είναι από μόνα τους βαθύτερες αιτίες, αλλά είναι σημεία όπου μπορούν να τοποθετηθούν έλεγχοι. Ένα σύστημα μπορεί να ανιχνεύσει σιωπηλό προσχέδιο όταν παραγόμενο κείμενο αντιγράφεται σε εξωτερική επικοινωνία χωρίς έγκριση. Μπορεί να ανιχνεύσει διεύρυνση πεδίου όταν μια ροή εργασίας ζητά πηγή εκτός του δηλωμένου σκοπού. Μπορεί να ανιχνεύσει παρωχημένη πηγή όταν μια παραπομπή είναι παλαιότερη από ό,τι επιτρέπει η πολιτική. Μπορεί να ανιχνεύσει κατάσταση χωρίς έξοδο όταν μπλοκαρισμένες υποθέσεις μένουν για πάντα επειδή κανείς δεν σχεδίασε την ανθρώπινη άρνηση.
Αυτή η συνήθεια αποτρέπει και την ηθική υπερβολική αντίδραση. Δεν είναι κάθε αποτυχία ηθική κρίση. Μερικές φορές είναι μια κατάσταση αναμονής χωρίς ιδιοκτήτη. Μερικές φορές είναι μια κατάσταση διατήρησης που κανείς δεν συνέδεσε με τη διαγραφή. Μερικές φορές είναι ένα όριο εμπιστοσύνης που προσποιείται ότι είναι κρίση. Το να ονομάζεις την κατάσταση επιτρέπει στην ομάδα να διορθώσει τον μηχανισμό. Χωρίς ονόματα, κάθε συμβάν γίνεται συζήτηση για την κουλτούρα. Η κουλτούρα έχει σημασία, αλλά είναι φτωχό υποκατάστατο του να ξέρεις ποια μετάβαση διέρρευσε.
Υπάρχει μια ξερή κωμωδία στο να βλέπεις οργανισμούς να φοβούνται τη λέξη μηχανή καταστάσεων επειδή ακούγεται πολύ τεχνική, ενώ ταυτόχρονα λειτουργούν ευχαρίστως έναν λαβύρινθο από email έγκρισης, καταστάσεις σε υπολογιστικά φύλλα και εξαιρέσεις γνωστές μόνο σε τρία άτομα και μια πρόσκληση ημερολογίου. Η τυπική εκδοχή είναι συχνά πιο απλή. Απλώς έχει την αβρότητα να είναι ορατή.
Τα στοιχεία ανήκουν στη μετάβαση
Αν η μηχανή καταστάσεων πρόκειται να έχει σημασία, χρειάζεται στοιχεία. Το αρχείο δεν θα πρέπει να λέει απλώς ότι μια υπόθεση εγκρίθηκε. Θα πρέπει να λέει τι πυροδότησε τη μετάβαση, ποια προστασία αξιολογήθηκε, ποια δεδομένα χρησιμοποιήθηκαν, ποιες εκδόσεις μοντέλου και πολιτικής εφαρμόστηκαν, ποιος ή τι ενέκρινε, ποιο αποτέλεσμα ακολούθησε και πώς μπορεί η υπόθεση να αναπαραχθεί ή να αμφισβητηθεί. Τα στοιχεία δεν είναι διακόσμηση μετά την ενέργεια. Είναι μέρος της ενέργειας που καθίσταται υπόλογη.
Αυτό είναι ιδιαίτερα σημαντικό για την τεχνητή νοημοσύνη, επειδή τα αποτελέσματα μπορεί να είναι εύλογα ενώ η διαδρομή τους είναι εύθραυστη. Μια σύνοψη μπορεί να είναι σωστή αλλά να βασίζεται σε μια πηγή στην οποία ο χρήστης δεν είχε δικαίωμα πρόσβασης. Μια σύσταση μπορεί να είναι λογική αλλά εκτός της εγκεκριμένης χρήσης του μοντέλου. Μια ταξινόμηση μπορεί να είναι ακριβής αλλά να έχει παραχθεί μετά από προθεσμία πολιτικής. Μια άρνηση μπορεί να είναι ασφαλής αλλά νομικά μη χρήσιμη αν δεν δίνει καμία οδό επισκευής. Η απάντηση από μόνη της δεν μπορεί να σας πει αυτά τα πράγματα. Το αρχείο μετάβασης μπορεί.
Τα καλά στοιχεία δίνουν επίσης στις ομάδες το θάρρος να αυτοματοποιήσουν εκεί όπου ο αυτοματισμός είναι κατάλληλος. Η υπεύθυνη τεχνητή νοημοσύνη δεν είναι μια μόνιμη συγγνώμη για τη χρήση μηχανών. Αν μια εργασία είναι χαμηλού αντικτύπου, καλά οριοθετημένη, αναστρέψιμη, επαρκώς δοκιμασμένη και σωστά καταγεγραμμένη, ο αυτοματισμός μπορεί να είναι η υπεύθυνη οδός. Αν μια εργασία είναι υψηλού αντικτύπου, αμφισβητούμενη, πρωτότυπη ή μη αναστρέψιμη, η μηχανή καταστάσεων θα πρέπει να την επιβραδύνει. Το ζητούμενο δεν είναι να λατρεύουμε την ανθρώπινη αναθεώρηση. Το ζητούμενο είναι να δρομολογείται η εργασία σύμφωνα με τον κίνδυνο, τα στοιχεία και την επανόρθωση.
Τα στοιχεία καθιστούν αυτή τη δρομολόγηση λιγότερο πολιτική. Μια ομάδα μπορεί να δείξει ότι μια κατάσταση είναι ασφαλής για αυτοματοποίηση επειδή οι προηγούμενες μεταβάσεις ήταν ακριβείς, οι ενστάσεις ήταν σπάνιες, οι διορθώσεις ενσωματώθηκαν και οι έλεγχοι εντόπισαν τις σωστές περιπτώσεις. Ή μπορεί να δείξει ότι μια κατάσταση χρειάζεται περισσότερη ανθρώπινη κρίση επειδή τα πρότυπα σφαλμάτων παραμένουν δύσκολα, οι επηρεαζόμενοι άνθρωποι αμφισβητούν τα αποτελέσματα ή η ποιότητα των δεδομένων είναι αδύναμη. Αυτό είναι καλύτερο επιχείρημα από το συνηθισμένο θέατρο όπου η μία πλευρά λέει καινοτομία και η άλλη λέει κίνδυνο μέχρι να χρειαστούν όλοι καφέ.
Η ανθρώπινη αναθεώρηση είναι κατάσταση, όχι χειρονομία
Η ανθρώπινη αναθεώρηση συχνά επικαλείται σαν να έλυνε το ζήτημα της ευθύνης με την ίδια της την ύπαρξη. Ένας άνθρωπος είναι στον βρόχο. Ωραία. Σε ποιον βρόχο. Σε ποια κατάσταση. Με ποια αποδεικτικά στοιχεία. Με ποια εξουσία. Μπορεί ο άνθρωπος να διαφωνήσει. Αλλάζει η διαφωνία το σύστημα. Η αναθεώρηση είναι δειγματοληπτική, υποχρεωτική, ενεργοποιούμενη από κίνδυνο ή διακοσμητική. Βλέπει ο αναθεωρητής το αρχικό υλικό ή μόνο την περιποιημένη πεζογραφία του μοντέλου. Υπάρχει χρόνος για σκέψη. Υπάρχει εκπαίδευση. Υπάρχει αρχείο. Η φράση άνθρωπος στον βρόχο θα έπρεπε να αντιμετωπίζεται ως εναρκτήρια ερώτηση, όχι ως καταληκτικό επιχείρημα.
Μια μηχανή καταστάσεων κάνει την ανθρώπινη αναθεώρηση συγκεκριμένη. Μπορεί να διακρίνει την απαιτούμενη αναθεώρηση από την προαιρετική, την εκκρεμή από την ολοκληρωμένη, την αναθεώρηση όπου ο άνθρωπος άλλαξε το αποτέλεσμα από εκείνη όπου το επιβεβαίωσε, την ανάγκη κλιμάκωσης από την ολοκληρωμένη κλιμάκωση. Μπορεί επίσης να διακρίνει το είδος της κρίσης που εμπλέκεται. Κάποιες αναθεωρήσεις ελέγχουν την τεκμηριωμένη χρήση των πηγών. Κάποιες ελέγχουν τη συμμόρφωση με την πολιτική. Κάποιες ελέγχουν την ενσυναίσθηση και τον τόνο. Κάποιες ελέγχουν τη νομική εξουσιοδότηση. Κάποιες ελέγχουν αν μια εξαίρεση είναι δικαιολογημένη. Ένα μοναδικό πεδίο με την ένδειξη εγκεκριμένο σπάνια αρκεί για σοβαρή δουλειά.
Ο σχεδιασμός της αναθεώρησης ως κατάστασης προστατεύει επίσης τους ανθρώπους από το να χρησιμοποιούνται ως ηθικό παραγέμισμα. Αν το σύστημα στέλνει κάθε δύσκολη υπόθεση σε ένα άτομο χωρίς αποδεικτικά στοιχεία, προτεραιοποίηση ή ανατροφοδότηση, το άτομο γίνεται χωματερή για την αβεβαιότητα. Αυτό δεν είναι εποπτεία. Αυτό είναι ένα μοντέλο στελέχωσης με τύψεις συνημμένες. Μια υπεύθυνη κατάσταση αναθεώρησης συσκευάζει την υπόθεση, κατονομάζει την απαιτούμενη απόφαση, διατηρεί τη διαφωνία και τροφοδοτεί τα αποτελέσματα πίσω στην αξιολόγηση. Δίνει στον άνθρωπο μια δουλειά αντάξια ενός ανθρώπου.
Ισχύει και το αντίστροφο. Κάποια συστήματα χρησιμοποιούν ανθρώπινη αναθεώρηση εκεί όπου ένας καλύτερος φραγμός θα ήταν πιο ευγενικός. Αν μια υπόθεση στερείται νομικής βάσης, μην τη στείλετε σε αναθεωρητή για να το ανακαλύψει χειροκίνητα. Μπλοκάρετέ την. Αν η πηγή είναι παρωχημένη, ανανεώστε την ή αρνηθείτε. Αν ο χρήστης δεν έχει εξουσιοδότηση, πείτε το. Οι άνθρωποι θα πρέπει να αναλαμβάνουν την κρίση, όχι να αντισταθμίζουν τις ελλείψεις της υποδομής. Περάσαμε δεκαετίες εφευρίσκοντας μηχανές. Θα ήταν κακή συμπεριφορά να κάνουμε τους ανθρώπους να συμπεριφέρονται σαν σενάρια επικύρωσης.
Η μη αναστρεψιμότητα αλλάζει τη μηχανή
Δεν είναι όλες οι μεταβάσεις ίσες. Κάποιες είναι αναστρέψιμες. Ένα προσχέδιο μπορεί να επεξεργαστεί. Μια διαδρομή μπορεί να αλλάξει. Μια σύσταση μπορεί να αποσυρθεί. Άλλες μεταβάσεις είναι δυσκολότερο να αναιρεθούν: ένα μήνυμα στάλθηκε, μια παροχή απορρίφθηκε, μια σημαία κινδύνου αλλάζει μια ουρά, μια εγγραφή ενημερώθηκε, ένα άτομο αναφέρθηκε, μια πληρωμή πραγματοποιήθηκε, ένας πελάτης αποκλείστηκε. Η υπεύθυνη τεχνητή νοημοσύνη πρέπει να γνωρίζει ποιες μεταβάσεις περνούν στον πραγματικό κόσμο.
Η μη αναστρεψιμότητα θα πρέπει να αλλάξει τον φύλακα. Το σύστημα θα πρέπει να απαιτεί περισσότερα στοιχεία, ισχυρότερη εξουσιοδότηση, σαφέστερη ανθρώπινη κρίση, καλύτερη ειδοποίηση και μια πιο ορατή οδό προσφυγής πριν από μη αναστρέψιμα αποτελέσματα. Θα πρέπει επίσης να προτιμά σταδιακές μεταβάσεις όπου αυτό είναι δυνατό. Σύνταξη πριν από την αποστολή. Σύσταση πριν από την απόφαση. Αναμονή πριν από την απόρριψη. Ειδοποίηση πριν από την επιβολή. Έλεγχος πριν από την αναφορά. Αυτό δεν είναι βραδύτητα για χάρη της βραδύτητας. Είναι η διαφορά ανάμεσα σε ένα σύστημα που μπορεί να διορθωθεί και σε ένα σύστημα που δημιουργεί εργασίες καθαρισμού με ύφος αυτοπεποίθησης.
Η μηχανή καταστάσεων βοηθά επίσης στη μερική αναστρεψιμότητα. Κάποια βλάβη μπορεί να επισκευαστεί τεχνικά αλλά όχι κοινωνικά. Μια λανθασμένη εσωτερική σύνοψη μπορεί να διορθωθεί. Μια λανθασμένη εξωτερική κατηγορία μπορεί να παραμείνει ακόμη και μετά τη διόρθωση. Μια καθυστερημένη παροχή μπορεί να καταβληθεί αργότερα, αλλά το ενοίκιο ήταν ληξιπρόθεσμο νωρίτερα. Μια διαγραμμένη εγγραφή μπορεί μερικές φορές να αποκατασταθεί, αλλά η εμπιστοσύνη μπορεί να μην αποκατασταθεί. Η μηχανή θα πρέπει να αντιμετωπίζει αυτές τις μεταβάσεις με τη σοβαρότητα της ανθρώπινης επίδρασής τους, όχι μόνο με τη σοβαρότητα της επαναφοράς της βάσης δεδομένων.
Εδώ είναι που η υπεύθυνη τεχνητή νοημοσύνη αποφεύγει τη φαντασίωση ότι η ηθική είναι ξεχωριστή από τη λειτουργία. Η λειτουργική λεπτομέρεια είναι η ηθική επιφάνεια. Ο σχεδιασμός της ουράς επηρεάζει τη δικαιοσύνη. Η πολιτική επανάληψης επηρεάζει τον διπλασιασμό. Η συμπεριφορά χρονικού ορίου επηρεάζει την πρόσβαση. Η διατήρηση επηρεάζει την ιδιωτικότητα. Ο φόρτος εργασίας ελέγχου επηρεάζει την αξιοπρέπεια. Οι μεταβάσεις καταστάσεων δεν είναι ουδέτερες σωληνώσεις. Είναι ο τρόπος με τον οποίο το σύστημα συναντά τους ανθρώπους.
Η αξιολόγηση ως στοιχείο μετάβασης
Η αξιολόγηση συχνά βρίσκεται εκτός της ροής εργασίας, σαν να ήταν μια σχολική εξέταση που δίνεται πριν αποφοιτήσει το σύστημα. Σε μια υπεύθυνη μηχανή καταστάσεων, η αξιολόγηση γίνεται συνεχές στοιχείο μετάβασης. Κάθε μετάβαση μπορεί να παράγει σήματα: πόσο συχνά ο φύλακας μπλόκαρε, πόσο συχνά οι άνθρωποι παρακάμπτουν, πόσο συχνά οι προσφυγές πετύχαιναν, πόσο συχνά οι πηγές ήταν παρωχημένες, πόσο συχνά η εμπιστοσύνη του μοντέλου διαφωνούσε με την ανθρώπινη κρίση, πόσο συχνά μια υποτιθέμενη διαδρομή χαμηλού αντικτύπου δημιουργούσε παράπονα.
Αυτά τα σήματα θα πρέπει να τροφοδοτούν τη μηχανή. Μια μετάβαση που παράγει επανειλημμένες προσφυγές μπορεί να χρειάζεται ισχυρότερο φύλακα ή σαφέστερη ειδοποίηση. Μια κατάσταση ανθρώπινου ελέγχου με υψηλή συμφωνία και χαμηλό αντίκτυπο μπορεί να είναι επιλέξιμη για περισσότερο αυτοματισμό, υπό την προϋπόθεση ότι η θεραπεία παραμένει πραγματική. Μια κατάσταση άρνησης που παγιδεύει τους χρήστες μπορεί να χρειάζεται μια διαδρομή επισκευής. Ένας πολιτικός φύλακας που μπλοκάρει πάρα πολλές νόμιμες περιπτώσεις μπορεί να αποκαλύψει μια κακή πολιτική, όχι ένα κακό μοντέλο. Η μηχανή δεν είναι υπεύθυνη επειδή είναι στατική. Είναι υπεύθυνη επειδή μπορεί να μαθαίνει χωρίς να κρύβει το παρελθόν.
Αυτή η μάθηση απαιτεί έλεγχο εκδόσεων. Οι καταστάσεις, οι φύλακες, τα όρια, τα προτροπές, τα μοντέλα, οι πολιτικές, οι πηγές δεδομένων και οι οδηγίες ελέγχου αλλάζουν. Το αρχείο πρέπει να λέει ποια έκδοση εφαρμόστηκε σε ποια μετάβαση. Διαφορετικά, ο οργανισμός μπορεί να αξιολογήσει μόνο μια σούπα από προηγούμενες επιλογές. Η σούπα έχει μαγειρικές χρήσεις. Δεν είναι μέθοδος διακυβέρνησης, όσα ταμπλό και αν επιπλέουν στην επιφάνειά της.
Τα στοιχεία μετάβασης με έλεγχο εκδόσεων διατηρούν επίσης τη βελτίωση έντιμη. Μια ομάδα μπορεί να πει ότι ένας νέος φύλακας μείωσε τις μη ελεγμένες ενέργειες αλλά αύξησε την καθυστέρηση. Μπορεί να πει ότι μια νέα πηγή βελτίωσε την ακρίβεια αλλά αύξησε την τριβή για την ιδιωτικότητα. Μπορεί να πει ότι μια αναβάθμιση μοντέλου βελτίωσε τις συνόψεις αλλά αποδυνάμωσε την πειθαρχία άρνησης. Οι αντισταθμίσεις δεν είναι αποτυχίες. Οι κρυφές αντισταθμίσεις είναι αποτυχίες που περιμένουν μια πρόσκληση σε ημερολόγιο.
Το μάθημα
Η μηχανή καταστάσεων πίσω από την υπεύθυνη τεχνητή νοημοσύνη δεν είναι κάλεσμα για ψυχρότερα συστήματα. Είναι κάλεσμα για συστήματα που ξέρουν τι κάνουν ενώ το κάνουν. Μια ονομασμένη κατάσταση δεν είναι ηθικό επίτευγμα. Ένας φύλακας δεν είναι δικαιοσύνη. Μια απόδειξη δεν είναι εμπιστοσύνη. Αλλά χωρίς αυτά, η υπεύθυνη τεχνητή νοημοσύνη παραμένει στο επίπεδο της πρόθεσης, και η πρόθεση έχει κακό ιστορικό διαθεσιμότητας.
Η υπεύθυνη τεχνητή νοημοσύνη χρειάζεται σκοπό, εξουσιοδότηση, αποδεικτικά στοιχεία, όρια, ανθρώπινη κρίση, ένσταση, επανόρθωση, διατήρηση και μάθηση. Αυτές οι λέξεις γίνονται επιχειρησιακές μέσω καταστάσεων και μεταβάσεων. Αυτές καθορίζουν πότε μια υπόθεση προχωρά, πότε σταματά, ποιος την κατέχει, τι αρχείο δημιουργείται, ποια θεραπεία υπάρχει και τι πρέπει να θυμάται το σύστημα την επόμενη φορά. Αυτό δεν είναι το σύνολο της ηθικής. Είναι το μέρος που μπορεί να σταματήσει μια κακή ενέργεια πριν γίνει μια πολύ καλά τεκμηριωμένη μεταμέλεια.
Η φόρμα στην αρχή εξακολουθεί να έχει αξία. Θέτει τις σωστές εναρκτήριες ερωτήσεις. Αλλά η φόρμα πρέπει να οδηγεί σε μια μηχανή που λειτουργεί: ονομασμένες καταστάσεις, ρητοί περιορισμοί, διαρκής τεκμηρίωση, πραγματική αναθεώρηση και έξοδοι για τα άτομα που επηρεάζονται από το σύστημα. Η υπεύθυνη τεχνητή νοημοσύνη δεν αποδεικνύεται από την ύπαρξη μιας πολιτικής. Αποδεικνύεται, ή διαψεύδεται, στη μετάβαση όπου το σύστημα αποφασίζει τι θα συμβεί στη συνέχεια.