Γιατί η βαρετή υποδομή κερδίζει στη σοβαρή τεχνητή νοημοσύνη
Το demo που έμοιαζε με το μέλλον μέχρι το μεσημέρι
Το πιο πειστικό demo τεχνητής νοημοσύνης που έχω δει ποτέ απέτυχε εξαιτίας μιας ουράς αναμονής. Όχι το μοντέλο, όχι το prompt, όχι η διανυσματική αναζήτηση, όχι το κομψό μικρό γράφημα πρακτόρων που έκανε όλους στην αίθουσα να σκύψουν μπροστά. Η ουρά αναμονής. Κατά τη διάρκεια του πρωινού, το σύστημα λάμβανε emails υποστήριξης, έβρισκε σχετικά έγγραφα, συνέτασσε απαντήσεις, επισήμαινε την αβεβαιότητα και διοχέτευε τις δύσκολες περιπτώσεις σε έναν άνθρωπο. Έμοιαζε ήρεμο και σχεδόν άδικα έξυπνο. Το μεσημέρι η εργασία εισαγωγής διπλασιάστηκε, το σύστημα email κατάντη επιβραδύνθηκε, οι επαναλήψεις στοιβάζονταν η μία πάνω στην άλλη και η ουρά άρχισε να συμπεριφέρεται σαν ένα ευγενικό μποτιλιάρισμα με τιμολόγια προσαρτημένα.
Μέχρι τις τρεις το μοντέλο ήταν ακόμα ικανό. Αυτό ήταν το προσβλητικό κομμάτι. Η ευφυΐα δεν είχε εξαφανιστεί. Οι σωληνώσεις είχαν. Τα μηνύματα επεξεργάζονταν εκτός σειράς. Κάποιες εργασίες επαναλαμβάνονταν με παρωχημένο περιβάλλον. Λίγες διπλότυπες απαντήσεις περίμεναν έγκριση. Ο πίνακας ελέγχου έδειχνε πράσινο επειδή ο πίνακας ελέγχου μετρούσε το τελικό σημείο του μοντέλου, όχι την εργασία. Το περιστατικό δεν ήταν κινηματογραφικό. Κανείς δεν κλώτσησε έναν διακομιστή. Το σύστημα απλώς αποκάλυψε ότι το έξυπνο κομμάτι είχε τοποθετηθεί σε ένα πάτωμα φτιαγμένο από χαρτόνι και αισιοδοξία.
Γι' αυτό η βαρετή υποδομή κερδίζει στη σοβαρή τεχνητή νοημοσύνη. Η σοβαρή τεχνητή νοημοσύνη δεν είναι η εκδοχή που εντυπωσιάζει μια αίθουσα για δεκαπέντε λεπτά. Είναι η εκδοχή που επιβιώνει από κακή είσοδο, καθυστερημένες εξαρτήσεις, μερικές διακοπές λειτουργίας, ληγμένα διαπιστευτήρια, υπερφορτωμένους δείκτες, ουρές ανθρώπινης αναθεώρησης, αιχμές κόστους, αλλαγές σχήματος, περιφερειακή καθυστέρηση, αιτήματα ελέγχου και το πρωί της Δευτέρας. Το μοντέλο έχει σημασία. Φυσικά και έχει σημασία. Αλλά το μοντέλο είναι ένα στοιχείο σε ένα σύστημα που πρέπει να μετακινεί την εργασία μέσα στον χρόνο χωρίς να λέει ψέματα για το τι συνέβη.
Στον κλάδο αρέσει να συζητά την ευφυΐα σαν το μοντέλο να ήταν το προϊόν και όλα τα υπόλοιπα γύρω του να ήταν ικριώματα. Στην παραγωγή, τα ικριώματα είναι συχνά το προϊόν. Η ταυτότητα αποφασίζει ποιος μπορεί να ρωτήσει. Τα συμβόλαια δεδομένων αποφασίζουν τι επιτρέπεται να γνωρίζει το σύστημα. Η ανάκτηση αποφασίζει ποια αποδεικτικά στοιχεία φτάνουν στο μοντέλο. Οι ουρές αποφασίζουν αν η εργασία φτάνει σε μια ανακτήσιμη σειρά. Τα αρχεία καταγραφής αποφασίζουν αν ένα σφάλμα μπορεί να διερευνηθεί. Η αξιολόγηση αποφασίζει αν η βελτίωση είναι πραγματική. Η επαναφορά αποφασίζει αν μια κακή κυκλοφορία γίνεται περιστατικό ή υποσημείωση. Κανένα από αυτά δεν φαίνεται εντυπωσιακό σε ένα βίντεο παρουσίασης. Αυτό είναι ένα σημείο υπέρ τους.
Το βαρετό δεν είναι απλό
Η βαρετή υποδομή συχνά παρεξηγείται ως βασική υποδομή. Δεν είναι. Είναι υποδομή από την οποία έχουν αφαιρεθεί οι εκπλήξεις μέσω σχεδιασμού, επανάληψης και αποδεικτικών στοιχείων. Μια καλή ουρά είναι βαρετή επειδή έχει ρητή σειρά προτεραιότητας, πολιτική επαναλήψεων, απαλοιφή διπλοτύπων, χρονικό όριο ορατότητας, διαχείριση νεκρών μηνυμάτων και αντίθλιψη. Ένα καλό σχήμα είναι βαρετό επειδή έχει έκδοση, δοκιμάζεται, τεκμηριώνεται και απορρίπτεται όταν είναι λάθος. Ένα καλό αρχείο καταγραφής είναι βαρετό επειδή λέει τι συνέβη με τρόπο που μπορεί να συνδεθεί με άλλα αποδεικτικά στοιχεία. Το βαρετό δεν είναι απουσία σκέψης. Είναι σκέψη που έχει ήδη πληρώσει το ενοίκιό της.
Τα συστήματα τεχνητής νοημοσύνης το χρειάζονται αυτό περισσότερο από το συνηθισμένο λογισμικό, επειδή εισάγουν αβεβαιότητα στο επίκεντρο. Μια παραδοσιακή υπηρεσία μπορεί συχνά να περιγραφεί με ντετερμινιστικές μεταβάσεις. Ένα στοιχείο τεχνητής νοημοσύνης μπορεί να επιστρέψει μια πιθανολογική απάντηση, ένα σύνολο επιλογών με κατάταξη, ένα παραγόμενο κείμενο, ένα εξαγόμενο πεδίο, μια κλήση εργαλείου ή μια άρνηση. Αυτό το αποτέλεσμα πρέπει στη συνέχεια να εισέλθει σε μια ροή εργασίας που αναμένει καταστάσεις, δικαιώματα, προθεσμίες, επίπεδα υπηρεσιών και λογοδοσία. Εάν η υποδομή γύρω από το μοντέλο είναι ασαφής, η αβεβαιότητα του μοντέλου διαρρέει στις λειτουργίες. Τότε οι άνθρωποι το αποκαλούν κίνδυνο τεχνητής νοημοσύνης, ενώ μεγάλο μέρος του είναι στην πραγματικότητα σωληνώσεις με ζητήματα εμπιστοσύνης.
Η βαρετή υποδομή δίνει στα πιθανολογικά στοιχεία ένα ασφαλές σχήμα. Καταγράφει προτροπές, εισόδους, ανακτηθέντα αποδεικτικά στοιχεία, εκδόσεις μοντέλων, πολιτικές, κλήσεις εργαλείων, εξόδους, ανθρώπινες αποφάσεις και επακόλουθες επιπτώσεις. Περιορίζει την εξουσία μέσω ταυτότητας και πεδίων εφαρμογής. Αντιμετωπίζει την αποτυχία ως κατάσταση, όχι ως έκπληξη. Διαχωρίζει το προσχέδιο από την ενέργεια. Απαιτεί αποδεικτικά στοιχεία προτού ο αυτοματισμός αγγίξει μια σημαντική ροή εργασίας. Διατηρεί αρκετό πλαίσιο για αναθεώρηση. Το μοντέλο μπορεί να παραμείνει δημιουργικό, αβέβαιο και περιστασιακά λάθος. Το σύστημα γύρω του δεν χρειάζεται να αυτοσχεδιάζει κάθε φορά.
Αυτό δεν είναι κατά της καινοτομίας. Είναι αυτό που επιτρέπει στην καινοτομία να επιβιώσει. Οι ταχύτερες ομάδες που γνωρίζω δεν είναι αυτές με τις λιγότερες διαδικασίες. Είναι εκείνες των οποίων η διαδικασία ζει σε χρήσιμες ράγες: τοπικά σύνολα δοκιμών, επαναλαμβανόμενες αναπτύξεις, σαφής επαναφορά, γνωστά συμβόλαια δεδομένων, εύκολη παρατηρησιμότητα και διαδρομές αναθεώρησης που δεν απαιτούν επιτροπή για να εντοπίσει το σωστό υπολογιστικό φύλλο. Κινούνται γρήγορα επειδή ο συνηθισμένος κίνδυνος έχει βρει ένα μέρος να πάει. Οι υπόλοιποι το αποκαλούμε βαρετό μόνο επειδή τα αξιόπιστα πράγματα δεν επιδίδονται σε θεάματα για να τραβήξουν την προσοχή.
Το μοντέλο δεν είναι το λειτουργικό σύστημα
Υπάρχει μια επαναλαμβανόμενη φαντασίωση ότι ένα ικανό μοντέλο μπορεί να αντικαταστήσει την υποδομή γύρω του. Δώστε του αρκετό πλαίσιο και θα δρομολογήσει, θα επικυρώσει, θα αποφασίσει, θα παρακολουθήσει, θα εξηγήσει, θα διορθώσει και ίσως θα ενημερώσει το εγχειρίδιο διαδικασιών ενώ φτιάχνει τσάι. Η φαντασίωση είναι κατανοητή επειδή τα μοντέλα είναι ευέλικτα. Η ευελιξία είναι σαγηνευτική. Είναι επίσης φτωχό υποκατάστατο για σαφή όρια συστήματος. Ένα μοντέλο μπορεί να βοηθήσει στην επιλογή μιας διαδρομής. Δεν θα έπρεπε να είναι το μόνο μέρος όπου υπάρχει η διαδρομή.
Όταν οι ομάδες αφήνουν το μοντέλο να απορροφήσει τις ευθύνες της υποδομής, δημιουργούν κρυφή πολιτική. Η προτροπή λέει ποιες πηγές προτιμώνται. Η προτροπή λέει πότε να αρνηθεί. Η προτροπή λέει ποιο εργαλείο να χρησιμοποιήσει. Η προτροπή λέει πώς να χειριστεί τα πεδία που λείπουν. Η προτροπή λέει τι θεωρείται κίνδυνος. Κάποια από αυτά μπορεί να είναι εντάξει για εξερεύνηση. Στην παραγωγή, η κρυφή πολιτική γίνεται δύσκολο να δοκιμαστεί, να εκδοθεί, να ελεγχθεί και να αμφισβητηθεί. Μια μακρά προτροπή μπορεί να γίνει σύνταγμα γραμμένο σε μια χαρτοπετσέτα και αποθηκευμένο σε μια μεταβλητή περιβάλλοντος. Αυτή είναι μια ζωντανή προσέγγιση στη διακυβέρνηση, αλλά όχι μια ώριμη.
Η σοβαρή τεχνητή νοημοσύνη διαχωρίζει τη συλλογιστική από την εξουσία. Το μοντέλο μπορεί να προτείνει. Η ροή εργασίας αποφασίζει αν η πρόταση έχει αρκετά στοιχεία, αν ο χρήστης έχει άδεια, αν η ενέργεια είναι αναστρέψιμη, αν χρειάζεται έγκριση από άνθρωπο και αν το κόστος χωράει στον προϋπολογισμό. Το μοντέλο μπορεί να συνοψίσει μια υπόθεση. Το σύστημα υποθέσεων αποφασίζει αν η σύνοψη γίνεται αρχείο. Το μοντέλο μπορεί να καλέσει ένα εργαλείο. Η πύλη εργαλείων αποφασίζει αν επιτρέπεται η κλήση. Αυτός ο διαχωρισμός δεν είναι γραφειοκρατία. Είναι ο τρόπος με τον οποίο το σύστημα παραμένει ελέγξιμο όταν η νοημοσύνη είναι λανθασμένη, ελλιπής ή πειστική.
Όσο πιο ικανό είναι το μοντέλο, τόσο πιο σημαντικά γίνονται τα όρια. Ένα αδύναμο μοντέλο αποτυγχάνει θορυβωδώς και συχνά. Ένα ισχυρό μοντέλο μπορεί να αποτύχει αθόρυβα, με πειστικό τρόπο και σε μεγάλη κλίμακα. Μπορεί να γράψει μια σίγουρη εξήγηση για τη λάθος πηγή. Μπορεί να καλέσει ένα εργαλείο με άψογη γραμματική. Μπορεί να εξομαλύνει τα ελλιπή στοιχεία με τρόπο που καθησυχάζει τον χειριστή. Η υποδομή πρέπει επομένως να είναι πιο επίμονη από το μοντέλο. Πρέπει να ζητά αποδείξεις, να ελέγχει τα όρια πρόσβασης, να επιβάλλει όρια ρυθμού και να κρατά αρχεία ακόμα και όταν η απάντηση ακούγεται απόλυτα λογική.
Τα συμβόλαια δεδομένων υπερτερούν των καλών προθέσεων
Πολλά περιστατικά με τεχνητή νοημοσύνη ξεκινούν από μια μικρή αναντιστοιχία. Ένα πεδίο που ήταν προαιρετικό γίνεται υποχρεωτικό. Μια χρονική σήμανση αλλάζει ζώνη ώρας. Ένας αναλυτής εγγράφων αρχίζει να εκπέμπει διαφορετικές ετικέτες ενοτήτων. Ένας κωδικός κατάστασης αποκτά νέα τιμή. Λείπει μια ετικέτα γλώσσας. Ένα αναγνωριστικό πελάτη φτάνει κατακερματισμένο σε μια ροή και απλό σε μια άλλη. Το μοντέλο λαμβάνει κάτι αρκετά πειστικό για να το επεξεργαστεί και αρκετά λανθασμένο για να δηλητηριάσει το αποτέλεσμα. Οι καλές προθέσεις δεν το εντοπίζουν αυτό. Τα συμβόλαια δεδομένων το εντοπίζουν.
Ένα συμβόλαιο δεδομένων δεν είναι ένα μεγαλεπήβολο φιλοσοφικό αντικείμενο. Δηλώνει τι μορφή έχουν τα δεδομένα, ποια πεδία είναι υποχρεωτικά, τι σημαίνουν οι τιμές, πώς αλλάζουν οι εκδόσεις, ποια όρια ποιότητας ισχύουν, ποιος κατέχει τη ροή και τι συμβαίνει όταν παραβιάζεται το συμβόλαιο. Στα συστήματα τεχνητής νοημοσύνης, τα συμβόλαια θα πρέπει επίσης να περιγράφουν την επικαιρότητα, την προέλευση, την άδεια, τη σημασία των ετικετών, την πολιτική τεμαχισμού, το μοντέλο ενσωμάτωσης, το πεδίο ανάκτησης και τους κανόνες αποκλεισμού. Το συμβόλαιο είναι το σημείο όπου τα δεδομένα παύουν να είναι ασαφείς εντυπώσεις και γίνονται συμφωνία.
Τα συμβόλαια έχουν σημασία επειδή τα μοντέλα είναι ανεκτικά. Μπορούν να βγάλουν νόημα από ακατάστατα δεδομένα. Αυτή η ανεκτικότητα είναι χρήσιμη στα άκρα και επικίνδυνη στα όρια. Αν ένας άνθρωπος στείλει μια ασυνήθιστη ερώτηση, η ανεκτικότητα βοηθά. Αν μια ροή πηγής αλλάξει σιωπηλά το νόημά της, η ανεκτικότητα κρύβει τη βλάβη. Το σύστημα θα πρέπει να είναι αυστηρό στα όρια ολοκλήρωσης και ευέλικτο στο επίπεδο συλλογιστικής. Η αντιστροφή αυτού του μοτίβου σας δίνει εύθραυστους χρήστες και χαλαρές ροές δεδομένων, που είναι ένας αποτελεσματικός τρόπος για να μαζεύετε απολογίες.
Το ίδιο ισχύει και για την έξοδο. Μια παραγόμενη απάντηση δεν αρκεί. Τα κατάντη συστήματα χρειάζονται δομημένη κατάσταση: αποδεκτό, απορριφθέν, χρήζει επανεξέτασης, λείπουν αποδεικτικά στοιχεία, αποκλεισμένο από πολιτική, αποτυχία εργαλείου, υπέρβαση κόστους. Χρειάζονται κωδικούς αιτιολογίας, μέτρα εμπιστοσύνης, αναφορές πηγών, εκδόσεις μοντέλων και αναγνωριστικά ιχνηλάτησης. Αν το στοιχείο τεχνητής νοημοσύνης εκπέμπει μόνο πεζό λόγο, κάθε κατάντη καταναλωτής γίνεται κριτικός λογοτεχνίας. Αυτό είναι άδικο για το λογισμικό και, συνήθως, για τη λογοτεχνία.
Τα αρχεία καταγραφής δεν είναι παραπροϊόν
Στη σοβαρή τεχνητή νοημοσύνη, τα αρχεία καταγραφής δεν είναι απορρίμματα. Είναι μέρος του νευρικού συστήματος του προϊόντος. Ένα χρήσιμο αρχείο καταγραφής συνδέει την πρόθεση του χρήστη, τα δικαιώματα, το πρότυπο προτροπής, τα ανακτηθέντα αποδεικτικά στοιχεία, την έκδοση μοντέλου, τις παραμέτρους, τις κλήσεις εργαλείων, την καθυστέρηση, το κόστος, την έξοδο, την ανθρώπινη παρέμβαση και την κατάντη ενέργεια. Δεν χρειάζεται να εκθέτει ευρέως μυστικά ή προσωπικά δεδομένα. Χρειάζεται να διατηρεί αρκετά στοιχεία για να απαντήσει στις ώριμες ερωτήσεις: γιατί συνέβη αυτό, ποιος το επέτρεψε, τι είδε, τι άλλαξε και πώς το σταματάμε να ξανασυμβεί.
Χωρίς αρχεία καταγραφής, κάθε περιστατικό τεχνητής νοημοσύνης γίνεται συνεδρία πνευματισμού. Οι άνθρωποι μαζεύονται γύρω από ένα στιγμιότυπο οθόνης. Κάποιος θυμάται ότι μια προτροπή άλλαξε την περασμένη εβδομάδα. Κάποιος άλλος λέει ότι το ευρετήριο ανανεώθηκε. Ένας τρίτος πιστεύει ότι ο χρήστης μπορεί να είχε διαφορετικό ρόλο. Η σελίδα κατάστασης του προμηθευτή μοντέλου συμβουλεύεται με τελετουργική σοβαρότητα. Τελικά, η ομάδα γράφει μια εύλογη ιστορία. Οι εύλογες ιστορίες είναι χρήσιμες στα μυθιστορήματα. Στις λειτουργίες αποτελούν φόρο επί των ελλειπόντων αποδεικτικών στοιχείων.
Η καταγραφή πρέπει να σχεδιάζεται με γνώμονα το απόρρητο και την ασφάλεια, όχι να προστίθεται ως αδιάκριτη καταγραφή. Οι ευαίσθητες προτροπές μπορεί να χρειάζονται αποκάλυψη ή κατακερματισμό. Η πρόσβαση στα ίχνη θα πρέπει να είναι περιορισμένη. Η διατήρηση θα πρέπει να αντιστοιχεί στον κίνδυνο. Ορισμένα δεδομένα δεν θα πρέπει ποτέ να εισέρχονται στα αρχεία καταγραφής. Αλλά το να αρνείσαι να καταγράφεις επειδή η καταγραφή είναι επικίνδυνη είναι σαν να αρνείσαι τα φρένα επειδή η ταχύτητα είναι επικίνδυνη. Η σωστή απάντηση είναι η ελεγχόμενη καταγραφή, όχι η λειτουργική τύφλωση.
Τα καλά αρχεία καταγραφής κάνουν επίσης την βελτίωση έντιμη. Αν μια νέα προτροπή μειώνει τα σφάλματα σε ένα επιλεγμένο σύνολο παραδειγμάτων αλλά αυξάνει τις ανθρώπινες παρεμβάσεις στην παραγωγή, το σύστημα θα πρέπει να το δείχνει. Αν μια αλλαγή στην ανάκτηση μειώνει την καθυστέρηση ενώ αυξάνει τις παρωχημένες παραπομπές, το σύστημα θα πρέπει να το δείχνει. Αν μια αναβάθμιση μοντέλου μειώνει το κόστος αλλά αυξάνει τις απορρίψεις για μια συγκεκριμένη γλώσσα, το σύστημα θα πρέπει να το δείχνει. Η σοβαρή τεχνητή νοημοσύνη χρειάζεται λιγότερες διαφάνειες θριάμβου και περισσότερα ενοποιημένα ίχνη.
Η αξιολόγηση είναι υποδομή
Η αξιολόγηση αντιμετωπίζεται συχνά ως ερευνητική δραστηριότητα που συμβαίνει πριν από την ανάπτυξη. Στη σοβαρή τεχνητή νοημοσύνη είναι υποδομή. Λειτουργεί συνεχώς, προσκολλάται σε εκδόσεις, δειγματοληπτεί την παραγωγή, συγκρίνει εκδόσεις μοντέλων, δοκιμάζει την ανάκτηση, μετρά τις ανθρώπινες παρεμβάσεις και παρακολουθεί την υποχώρηση σε ομάδες, γλώσσες, τομείς και ροές εργασίας. Η αξιολόγηση είναι η μνήμη του συστήματος για το τι σημαίνει καλό. Χωρίς αυτήν, η βελτίωση γίνεται θέμα γούστου, και το γούστο έχει τη συνήθεια να συμφωνεί με το άτομο που παρουσιάζει το επίδειξη.
Μια αξιολόγηση δεν θα έπρεπε να είναι ένα στατικό τρόπαιο. Θα έπρεπε να περιλαμβάνει συνηθισμένες περιπτώσεις, δύσκολες περιπτώσεις, πρόσφατες αποτυχίες, αντίπαλα ερεθίσματα, όρια πολιτικής, γλώσσες με λίγους πόρους, ακραία έγγραφα, παρωχημένες εγγραφές, διφορούμενες ερωτήσεις και παραδείγματα όπου η σωστή απάντηση είναι η άρνηση. Θα έπρεπε να γνωρίζει ποια μετρική έχει σημασία για ποια ροή εργασίας. Ένα σύστημα σύνοψης, ένας ταξινομητής, ένας βοηθός κώδικα, ένα σύστημα διαλογής και ένας πράκτορας ανάκτησης δεν αποτυγχάνουν με τον ίδιο τρόπο. Το να τα αντιμετωπίζεις ως ένα ενιαίο σημείο αναφοράς παράγει έναν αριθμό και όχι και πολλή σοφία.
Η αξιολόγηση χρειάζεται επίσης διακυβέρνηση δεδομένων. Από πού προήλθαν τα παραδείγματα. Επιτρέπονται για αυτή τη χρήση. Περιέχουν ευαίσθητες πληροφορίες. Εξακολουθούν να είναι αντιπροσωπευτικά. Ποιος τα επισήμανε. Πώς αντιμετωπίστηκε η διαφωνία. Τι άλλαξε από τον περασμένο μήνα. Ένα σύνολο δοκιμών μπορεί να γίνει παρωχημένο ή μεροληπτικό όπως οποιοδήποτε άλλο σύνολο δεδομένων. Αν το σώμα αξιολόγησης αντιμετωπίζεται ως ιερό, τελικά γίνεται ένα ιερό αφιερωμένο σε παλιές υποθέσεις. Τα ιερά σπάνια εντοπίζουν την απόκλιση στην παραγωγή.
Το πιο σημαντικό είναι ότι η αξιολόγηση θα έπρεπε να συνδέεται με τον έλεγχο κυκλοφορίας. Ένα μοντέλο, ένα ερέθισμα, ένα ευρετήριο ανάκτησης, ένας αναλυτής, μια πύλη εργαλείων ή μια αλλαγή πολιτικής δεν θα έπρεπε να μπαίνει στην παραγωγή απλώς επειδή φαίνεται καλύτερο. Θα έπρεπε να περνά σχετικές δοκιμές, να αναφέρει γνωστούς συμβιβασμούς και να αφήνει αρχείο. Κάποιες αλλαγές θα αξίζουν να αναπτυχθούν παρά τις υποχωρήσεις, επειδή βελτιώνεται το κόστος, η καθυστέρηση, η ασφάλεια ή η κάλυψη. Αυτό είναι εντάξει. Η σοβαρή μηχανική δεν είναι η απουσία συμβιβασμών. Είναι η άρνηση να τους ανακαλύψεις κατά λάθος.
Ο έλεγχος κόστους είναι αξιοπιστία
Το κόστος της τεχνητής νοημοσύνης συχνά συζητείται από τα οικονομικά αφού η αρχιτεκτονική έχει ήδη υιοθετηθεί συναισθηματικά. Αυτό είναι αργά. Το κόστος είναι μια ιδιότητα του χρόνου εκτέλεσης. Επηρεάζει την αξιοπιστία επειδή τα ακριβά συστήματα αναπτύσσουν παράξενες συμπεριφορές υπό πίεση. Οι ομάδες απενεργοποιούν την καταγραφή για να εξοικονομήσουν χρήματα. Χαμηλώνουν την ποιότητα του περιβάλλοντος. Παραλείπουν αξιολογήσεις. Αποφεύγουν τις επαναλήψεις. Ομαδοποιούν την εργασία πολύ επιθετικά. Αφήνουν τις εκκρεμότητες να μεγαλώνουν. Κρύβουν τη χρήση. Το κόστος τότε παύει να είναι ένα τιμολόγιο και γίνεται ένας περιορισμός σχεδιασμού που προσποιείται ότι είναι έκπληξη.
Η σοβαρή υποδομή τεχνητής νοημοσύνης καθιστά το κόστος ορατό στο ίδιο επίπεδο με την καθυστέρηση και τα σφάλματα. Κάθε αίτημα θα έπρεπε να έχει προϋπολογισμό. Οι ακριβές κλήσεις εργαλείων θα έπρεπε να είναι περιορισμένες. Η ανάκτηση θα έπρεπε να αποφεύγει να φέρνει τη μισή βιβλιοθήκη για να απαντήσει σε μια ερώτηση για μία παράγραφο. Το μεγάλο περιβάλλον θα έπρεπε να δικαιολογείται. Οι εργασίες δέσμης θα έπρεπε να έχουν όρια και ακύρωση. Οι πράκτορες θα έπρεπε να έχουν όρια βημάτων. Η αξιολόγηση θα έπρεπε να μετρά το κόστος ανά αποδεκτό αποτέλεσμα, όχι μόνο το κόστος ανά διακριτικό. Η μονάδα που έχει σημασία είναι η χρήσιμη εργασία, όχι ο υπολογιστικός κομφετί.
Οι έλεγχοι κόστους προστατεύουν επίσης την ασφάλεια. Ένας ανεξέλεγκτος βρόχος πράκτορα δεν είναι μόνο ακριβός. Μπορεί να επαναλαμβάνει ενέργειες, να στέλνει διπλά μηνύματα, να κλειδώνει εγγραφές ή να χτυπά επανειλημμένα ένα σύστημα τρίτου μέρους. Μια διαδικασία ανάκτησης που ευρετηριάζει τα πάντα μπορεί να εκθέσει δεδομένα πέρα από τον σκοπό της. Μια εργασία σύνοψης που εκτελείται σε κάθε έγγραφο μπορεί να δημιουργήσει παράγωγες εγγραφές με νέες υποχρεώσεις διατήρησης. Τα όρια προϋπολογισμού επιβάλλουν σαφήνεια σχεδιασμού. Ρωτούν γιατί το σύστημα κάνει κάτι και πότε θα έπρεπε να σταματήσει. Οι μηχανές χρειάζονται αυτή τη βοήθεια. Δεν φημίζονται για την εθελοντική μετριοπάθεια.
Δεν υπάρχει καμία ντροπή στο να βελτιστοποιεί κανείς για συνηθισμένο υλικό, μικρότερα μοντέλα, προσωρινή αποθήκευση, ομαδοποίηση, προϋπολογισμό και τοπική εξαγωγή συμπερασμάτων όπου είναι κατάλληλο. Η σοβαρή τεχνητή νοημοσύνη δεν μετριέται από το πόσο εντυπωσιακό ακούγεται το υλικό. Μετριέται από το αν το σύστημα μπορεί να προσφέρει την απαιτούμενη ποιότητα εντός ενός περιθωρίου κόστους που του επιτρέπει να συνεχίσει να λειτουργεί. Ένα λαμπρό μοντέλο που είναι πολύ ακριβό για να παρατηρηθεί, να αξιολογηθεί και να ανακτηθεί δεν είναι σύστημα παραγωγής. Είναι μια πρόταση επιχορήγησης με ένα API.
Η ανθρώπινη αναθεώρηση δεν είναι έμπλαστρο για κακή υποδομή
Η ανθρώπινη αναθεώρηση είναι απαραίτητη σε πολλά συστήματα τεχνητής νοημοσύνης, ειδικά όταν οι αποφάσεις επηρεάζουν δικαιώματα, χρήματα, υγεία, ασφάλεια ή εμπιστοσύνη. Όμως, συχνά η αναθεώρηση χρησιμοποιείται ως αποθήκη για ό,τι δεν διαχειρίστηκε η υποδομή: ελλιπή στοιχεία, ασαφείς πολιτικές, χαμηλή εμπιστοσύνη, εσφαλμένη δρομολόγηση, διπλότυπες εργασίες, κακές ετικέτες και ασαφή ιδιοκτησία. Έπειτα, τα στελέχη λένε ότι υπάρχει άνθρωπος στη διαδικασία, σαν να ήταν ο άνθρωπος μια μαγική ουσία. Συνήθως, ο άνθρωπος είναι ένα άτομο με ουρά εργασιών, προθεσμία και μια καρέκλα αμφίβολης εργονομικής αξίας.
Η αναθεώρηση χρειάζεται και αυτή υποδομή. Οι αναθεωρητές χρειάζονται τα στοιχεία που είδε το μοντέλο, τα στοιχεία που δεν είδε, την πολιτική που εφαρμόστηκε, την έκδοση του μοντέλου, τους κωδικούς εμπιστοσύνης και αιτιολογίας, τα πηγαία έγγραφα, τη δυνατότητα διόρθωσης δομημένων πεδίων και έναν τρόπο να τροφοδοτούν τις διορθώσεις πίσω στα δεδομένα αξιολόγησης και εκπαίδευσης. Χρειάζονται όρια φόρτου εργασίας. Χρειάζονται κλιμάκωση. Χρειάζονται αρχεία καταγραφής ελέγχου. Χρειάζονται προστασία από τη μεροληψία αυτοματοποίησης, όπου μια άνετη απάντηση γίνεται αθόρυβα μια ώθηση.
Ένα καλό σύστημα αναθεώρησης διακρίνει επίσης την αβεβαιότητα από τον κίνδυνο. Κάποιες περιπτώσεις είναι αβέβαιες αλλά χαμηλού αντικτύπου και μπορούν να απαντηθούν με επιφυλάξεις. Κάποιες είναι βέβαιες αλλά υψηλού αντικτύπου και εξακολουθούν να απαιτούν έγκριση. Κάποιες έχουν χαμηλή εμπιστοσύνη επειδή λείπουν δεδομένα. Κάποιες αποκλείονται από την πολιτική ανεξαρτήτως εμπιστοσύνης. Αν η υποδομή συμπυκνώνει όλα αυτά σε ένα «ρώτα έναν άνθρωπο», ο αναθεωρητής γίνεται η μονάδα διαλογής απορριμμάτων του συστήματος. Οι άνθρωποι μπορούν να το κάνουν αυτό για λίγο. Μετά, η ποιότητα γίνεται ένα πλάνο στελέχωσης με ευγενικό όνομα.
Το ζητούμενο δεν είναι να αφαιρεθούν οι άνθρωποι. Είναι να τους δοθεί δουλειά που αξίζει κρίση. Ας αναλάβει η υποδομή την ταξινόμηση, τη συσκευασία στοιχείων, τους ελέγχους πολιτικής, την αφαίρεση διπλοτύπων, την παρακολούθηση προθεσμιών, τη συλλογή ανατροφοδότησης και την αναπαραγωγή. Ας αναλάβουν οι άνθρωποι το αμφισβητούμενο νόημα, τις εξαιρέσεις, τη συμπόνια, τη διαπραγμάτευση και την ευθύνη. Αυτός ο διαχωρισμός είναι πιο σεβαστικός προς τον άνθρωπο και πιο ασφαλής για το σύστημα. Μειώνει επίσης το αρχαίο επιχειρηματικό έθιμο της επίλυσης αρχιτεκτονικών προβλημάτων με προσλήψεις.
Η ήσυχη αρχιτεκτονική της εμπιστοσύνης
Η εμπιστοσύνη στην τεχνητή νοημοσύνη παρουσιάζεται συχνά ως πρόβλημα επικοινωνίας. Εξήγησε το σύστημα καλύτερα. Πρόσθεσε μια ειδοποίηση. Δημοσίευσε αρχές. Κάνε τη διεπαφή πιο ζεστή. Αυτά μπορούν να βοηθήσουν, αλλά οι χρήστες μαθαίνουν την εμπιστοσύνη μέσω της συμπεριφοράς. Θυμάται το σύστημα τα όριά του. Αρνείται όταν λείπουν στοιχεία. Δείχνει τις πηγές. Ανακάμπτει με χάρη. Σταματά τις διπλότυπες εργασίες. Επιτρέπει στους ανθρώπους να αμφισβητήσουν. Βελτιώνεται μετά από λάθη. Αυτές είναι συμπεριφορές υποδομής πριν γίνουν συμπεριφορές επωνυμίας.
Η ήσυχη αρχιτεκτονική της εμπιστοσύνης χτίζεται από σταθερά αναγνωριστικά, σαφείς άδειες, ρητές καταστάσεις, ανθεκτικά αρχεία καταγραφής, δοκιμασμένη επαναφορά, αντιπροσωπευτική αξιολόγηση, κατανοητό έλεγχο και ειλικρινή άρνηση. Ο χρήστης μπορεί να μην δει ποτέ το μεγαλύτερο μέρος της. Θα τη νιώσει όταν το σύστημα δεν χάσει την υπόθεσή του, όταν μια ένσταση έχει αποδεικτικά στοιχεία, όταν μια διόρθωση διατηρείται, όταν μια κακή έκδοση αποσύρεται ή όταν η απάντηση λέει ότι δεν μπορεί να γνωρίζει αντί να επινοεί μια μικρή όπερα.
Γι' αυτό οι σοβαρές ομάδες τεχνητής νοημοσύνης θα έπρεπε να αφιερώνουν περισσότερο χρόνο επαινώντας τα άχαρα κομμάτια. Το άτομο που έκανε την ταυτοδυναμία να λειτουργεί έσωσε το προϊόν από διπλές ενέργειες. Ο μηχανικός που επέμεινε στα αναγνωριστικά εντοπισμού έσωσε την ανασκόπηση του περιστατικού. Ο διαχειριστής δεδομένων που μπλόκαρε μια ροή χωρίς εκδόσεις έσωσε το μοντέλο από ένα ήσυχο ψέμα. Ο επικεφαλής λειτουργιών που έκανε πρόβα της επαναφοράς έσωσε το σαββατοκύριακο. Κανένας τους δεν θα εμφανιστεί στην κεντρική ομιλία. Η παραγωγή τους χρωστάει παρ' όλα αυτά.
Η βαρετή υποδομή δεν είναι έλλειψη φιλοδοξίας. Είναι φιλοδοξία που περιμένει να τη χρησιμοποιήσουν πραγματικοί άνθρωποι σε πραγματικούς οργανισμούς υπό πραγματικούς περιορισμούς. Το μοντέλο μπορεί να παραμείνει το πιο πνευματικά ενδιαφέρον στοιχείο. Δεν θα έπρεπε να είναι το μόνο σοβαρό. Η ευφυΐα που δεν μπορεί να μπει σε ουρά, να περιοριστεί, να παρατηρηθεί, να αξιολογηθεί, να εξηγηθεί και να ανακτηθεί δεν είναι έτοιμη για σοβαρή δουλειά. Είναι έτοιμη για μια επίδειξη, που είναι μια διαφορετική και πολύ πιο σύντομη σεζόν.
Το μάθημα
Η βαρετή υποδομή κερδίζει στη σοβαρή τεχνητή νοημοσύνη επειδή η σοβαρή τεχνητή νοημοσύνη αφορά κυρίως την τήρηση υποσχέσεων αφού η καινοτομία έχει φύγει από το δωμάτιο. Η υπόσχεση δεν είναι ότι κάθε απάντηση θα είναι τέλεια. Η υπόσχεση είναι ότι το σύστημα θα γνωρίζει τα δεδομένα εισόδου του, θα σέβεται τα όριά του, θα διατηρεί αποδεικτικά στοιχεία, θα δρομολογεί την αβεβαιότητα, θα ανακάμπτει από αποτυχίες, θα ελέγχει το κόστος και θα βελτιώνεται από την εμπειρία. Αυτή η υπόσχεση εκπληρώνεται από ουρές, σχήματα, αρχεία καταγραφής, συμβόλαια, ταυτότητες, αξιολογήσεις, εγχειρίδια λειτουργίας και σχέδια επαναφοράς.
Το έξυπνο μοντέλο είναι σημαντικό. Είναι επίσης απαιτητικό. Χρειάζεται καθαρά όρια, φρέσκα αποδεικτικά στοιχεία, περιορισμένα εργαλεία, υπομονετική αξιολόγηση, ελεγχόμενο κόστος και ανθρώπους που λαμβάνουν ουσιαστική δουλειά αντί για υπολείμματα. Δώστε του αυτά και μπορεί να γίνει χρήσιμο. Στερήστε του αυτά και ο οργανισμός θα ανακαλύψει τελικά ότι η ευφυΐα χωρίς υποδομή είναι απλώς ένας ταχύτερος τρόπος να δημιουργήσει δουλειά για τις λειτουργίες.
Η επίδειξη που απέτυχε στο μεσημεριανό διάλειμμα δεν απέτυχε επειδή το μέλλον ήταν αδύνατο. Απέτυχε επειδή το μέλλον είχε στηριχθεί σε μια ουρά που κανείς δεν είχε αντιμετωπίσει ως μέρος του μέλλοντος. Αυτό είναι το ήσυχο μάθημα. Στη σοβαρή τεχνητή νοημοσύνη, τα βαρετά κομμάτια δεν είναι δευτερεύοντες ρόλοι. Είναι η σκηνή.