Η εφοδιαστική αλυσίδα πίσω από κάθε απάντηση AI
Η απάντηση έρχεται πολύ καθαρή
Το πιο ύποπτο στοιχείο σε μια σύγχρονη απάντηση τεχνητής νοημοσύνης είναι πόσο τακτοποιημένη φαίνεται. Ο χρήστης κάνει μια ερώτηση, η διεπαφή κάνει μια μικρή παύση, και εμφανίζεται μια παράγραφος με την αυτοπεποίθηση ενός υπαλλήλου που δεν έχει χάσει ποτέ έγγραφο. Δεν έχει ούτε σκόνη πάνω της. Ούτε αποτυπώματα. Κανένα μπιπ περονοφόρου στο βάθος. Η απάντηση μοιάζει να γεννήθηκε ολόκληρη, σαν υπηρεσιακό σημείωμα κάτω από γυάλινη θήκη.
Αυτή η καθαρότητα είναι χρήσιμη για τον χρήστη και επικίνδυνη για τον διαχειριστή. Πίσω από την απάντηση βρίσκεται μια αλυσίδα εισροών, μετασχηματισμών, ελέγχων, αποφάσεων αποθήκευσης, ανθρώπινων επιλογών και παραδοχών του μηχανήματος. Υπάρχει κάπου ένα έγγραφο πηγής, ή μια μνήμη, ή ένα ανακτημένο απόσπασμα, ή ένα ίχνος εκπαίδευσης, ή ένας κανόνας πολιτικής, ή ένας υπολογισμός σε κρυφή μνήμη. Υπάρχει ένα μοντέλο ενσωμάτωσης που αποφάσισε τι ήταν παρόμοιο, ένα ευρετήριο που αποφάσισε τι μπορούσε να βρεθεί, ένα μοντέλο που αποφάσισε ποιες λέξεις θα ακολουθούσαν, ένα περιτύλιγμα προτροπής που αποφάσισε τι επιτρεπόταν να ρωτήσει ο χρήστης, και ένα επίπεδο καταγραφής που αποφάσισε τι θα θυμόταν αφού έφυγαν όλοι για το σπίτι.
Στις συνηθισμένες αλυσίδες εφοδιασμού, έχουμε μάθει να ρωτάμε από πού προέρχονται τα εξαρτήματα. Ένα νοσοκομείο θέλει να ξέρει αν μια συσκευή είναι αποστειρωμένη. Ένας κατασκευαστής γεφυρών θέλει να ξέρει ποια παρτίδα χάλυβα μπήκε σε ποια δοκό. Ένα σούπερ μάρκετ θέλει να ξέρει ποιο αγρόκτημα έστειλε το μαρούλι όταν το μαρούλι αρχίζει να συμπεριφέρεται σαν μικρό νομικό τμήμα. Η τεχνητή νοημοσύνη αξίζει την ίδια επιχειρησιακή καχυποψία. Μια απάντηση δεν είναι θαύμα. Είναι ένα συναρμολογημένο προϊόν.
Η δυσκολία είναι ότι οι αλυσίδες εφοδιασμού της τεχνητής νοημοσύνης είναι ως επί το πλείστον αόρατες τη στιγμή της χρήσης. Ο χρήστης βλέπει μια πρόταση. Ο οργανισμός λαμβάνει μια απόφαση, μια σύσταση, μια σύνοψη ή ένα προσχέδιο. Αυτό που συχνά δεν λαμβάνει είναι μια λίστα υλικών για την απάντηση. Ποια δεδομένα εξετάστηκαν. Ποια έκδοση μοντέλου μίλησε. Ποιες ρυθμίσεις ανάκτησης ήταν ενεργές. Ποιος κανόνας πολιτικής μπλόκαρε ή διαμόρφωσε την απάντηση. Ποια κρυφή μνήμη επέστρεψε ξεπερασμένο υλικό. Ποιος άνθρωπος άλλαξε το σύστημα την περασμένη εβδομάδα επειδή μια συνάντηση ξεπέρασε τον χρόνο της και το παράθυρο αλλαγών ήταν ακόμα ανοιχτό.
Μια απάντηση είναι αποστολή, όχι σπίθα
Το να το αποκαλούμε αλυσίδα εφοδιασμού δεν είναι διακοσμητική μεταφορά. Αλλάζει τις ερωτήσεις. Αν μια απάντηση είναι αποστολή, τότε υπάρχουν προμηθευτές, εξαρτήματα, διαδρομές, επιθεωρήσεις, υποκαταστάσεις, καθυστερήσεις, απώλειες, ανακλήσεις και ευθύνες. Η προτροπή δεν είναι απλώς μια πρόταση. Είναι μια παραγγελία. Το επίπεδο ανάκτησης δεν είναι απλώς αναζήτηση. Είναι η συλλογή εμπορευμάτων από τα ράφια. Το μοντέλο δεν είναι απλώς ευφυΐα. Είναι μια μονάδα μετασχηματισμού που μετατρέπει επιλεγμένο υλικό σε έξοδο. Το επίπεδο πολιτικής είναι ποιοτικός έλεγχος. Το αρχείο καταγραφής είναι το δελτίο παράδοσης, υπό την προϋπόθεση ότι υπάρχει και δεν γράφτηκε με μελάνι που εξαφανίζεται επειδή κάποιος θεώρησε την τηλεμετρία ακριβή.
Οι περισσότεροι οργανισμοί κατανοούν ήδη τις φυσικές εφοδιαστικές αλυσίδες καλύτερα από τις ψηφιακές. Γνωρίζουν ότι μια μικρή αλλαγή σε έναν προμηθευτή μπορεί να δημιουργήσει μεγάλες επιπτώσεις κατάντη. Μια βίδα με διαφορετική ανοχή μπορεί να μην έχει σημασία μέχρι να δονηθεί το μηχάνημα. Μια ετικέτα που αλλάζει μορφή μπορεί να μην έχει σημασία μέχρι τα τελωνεία να απορρίψουν το κιβώτιο. Μια ψυκτική αλυσίδα που διακόπτεται για είκοσι λεπτά μπορεί να μην έχει σημασία μέχρι το δείγμα να γίνει ιατρικά ενδιαφέρον. Στην τεχνητή νοημοσύνη, το ίδιο μοτίβο εμφανίζεται με λιγότερο θόρυβο. Αλλάζει ένας κανόνας τεμαχισμού. Ενημερώνεται μια έκδοση μοντέλου. Ανανεώνεται ένα σύνολο δεδομένων. Μετακινείται ένα όριο κατάταξης. Η απάντηση εξακολουθεί να φαίνεται ευφραδής, και αυτός είναι ακριβώς ο λόγος που η αλλαγή μπορεί να περάσει απαρατήρητη.
Αυτό έχει σημασία επειδή η ευφραδής αποτυχία είναι λειτουργικά δύσκολη. Όταν σταματά ένας ιμάντας μεταφοράς, οι άνθρωποι το προσέχουν. Όταν ένα μοντέλο δίνει μια εύλογη απάντηση από λάθος πηγή, ο οργανισμός μπορεί να συνεχίσει για μήνες με ένα ευγενικό ελάττωμα. Θα εμφανιστεί ως ασυνεπείς συμβουλές, αργή υποστήριξη, αδύναμη δυνατότητα ελέγχου ή αποφάσεις που δεν μπορούν να υπερασπιστούν όταν ένα ενδιαφερόμενο μέρος κάνει επιτέλους την παλιομοδίτικη ερώτηση: γιατί.
Η οπτική της εφοδιαστικής αλυσίδας δίνει στις ομάδες έναν πιο στέρεο τρόπο να διαχειριστούν αυτόν τον κίνδυνο. Ζητά ονομασμένες εισόδους, εκδόσεις στοιχείων, ελεγχόμενες υποκαταστάσεις, μετρήσιμες πύλες ποιότητας και αποδείξεις. Δεν απαιτεί μυστικιστική βεβαιότητα. Απαιτεί αρκετή δομή για να απαντηθούν βασικές λειτουργικές ερωτήσεις χωρίς να μετατραπεί η ανασκόπηση ενός περιστατικού σε συνεδρία επίκλησης πνευμάτων με στιγμιότυπα οθόνης.
Το κρυφό λογιστικό υλικών
Το πρώτο τεχνούργημα που λείπει σε πολλά συστήματα τεχνητής νοημοσύνης είναι το λογιστικό υλικών. Οι ομάδες λογισμικού γνωρίζουν αυτή την ιδέα από τη διαχείριση εξαρτήσεων. Οι ομάδες ασφαλείας τη γνωρίζουν από τα λογιστικά υλικών λογισμικού. Οι ομάδες μεταποίησης τη γνωρίζουν από τις λίστες εξαρτημάτων. Η τεχνητή νοημοσύνη χρειάζεται τη δική της λειτουργική εκδοχή, επειδή μια απάντηση μπορεί να εξαρτάται από κάτι περισσότερο από βιβλιοθήκες κώδικα. Μπορεί να εξαρτάται από δημόσια σώματα κειμένων, αδειοδοτημένα δεδομένα, ιδιωτικά έγγραφα, ενσωματώσεις, αποθήκες χαρακτηριστικών, πρότυπα προτροπών, μηνύματα συστήματος, εργαλεία, πολιτικές, ανθρώπινη ανατροφοδότηση, σύνολα αξιολόγησης, επιταχυντές υλικού, ρυθμίσεις χρόνου εκτέλεσης και μερικές φορές την ήσυχη αισιοδοξία όποιου αποφάσισε ότι η προεπιλεγμένη θερμοκρασία θα ήταν μάλλον εντάξει.
Ένα χρήσιμο λογιστικό υλικών δεν είναι ένα πιστοποιητικό τριάντα σελίδων που κανείς δεν διαβάζει μέχρι οι προμήθειες να ζητήσουν ένα λογότυπο. Είναι ένας ζωντανός χάρτης των στοιχείων που μπορούν να επηρεάσουν το αποτέλεσμα. Για ένα σύστημα ανάκτησης, θα πρέπει να προσδιορίζει τις συλλογές πηγών, τις εκδόσεις εγγράφων, τη διαδικασία εξαγωγής, τη στρατηγική τεμαχισμού, το μοντέλο ενσωμάτωσης, την ημερομηνία δημιουργίας ευρετηρίου, τους κανόνες κατάταξης, τα φίλτρα πρόσβασης, τις εγγυήσεις φρεσκάδας και τη διαδρομή διαγραφής. Για μια υπηρεσία μοντέλου, θα πρέπει να προσδιορίζει τα βάρη, τα επίπεδα προσαρμογής, τις επιλογές κβαντισμού, τις ρυθμίσεις αποκωδικοποίησης, τα φίλτρα ασφαλείας, τα δικαιώματα εργαλείων, τη διατήρηση αρχείων καταγραφής και τη συμπεριφορά εναλλακτικής λύσης. Για μια πρακτική ροή εργασίας με πράκτορες, θα πρέπει να περιλαμβάνει εργαλεία, πεδία εφαρμογής, διαπιστευτήρια, κατάσταση, κανόνες επανάληψης και σημεία ανθρώπινης αναθεώρησης.
Το λογιστικό υλικών πρέπει να είναι αρκετά κοντά στις λειτουργίες ώστε να παραμένει ακριβές. Αν ζει μόνο σε έναν φάκελο συμμόρφωσης, θα παλιώσει σαν γιαούρτι στο ντουλαπάκι ενός αυτοκινήτου. Οι μηχανικοί θα αλλάζουν ρυθμίσεις, οι ομάδες προϊόντων θα προσθέτουν πηγές, οι προμηθευτές θα ενημερώνουν υπηρεσίες και το επίσημο έγγραφο θα παραμένει με σιγουριά λάθος. Ο χάρτης πρέπει να συνδέεται με αναπτύξεις, αλλαγές πηγών, δημιουργίες ευρετηρίων, εκδόσεις πολιτικών και ειδοποιήσεις προμηθευτών. Διαφορετικά, ο οργανισμός έχει μια ετικέτα μουσείου, όχι μια επιφάνεια ελέγχου.
Εδώ είναι που η υποδομή τεχνητής νοημοσύνης γίνεται λιγότερο εντυπωσιακή και πιο χρήσιμη. Η δουλειά δεν είναι μόνο ταχύτερα συμπεράσματα ή μεγαλύτερα παράθυρα περιβάλλοντος. Είναι η βαρετή πειθαρχία του να γνωρίζεις τι εισήλθε στο σύστημα, τι το μεταμόρφωσε, τι το εμπόδισε, τι έφυγε και τι αποδεικτικά στοιχεία παραμένουν. Το βαρετό είναι προσβολή μόνο μέχρι ο ρυθμιστής, ο πελάτης, ο κλινικός γιατρός ή ο δικαστής να ζητήσει λεπτομέρειες. Τότε το βαρετό γίνεται η πιο όμορφη λέξη στο δωμάτιο.
Τα δεδομένα έχουν και αυτά προμηθευτές
Οι άνθρωποι συχνά αντιμετωπίζουν τα δεδομένα σαν να υπάρχουν απλώς, όπως ο καιρός ή η σκόνη του γραφείου. Στην πραγματικότητα, τα δεδομένα έχουν προμηθευτές. Κάποιος τα συνέλεξε, τα διαμόρφωσε, τα χαρακτήρισε, τα εξήγαγε, τα διόρθωσε, ξέχασε να τα διορθώσει ή τα κληρονόμησε από ένα προηγούμενο σύστημα του οποίου το σχήμα βάσης δεδομένων μοιάζει σχεδιασμένο κατά τη διάρκεια άσκησης πυρασφάλειας. Η προέλευση αυτών των δεδομένων έχει σημασία, επειδή τα συστήματα τεχνητής νοημοσύνης ενισχύουν υποθέσεις που μια συνηθισμένη αναφορά θα μπορούσε απλώς να παρουσιάσει.
Μια εγγραφή πελάτη, ένας δημόσιος κανονισμός, ένα αρχείο συντήρησης, μια ιατρική σημείωση, ένα εγχειρίδιο προϊόντος και μια ερευνητική περίληψη δεν έχουν την ίδια εφοδιαστική αλυσίδα. Φέρουν διαφορετικά δικαιώματα, ρυθμούς ενημέρωσης, προβλήματα ποιότητας και προφίλ βλάβης. Μια απάντηση μοντέλου που βασίζεται σε ένα ξεπερασμένο εγχειρίδιο προϊόντος μπορεί να προκαλέσει ενόχληση. Μια απάντηση μοντέλου που βασίζεται σε ένα ξεπερασμένο κλινικό πρωτόκολλο μπορεί να προκαλέσει πολύ περισσότερα από ενόχληση, και η ενόχληση έχει ήδη κάνει αρκετά στη διοίκηση υγειονομικής περίθαλψης.
Η σωστή προμήθεια δεδομένων θέτει απλές αλλά άβολες ερωτήσεις. Ποιος κατέχει αυτή την πηγή. Ποια είναι η έγκυρη έκδοση. Πόσο γρήγορα φτάνουν οι ενημερώσεις. Πώς διαδίδονται οι διορθώσεις στα ενσωματωμένα διανύσματα και στις κρυφές μνήμες. Ποια μέρη έχουν άδεια για αυτόν τον σκοπό. Ποια πεδία παραμένουν ευαίσθητα ακόμη και μετά τον μετασχηματισμό. Ποια πηγή πρέπει να υπερισχύει όταν δύο πηγές διαφωνούν. Ποια πηγή επιτρέπεται να διασχίσει ένα όριο. Ποια πηγή πρέπει να αφήνει απόδειξη όταν χρησιμοποιείται.
Η απάντηση δεν μπορεί να είναι ένας καθολικός κανόνας. Κάποιες πηγές χρειάζονται φρεσκάδα σε πραγματικό χρόνο. Κάποιες χρειάζονται σταθερά ιστορικά στιγμιότυπα. Κάποιες χρειάζονται ανθρώπινη έγκριση πριν από την εισαγωγή. Κάποιες χρειάζονται αυτόματη λήξη. Κάποιες χρειάζονται αποκάλυψη ευαίσθητων δεδομένων πριν από την ευρετηρίαση. Κάποιες δεν θα έπρεπε να ευρετηριαστούν ποτέ. Η σκέψη της εφοδιαστικής αλυσίδας αποδέχεται αυτή την ανομοιομορφία. Σταματά να προσποιείται ότι όλα τα δεδομένα είναι γενικό καύσιμο και αρχίζει να τα αντιμετωπίζει ως απόθεμα με οδηγίες χειρισμού.
Τα βάρη μοντέλου είναι εισαγόμενα εξαρτήματα
Τα βάρη μοντέλου συχνά συζητούνται σαν να ήταν ένα ενιαίο αγορασμένο αντικείμενο. Στην πράξη, συμπεριφέρονται περισσότερο σαν εισαγόμενο εξάρτημα με άγνωστη εσωτερική δομή. Ένα βασικό μοντέλο φτάνει με ιστορικό εκπαίδευσης, αρχιτεκτονικές επιλογές, συμπεριφορά σε σημεία αναφοράς, άδειες χρήσης, ρύθμιση ασφάλειας, γνωστές αδυναμίες και άγνωστες αδυναμίες. Τα επίπεδα προσαρμογής, η λεπτομερής ρύθμιση, η κβάντιση και τα περιτυλίγματα ανάπτυξης αλλάζουν στη συνέχεια τον τρόπο που συμπεριφέρεται αυτό το εξάρτημα στο τοπικό σύστημα.
Αυτό δεν καθιστά τα μοντέλα αναξιόπιστα εξ ορισμού. Σημαίνει ότι πρέπει να αντιμετωπίζονται ως σοβαρά εξαρτήματα. Τα δοκιμάζετε για τη δική σας περίπτωση χρήσης. Καταγράφετε τις εκδόσεις. Κατανοείτε τους περιορισμούς αδειοδότησης. Μετράτε τη συμπεριφορά μετά την κβάντιση. Ελέγχετε αν η ρύθμιση ασφαλείας συγκρούεται με τις απαιτήσεις του τομέα. Κρατάτε διαθέσιμες τις προηγούμενες εκδόσεις για σύγκριση. Δεν αλλάζετε τον κινητήρα σε ένα δημόσιο λεωφορείο επειδή ένα σημείο αναφοράς σε πίστα αγώνων φάνηκε εντυπωσιακό.
Το μοντέλο δεν είναι επίσης ολόκληρη η απάντηση. Αυτό είναι σημαντικό επειδή οι συζητήσεις περί προμηθειών και διακυβέρνησης μπορούν να γίνουν εμμονικές με τα μοντέλα. Οι άνθρωποι ρωτούν ποιο μοντέλο είναι καλύτερο, σαν η απάντηση να πρόκειται να καθορίσει την αρχιτεκτονική. Ένα ασθενέστερο μοντέλο με καθαρές πηγές, αυστηρά δικαιώματα, σαφή ανάκτηση, καλές αποδείξεις και γνωστούς τρόπους αποτυχίας μπορεί να είναι λειτουργικά ισχυρότερο από ένα πιο ικανό μοντέλο που τροφοδοτείται από ένα βάλτο. Η ικανότητα χωρίς πειθαρχία στην εφοδιαστική αλυσίδα είναι απλώς ταχύτητα με καλύτερη τυπογραφία.
Η διαχείριση της εφοδιαστικής αλυσίδας διαχωρίζει επομένως την απόδοση των εξαρτημάτων από την ευθύνη του συστήματος. Ένας προμηθευτής μοντέλων μπορεί να παρέχει ένα ικανό σύστημα, αλλά ο οργανισμός παραμένει υπεύθυνος για το πώς αυτό το σύστημα προέρχεται, διαμορφώνεται, συνδέεται, παρακολουθείται και εξηγείται. Η ανάθεση ενός εξαρτήματος σε εξωτερικό προμηθευτή δεν αναθέτει και το καθήκον να κατανοήσει κανείς τη διαδρομή από την ερώτηση στην απάντηση. Αυτή η διαδρομή είναι όπου ζουν πολλές αποτυχίες, φορώντας μια ταυτότητα που γράφει «ενσωμάτωση».
Το συμπέρασμα είναι επιμελητεία υπό πίεση
Το συμπέρασμα μοιάζει με υπολογισμό, και είναι, αλλά λειτουργικά συμπεριφέρεται σαν επιμελητεία. Η εργασία φτάνει απρόβλεπτα. Κάποιες ερωτήσεις είναι μικρά δέματα. Άλλες είναι εμπορευματοκιβώτια γεμάτα πλαίσιο. Τα αιτήματα χρειάζονται δρομολόγηση στο σωστό μοντέλο, πρόσβαση στις σωστές πηγές, επαρκή χωρητικότητα, αποδεκτό λανθάνοντα χρόνο, ελέγχους πολιτικής, όρια κόστους και ανάκαμψη όταν μια εξάρτηση είναι αργή. Ο χρήστης δεν ενδιαφέρεται ότι η ουρά ήταν κομψή. Ο χρήστης ενδιαφέρεται ότι η απάντηση έφτασε πριν τελειώσει η συνάντηση.
Αυτή η πίεση είναι ο λόγος που εμφανίζονται συντομεύσεις. Οι ομάδες αποθηκεύουν προσωρινά τα αποτελέσματα. Μειώνουν τα κατώφλια ανάκτησης. Δρομολογούν ακριβά αιτήματα σε φθηνότερα μοντέλα. Περικόπτουν το πλαίσιο. Ομαδοποιούν. Υποβαθμίζονται με χάρη, ή με λιγότερη χάρη, ανάλογα με την εβδομάδα. Αυτές οι επιλογές δεν είναι λάθος. Είναι λειτουργίες. Αλλά οι λειτουργίες χρειάζονται αποδείξεις επειδή κάθε συντόμευση αλλάζει την εφοδιαστική αλυσίδα. Μια προσωρινά αποθηκευμένη απάντηση μπορεί να χρησιμοποιεί τη χθεσινή πολιτική. Ένα εφεδρικό μοντέλο μπορεί να είναι ασθενέστερο σε μια εξειδικευμένη εργασία. Ένα περικομμένο πλαίσιο μπορεί να παραλείψει τη ρήτρα που είχε σημασία. Ένα όριο κόστους μπορεί να μετατρέψει μια ακριβή απάντηση σε κάτι που ακούγεται ακριβές από σεβαστή απόσταση.
Οι επιλογές υποδομής διαμορφώνουν επίσης τη θεσμική ισχύ. Αν τα ευρετήρια ζουν μακριά από τα δεδομένα, κάθε ερώτημα γίνεται μετακίνηση. Αν τα κλειδιά ζουν έξω από τον τοπικό έλεγχο, κάθε ευαίσθητη ανάκτηση εξαρτάται από μια απομακρυσμένη υπόσχεση. Αν τα αρχεία καταγραφής είναι συγκεντρωτικά χωρίς πλαίσιο πηγής, ο έλεγχος γίνεται αρχαιολογία. Αν μια ενιαία διαχειριζόμενη υπηρεσία κατέχει τη δρομολόγηση, την πολιτική και τα αποδεικτικά στοιχεία, ο οργανισμός μπορεί να ανακαλύψει ότι η ικανότητά του στην τεχνητή νοημοσύνη είναι στην πραγματικότητα μια συμφωνία μίσθωσης με μια γραμμή προόδου.
Η απάντηση δεν είναι να φέρεις τα πάντα σε ένα υπόγειο και να το ονομάσεις στρατηγική. Η απάντηση είναι να τοποθετήσεις τα εξαρτήματα σκόπιμα. Κάποια εργασία ανήκει κοντά στα δεδομένα. Κάποια εργασία ανήκει κοντά στους χρήστες. Κάποια εργασία ανήκει εκεί όπου είναι διαθέσιμο εξειδικευμένο υλικό. Κάποια αποδεικτικά στοιχεία πρέπει να είναι ανεξάρτητα από τη διαδρομή εξυπηρέτησης. Το ερώτημα της επιμελητείας δεν είναι πού κάθεται το πιο εντυπωσιακό μηχάνημα. Είναι πώς συμπεριφέρεται η αλυσίδα όταν η ζήτηση αυξάνεται, ένας προμηθευτής αλλάζει, μια πηγή διορθώνεται ή ένας χρήστης ζητά αποδείξεις.
Οι αποδείξεις είναι η αποβάθρα παραλαβής
Σε μια φυσική εφοδιαστική αλυσίδα, η αποβάθρα παραλαβής έχει σημασία επειδή εκεί οι ισχυρισμοί συναντούν την πραγματικότητα. Το δελτίο παράδοσης λέει ότι έφτασαν δώδεκα κιβώτια. Η αποβάθρα μετράει έντεκα. Η διαφορά δεν είναι φιλοσοφική. Κάποιος θα κάνει ένα τηλεφώνημα. Η τεχνητή νοημοσύνη χρειάζεται την ίδια συνήθεια. Όταν παραδίδεται μια απάντηση, το σύστημα θα πρέπει να διατηρεί αρκετές αποδείξεις ώστε να συγκρίνεται αυτό που ισχυρίστηκε με αυτό που συνέβη.
Οι αποδείξεις δεν σημαίνουν καταγραφή κάθε προσωπικής λεπτομέρειας για πάντα. Αυτό θα ήταν τεμπέλικη διακυβέρνηση με λογαριασμό αποθήκευσης. Σημαίνει να κρατάς τη σωστή απόδειξη στη σωστή λεπτομέρεια: έκδοση μοντέλου, έκδοση προτύπου προτροπής, αναγνωριστικά πηγών, βαθμολογίες ανάκτησης, αποφάσεις πολιτικής, κλήσεις εργαλείων, αποκρύψεις, χρονοσφραγίδες και κατακερματισμούς εξόδου όπου είναι χρήσιμο. Το ευαίσθητο περιεχόμενο μπορεί να χρειάζεται κατακερματισμό, διαχωρισμό ή περιορισμένη διατήρηση ανάλογα με τον σκοπό. Το ζητούμενο δεν είναι η επιτήρηση. Το ζητούμενο είναι η δυνατότητα ανακατασκευής.
Η δυνατότητα ανακατασκευής είναι η διαφορά μεταξύ εντοπισμού σφαλμάτων και αφήγησης ιστοριών. Χωρίς αποδείξεις, μια ομάδα εξηγεί ένα περιστατικό συνεντεύξεις με ανθρώπους και αναζητώντας σε πίνακες ελέγχου μέχρι η ιστορία να ακούγεται αρκετά πιστευτή για να μπει σε μια διαφάνεια. Με αποδείξεις, η ομάδα μπορεί να αναπαράγει την αλυσίδα, να βρει το αλλαγμένο στοιχείο, να μετρήσει τον αντίκτυπο και να αποφασίσει αν χρειάζεται ανάκληση. Οι ανακλήσεις ακούγονται δραματικές, αλλά είναι φυσιολογικό σημάδι ωριμότητας. Αν ένα ευρετήριο χτίστηκε από λάθος πηγή, μπορεί να χρειαστεί να εντοπίσετε τις επηρεαζόμενες απαντήσεις. Αν μια πύλη πολιτικής απέτυχε, μπορεί να χρειαστεί να ειδοποιήσετε τους χρήστες. Αν μια έκδοση μοντέλου συμπεριφέρθηκε άσχημα, μπορεί να χρειαστεί να επανεκτελέσετε αποφάσεις. Το να προσποιείσαι ότι τα αποτελέσματα της τεχνητής νοημοσύνης εξατμίζονται μετά τη χρήση είναι βολικό μόνο για εκείνον που δεν θα απαντήσει στο παράπονο.
Η αποβάθρα παραλαβής βοηθά επίσης στη βελτίωση. Αν οι χρήστες αμφισβητούν συχνά απαντήσεις με βάση την ίδια ελλιπή πηγή, η αλυσίδα πηγών χρειάζεται δουλειά. Αν η ανάκτηση επιλέγει επανειλημμένα παλιό υλικό, οι κανόνες φρεσκάδας χρειάζονται δουλειά. Αν το μοντέλο αγνοεί μια οδηγία πολιτικής υπό ορισμένη διατύπωση, η αξιολόγηση χρειάζεται δουλειά. Οι αποδείξεις δεν είναι απλώς ασπίδα για ελέγχους. Είναι το σύστημα ανατροφοδότησης που εμποδίζει την αλυσίδα να γίνει φήμη με υπολογιστική ισχύ.
Όταν αλλάζει ένας κρίκος
Οι εφοδιαστικές αλυσίδες αποτυγχάνουν με ενδιαφέροντες τρόπους επειδή οι κρίκοι αλληλεπιδρούν. Το ίδιο ισχύει και για την τεχνητή νοημοσύνη. Μια αναβάθμιση μοντέλου μπορεί να κάνει τις αδυναμίες ανάκτησης πιο ορατές επειδή το νέο μοντέλο γράφει με μεγαλύτερη σιγουριά. Ένα νέο μοντέλο ενσωμάτωσης μπορεί να αλλάξει ποια έγγραφα βρίσκονται, ακόμα κι αν τα έγγραφα πηγής δεν άλλαξαν. Μια ενημέρωση πολιτικής μπορεί να μπλοκάρει μια κλήση εργαλείου και να κάνει το μοντέλο να αυτοσχεδιάσει. Ένα όριο κόστους μπορεί να αλλάξει τη δρομολόγηση και να κάνει τις σπάνιες ερωτήσεις λιγότερο αξιόπιστες. Μια διόρθωση πηγής μπορεί να ισχύσει στη βάση δεδομένων αλλά όχι στο ευρετήριο, δημιουργώντας δύο αλήθειες, που είναι μία περισσότερη από όσες μπορούν να αντέξουν οι περισσότεροι οργανισμοί.
Γι' αυτό η διαχείριση αλλαγών για την τεχνητή νοημοσύνη δεν μπορεί να περιορίζεται στις αναπτύξεις εφαρμογών. Πρέπει να περιλαμβάνει ανανεώσεις δεδομένων, κατασκευές ευρετηρίων, αλλαγές προτροπών, αντικαταστάσεις μοντέλων, αλλαγές δικαιωμάτων εργαλείων και εκδόσεις πολιτικών. Κάθε αλλαγή θα πρέπει να έχει πεδίο εφαρμογής, σύνολο δοκιμών, διαδρομή επαναφοράς και σχέδιο τεκμηρίωσης. Το σύνολο δοκιμών θα πρέπει να περιλαμβάνει συνήθεις περιπτώσεις, οριακές περιπτώσεις, αντιθετική διατύπωση, ελέγχους παρωχημένων πηγών, ελέγχους ελέγχου πρόσβασης και τις μικρές βαρετές περιπτώσεις που αντιπροσωπεύουν το μεγαλύτερο μέρος της πραγματικής χρήσης. Η παραγωγή έχει μια σκληρή αδυναμία για τις βαρετές περιπτώσεις.
Η ανάλυση επιπτώσεων έχει σημασία. Αν αλλάξει μια πηγή, ποια ευρετήρια εξαρτώνται από αυτήν. Αν αλλάξει ένα ευρετήριο, ποιες ροές εργασίας εξαρτώνται από αυτό. Αν αλλάξει ένα μοντέλο, ποιες πολιτικές και αξιολογήσεις πρέπει να εκτελεστούν ξανά. Αν αλλάξει ένα εργαλείο, ποια διαπιστευτήρια και αρχεία καταγραφής επηρεάζονται. Αυτό το γράφημα εξαρτήσεων είναι το μέρος της υποδομής τεχνητής νοημοσύνης που σπάνια εμφανίζεται στις διαφάνειες των βασικών ομιλιών. Εντάξει. Ας έχει ο βασικός ομιλητής τον φωτισμό του. Το γράφημα εξαρτήσεων βγάζει τον οργανισμό μέχρι την Πέμπτη.
Οι ομάδες χρειάζονται επίσης γλώσσα για τη μερική εμπιστοσύνη. Ένα στοιχείο μπορεί να εγκριθεί για μία εργασία και όχι για άλλη. Ένα μοντέλο μπορεί να είναι αποδεκτό για τη σύνοψη δημόσιων πρακτικών και απαράδεκτο για τη σύνταξη αποφάσεων παροχών. Μια πηγή μπορεί να είναι χρήσιμη για αναζήτηση αλλά όχι για αυτοματοποιημένες συστάσεις. Μια αλυσίδα ανάκτησης μπορεί να είναι αρκετά καλή για ανθρώπινη βοήθεια και όχι αρκετά καλή για αυτόνομη δράση. Η σκέψη της εφοδιαστικής αλυσίδας καθιστά αυτές τις διακρίσεις φυσιολογικές, αντί να αναγκάζει κάθε στοιχείο σε ένα θέατρο αξιόπιστου ή μη αξιόπιστου.
Οι προμήθειες πρέπει να ωριμάσουν
Η αγορά τεχνητής νοημοσύνης ως λειτουργία κρύβει την εφοδιαστική αλυσίδα. Η αγορά τεχνητής νοημοσύνης ως δυνατότητα υποδομής την αποκαλύπτει. Αυτή η αποκάλυψη μπορεί αρχικά να φαίνεται πιο αργή, επειδή εμφανίζονται σοβαρά ερωτήματα. Πού βρίσκονται τα δικαιώματα των πηγών. Πώς ανακατασκευάζονται τα ευρετήρια. Μπορούν να εξαχθούν τα αρχεία καταγραφής. Μπορούν να ελεγχθούν οι αποφάσεις πολιτικής. Τι συμβαίνει όταν ο προμηθευτής αλλάξει ένα μοντέλο. Μπορούμε να καθηλώσουμε εκδόσεις. Μπορούμε να δοκιμάσουμε πριν από την κυκλοφορία. Ποιος κατέχει τα παράγωγα δεδομένα. Πώς διαγράφουμε. Πώς ανακαλούμε. Πώς αποχωρούμε. Τα τμήματα προμηθειών μπορεί να αναστενάξουν σε αυτό το σημείο, κάτι που είναι δίκαιο. Ο αναστεναγμός είναι παραδοσιακό μέρος της ενηλικίωσης.
Αυτά τα ερωτήματα δεν είναι κατά της καινοτομίας. Είναι ο τρόπος με τον οποίο η καινοτομία επιβιώνει από την επαφή με την υπευθυνότητα. Ένας οργανισμός που δεν μπορεί να τα απαντήσει μπορεί ακόμα να εκτελέσει ένα πιλοτικό πρόγραμμα. Μπορεί ακόμη και να κερδίσει ένα μικρό εσωτερικό βραβείο με μια φωτογραφία ανθρώπων που δείχνουν μια οθόνη. Αλλά όταν το πιλοτικό πρόγραμμα γίνεται υπηρεσία, η εφοδιαστική αλυσίδα γίνεται πραγματική. Οι χρήστες βασίζονται σε αυτήν. Το κόστος κλιμακώνεται. Τα λάθη έχουν σημασία. Ζητείται τεκμηρίωση. Οι προμηθευτές αλλάζουν όρους. Το σύστημα χρειάζεται λειτουργίες, όχι ατμόσφαιρα σε ένα κορδόνι λαιμού.
Οι καλές προμήθειες, λοιπόν, ζητούν επιχειρησιακά δικαιώματα, όχι μόνο ισχυρισμούς προϊόντος. Η καθήλωση εκδόσεων, τα εξαγώγιμα αρχεία καταγραφής, η γενεαλογία σε επίπεδο πηγής, η υποστήριξη διαγραφής, η ειδοποίηση αλλαγής μοντέλου, οι σύνδεσμοι αξιολόγησης, οι επιλογές τοπικών κλειδιών, η διαφάνεια εναλλακτικής λύσης και οι μορφές εξόδου θα πρέπει να γίνουν συνήθεις απαιτήσεις. Ο οργανισμός δεν χρειάζεται να ελέγχει άμεσα κάθε στοιχείο. Χρειάζεται αρκετή επιρροή για να επιθεωρεί, να αντικαθιστά, να διακόπτει και να εξηγεί την αλυσίδα.
Υπάρχει μια πολιτισμική αλλαγή εδώ. Οι ομάδες τεχνητής νοημοσύνης πρέπει να σταματήσουν να αντιμετωπίζουν τη διακυβέρνηση ως γραφειοκρατία μετά το ενδιαφέρον μέρος. Η διακυβέρνηση είναι μέρος του μηχανισμού. Οι νομικές ομάδες πρέπει να σταματήσουν να αντιμετωπίζουν την τεχνική γενεαλογία ως ένα εξωτικό χόμπι. Είναι εκεί που οι υποχρεώσεις γίνονται ελέγξιμες. Οι αγοραστές πρέπει να σταματήσουν να αντιμετωπίζουν τις επιδείξεις ως αποδεικτικά στοιχεία. Οι επιδείξεις είναι θέατρο με σύνδεση. Τα αποδεικτικά στοιχεία είναι ό,τι απομένει αφού το χειροκρότημα βρει το ασανσέρ.
Το μάθημα
Κάθε απάντηση τεχνητής νοημοσύνης έχει μια αλυσίδα εφοδιασμού. Η αλυσίδα μπορεί να είναι σύντομη ή μακριά, τοπική ή κατανεμημένη, ανοιχτή ή ιδιόκτητη, τεκμηριωμένη ή υποθετική. Αλλά υπάρχει. Μια πρόταση στην οθόνη είναι η τελική συναρμολόγηση πηγών, δεικτών, μοντέλων, πολιτικών, υποδομών, ανθρώπων και τεκμηρίων. Το να τη θεωρείτε μαγεία είναι επιλογή διαχείρισης. Το να τη θεωρείτε αλυσίδα εφοδιασμού είναι επιχειρησιακή επιλογή.
Ο πρακτικός στόχος δεν είναι να γίνει κάθε απάντηση βαριά από γραφειοκρατία. Είναι να γίνουν οι σημαντικές απαντήσεις αρκετά ιχνηλάσιμες ώστε να επιθεωρούνται και να αλλάζουν. Ονομάστε στοιχεία. Καταγράψτε εκδόσεις. Ελέγξτε τις υποκαταστάσεις. Τοποθετήστε την εργασία σκόπιμα. Κρατήστε αποδείξεις. Δοκιμάστε τη διαδρομή, όχι μόνο το μοντέλο. Διατηρήστε την ικανότητα ανάκλησης εξόδων όταν ένας σύνδεσμος αποτυγχάνει. Κρατήστε αρκετή θεσμική γνώση για να κάνετε καλύτερες ερωτήσεις από το αν το demo φάνηκε έξυπνο.
Η τεχνητή νοημοσύνη θα γίνεται όλο και πιο άνετη στη γλώσσα. Αυτό είναι χρήσιμο. Σημαίνει επίσης ότι η ορατή έξοδος θα γίνει ακόμη χειρότερος οδηγός για την ποιότητα της αλυσίδας πίσω της. Οι οργανισμοί που μάθουν να διαχειρίζονται αυτή την αλυσίδα θα είναι πιο ήρεμοι όταν τα συστήματα αλλάζουν, οι προμηθευτές μετακινούνται, οι νόμοι γίνονται αυστηρότεροι, το κόστος αυξάνεται ή οι χρήστες ζητούν αποδείξεις. Η απάντηση μπορεί να φτάσει σε ένα δευτερόλεπτο. Η εμπιστοσύνη πίσω της χτίζεται πολύ νωρίτερα, ένας άχαρος σύνδεσμος τη φορά.