Οι λύτες είναι ο αθόρυβος μηχανισμός πίσω από τη χρήσιμη τεχνητή νοημοσύνη.
Η απάντηση που χρειαζόταν ένα χρονοδιάγραμμα
Το πρώτο εντυπωσιακό στοιχείο ήταν η απάντηση. Ένας πελάτης ρώτησε αν μια παράδοση μπορούσε να φτάσει πριν το μεσημέρι, όταν μια αποθήκη είχε έλλειψη προσωπικού, δύο οχήματα ήταν ήδη δεσμευμένα και ένας προμηθευτής είχε στείλει μια καθυστερημένη ενημέρωση με τη σιγουριά κάποιου που δεν θα οδηγούσε το φορτηγό. Ο βοηθός παρήγαγε μια περιεκτική παράγραφο: ναι, είναι δυνατόν, με αναθεωρημένη διαδρομή, αλλαγμένη σειρά φόρτωσης και μια σημείωση ότι ένα υποσχεμένο χρονικό περιθώριο έπρεπε να μετακινηθεί κατά είκοσι λεπτά.
Η παράγραφος έμοιαζε με τη στιγμή της τεχνητής νοημοσύνης. Δεν ήταν. Η ουσιαστική δουλειά έγινε από κάτω, όπου ένα πρόβλημα προγραμματισμού είχε μετατραπεί σε μεταβλητές, περιορισμούς, ποινές και μια αναζήτηση. Οι οδηγοί είχαν όρια ωρών εργασίας. Τα εμπορεύματα είχαν όρια θερμοκρασίας. Τα οχήματα είχαν όρια χωρητικότητας. Οι πελάτες είχαν χρονικά παράθυρα. Οι αποθήκες είχαν περιορισμούς αποβάθρας. Το σύστημα μπορούσε να γράψει μια πρόταση μόνο αφού κάτι πιο αυστηρό είχε βρει μια εφικτή μορφή. Χωρίς αυτόν τον μηχανισμό, ο βοηθός θα ήταν ένας σίγουρος υπάλληλος που κρατάει ένα ημερολόγιο ανάποδα.
Αυτό είναι το κομμάτι της τεχνητής νοημοσύνης που παραμένει περίεργα σιωπηλό στον δημόσιο διάλογο. Μιλάμε για μοντέλα επειδή τα μοντέλα είναι ορατά. Γράφουν, ταξινομούν, κατατάσσουν, συνοψίζουν, σχεδιάζουν, ανιχνεύουν και προτείνουν. Αλλά πολλά χρήσιμα συστήματα τεχνητής νοημοσύνης γίνονται χρήσιμα μόνο όταν υπάρχει κοντά ένας επιλυτής. Ο επιλυτής παίρνει την ασαφή επιθυμία και ρωτά τι μπορεί να ισχύει πραγματικά ταυτόχρονα. Αναζητά ανάμεσα σε πιθανότητες, απορρίπτει αδύνατους συνδυασμούς, βελτιστοποιεί αντισταθμίσεις και μερικές φορές αποδεικνύει ότι δεν υπάρχει απάντηση υπό τις δεδομένες συνθήκες.
Αυτή η τελευταία πρόταση είναι σημαντική. Η ικανότητα να λες ότι δεν υπάρχει εφικτή απάντηση δεν είναι ελάττωμα. Συχνά είναι η διαφορά μεταξύ βοήθειας και ανοησίας. Ένα σύστημα που μπορεί να παράγει μόνο μια εύλογη απάντηση θα γίνει τελικά ακριβό θέατρο. Ένα σύστημα που μπορεί να λύσει, να αποτύχει, να εξηγήσει την αποτυχία του και να δείξει ποιος περιορισμός εμπόδισε το αποτέλεσμα είναι πιο κοντά στη μηχανική. Λιγότερο εντυπωσιακό, πιο πιθανό να επιβιώσει την Πέμπτη.
Η γλώσσα δεν είναι το ίδιο με την εφικτότητα
Τα γλωσσικά μοντέλα είναι πολύ καλά στο να παράγουν ένα αντικείμενο που μοιάζει με απάντηση. Αυτό δεν είναι προσβολή. Είναι μια τεράστια ικανότητα. Μπορούν να κατανοήσουν ένα αίτημα, να βρουν σχετικό πλαίσιο, να δημιουργήσουν ένα προσχέδιο, να προσαρμόσουν τον τόνο, να μεταφράσουν ορολογία και να βοηθήσουν τους ανθρώπους να περιηγηθούν στις πληροφορίες πιο γρήγορα. Αλλά η ευχέρεια δεν καθιστά μια απάντηση εφικτή. Μπορεί να περιγράψει ένα πρόγραμμα που παραβιάζει την εργατική νομοθεσία. Μπορεί να προτείνει ένα πλάνο θεραπείας που συγκρούεται με μια αντένδειξη. Μπορεί να συνοψίσει ένα συμβόλαιο παραλείποντας τη ρήτρα που εμποδίζει την ενέργεια. Η πρόταση μπορεί να είναι άρτια ενώ ο κόσμος αρνείται να συνεργαστεί.
Οι λύτες νοιάζονται για τη συνεργασία με τον κόσμο. Δουλεύουν με ρητή δομή: δυαδικές μεταβλητές, γραμμικούς περιορισμούς, ακμές γραφημάτων, χρονικά παράθυρα, όρια πόρων, κανόνες τύπων, συμμετοχή σε σύνολα, πιθανοτικά όρια ή λογικούς τύπους. Η μορφή ποικίλλει, αλλά η συνήθεια είναι ίδια. Δήλωσε τις συνθήκες. Εξερεύνησε τον χώρο. Απόρριψε ό,τι παραβιάζει τις συνθήκες. Βελτίωσε ό,τι απομένει. Επέστρεψε ένα αποτέλεσμα με αρκετά στοιχεία ώστε ένα άλλο μέρος του συστήματος να μπορεί να το εμπιστευτεί για τον σωστό σκοπό.
Γι' αυτό η κλασική τεχνητή νοημοσύνη δεν έφυγε ποτέ πραγματικά. Έγινε υποδομή. Η αναζήτηση, ο σχεδιασμός, η ικανοποιησιμότητα, ο προγραμματισμός περιορισμών, η απόδειξη θεωρημάτων, ο ακέραιος προγραμματισμός, ο δυναμικός προγραμματισμός, οι αλγόριθμοι γραφημάτων, η επαλήθευση και η θεωρία ελέγχου δεν εξαφανίστηκαν όταν τα νευρωνικά δίκτυα έγιναν εντυπωσιακά. Συνέχισαν να κάνουν τη δουλειά που χρειάζεται ρητή δομή. Η σύγχρονη μηχανική τεχνητής νοημοσύνης δεν είναι διαγωνισμός ανάμεσα σε ευέλικτα μοντέλα και αυστηρούς λύτες. Είναι το ερώτημα πώς να συνεργαστούν χωρίς να ζητάμε από το ένα να υποδυθεί το άλλο.
Ένα μοντέλο μπορεί να μετατρέψει ένα ανθρώπινο αίτημα σε δομημένο πρόβλημα. Ένας λύτης μπορεί να αποφασίσει αν η δομή έχει έγκυρη λύση. Ένα μοντέλο μπορεί να εξηγήσει το αποτέλεσμα στην ανθρώπινη γλώσσα. Ένας επαληθευτής μπορεί να ελέγξει την απόδειξη. Ένα σύστημα παρακολούθησης μπορεί να ελέγχει αν οι υποθέσεις εξακολουθούν να ισχύουν. Το χρήσιμο σύστημα είναι ο συνδυασμός, όχι το πιο θορυβώδες στοιχείο της επίδειξης.
Οι περιορισμοί είναι εκεί που η πρόθεση γίνεται ειλικρινής
Κάθε σοβαρή εργασία περιέχει περιορισμούς, ακόμα κι όταν κανείς δεν τους έχει καταγράψει. Μια ιατρική ροή εργασίας έχει περιορισμούς ασφάλειας, περιορισμούς εμβέλειας, περιορισμούς συναίνεσης, περιορισμούς ιδιωτικότητας και περιορισμούς προσωπικού. Μια ροή εργασίας εφοδιαστικής έχει περιορισμούς χωρητικότητας, χρόνου, τοποθεσίας, καυσίμων, συντήρησης και συμβάσεων. Μια ροή εργασίας δημόσιων αποφάσεων έχει περιορισμούς νόμου, αποδεικτικών στοιχείων, προσφυγών, δικαιοσύνης και τεκμηρίωσης. Μια χρηματοοικονομική ροή εργασίας έχει περιορισμούς κινδύνου, ρευστότητας, συμμόρφωσης και χρονισμού. Οι άνθρωποι διαχειρίζονται πολλούς από αυτούς από συνήθεια. Το λογισμικό χρειάζεται να τους κάνει αρκετά ρητούς για να λειτουργήσει.
Η πράξη της καταγραφής περιορισμών είναι άβολη επειδή αποκαλύπτει τι πραγματικά εννοεί ο οργανισμός. Θέλουμε τη γρηγορότερη διαδρομή ή τη γρηγορότερη διαδρομή που σέβεται τους χρόνους ανάπαυσης. Θέλουμε το φθηνότερο πλάνο ή το φθηνότερο πλάνο που διατηρεί μια εναλλακτική λύση. Θέλουμε τη μεγαλύτερη μετατροπή ή τη μεγαλύτερη μετατροπή χωρίς να παραπλανάμε τους ανθρώπους. Θέλουμε ένα μοντέλο να απαντά ή θέλουμε να αρνείται όταν το αρχείο είναι ελλιπές. Ένας περιορισμός είναι μια μικρή ηθική συνέντευξη μεταμφιεσμένη σε μηχανική.
Οι καλοί περιορισμοί δεν κάνουν τα συστήματα άκαμπτα με την κακή έννοια. Κάνουν την ευελιξία ασφαλή. Μόλις ένας λύτης γνωρίζει τα σκληρά όρια, μπορεί να αναζητήσει επιθετικά μέσα σε αυτά. Μπορεί να βρει συνδυασμούς που ένας άνθρωπος θα έχανε. Μπορεί να προσαρμοστεί σε διαταραχές. Μπορεί να ανταλλάξει κόστος με χρόνο ή ποιότητα με ενέργεια διατηρώντας τα μη διαπραγματεύσιμα. Χωρίς περιορισμούς, η ευελιξία γίνεται αυτοσχεδιασμός με έναν πίνακα ελέγχου.
Υπάρχει τέχνη σε αυτό. Κάποιοι περιορισμοί είναι σκληροί και δεν πρέπει ποτέ να παραβιάζονται. Κάποιοι είναι μαλακοί και γίνονται ποινές. Κάποιοι είναι αβέβαιοι και χρειάζονται περιθώρια ασφαλείας. Κάποιοι είναι νομικοί. Κάποιοι είναι φυσικοί. Κάποιοι είναι ηθικοί. Κάποιοι είναι απλώς προτιμήσεις που φορούν ένα σοβαρό κοστούμι. Αν η ομάδα μηχανικών τα ανακατέψει όλα μαζί, ο λύτης μπορεί να βελτιστοποιήσει το λάθος πράγμα με εντυπωσιακή πειθαρχία. Οι υπολογιστές δεν είναι πεισματάρηδες επειδή είναι κακόβουλοι. Είναι πεισματάρηδες επειδή ρωτήσαμε άσχημα.
Οι αντικειμενικές συναρτήσεις δεν είναι αξίες
Η αντικειμενική συνάρτηση είναι το μέρος που λέει τι σημαίνει καλύτερο ανάμεσα στις εφικτές απαντήσεις. Ελαχιστοποίησε τον χρόνο ταξιδιού. Μεγιστοποίησε την κάλυψη. Μείωσε την ενέργεια. Εξισορρόπησε το φορτίο. Βελτίωσε την ανάκληση. Μείωσε το κόστος. Κράτα τις ουρές ομοιόμορφες. Αυτοί είναι χρήσιμοι στόχοι. Δεν είναι αξίες από μόνοι τους. Οι αξίες βρίσκονται στην επιλογή περιορισμών, ποινών, ορίων, διαδρομών αναθεώρησης και στην απόφαση για το πότε η βελτιστοποίηση δεν πρέπει να τρέχει καθόλου.
Ένα από τα παλαιότερα λάθη στις λειτουργίες τεχνητής νοημοσύνης είναι να δίνεις στον επιλυτή έναν στενό στόχο και μετά να απορείς όταν τον ακολουθεί μέχρι να χτυπήσει σε τοίχο. Αν ένα νοσοκομείο βελτιστοποιεί τη χρήση των ραντεβού χωρίς αρκετούς περιορισμούς στη μετακίνηση των ασθενών, στην κλινική επείγουσα ανάγκη και στην ανάρρωση του προσωπικού, μπορεί να δημιουργήσει ένα άψογο πρόγραμμα που κάνει τα πράγματα χειρότερα για όλους. Αν μια ροή εξυπηρέτησης πελατών βελτιστοποιεί το ποσοστό διεκπεραίωσης, μπορεί να μάθει να κλείνει γρήγορα τα λάθος αιτήματα. Αν ένα μοντέλο ανίχνευσης απάτης βελτιστοποιεί μόνο την ακρίβεια, μπορεί να αγνοεί περιπτώσεις όπου η ζημιά κατανέμεται άνισα. Ο επιλυτής κάνει τη δουλειά του. Η ερώτηση δεν ήταν αρκετά ειλικρινής.
Η χρήσιμη τεχνητή νοημοσύνη αντιμετωπίζει λοιπόν τους στόχους ως μέρος της διακυβέρνησης. Ποιος επέλεξε τον στόχο. Ποιες εναλλακτικές εξετάστηκαν. Ποιες ομάδες επηρεάζονται. Ποιοι περιορισμοί είναι αμετάκλητοι. Ποιες αντισταθμίσεις είναι ορατές. Ποια αποτελέσματα απαιτούν ανθρώπινη κρίση. Ποιες μετρήσεις θα αποκάλυπταν τη ζημιά. Αυτό ακούγεται διοικητικό, αλλά είναι και τεχνικό. Οι στόχοι είναι κώδικας από τη στιγμή που αναπτύσσονται. Αξίζουν κάτι παραπάνω από μια παρακινητική φράση.
Οι επιλυτές βοηθούν ακριβώς επειδή μπορούν να φέρουν στην επιφάνεια τις αντισταθμίσεις. Μπορούν να δείξουν ότι δεν υπάρχει πρόγραμμα χωρίς υπερωρίες, ότι το κόστος μειώνεται μόνο αν εξαφανιστεί το εναλλακτικό σχέδιο, ότι ένας υψηλότερος στόχος ανάκλησης αυξάνει τον φόρτο ελέγχου ή ότι μια πολιτική δημιουργεί αδύνατους συνδυασμούς. Ένα ευφραδές μοντέλο μπορεί να εξομαλύνει αυτή την ενόχληση. Ένας καλός επιλυτής κάνει την ενόχληση ευανάγνωστη.
Καμία απάντηση είναι μερικές φορές η καλύτερη απάντηση
Τα χρήσιμα συστήματα χρειάζονται έναν αξιοπρεπή τρόπο να αποτυγχάνουν. Η διαδρομή δεν μπορεί να ολοκληρωθεί. Τα στοιχεία δεν επαρκούν. Οι κανόνες πολιτικής συγκρούονται μεταξύ τους. Το ζητούμενο πρόγραμμα παραβιάζει τη χωρητικότητα. Η βελτιστοποίηση θα υπερέβαινε το όριο κινδύνου. Οι περιορισμοί δεν μπορούν να ικανοποιηθούν ταυτόχρονα. Αυτά δεν είναι ντροπιαστικά αποτελέσματα. Είναι πολύτιμη πληροφορία, αρκεί το σύστημα να μπορεί να εξηγήσει τι εμπόδισε την απάντηση και τι θα χρειαζόταν να αλλάξει.
Μια διεπαφή που βασίζεται μόνο στη γλώσσα έχει τον πειρασμό να συνεχίζει να μιλάει. Μπορεί να προσφέρει εναλλακτικές, να μαλακώνει την αβεβαιότητα ή να παράγει μια βέλτιστη προσπάθεια που δείχνει χρήσιμη. Μερικές φορές αυτό είναι εντάξει. Μερικές φορές είναι επικίνδυνο. Ένας επιλυτής μπορεί να αγκυρώσει τη συνομιλία διαχωρίζοντας το εφικτό από το ανέφικτο, το άγνωστο και το εκτός πεδίου. Μπορεί να πει στη διεπαφή να σταματήσει να καλλωπίζει μια μη απάντηση. Αυτοί είναι καλοί τρόποι απέναντι στην πραγματικότητα.
Σε τεχνικούς όρους, η διάκριση έχει σημασία επειδή κάθε κατάσταση απαιτεί διαφορετική ροή εργασίας. Το «εφικτό» μπορεί να προχωρήσει. Το «ανέφικτο» μπορεί να πυροδοτήσει διαπραγμάτευση ή κλιμάκωση. Το «άγνωστο» μπορεί να οδηγήσει σε περισσότερα δεδομένα, μεγαλύτερη αναζήτηση ή ανθρώπινη εξέταση. Το «εκτός πεδίου» μπορεί να ενεργοποιήσει άρνηση. Αν όλα γίνουν μια παράγραφος, οι λειτουργίες χάνουν τις καταστάσεις που χρειάζονται για να δράσουν. Η διεπαφή γίνεται πιο ομαλή ενώ ο οργανισμός γίνεται πιο τυφλός.
Η ικανότητα εξήγησης της αποτυχίας είναι ιδιαίτερα χρήσιμη. Ποιος περιορισμός μπλόκαρε το σχέδιο. Ποιο πεδίο που έλειπε εμπόδισε την αξιολόγηση. Ποιος κανόνας συγκρούεται με ποιον άλλο κανόνα. Ποιος πόρος θα χρειαζόταν αύξηση. Ποια υπόθεση άλλαξε. Αυτού του είδους η εξήγηση είναι λιγότερο ποιητική από ένα παραγόμενο σκεπτικό, αλλά πολύ πιο αξιοποιήσιμη. Λέει στους ανθρώπους τι μπορεί να αλλάξει και τι δεν θα έπρεπε να αλλάξει απλώς επειδή η σύσκεψη θέλει ένα «ναι».
Τα τεκμήρια μετατρέπουν έναν επιλυτή σε λειτουργικό εξάρτημα
Ένα αποτέλεσμα επιλυτή γίνεται πιο πολύτιμο όταν φέρει τεκμήρια. Για ορισμένους τομείς, αυτά τα τεκμήρια είναι ένα πιστοποιητικό απόδειξης. Για άλλους, είναι ένα ίχνος βελτιστοποίησης, ένα σύνολο δεσμευτικών περιορισμών, μια αναφορά εφικτότητας, μια ανάλυση ευαισθησίας ή ένα αρχείο εκτέλεσης που μπορεί να αναπαραχθεί. Το κοινό χαρακτηριστικό είναι ότι το αποτέλεσμα μπορεί να ελεγχθεί αργότερα χωρίς να ζητηθεί από όλους να εμπιστευτούν το ίδιο μηχάνημα στην ίδια διάθεση.
Εδώ οι επιλυτές συναντούν τη διακυβέρνηση. Ένα σύστημα αποφάσεων δεν θα έπρεπε να λέει απλώς ότι ένα σχέδιο είναι βέλτιστο ή εφικτό. Θα έπρεπε να διατηρεί τα δεδομένα εισόδου, τις εκδόσεις, τους περιορισμούς, τον στόχο, τη διαμόρφωση του επιλυτή, τα κριτήρια τερματισμού, το επιλεγμένο αποτέλεσμα, τις απορριφθείσες εναλλακτικές όπου έχουν σημασία και την ανθρώπινη ενέργεια που ακολούθησε. Αν ένας πελάτης, ασθενής, ρυθμιστής, χειριστής ή μελλοντικός μηχανικός ρωτήσει γιατί, ο οργανισμός δεν θα έπρεπε να ανακατασκευάσει την απόφαση από τρεις πίνακες ελέγχου και τη μνήμη ενός συναδέλφου.
Τα τεκμήρια βοηθούν επίσης στον εντοπισμό σφαλμάτων. Αν ένα σχέδιο είναι κακό, ήταν λάθος ο στόχος, ελλιπείς οι περιορισμοί, παρωχημένα τα δεδομένα, εσφαλμένη η διαμόρφωση του επιλυτή, ελαττωματική η μετάφραση του μοντέλου ή αδύνατο το ανθρώπινο αίτημα. Χωρίς αρχεία, κάθε αποτυχία γίνεται λαϊκή παράδοση. Με αρχεία, η ομάδα μπορεί να διορθώσει το σωστό επίπεδο. Αυτό είναι λιγότερο συναρπαστικό από το να κατηγορεί κανείς γενικά την τεχνητή νοημοσύνη, αλλά έχει καλύτερο ποσοστό επιδιόρθωσης.
Ο επιλυτής θα έπρεπε επομένως να αντιμετωπίζεται ως λειτουργικό εξάρτημα πρώτης κατηγορίας. Χρειάζεται παρατηρησιμότητα, δοκιμές, έλεγχο εκδόσεων, προϋπολογισμούς απόδοσης, συμπεριφορά εναλλακτικής λύσης και διαδρομές αναθεώρησης. Χρειάζεται επικύρωση εισόδου. Χρειάζεται χρονικά όρια. Χρειάζεται έναν τρόπο να επιστρέφει ειλικρινά μερικά αποτελέσματα. Χρειάζεται παρακολούθηση για περιπτώσεις όπου τα προβλήματα παραγωγής αποκλίνουν από τη σουίτα σημείων αναφοράς. Ένας επιλυτής κρυμμένος πίσω από μια ευχάριστη διεπαφή εξακολουθεί να είναι υποδομή. Η υποδομή απολαμβάνει να αγνοείται μέχρι να αποκτήσει αρκετή μόχλευση.
Τα μοντέλα και οι επιλυτές χρειάζονται διαφορετική ταπεινότητα
Ένα μοντέλο θα πρέπει να είναι ταπεινό ως προς την αλήθεια. Μπορεί να είναι λάθος, ελλιπές, υπερβολικά σίγουρο, ανεπαρκώς προσδιορισμένο ή εκτός της κατανομής εκπαίδευσής του. Ένας επιλυτής θα πρέπει να είναι ταπεινός ως προς τη διατύπωση. Μπορεί να λύσει τέλεια το δηλωμένο πρόβλημα, ενώ το δηλωμένο πρόβλημα είναι μια φτωχή περιγραφή του πραγματικού. Αυτοί είναι διαφορετικοί τρόποι αποτυχίας και η χρήσιμη τεχνητή νοημοσύνη σέβεται και τους δύο.
Το μοντέλο μπορεί να παρεξηγήσει το αίτημα. Ο επιλυτής μπορεί να βελτιστοποιήσει τον λάθος στόχο. Τα δεδομένα μπορεί να είναι παρωχημένα. Οι περιορισμοί μπορεί να παραλείπουν τον κοινωνικό κανόνα που όλοι θεωρούσαν προφανή. Ο στόχος μπορεί να κωδικοποιεί ένα υποκατάστατο που αρέσει στη διοίκηση περισσότερο από όσο στους χρήστες. Το αποτέλεσμα μπορεί να είναι μαθηματικά σωστό και λειτουργικά απαράδεκτο. Ένα ώριμο σύστημα δεν προσποιείται ότι ένα στοιχείο μπορεί να απορροφήσει όλους αυτούς τους κινδύνους. Κρατά τα όρια ορατά.
Γι' αυτό η μετάφραση μεταξύ γλώσσας και δομής αξίζει έλεγχο. Αν ένα μοντέλο μετατρέπει το αίτημα ενός διευθυντή σε πρόβλημα επιλυτή, η μετάφραση θα πρέπει να μπορεί να επιθεωρηθεί. Ποιες μεταβλητές δημιουργήθηκαν. Ποιοι περιορισμοί συνήχθησαν. Ποιοι περιορισμοί έλειπαν. Ποιος στόχος επιλέχθηκε. Ποια ασάφεια επιλύθηκε σιωπηλά. Ένα κρυφό επίπεδο μετάφρασης είναι απλώς άλλο ένα μαύρο κουτί με καλύτερη γραμματική.
Οι άνθρωποι ειδικοί εξακολουθούν να έχουν σημασία εδώ, αλλά όχι ως διακοσμητικοί εγκριτές. Ξέρουν ποιοι περιορισμοί είναι πραγματικοί, ποιοι κανόνες λυγίζουν, ποιες εξαιρέσεις είναι επικίνδυνες και ποιοι στόχοι δημιουργούν διεστραμμένα κίνητρα. Ένα καλό σύστημα που υποστηρίζεται από επιλυτή δίνει στους ειδικούς μόχλευση. Δεν τους ζητά να ευλογήσουν μια απάντηση αφού η μηχανή έχει ήδη κάνει τις σημαντικές επιλογές αόρατες.
Η παλιά μηχανή δεν είναι παλιομοδίτικη
Υπάρχει μια συνήθεια στην τεχνολογία να αντιμετωπίζονται οι παλαιότερες μέθοδοι ως παρωχημένες μόλις μια νεότερη μέθοδος γίνει της μόδας. Αυτό είναι παιδιάστικο, αλλά με ωραιότερες γραμματοσειρές. Οι επιλυτές SAT, οι επιλυτές SMT, ο ακέραιος προγραμματισμός μεικτής ακέραιας μεταβλητής, ο προγραμματισμός περιορισμών, τα συστήματα σχεδιασμού, η αναζήτηση σε γράφους, η απόδειξη θεωρημάτων και οι μέθοδοι ελέγχου παραμένουν κεντρικά επειδή πολλά προβλήματα εξακολουθούν να έχουν δομή. Η δομή μπορεί να είναι κρυμμένη κάτω από μια διεπαφή συνομιλίας, αλλά δεν έχει εξαφανιστεί.
Στην πραγματικότητα, η σύγχρονη τεχνητή νοημοσύνη καθιστά τους επιλυτές πιο σημαντικούς. Όταν τα μοντέλα παράγουν περισσότερες υποψήφιες ενέργειες, κάποιος πρέπει να τις ελέγξει. Όταν οι πράκτορες καλούν εργαλεία, κάποιος πρέπει να αποφασίσει ποιες ακολουθίες επιτρέπονται. Όταν η ανάκτηση παράγει πηγές, κάποιος πρέπει να επιλύσει τις συγκρούσεις. Όταν οι αυτοματοποιημένες ροές εργασίας αγγίζουν πολιτική, κάποιος πρέπει να επιβάλει περιορισμούς. Όταν τα συνθετικά σχέδια φαίνονται εύλογα, κάποιος πρέπει να αναρωτηθεί αν ικανοποιούν τον πραγματικό κόσμο. Οι επιλυτές δεν είναι νοσταλγία. Είναι το επίπεδο εποπτείας ενηλίκων για συστήματα που μπορούν πλέον να προτείνουν πολλά πράγματα γρήγορα.
Το ζητούμενο δεν είναι να αντικατασταθούν τα νευρωνικά μοντέλα με συμβολική μηχανή. Το ζητούμενο είναι η σύνθεση. Αφήστε τα μοντέλα να χειρίζονται την ασάφεια, τη γλώσσα, την αντίληψη και το χαοτικό πλαίσιο. Αφήστε τους επιλυτές να χειρίζονται τη ρητή εφικτότητα, τη βελτιστοποίηση, την απόδειξη και την περιορισμένη αναζήτηση. Αφήστε τους κανόνες να μεταφέρουν την πολιτική εκεί όπου η πολιτική πρέπει να είναι σαφής. Αφήστε τους ανθρώπους να κατέχουν τον σκοπό, την κρίση και τις εξαιρέσεις. Το όριο θα ποικίλλει ανά τομέα, αλλά η αρχή είναι σταθερή: μην ζητάτε από άπταιστη μηχανή να κάνει αυστηρή δουλειά χωρίς αυστηρό συνεργάτη.
Οι ομάδες που το κατανοούν αυτό χτίζουν πιο ήσυχα συστήματα. Το ντέμο μπορεί να φαίνεται λιγότερο μαγικό επειδή η απάντηση μερικές φορές λέει αδύνατο. Οι λειτουργίες θα είναι καλύτερες επειδή το αδύνατο είναι ακριβώς αυτό που η ομάδα χρειαζόταν να μάθει πριν υποσχεθεί παράδοση το μεσημέρι, αυτόματη έγκριση ή βαθμολογία κινδύνου που κάποιος θα αντιμετωπίσει ως μοίρα.
Καθυστέρηση, κόστος και η καθημερινή φύση της επίλυσης
Οι επιλυτές κάνουν επίσης την τεχνητή νοημοσύνη πρακτική στις μικρές λεπτομέρειες. Ένας επιλυτής που χρειάζεται τέσσερις ώρες μπορεί να είναι εξαιρετικός για στρατηγικό σχεδιασμό και άχρηστος για μια ζωντανή οθόνη αποστολής. Μια ευρετική μέθοδος που επιστρέφει μια αρκετά καλή διαδρομή σε δύο δευτερόλεπτα μπορεί να νικήσει έναν ακριβή επιλυτή στις λειτουργίες. Ένας επιλυτής που παράγει αποδείξεις μπορεί να είναι απαραίτητος για αποφάσεις υψηλού ρίσκου και περιττός για παραγγελίες μεσημεριανού, ακόμη και σε οργανισμούς που παίρνουν τα σάντουιτς πολύ στα σοβαρά.
Η μηχανική είναι γεμάτη από τέτοιες επιλογές. Η ακρίβεια, η ταχύτητα, η χρήση μνήμης, η επεξηγησιμότητα, η ενέργεια και η πολυπλοκότητα υλοποίησης έρχονται σε σύγκρουση μεταξύ τους. Ο σωστός επιλυτής για έναν μαζικό έλεγχο μπορεί να μην είναι ο σωστός επιλυτής για δρομολόγηση σε πραγματικό χρόνο. Μια μέθοδος τοπικής αναζήτησης μπορεί να αρκεί όταν το κόστος μιας μη βέλτιστης απάντησης είναι μικρό. Μια πλήρης μέθοδος μπορεί να είναι απαραίτητη όταν η άρνηση έχει συνέπειες για δικαιώματα ή για την ασφάλεια. Η χρήσιμη τεχνητή νοημοσύνη δεν χτίζεται λατρεύοντας μία μόνο τεχνική. Χτίζεται αντιστοιχίζοντας την τεχνική με τις συνέπειες.
Εδώ είναι που τα σημεία αναφοράς χρειάζονται ειλικρίνεια. Ένα σημείο αναφοράς για επιλυτές θα πρέπει να αντικατοπτρίζει την πραγματική κατανομή προβλημάτων, όχι μόνο προσεγμένα παραδείγματα. Θα πρέπει να περιλαμβάνει μη εφικτές περιπτώσεις, βρώμικα δεδομένα εισόδου, χρονικά όρια, ακραίους περιορισμούς και μεταβαλλόμενα δεδομένα. Θα πρέπει να αναφέρει όχι μόνο τη μέση ταχύτητα αλλά και τους τρόπους αποτυχίας. Ένα σύστημα που είναι γρήγορο σε φιλικές περιπτώσεις και σιωπηλό σε δύσκολες δεν έχει αξιολογηθεί με σημείο αναφοράς. Έχει κολακευτεί.
Το κόστος επίσης έχει σημασία. Ένας επιλυτής μπορεί να μειώσει την υπολογιστική ισχύ που απαιτείται, περιορίζοντας την αναζήτηση πριν ζητηθεί από ένα μεγάλο μοντέλο να συλλογιστεί. Μπορεί να αποφύγει την επαναλαμβανόμενη εξαγωγή συμπερασμάτων αποθηκεύοντας σε κρυφή μνήμη δομημένα αποτελέσματα. Μπορεί να επιλέξει πότε αρκεί ένα μικρό μοντέλο και πότε δικαιολογείται ένα μεγαλύτερο. Ο αθόρυβος μηχανισμός πίσω από τη χρήσιμη τεχνητή νοημοσύνη είναι συχνά και ο μηχανισμός πίσω από την προσιτή τεχνητή νοημοσύνη. Τα οικονομικά τμήματα σπάνια χειροκροτούν, αλλά προσέχουν τους λογαριασμούς.
Ο βρόχος μετά την ανάπτυξη
Ένα σύστημα τεχνητής νοημοσύνης που υποστηρίζεται από επιλυτή δεν έχει ολοκληρωθεί όταν επιστρέφει την πρώτη σωστή απάντηση. Η πραγματική δουλειά αλλάζει. Εμφανίζονται νέοι περιορισμοί. Παλιοί περιορισμοί παύουν να ισχύουν. Οι άνθρωποι προσαρμόζονται στο σύστημα. Οι σωληνώσεις δεδομένων αποκλίνουν. Οι πολιτικές αλλάζουν ονόματα επειδή κάποιος ανακάλυψε ένα πρότυπο. Ο επιλυτής εξακολουθεί να επιλύει, αλλά η διατύπωση του προβλήματος μπορεί να έχει λήξει αθόρυβα.
Οι λειτουργικοί βρόχοι κρατούν το σύστημα ειλικρινές. Παρακολουθήστε τα ποσοστά μη εφικτών λύσεων, τα ποσοστά χρονικών ορίων, τους λόγους παράκαμψης, τους δεσμευτικούς περιορισμούς, τις βαθμολογίες αντικειμενικής συνάρτησης, τη φρεσκάδα των δεδομένων, τα τμήματα των επηρεαζόμενων χρηστών και τις περιπτώσεις όπου οι άνθρωποι απορρίπτουν το αποτέλεσμα. Εξετάστε αν οι περιορισμοί παραμένουν πλήρεις. Επανεξετάστε τους στόχους όταν αλλάζουν τα κίνητρα. Δοκιμάστε αν η μετατροπή από μοντέλο σε επιλυτή εξακολουθεί να αποτυπώνει το αίτημα. Συγκρίνετε τις προβλεπόμενες αντισταθμίσεις με τα πραγματικά αποτελέσματα. Ένας επιλυτής μπορεί να είναι μαθηματικά σοβαρός και λειτουργικά ξεπερασμένος. Και τα δύο μπορεί να ισχύουν, επειδή η πραγματικότητα έχει εύρος.
Ο βρόχος θα πρέπει επίσης να διατηρεί τη γνώση που προκύπτει από την άρνηση. Όταν το σύστημα λέει ότι δεν υπάρχει εφικτό χρονοδιάγραμμα, τι συνέβη μετά. Πρόσθεσαν οι άνθρωποι χωρητικότητα, άλλαξαν πολιτική, χαλάρωσαν μια προτίμηση, ανακάλυψαν κακά δεδομένα ή πίεσαν κάποιον να αγνοήσει τον περιορισμό. Αυτά τα αποτελέσματα δείχνουν αν το σύστημα εκφράζει την πραγματικότητα ή απλώς μπλοκάρει τη δουλειά. Μια άρνηση χωρίς επανεξέταση γίνεται εμπόδιο. Μια άρνηση με αποδεικτικά στοιχεία γίνεται πληροφορία για τη διοίκηση.
Όπως σε κάθε σοβαρό σύστημα, η ιδιοκτησία έχει σημασία. Κάποιος πρέπει να είναι υπεύθυνος για τη διατύπωση, κάποιος για τα δεδομένα, κάποιος για την απόδοση του επιλυτή, κάποιος για τη διεπαφή και κάποιος για τη λειτουργική πολιτική. Αν όλοι είναι ιδιοκτήτες της χρήσιμης τεχνητής νοημοσύνης γενικά, κανείς δεν είναι ιδιοκτήτης του περιορισμού που απέτυχε την Τρίτη. Η Τρίτη είναι εκεί όπου τα συστήματα γίνονται ειλικρινή.
Το ήσυχο συμπέρασμα
Η δημοφιλής εικόνα της τεχνητής νοημοσύνης είναι ένα μοντέλο που μιλάει. Η χρήσιμη εικόνα είναι συχνά ένα σύστημα που αποφασίζει τι μπορεί να ισχύει, τι προτιμάται, τι είναι αδύνατο και ποια στοιχεία πρέπει να συνοδεύουν την απάντηση. Οι επιλυτές είναι μέρος αυτής της εικόνας. Δεν είναι εντυπωσιακοί, αλλά είναι εξαιρετικά καλοί στο να κάνουν τα συστήματα λιγότερο ασαφή.
Αναγκάζουν τις ομάδες να κατονομάσουν περιορισμούς, στόχους, αντισταθμίσεις και καταστάσεις αποτυχίας. Δίνουν στα γλωσσικά μοντέλα έναν αυστηρότερο συνεργάτη. Επιτρέπουν στα συστήματα να αρνούνται με αιτιολογία αντί να αυτοσχεδιάζουν με σιγουριά. Αποκαλύπτουν πότε το επιθυμητό αποτέλεσμα δεν μπορεί να συνυπάρξει με τους δηλωμένους κανόνες. Δημιουργούν αρχεία που μπορούν να επιθεωρήσουν οι μελλοντικοί άνθρωποι. Αυτό δεν είναι το σύνολο της χρήσιμης τεχνητής νοημοσύνης, αλλά είναι ένα από τα μέρη που είναι πιο πιθανό να αποτρέψουν τη χρήσιμη τεχνητή νοημοσύνη από το να γίνει τεχνητή νοημοσύνη που μοιάζει χρήσιμη.
Η παράδοση πριν το μεσημέρι μπορεί ακόμα να αποτύχει. Ένα περιστατικό στην κυκλοφορία μπορεί να χαλάσει ένα καλό σχέδιο. Μια προβλήτα μπορεί να κλείσει. Ένας πελάτης μπορεί να αλλάξει την παραγγελία. Αλλά ένα σύστημα που υποστηρίζεται από επιλυτή αποτυγχάνει διαφορετικά. Μπορεί να πει ποια υπόθεση έσπασε, ποιος περιορισμός έγινε δεσμευτικός και ποιες επιλογές παραμένουν. Αυτό είναι το είδος αποτυχίας με το οποίο μπορεί να δουλέψει μια επιχείρηση.
Ο ήσυχος μηχανισμός αξίζει περισσότερη προσοχή ακριβώς επειδή είναι ήσυχος. Δεν γράφει πάντα τη φράση στην οθόνη. Αποφασίζει αν η φράση θα έπρεπε να υπάρχει καθόλου.