Το επιχείρημα για μικρότερα, αυστηρότερα μοντέλα
Το μοντέλο που ήξερε πάρα πολλά
Το πρώτο προειδοποιητικό σημάδι δεν ήταν κάποια κατάρρευση. Οι καταρρεύσεις τουλάχιστον είναι ειλικρινείς. Το προειδοποιητικό σημάδι ήταν μια όμορφη απάντηση σε λάθος ερώτηση. Μια ομάδα είχε φτιάξει έναν εσωτερικό βοηθό για την τεχνική υποστήριξη. Μπορούσε να διαβάζει εγχειρίδια προϊόντων, ιστορικό αιτημάτων, σημειώσεις εκδόσεων και ένα μικρό πακέτο πολιτικής που εξηγούσε τι επιτρεπόταν να υπόσχονται οι εκπρόσωποι στους πελάτες. Το μοντέλο ήταν μεγάλο, άνετο στη γλώσσα και αρκετά σίγουρο για να κάνει μια αίθουσα συσκέψεων να φαίνεται προσωρινά μοντέρνα.
Κατά τη διάρκεια της δοκιμαστικής περιόδου απαντούσε καλά σε γενικές ερωτήσεις. Σύνοψε μακρά αιτήματα. Μετέτρεπε τον θυμωμένο λόγο των πελατών σε κάτι χρησιμοποιήσιμο. Έβρισκε κρυφές σχέσεις ανάμεσα σε συμπτώματα και προηγούμενες διορθώσεις. Έπειτα έφτασε μια συνηθισμένη ερώτηση εγγύησης. Η σωστή απάντηση εξαρτιόταν από τρία στενά δεδομένα: την περιοχή του προϊόντος, το κανάλι αγοράς και την έκδοση υλικολογισμικού. Το μοντέλο βρήκε μια εύλογη παράγραφο πολιτικής, αγνόησε μια ήσυχη εξαίρεση στις σημειώσεις εκδόσεων και έγραψε μια απάντηση που ακουγόταν σαν να είχε σιδερώσει κανείς την αλήθεια μέχρι να δείχνει αξιοσέβαστη. Κανείς δεν είχε ζητήσει ποίηση. Χρειάζονταν μια οριοθετημένη απόφαση.
Η διόρθωση δεν ήταν να γίνει το μοντέλο μεγαλύτερο. Η διόρθωση ήταν να γίνει μέρος του συστήματος μικρότερο και αυστηρότερο. Ένας μικροσκοπικός ταξινομητής καθόριζε τη διαδρομή εγγύησης. Ένας περιορισμένος εξαγωγέας δεδομένων συνέλεγε τα τρία απαιτούμενα δεδομένα. Ένας έλεγχος κανόνων απέρριπτε την υπόθεση αν έλειπε οποιοδήποτε δεδομένο. Το μεγάλο μοντέλο εξακολουθούσε να βοηθά στη σύνταξη του τελικού αναγνώσιμου σημειώματος, αλλά δεν είχε πλέον την κυριότητα της απόφασης. Το αποτέλεσμα ήταν λιγότερο εντυπωσιακό και πολύ καλύτερο. Αυτό είναι ένα συνηθισμένο μοτίβο. Το ευρύ μοντέλο εντυπωσιάζει μέχρι τη στιγμή που η δουλειά απαιτεί ένα στοιχείο που μπορεί να πει ακριβώς τι είδε, ακριβώς τι αποφάσισε και ακριβώς πότε αρνείται να συνεχίσει.
Η υπόθεση υπέρ των μικρότερων, αυστηρότερων μοντέλων ξεκινά εκεί. Όχι με νοσταλγία για παλιό λογισμικό και όχι με ηθική αντίρρηση στην κλίμακα. Τα μεγάλα μοντέλα είναι χρήσιμα. Μπορούν να καλύψουν ακατάστατη γλώσσα, να μεταφράσουν προθέσεις, να συνοψίσουν στοιχεία και να δώσουν στους ανθρώπους μια ταχύτερη πρόσβαση σε πολύπλοκο υλικό. Αλλά το μέγεθος αγοράζει εύρος. Δεν αγοράζει αυτόματα έλεγχο. Τα σοβαρά συστήματα χρειάζονται στοιχεία που μπορούν να οριοθετηθούν, να αξιολογηθούν, να αναπτυχθούν, να παρακολουθηθούν και να αντικατασταθούν χωρίς να μετατρέπεται κάθε περιστατικό σε φιλοσοφικό σεμινάριο με αρχεία καταγραφής.
Η αυστηρότητα είναι χαρακτηριστικό, όχι διάθεση
Η αυστηρότητα ακούγεται εχθρική επειδή οι άνθρωποι τη συγχέουν με την ανοησία. Ένα αυστηρό στοιχείο δεν είναι αυτό που καταλαβαίνει λιγότερα χωρίς λόγο. Είναι αυτό που επιτρέπεται να κάνει λιγότερα πράγματα επίτηδες. Μπορεί να δέχεται μόνο ένα γνωστό σχήμα. Μπορεί να εξάγει μόνο ένα σταθερό σύνολο ετικετών. Μπορεί να διαβάζει μόνο ένα ονομασμένο πακέτο αποδεικτικών στοιχείων. Μπορεί να μην καλεί κανένα εργαλείο. Μπορεί να αναγκάζεται να επιστρέψει ανεπαρκή αποδεικτικά στοιχεία αντί να αυτοσχεδιάζει. Αυτά τα όρια δεν είναι τιμωρία. Είναι αυτά που καθιστούν το στοιχείο χρησιμοποιήσιμο σε ένα σύστημα όπου άλλα μέρη εξαρτώνται από αυτό.
Η μηχανική λογισμικού έμαθε αυτό το μάθημα πολύ πριν η τεχνητή νοημοσύνη γίνει κατηγορία προμηθειών. Οι τύποι είναι αυστηροί. Οι περιορισμοί βάσεων δεδομένων είναι αυστηροί. Τα πεπερασμένα αυτόματα είναι αυστηρά. Ο έλεγχος πρόσβασης είναι αυστηρός. Ένα σύστημα πληρωμών δεν ζητά από ένα μοντέλο να εκφράσει τα συναισθήματά του για τα υπόλοιπα λογαριασμών. Αναπαριστά το χρήμα με ακριβείς μονάδες, ελέγχει την εξουσιοδότηση, καταγράφει την κατάσταση και αρνείται μη έγκυρες μεταβάσεις. Η αυστηρότητα είναι ο λόγος για τον οποίο το σύστημα μπορεί να ελεγχθεί και να επισκευαστεί. Μπορεί να μην σας αρέσει το μήνυμα σφάλματος, αλλά συνήθως μπορείτε να βρείτε τη γραμμή που το προκάλεσε. Αυτό δεν είναι μικρό δώρο.
Τα στοιχεία τεχνητής νοημοσύνης χρειάζονται την ίδια πειθαρχία επειδή βρίσκονται μέσα σε ροές εργασίας που έχουν συνέπειες. Ένας ταξινομητής που επιλέγει μεταξύ επιστροφής χρημάτων, αντικατάστασης, κλιμάκωσης και απόρριψης δεν θα πρέπει να εφευρίσκει μια πέμπτη κατάσταση που ονομάζεται ίσως αργότερα με ειλικρινή λύπη. Ένας εξαγωγέας που διαβάζει ένα συμβόλαιο δεν θα πρέπει να τοποθετεί μια ασαφή ημερομηνία σε ένα πεδίο προθεσμίας επειδή το κείμενο ακουγόταν σαν προθεσμία. Ένα μοντέλο ανάκτησης δεν θα πρέπει να διασχίζει σιωπηλά ένα όριο εξουσιοδότησης επειδή το κοντινό έγγραφο φαινόταν χρήσιμο. Η αυστηρότητα δίνει στο υπόλοιπο σύστημα κάτι στέρεο να κρατηθεί.
Η χρήσιμη ερώτηση δεν είναι αν ένα μοντέλο είναι έξυπνο αφηρημένα. Η χρήσιμη ερώτηση είναι αν το μοντέλο έχει το σωστό συμβόλαιο για τη δουλειά. Ποια δεδομένα εισόδου μπορεί να δει. Ποιες εξόδους μπορεί να παράγει. Ποια αβεβαιότητα πρέπει να αποκαλύπτεται. Ποιες περιπτώσεις πρέπει να απορρίπτονται. Ποια αποδεικτικά στοιχεία πρέπει να συνοδεύουν το αποτέλεσμα. Ποιες μετρήσεις αποδεικνύουν ότι λειτουργεί. Ένα μικρότερο μοντέλο με σαφές συμβόλαιο συχνά νικά ένα μεγαλύτερο μοντέλο με ηρωικό προτροπή επειδή το συμβόλαιο επιβιώνει από την επαφή με τις λειτουργίες.
Το μέγεθος αγοράζει εύρος, και το εύρος έχει κόστος
Τα μεγάλα μοντέλα εκπαιδεύονται για να είναι γενικά. Αυτή είναι η δύναμή τους. Μπορούν να κινούνται μεταξύ τομέων, να χειρίζονται ασυνήθιστη διατύπωση, να συνάγουν συμφραζόμενα και να παράγουν άνετες απαντήσεις ακόμη και όταν η είσοδος είναι ανομοιόμορφη. Γι' αυτό φαίνονται μαγικά στην εξερεύνηση. Ένα άτομο μπορεί να ρωτήσει χαλαρά και να λάβει κάτι συνεκτικό. Η συνεκτικότητα είναι χρήσιμη. Είναι επίσης επικίνδυνη όταν η ροή εργασίας χρειάζεται μια στενή δέσμευση.
Το εύρος έχει κόστος. Ένα ευρύ μοντέλο έχει περισσότερους τρόπους να είναι χρήσιμα λάθος. Μπορεί να εισάγει συμφραζόμενα από το λάθος μέρος μιας συνομιλίας. Μπορεί να εξομαλύνει τα ελλιπή αποδεικτικά στοιχεία. Μπορεί να απαντήσει από προηγούμενη γνώση όταν το σύστημα ήθελε απόδειξη βασισμένη σε ανάκτηση. Μπορεί να ακολουθήσει ένα μοτίβο που φαίνεται κοινό αντί για την εξαίρεση που ισχύει. Μπορεί να δημιουργήσει μια εύλογη γέφυρα σε ένα κενό που θα έπρεπε να είχε σταματήσει τη διαδικασία. Η έξοδος μπορεί να ακούγεται καλύτερη ακριβώς επειδή το μοντέλο είναι καλό στη γλώσσα. Αυτό είναι βολικό για επιδείξεις και άβολο για τη λογοδοσία.
Τα μικρότερα μοντέλα μειώνουν μέρος αυτού του κόστους περιορίζοντας τον χώρο της πιθανής συμπεριφοράς. Ένας ταξινομητής τομέα με δώδεκα ετικέτες μπορεί ακόμη να αποτύχει, αλλά η αποτυχία του είναι ευανάγνωστη. Ένας περιορισμένος εξαγωγέας μπορεί ακόμη να χάσει ένα πεδίο, αλλά το πεδίο που λείπει μπορεί να μετρηθεί. Ένα μικρό μοντέλο κατάταξης μπορεί ακόμη να προτιμά ξεπερασμένα αποδεικτικά στοιχεία, αλλά η προτίμηση μπορεί να ελεγχθεί έναντι ενός γνωστού σώματος κειμένων. Αυτές είναι μηχανικές αποτυχίες, κάτι που είναι εξαιρετικά νέα. Οι μηχανικές αποτυχίες μπορούν να μετρηθούν, να προϋπολογιστούν και να διορθωθούν. Οι μυστικιστικές αποτυχίες απαιτούν περισσότερες συναντήσεις.
Υπάρχει επίσης ένα γνωσιακό κόστος για τις ομάδες. Ένα ενιαίο ευρύ μοντέλο καθιστά την ιδιοκτησία ασαφή. Ποιος κατέχει τη συλλογιστική για τις εγγυήσεις, τη διατύπωση της συμμόρφωσης, την επιλογή πηγών, τον τόνο, την άρνηση και την κλιμάκωση, αν όλα αυτά ζουν σε ένα prompt και σε ένα endpoint. Όταν κάτι αλλάζει, ποια σουίτα δοκιμών πρέπει να τρέξει. Όταν ένας χρήστης αμφισβητεί ένα αποτέλεσμα, ποιο στοιχείο φταίει. Το μοντέλο γίνεται μια εξαιρετικά ταλαντούχα ντουλάπα όπου έχει τοποθετηθεί κάθε θεσμική απόφαση. Κάποια στιγμή κάποιος ανοίγει την πόρτα και πέφτει έξω ένας φάκελος πολιτικής.
Τα μικρότερα μοντέλα κάνουν την αποτυχία ορατή
Η ορατότητα έχει σημασία γιατί κάθε σύστημα παραγωγής είναι τελικά ένα σύστημα για να ανακαλύπτεις τι πήγε στραβά. Ένα μεγάλο μοντέλο μπορεί να αποτύχει με τρόπους που είναι δύσκολο να διαχωριστούν. Ήταν το prompt διφορούμενο. Ήταν η ανάκτηση παρωχημένη. Υπεργενίκευσε το μοντέλο. Ήταν η οδηγία πολιτικής πολύ χαμηλά στο context. Ενθάρρυνε η ρύθμιση αποκωδικοποίησης την ποικιλία εκεί που είχε σημασία η συνέπεια. Έφτασε αργά κάποιο αποτέλεσμα εργαλείου. Ξαναέγραψε την απάντηση κάποιο προστατευτικό κιγκλίδωμα. Κάθε πιθανότητα μπορεί να είναι πραγματική. Η ανασκόπηση του συμβάντος γίνεται μια αστυνομική ιστορία με κωδικό προϋπολογισμού.
Τα μικρότερα στοιχεία παράγουν μικρότερα ερωτήματα. Αν ο εξαγωγέας έχασε το κανάλι αγοράς, επιθεώρησε τον εξαγωγέα. Αν ο ταξινομητής επέλεξε επιστροφή χρημάτων αντί για κλιμάκωση, εξέτασε το επισημασμένο σύνολο και το κατώφλι. Αν ο επαληθευτής δεν κατάφερε να πιάσει έναν ατεκμηρίωτο ισχυρισμό, πρόσθεσε το μοτίβο του ισχυρισμού και τον κανόνα πηγής στην αξιολόγηση του επαληθευτή. Αυτό δεν κάνει τη δουλειά ασήμαντη. Την κάνει τοπική. Το τοπικό είναι καλό. Το τοπικό σημαίνει ότι η ακτίνα έκρηξης μπορεί να περιοριστεί και η διόρθωση μπορεί να δοκιμαστεί χωρίς να διαταραχθεί ολόκληρος ο καθεδρικός.
Τα αυστηρά αποτελέσματα δημιουργούν επίσης καλύτερη τηλεμετρία. Ένα μοντέλο που επιστρέφει μία από δώδεκα καταστάσεις μπορεί να παρακολουθηθεί με την πάροδο του χρόνου. Ένα μοντέλο που επιστρέφει δομημένα πεδία μπορεί να αναφέρει ελλείψεις, διαφωνίες, ζώνες εμπιστοσύνης και μετατόπιση. Ένα μοντέλο που αρνείται μπορεί να σου πει γιατί. Μια απάντηση σε πεζό κείμενο μπορεί να περιέχει όλα αυτά, αλλά τότε κάθε καταναλωτής κατάντη πρέπει να αναλύσει μια πρόταση γραμμένη από μια μηχανή που επιβραβεύτηκε για το ότι ακουγόταν φυσική. Έτσι ένα σύστημα παρακολούθησης γίνεται μια λέσχη ανάγνωσης.
Η ορατότητα της αποτυχίας αλλάζει την κουλτούρα. Οι ομάδες σταματούν να διαφωνούν για το αν το AI είναι καλό και αρχίζουν να ρωτούν ποιο στοιχείο απέτυχε υπό ποια συνθήκη. Αυτό είναι ένα πιο υγιές επιχείρημα. Μπορεί να οδηγήσει σε μια νέα φέτα δεδομένων, ένα καλύτερο κατώφλι, ένα μικρότερο σύνολο αποδεικτικών στοιχείων, ένα αυστηρότερο σχήμα ή μια κατάσταση ανθρώπινης αναθεώρησης. Μετατρέπει το άγχος σε συντήρηση. Η συντήρηση είναι λιγότερο γοητευτική από την υπαρξιακή συζήτηση, αλλά συνήθως παραδίδεται πριν από το μεσημεριανό.
Η διεπαφή είναι το μισό μοντέλο
Όταν οι άνθρωποι συγκρίνουν μοντέλα, συχνά συγκρίνουν βάρη, παραμέτρους, σημεία αναφοράς και πίνακες κατάταξης. Αυτά έχουν σημασία, αλλά η διεπαφή έχει εξίσου μεγάλη σημασία στην παραγωγή. Η διεπαφή καθορίζει τι είδους υποσχέσεις μπορεί να δώσει το μοντέλο. Μια διεπαφή ελεύθερου κειμένου προσκαλεί συμπεριφορά ανοιχτού τύπου. Μια δομημένη διεπαφή ζητά ένα ελεγχόμενο αποτέλεσμα. Ένας αποκωδικοποιητής με περιορισμούς γραμματικής, ένα σχήμα εργαλείων, ένα αντικείμενο εξόδου με τύπους ή ένα σταθερό σύνολο ετικετών μπορεί να αλλάξει τον επιχειρησιακό χαρακτήρα της ίδιας υποκείμενης νοημοσύνης.
Σκεφτείτε ένα μοντέλο που διαβάζει τιμολόγια. Αν επιστρέφει μια παράγραφο που εξηγεί το τιμολόγιο, η ομάδα πρέπει ακόμα να εξάγει τον προμηθευτή, τον ΑΦΜ, τα σύνολα ανά γραμμή, το νόμισμα, την ημερομηνία λήξης και τον βαθμό εμπιστοσύνης. Αν επιστρέφει ένα αντικείμενο με τύπους και υποχρεωτικά πεδία, η επικύρωση μπορεί να γίνει αμέσως. Αν λείπει η ημερομηνία λήξης, το αντικείμενο μπορεί να δηλώσει ότι λείπει. Αν τα σύνολα δεν βγαίνουν, ένας ελεγκτής μπορεί να αρνηθεί την εισαγωγή. Το μοντέλο μπορεί να είναι λιγότερο ομιλητικό, αλλά το λογιστήριο δεν το πληρώνει για να είναι χαρισματικό. Θέλουν το καθολικό να σταματήσει να ταλαντεύεται.
Οι διεπαφές διαμορφώνουν επίσης την εκπαίδευση. Ένα μοντέλο εκπαιδευμένο να παράγει σταθερές ετικέτες μπορεί να αξιολογηθεί ως προς τα σφάλματα ετικετών. Ένα μοντέλο εκπαιδευμένο να εξάγει πεδία μπορεί να αξιολογηθεί ως προς την ακριβή αντιστοίχιση, την ορθότητα των εκτάσεων, τις ελλείψεις και τις επινοημένες τιμές. Ένα μοντέλο εκπαιδευμένο να παράγει πεζό λόγο χρειάζεται περισσότερη κρίση, περισσότερες ρουμπρίκες και περισσότερη ανθρώπινη αναθεώρηση. Αυτό μπορεί να είναι κατάλληλο για κάποιες εργασίες. Είναι σπάταλο για εργασίες όπου το επιθυμητό αποτέλεσμα είναι ήδη δομημένο. Ένα εκπληκτικό ποσοστό της εργασίας με τεχνητή νοημοσύνη είναι απλώς καταχώριση δεδομένων με βελούδινο σακάκι.
Τα μικρότερα, αυστηρότερα μοντέλα ωθούν λοιπόν τις ομάδες να σκεφτούν το σχήμα της εργασίας. Είναι αυτό μια εργασία ταξινόμησης, εξαγωγής, κατάταξης, μετασχηματισμού, επαλήθευσης, σχεδιασμού ή εξήγησης; Χρειάζεται καθόλου μοντέλο, ή θα ήταν καλύτερος ένας κανόνας, ένας επιλυτής, ένας περιορισμός βάσης δεδομένων ή ένα ευρετήριο αναζήτησης; Ποιο μέρος χρειάζεται κατανόηση γλώσσας και ποιο μέρος χρειάζεται βεβαιότητα; Αυτή η ανάλυση δεν είναι σχολαστικισμός. Είναι η διαφορά μεταξύ του σχεδιασμού ενός συστήματος και της ενοικίασης ενός στόματος.
Τα δεδομένα εκπαίδευσης γίνονται λιγότερο θεατρικά
Τα γενικά μοντέλα χρειάζονται τεράστια, ποικίλα σύνολα εκπαίδευσης επειδή καλούνται να καλύψουν τεράστια, ποικίλη συμπεριφορά. Τα εξειδικευμένα μοντέλα μπορούν συχνά να βελτιωθούν με μικρότερα, καλύτερα επισημασμένα, πιο σχετικά δεδομένα. Αυτό ακούγεται λιγότερο εντυπωσιακό, που είναι ένα ακόμη πλεονέκτημα. Το θέαμα δεν είναι μετρική ποιότητας. Χίλια προσεκτικά αναθεωρημένα παραδείγματα για έναν ταξινομητή απαιτήσεων μπορεί να προσφέρουν περισσότερα για την αξιοπιστία στην παραγωγή από ό,τι μια μεγάλη λίμνη δεδομένων όπου κάθε έγγραφο προσκλήθηκε και κανείς δεν έλεγξε τη λίστα καλεσμένων.
Οι μικρότερες εργασίες καθιστούν το νόημα των ετικετών σαφέστερο. Αν η ετικέτα είναι «κλιμάκωση», οι αναθεωρητές μπορούν να συζητήσουν ακριβώς ποιες συνθήκες δικαιολογούν την κλιμάκωση. Αν το πεδίο είναι «ημερομηνία λήξης σύμβασης», οι αναθεωρητές μπορούν να ορίσουν πώς θα χειριστούν τις ρήτρες ανανέωσης, τις τροποποιήσεις, τις ελλιπείς υπογραφές και τις αντικρουόμενες ημερομηνίες. Αν το αποτέλεσμα είναι «η πρόσβαση απορρίφθηκε», οι ομάδες ασφάλειας και νομικών μπορούν να προσδιορίσουν το όριο. Αυτό δημιουργεί θεσμική γνώση ως παράπλευρο αποτέλεσμα του σχεδιασμού του μοντέλου. Η ομάδα μαθαίνει τι σημαίνει η διαδικασία. Αυτό είναι άβολο μόνο αν ο οργανισμός προτιμούσε να μην το γνωρίζει.
Η στενή εκπαίδευση καθιστά επίσης την αξιολόγηση πιο αντιπροσωπευτική. Μπορείτε να δημιουργήσετε σύνολα δοκιμών γύρω από πραγματικούς τρόπους αποτυχίας: ελλιπή πεδία, παρωχημένες πολιτικές, αντιθετική διατύπωση, περιφερειακές εξαιρέσεις, ασυνήθιστη μορφοποίηση, χαμηλή εμπιστοσύνη και περιπτώσεις όπου η άρνηση είναι η σωστή επιλογή. Μπορείτε να μετρήσετε την ακρίβεια και την ανάκληση εκεί όπου έχουν σημασία. Μπορείτε να αποφασίσετε ότι μια εσφαλμένη έγκριση είναι δέκα φορές χειρότερη από μια εσφαλμένη κλιμάκωση. Μπορείτε να ρυθμίσετε τα κατώφλια με βάση το λειτουργικό κόστος. Αυτές είναι συγκεκριμένες επιλογές. Δεν είναι εντυπωσιακές, αλλά έχουν τη σπάνια ιδιότητα να είναι χρήσιμες.
Υπάρχει ακόμα χώρος για ευρεία προεκπαίδευση και μεταφορά μάθησης. Ένα μικρό αυστηρό μοντέλο μπορεί να βασίζεται σε ενσωματώσεις από ένα μεγαλύτερο μοντέλο. Ένα περιορισμένο γλωσσικό μοντέλο μπορεί να χρησιμοποιεί γενική γλωσσική γνώση ενώ παράγει ένα σταθερό σχήμα. Ένα γενικό μοντέλο μπορεί να δημιουργεί υποψήφια αποτελέσματα που ελέγχει ένας αυστηρός επαληθευτής. Το επιχείρημα δεν αφορά την αγνότητα. Το επιχείρημα αφορά την τοποθέτηση. Χρησιμοποιήστε ευρεία ικανότητα εκεί όπου χρειάζεται εύρος. Χρησιμοποιήστε αυστηρότητα εκεί όπου το σύστημα χρειάζεται δέσμευση.
Τα οικονομικά είναι πιο ήσυχα και καλύτερα
Το κόστος δεν είναι μόνο ο λογαριασμός για την εξαγωγή συμπερασμάτων. Το κόστος είναι η καθυστέρηση, η μνήμη, η ενέργεια, η λειτουργική πολυπλοκότητα, η προσπάθεια αξιολόγησης, ο φόρτος αναθεώρησης, η ανταπόκριση σε περιστατικά και ο αριθμός των μηχανικών που απαιτούνται για να εξηγήσουν γιατί η Τρίτη συμπεριφέρθηκε διαφορετικά από τη Δευτέρα. Τα μικρότερα μοντέλα μπορούν να βοηθήσουν σε όλες αυτές τις διαστάσεις. Μπορούν να εκτελούνται πιο κοντά στα δεδομένα. Μπορούν να χωρέσουν σε συνηθισμένο υλικό. Μπορούν να αποθηκευτούν σε κρυφή μνήμη, να κβαντιστούν, να ομαδοποιηθούν ή να ενσωματωθούν σε μια υπηρεσία χωρίς να μετατραπεί η ανάπτυξη σε τελετή που περιλαμβάνει τρία ημερολόγια και μια κράτηση χωρητικότητας.
Η καθυστέρηση αλλάζει τη συμπεριφορά του προϊόντος. Αν ένας ταξινομητής επιστρέφει αποτελέσματα σε χιλιοστά του δευτερολέπτου, μπορεί να ενταχθεί σε μια ροή εργασίας χωρίς να αναγκάσει τον χρήστη να κοιτάζει έναν δείκτη φόρτωσης και να αναθεωρήσει τις επαγγελματικές του επιλογές. Αν ένας εξαγωγέας δεδομένων εκτελείται τοπικά, τα ευαίσθητα υλικά δεν χρειάζεται να ταξιδέψουν σε μια απομακρυσμένη υπηρεσία για μια απλή εξαγωγή πεδίου. Αν ένας επαληθευτής είναι φθηνός, μπορεί να εκτελείται σε κάθε αποτέλεσμα αντί σε δειγματοληπτικές περιπτώσεις. Αυτές οι λεπτομέρειες δεν είναι ήσσονος σημασίας. Καθορίζουν αν οι έλεγχοι ασφάλειας και ποιότητας χρησιμοποιούνται πραγματικά ή απλώς θαυμάζονται σε διαγράμματα αρχιτεκτονικής.
Λειτουργικά, τα μικρότερα μοντέλα είναι ευκολότερα να αντικατασταθούν. Μια ομάδα μπορεί να εκπαιδεύσει έναν νέο εξαγωγέα, να τον εκτελέσει σε σύγκριση με τον παλιό, να συγκρίνει τις διαφωνίες και να κάνει σταδιακή ανάπτυξη. Μπορεί να διατηρήσει διαθέσιμη την προηγούμενη έκδοση για αναπαραγωγή. Μπορεί να επισυνάψει την έκδοση του μοντέλου και το κατώφλι σε κάθε απόφαση. Ένα τεράστιο γενικής χρήσης τελικό σημείο μπορεί επίσης να έχει εκδόσεις, αλλά η σύγκριση συχνά γίνεται πιο θολή επειδή πολλές συμπεριφορές αλλάζουν ταυτόχρονα. Τα μεγάλα σύνολα αλλαγών είναι εκεί όπου η εμπιστοσύνη γίνεται μια διαφάνεια PowerPoint.
Υπάρχει επίσης ένα πλεονέκτημα στις προμήθειες. Τα μικρότερα αυστηρά στοιχεία καθιστούν την υποκατάσταση προμηθευτών πιο ρεαλιστική. Αν η σύμβαση είναι ένα γνωστό σχήμα και μια γνωστή σουίτα αξιολόγησης, μια ομάδα μπορεί να συγκρίνει υλοποιήσεις. Αν η σύμβαση είναι ένα τεράστιο προτροπή γεμάτο κρυφή πολιτική και προσωπικότητα, η αλλαγή γίνεται επικίνδυνη. Ο οργανισμός μπορεί να ανακαλύψει ότι η ροή εργασίας του δεν τροφοδοτείται από ένα μοντέλο όσο είναι μπλεγμένη με ένα. Η συνύφανση είναι ρομαντική στα μυθιστορήματα. Στην παραγωγή είναι ένα σχέδιο μετανάστευσης με δόντια.
Πού ανήκουν ακόμα τα μεγάλα μοντέλα
Τίποτα από αυτά δεν σημαίνει ότι τα μεγάλα μοντέλα πρέπει να εξοριστούν στο ερευνητικό ράφι. Είναι εξαιρετικά σε πολλά πράγματα. Είναι χρήσιμα για εξερεύνηση, προσχέδια, περιλήψεις, μετάφραση, διφορούμενες εισόδους χρήστη, βοήθεια σε κώδικα και εργασίες όπου το επιθυμητό αποτέλεσμα είναι πραγματικά ανοιχτό. Μπορούν να βοηθήσουν τους ανθρώπους να επεξεργαστούν άγνωστο υλικό. Μπορούν να δημιουργήσουν υποψήφιες εξηγήσεις. Μπορούν να μετατρέψουν μπερδεμένη φυσική γλώσσα σε πιο δομημένο αίτημα. Μπορούν να είναι η γενναιόδωρη εξώπορτα προς ένα πιο αυστηρό πίσω γραφείο.
Το λάθος είναι να αφήσουμε την εξώπορτα να γίνει ολόκληρο το κτίριο. Ένα μεγάλο μοντέλο μπορεί να ερμηνεύσει την πρόθεση, αλλά ένας μικρότερος ταξινομητής μπορεί να επιλέξει τη ροή εργασίας. Ένα μεγάλο μοντέλο μπορεί να συντάξει μια απάντηση, αλλά ένας επαληθευτής μπορεί να ελέγξει τους ισχυρισμούς. Ένα μεγάλο μοντέλο μπορεί να συνοψίσει ένα έγγραφο, αλλά ένας εξαγωγέας μπορεί να συμπληρώσει τα ρυθμιζόμενα πεδία. Ένα μεγάλο μοντέλο μπορεί να προτείνει ένα σχέδιο, αλλά μια πολιτική πύλη μπορεί να αποφασίσει ποια βήματα επιτρέπονται. Το ευρύ μοντέλο παραμένει πολύτιμο. Απλώς σταματά να προσποιείται ότι είναι η πηγή κάθε εξουσίας.
Αυτός ο διαχωρισμός είναι επίσης πιο ευγενικός προς τους χρήστες. Οι άνθρωποι δεν θέλουν να διαπραγματεύονται με ένα μοντέλο για το αν υπάρχει μια κατάσταση επιστροφής χρημάτων. Θέλουν σαφή αποτελέσματα, σαφείς αποδείξεις και μια οδό ένστασης. Ένα σύστημα συναρμολογημένο από αυστηρά στοιχεία μπορεί να εξηγηθεί με επιχειρησιακούς όρους: αυτή η πηγή χρησιμοποιήθηκε, αυτό το πεδίο έλειπε, αυτό το όριο πληρούνταν, αυτή η πολιτική απαιτούσε έλεγχο. Αυτή η εξήγηση μπορεί να είναι λιγότερο γοητευτική από μια παράγραφο άνετης ενσυναίσθησης, αλλά είναι πιο χρήσιμη όταν διακυβεύονται χρήματα, δικαιώματα, ασφάλεια ή εμπιστοσύνη.
Το μέλλον πιθανότατα δεν είναι ένα μοντέλο που κυβερνά τη ροή εργασίας. Είναι μια σύνθεση μοντέλων, κανόνων, επιλυτών, ευρετηρίων, επαληθευτών και ανθρώπινου ελέγχου. Κάποια μέρη θα είναι μεγάλα και ευέλικτα. Κάποια θα είναι μικροσκοπικά και πεισματάρικα. Η τέχνη είναι να ξέρουμε ποιο είναι ποιο. Ένας καλός μηχανικός πρέπει να είναι καχύποπτος με κάθε αρχιτεκτονική όπου κάθε πρόβλημα λύνεται κάνοντας το ίδιο στοιχείο μεγαλύτερο. Αυτό δεν είναι σχεδιασμός. Αυτό είναι πληθωρισμός.
Η υπόθεση
Η υπόθεση για μικρότερα, αυστηρότερα μοντέλα δεν είναι ότι το μικρό είναι ηθικά ανώτερο. Είναι ότι πολλές πολύτιμες εργασίες είναι μικρότερες από ό,τι επιτρέπει το τρέχον λεξιλόγιο μοντέλων μας. Ταξινόμησε αυτή την υπόθεση. Εξήγαγε αυτά τα πεδία. Κατάταξε αυτές τις πηγές. Επαλήθευσε αυτόν τον ισχυρισμό. Αρνήσου χωρίς αποδείξεις. Διοχέτευσε σε άνθρωπο. Διατήρησε έναν λόγο. Αυτές δεν είναι κατώτερες μορφές νοημοσύνης. Είναι οι μορφές που κάνουν τα μεγαλύτερα συστήματα αξιόπιστα.
Όταν οι ομάδες ξεκινούν από το μεγαλύτερο διαθέσιμο μοντέλο, συχνά αναβάλλουν τα δύσκολα ερωτήματα σχεδιασμού. Ποιος είναι ο χώρος καταστάσεων. Ποιες έξοδοι είναι επιτρεπτές. Ποια αποδεικτικά στοιχεία απαιτούνται. Τι σημαίνει αβεβαιότητα. Ποιος είναι υπεύθυνος για το σφάλμα. Πώς δοκιμάζεται το εξάρτημα. Πότε πρέπει να αρνηθεί. Όταν αυτά τα ερωτήματα αγνοούνται, το μοντέλο τα κληρονομεί ως κρυφή πολιτική. Η κρυφή πολιτική μπορεί να λειτουργήσει για μια πιλοτική εφαρμογή. Γερνάει άσχημα στην παραγωγή, συνήθως τη στιγμή που κάποιος ζητάει ίχνος ελέγχου.
Το να ξεκινήσει κανείς από μικρότερο μοντέλο αναγκάζει τα ερωτήματα να τεθούν νωρίτερα. Ρωτάει αν το πρόβλημα έχει γνωστή μορφή. Ρωτάει αν μια αυστηρή διεπαφή μπορεί να μεταφέρει το αποτέλεσμα. Ρωτάει αν το μοντέλο χρειάζεται ευρεία γλωσσική ικανότητα ή στενή κρίση. Ρωτάει τι πρέπει να μετρηθεί πριν δοθεί εμπιστοσύνη. Αυτή η πειθαρχία δεν μειώνει τη φιλοδοξία. Της δίνει σκελετό. Χωρίς αυτόν, το σύστημα μπορεί να κινείται, αλλά κανείς δεν θα έπρεπε να στέκεται πολύ κοντά.
Τα μικρότερα και αυστηρότερα μοντέλα είναι πιο εύκολο να τα έχει κανείς υπό τον έλεγχό του. Είναι φθηνότερα στη λειτουργία, ευκολότερα στην αξιολόγηση, πιο ξεκάθαρα στον εντοπισμό σφαλμάτων, ασφαλέστερα στη σύνθεση και πιο ειλικρινή ως προς τα όριά τους. Δεν αντικαθιστούν τα ευρεία μοντέλα παντού. Κάνουν τα ευρεία μοντέλα χρήσιμα σε μέρη όπου το χρήσιμο σημαίνει κάτι περισσότερο από ευφράδεια. Στη σοβαρή μηχανική τεχνητής νοημοσύνης, αυτή είναι η διαφορά που έχει σημασία. Το καλύτερο σύστημα σπάνια είναι αυτό με το μεγαλύτερο μοντέλο σε κάθε σημείο. Είναι αυτό όπου κάθε σημείο έχει το μικρότερο εξάρτημα που μπορεί να κάνει τη δουλειά, το αυστηρότερο συμβόλαιο που εξακολουθεί να ταιριάζει στην πραγματικότητα και αρκετά αποδεικτικά στοιχεία για να καταλάβει ο επόμενος άνθρωπος τι συνέβη.