Η παγίδα των προμηθειών στο επιχειρηματικό AI
Η επίδειξη κέρδισε τον διαγωνισμό
Η νικήτρια επίδειξη ήταν άψογη. Ένας χρήστης έκανε μια ερώτηση, το σύστημα απάντησε με παραπομπές, η διεπαφή πρότεινε την επόμενη ενέργεια και ο πίνακας ελέγχου έδειχνε προβλεπόμενες εξοικονομήσεις με την αυτοπεποίθηση που συνήθως επιφυλάσσεται στην αρχιτεκτονική των αεροδρομίων. Η ομάδα προμηθειών είχε κάνει τη δουλειά της όπως την όριζε η διαδικασία. Συγκεντρώθηκαν οι απαιτήσεις, βαθμολογήθηκαν οι προμηθευτές, συμπληρώθηκαν τα ερωτηματολόγια ασφαλείας, διαπραγματεύτηκαν οι νομικοί όροι και η επιλεγμένη λύση έμοιαζε με την πιο ικανή επιλογή. Όλοι μπορούσαν να δείξουν τον φάκελο και να πουν ότι είχε τηρηθεί η διαδικασία.
Έξι μήνες αργότερα, η διαδικασία ήταν ακόμη σωστή και η λειτουργία είχε εξαντληθεί. Οι σύνδεσμοι δεδομένων δούλευαν σε δείγματα πηγών αλλά δυσκολεύονταν με το πραγματικό αρχείο. Η ποιότητα των απαντήσεων ήταν καλή στο περιβάλλον του προμηθευτή και ασυνεπής στην εσωτερική ροή εργασίας. Η ανθρώπινη αναθεώρηση διαρκούσε περισσότερο από το αναμενόμενο επειδή κανείς δεν είχε κοστολογήσει τον φόρτο των αποδεικτικών στοιχείων. Ο προμηθευτής είχε έναν οδικό χάρτη, ο αγοραστής είχε εξαιρέσεις και οι επιχειρήσεις είχαν μια ουρά ζητημάτων που δεν ταίριαζαν στον αρχικό πίνακα απαιτήσεων. Τίποτα δεν ήταν δόλιο. Τίποτα δεν ήταν συγκλονιστικό. Η διαδικασία προμηθειών είχε αγοράσει μια δυνατότητα τεχνητής νοημοσύνης και είχε αγοράσει μόνο εν μέρει τις συνθήκες υπό τις οποίες αυτή η δυνατότητα θα μπορούσε να γίνει πραγματική εργασία.
Αυτή είναι η παγίδα των προμηθειών στην επιχειρηματική τεχνητή νοημοσύνη. Η διαδικασία αγοράς έχει σχεδιαστεί για να συγκρίνει προϊόντα, να μειώνει τη νομική έκθεση, να ελέγχει το κόστος και να τεκμηριώνει τη διαφάνεια. Αυτοί είναι θεμιτοί στόχοι. Αλλά η αξία της τεχνητής νοημοσύνης εμφανίζεται στη δύσκολη ενδιάμεση ζώνη μεταξύ προϊόντος και οργανισμού: πρόσβαση σε δεδομένα, ανασχεδιασμός ροών εργασίας, καταγραφή αποδεικτικών στοιχείων, εκπαίδευση χρηστών, διαχείριση εξαιρέσεων, ενημερώσεις μοντέλων, στάση ασφαλείας, χρέος ενοποίησης, απαιτήσεις ελέγχου, βρόχοι ανατροφοδότησης και ανάληψη ευθύνης για τα αποτελέσματα. Αν οι προμήθειες βαθμολογούν το ορατό προϊόν ενώ αντιμετωπίζουν τις λειτουργικές συνθήκες ως λεπτομέρεια υλοποίησης, ο οργανισμός αγοράζει μια υπόσχεση και λαμβάνει ένα έργο.
Η παγίδα δεν είναι ότι οι αγοραστές είναι ανόητοι. Οι περισσότεροι αγοραστές εργάζονται με κληρονομημένα πρότυπα και πραγματική πίεση. Τους ζητείται να επιτρέψουν την καινοτομία, να μειώσουν τον κίνδυνο, να κινηθούν γρήγορα, να ελέγξουν το κόστος, να ικανοποιήσουν την ασφάλεια, να σεβαστούν τη νομοθεσία και να αποφύγουν να κατηγορηθούν αργότερα, μια συνοπτική περιγραφή θέσης με το συναισθηματικό εύρος ενός συρραπτικού. Η παγίδα είναι δομική: η επιχειρηματική τεχνητή νοημοσύνη προμηθεύεται όπως το λογισμικό αλλά συμπεριφέρεται σαν επιχειρησιακό μοντέλο.
Η αγορά παραδοτέου δεν είναι αγορά αποτελέσματος
Οι αγοραστές επιχειρήσεων συχνά ρωτούν αν το σύστημα μπορεί να παράγει το αποτέλεσμα: σύνοψη, ταξινόμηση, σύσταση, εξαγωγή, σχέδιο, σημαία κινδύνου, αποτέλεσμα αναζήτησης, ανάλυση, ενέργεια ροής εργασίας. Αυτή είναι μια λογική ερώτηση και επίσης η μικρή ερώτηση. Η μεγαλύτερη ερώτηση είναι αν ο οργανισμός μπορεί να μετατρέψει αυτό το αποτέλεσμα σε έκβαση με αναληφθείσα ευθύνη. Ποιος το παραλαμβάνει. Τι κάνει με αυτό. Ποια στοιχεία βλέπει. Πότε μπορεί να το απορρίψει. Τι συμβαίνει όταν είναι λάθος. Πώς επισκευάζεται το σφάλμα. Ποιος κατέχει τη μετρική αφού ο προμηθευτής φύγει από την αίθουσα.
Μια σύνοψη τεχνητής νοημοσύνης δεν είναι έκβαση. Ένας λειτουργός υποθέσεων που χρησιμοποιεί μια επαληθευμένη σύνοψη για να λάβει μια ταχύτερη, καλύτερα τεκμηριωμένη απόφαση μπορεί να είναι έκβαση. Μια βαθμολογία κινδύνου δεν είναι έκβαση. Μια διαδικασία διαλογής που δρομολογεί υποθέσεις δίκαια, καταγράφει τους λόγους και διαχειρίζεται εξαιρέσεις μπορεί να είναι έκβαση. Μια απάντηση chatbot δεν είναι έκβαση. Ένα μειωμένο φορτίο υποστήριξης χωρίς παραπλάνηση πελατών, απώλεια οδών κλιμάκωσης ή δημιουργία αόρατης ευθύνης μπορεί να είναι έκβαση. Οι προμήθειες πρέπει να αγοράζουν τη διαδρομή από το παραγόμενο αποτέλεσμα έως τη θεσμική συμπεριφορά.
Αυτή η διαδρομή διασχίζει τμήματα. Οι νομικοί ενδιαφέρονται για την εξουσιοδότηση και την ευθύνη. Η ασφάλεια ενδιαφέρεται για την πρόσβαση και την απομόνωση. Οι ομάδες δεδομένων ενδιαφέρονται για την προέλευση και την ποιότητα. Οι επιχειρήσεις ενδιαφέρονται για τις ουρές και τη στελέχωση. Τα οικονομικά ενδιαφέρονται για το κόστος και την υλοποίηση οφελών. Το ανθρώπινο δυναμικό μπορεί να ενδιαφέρεται για τον σχεδιασμό της εργασίας. Η συμμόρφωση ενδιαφέρεται για τα στοιχεία. Οι χρήστες ενδιαφέρονται για το αν το σύστημα βοηθά ή τους καθιστά σιωπηλά υπόλογους για μηχανικές εικασίες. Ένας διαγωνισμός που αντιμετωπίζει αυτά τα ζητήματα ως πλαίσια έγκρισης και όχι ως σχεδιαστικές εισροές θα παράγει κομψά έγγραφα και μια εύθραυστη ανάπτυξη.
Η διάκριση αλλάζει επίσης την τιμολόγηση. Ένα φθηνό εργαλείο που απαιτεί δαπανηρή αναθεώρηση, χειροκίνητη προετοιμασία δεδομένων, προσαρμοσμένη ενοποίηση, επιπλέον διακυβέρνηση, ασαφή στοιχεία και υψηλή υποστήριξη μπορεί να είναι ακριβό. Ένα πιο ακριβό εργαλείο με ισχυρότερη εξαγωγή, παρατηρησιμότητα, σχεδιασμό ρόλων, συμβόλαια δεδομένων και ελέγχους ενημέρωσης μπορεί να είναι φθηνότερο στη λειτουργία. Οι προμήθειες δεν μπορούν να το δουν αυτό αν συγκρίνουν την τιμή άδειας ενώ αποκαλούν τα υπόλοιπα υλοποίηση. Η υλοποίηση είναι εκεί όπου τα έργα τεχνητής νοημοσύνης κρατούν τους λογαριασμούς τους.
Η λίστα ελέγχου μεγαλώνει γύρω από λάθος κέντρο
Οι προμήθειες επιχειρήσεων λατρεύουν τις λίστες ελέγχου επειδή οι λίστες ελέγχου δημιουργούν τάξη και υπερασπισμό. Υποστηρίζει το σύστημα ενιαία σύνδεση. Κρυπτογραφεί τα δεδομένα. Παρέχει αρχεία καταγραφής ελέγχου. Υποστηρίζει τη γλώσσα μας. Ενοποιείται με συστήματα εγγράφων. Προσφέρει πρόσβαση βάσει ρόλων. Έχει ιστορικό διακυβέρνησης μοντέλων. Υποστηρίζει αναφορές. Αυτές οι ερωτήσεις είναι χρήσιμες. Το πρόβλημα είναι ότι το ναι μπορεί να κρύψει μια μεγάλη επιφάνεια.
Το ναι στα αρχεία καταγραφής ελέγχου μπορεί να σημαίνει ακατέργαστα τεχνικά αρχεία που απαιτούν εξειδικευμένη ερμηνεία, όχι στοιχεία σε επίπεδο υπόθεσης χρήσιμα για τη συμμόρφωση. Το ναι στην ενοποίηση μπορεί να σημαίνει ότι υπάρχει ένα API, όχι ότι το ακατάστατο μοντέλο περιεχομένου του αγοραστή γίνεται κατανοητό. Το ναι στην πρόσβαση βάσει ρόλων μπορεί να σημαίνει ρόλους στο προϊόν, όχι ευθυγράμμιση με το μοντέλο εξουσιοδότησης του οργανισμού. Το ναι στην εξαγωγή μπορεί να σημαίνει ότι τα δεδομένα εξέρχονται ως επίπεδα αρχεία χωρίς προέλευση. Το ναι στην ανθρώπινη εποπτεία μπορεί να σημαίνει ένα κουμπί έγκρισης. Η τεχνητή νοημοσύνη επιχειρήσεων είναι εκεί όπου πολλά ναι θα πρέπει να ακολουθούνται από δείξε μου κάτω από δύσκολες συνθήκες.
Η λίστα ελέγχου θα πρέπει να μεγαλώνει γύρω από λειτουργικές ερωτήσεις. Ποια στοιχεία πρέπει να επιβιώσουν. Ποιες πηγές δεδομένων είναι έγκυρες. Ποια πεδία είναι πολύ παρωχημένα. Ποιες περιπτώσεις χρήσης απαιτούν ντετερμινιστικά αρχεία. Ποιες ενέργειες χρειάζονται ανθρώπινη έγκριση. Ποια σφάλματα απαιτούν ειδοποίηση. Ποιες αλλαγές απαιτούν επαναξιολόγηση. Ποιες εξαρτήσεις από προμηθευτές είναι αποδεκτές. Ποια δικαιώματα εξόδου είναι αδιαπραγμάτευτα. Ποιες ομάδες πρέπει να αλλάξουν συμπεριφορά. Ποιοι έλεγχοι θα δοκιμαστούν πριν από την έναρξη λειτουργίας. Μια λίστα ελέγχου προϊόντος χωρίς λειτουργικό μοντέλο είναι μια λίστα αγορών για μια κουζίνα που κανείς δεν έχει μετρήσει.
Υπάρχει μια παράξενη άνεση στις ασαφείς προδιαγραφές. Κρατούν τον διαγωνισμό ευρύ, μειώνουν τις συγκρούσεις και επιτρέπουν στον καθένα να φαντάζεται ότι το ζήτημά του περιλαμβάνεται. Δυστυχώς, οι ασαφείς προδιαγραφές δεν εξαφανίζονται μετά την ανάθεση. Αναγεννώνται ως αιτήματα αλλαγής, καθυστερήσεις, διαφωνίες και διαφάνειες επιτροπής παρακολούθησης με ολοένα και πιο προσεκτικά διατυπωμένα ρήματα. Η συγκεκριμενοποίηση φαίνεται πιο αργή πριν από τη σύμβαση. Συχνά είναι πολύ πιο γρήγορη μετά.
Η μεταφορά κινδύνου είναι συχνά θέατρο
Οι διαδικασίες προμηθειών επιχειρούν να μεταφέρουν τον κίνδυνο. Συμβάσεις, εγγυήσεις, αποζημιώσεις, επίπεδα υπηρεσιών, πιστοποιήσεις, ασφάλειες, όροι επεξεργασίας δεδομένων. Αυτά έχουν σημασία. Οι ώριμες αγορές τα χρειάζονται. Αλλά η επιχειρησιακή τεχνητή νοημοσύνη δημιουργεί κινδύνους που δεν μπορούν να μεταφερθούν πλήρως, επειδή ζουν στο πλαίσιο του αγοραστή. Ο προμηθευτής μπορεί να παρέχει ένα εργαλείο, διασφαλίσεις, υποστήριξη και τεκμήρια. Ο αγοραστής κατέχει τα δεδομένα, τη ροή εργασίας, την εξουσιοδότηση, τη συμπεριφορά των χρηστών, τη διαδρομή κλιμάκωσης και την απόφαση που υιοθετεί το αποτέλεσμα. Μια σύμβαση δεν μπορεί να αναθέσει σε τρίτους την κρίση που συμβαίνει εντός του οργανισμού.
Εδώ ορισμένοι οργανισμοί γίνονται υπερβολικά σίγουροι. Ο προμηθευτής πέρασε τον έλεγχο ασφαλείας. Το μοντέλο έχει τεκμηρίωση. Οι όροι καλύπτουν την προστασία δεδομένων. Η υπηρεσία έχει δεσμεύσεις διαθεσιμότητας. Ωραία. Τώρα ποιος αποφασίζει αν μια απάντηση χαμηλής βεβαιότητας μπορεί να χρησιμοποιηθεί σε μια υπόθεση υψηλού αντικτύπου. Ποιος παρατηρεί όταν οι χρήστες σταματούν να ελέγχουν. Ποιος διαχειρίζεται μια ένσταση πελάτη. Ποιος επαληθεύει ότι τα παραδείγματα εκπαίδευσης αντιστοιχούν στην πραγματική εργασία. Ποιος αναστέλλει το σύστημα όταν αλλάζει η πολιτική. Αν η απάντηση είναι ο προμηθευτής, ο αγοραστής μπορεί να αγοράζει μια φαντασίωση διακυβέρνησης. Αν η απάντηση είναι κανείς, ο αγοραστής έχει αγοράσει ένα μελλοντικό συμβάν.
Η μεταφορά κινδύνου δημιουργεί επίσης στρεβλά κίνητρα όταν οι αγοραστές ζητούν από τους προμηθευτές να αναλάβουν την ευθύνη για πράγματα που μόνο ο αγοραστής μπορεί να ελέγξει. Ο προμηθευτής ανταποκρίνεται με εξαιρέσεις, προσεκτική διαμόρφωση, διογκωμένες τιμές ή ασαφείς δεσμεύσεις. Ο αγοραστής ανταποκρίνεται με περισσότερες ρήτρες. Τελικά η σύμβαση γίνεται ένα επενδυμένο δωμάτιο γύρω από μια ροή εργασίας που κανείς δεν έχει σχεδιάσει. Πολύ ασφαλές στα χαρτιά. Λιγότερο χρήσιμο την Τρίτη.
Μια καλύτερη προσέγγιση είναι η κατανομή κινδύνου. Ονομάστε τον κίνδυνο. Αναθέστε το μέρος που μπορεί να ελέγξει ο προμηθευτής. Αναθέστε το μέρος που πρέπει να λειτουργεί ο αγοραστής. Ορίστε κοινά τεστ. Ορίστε τεκμήρια. Ορίστε την κλιμάκωση. Ορίστε τα δικαιώματα αναστολής. Ορίστε τον έλεγχο αλλαγών. Αυτό είναι λιγότερο ικανοποιητικό από το να προσποιείστε ότι ο κίνδυνος εξήχθη σε ένα αρχείο zip. Είναι επίσης πιο κοντά στην πραγματικότητα, ένα επίμονο χαρακτηριστικό των επιτυχημένων λειτουργιών.
Το πιλοτικό δεν είναι η μονάδα αγοράς
Πολλές επιχειρηματικές αγορές τεχνητής νοημοσύνης ξεκινούν με ένα πιλοτικό πρόγραμμα. Εύλογο. Τα πιλοτικά προγράμματα μειώνουν την αβεβαιότητα και βοηθούν τις ομάδες να μάθουν. Η παγίδα στις προμήθειες εμφανίζεται όταν το πιλοτικό πρόγραμμα γίνεται η μονάδα απόδειξης. Ένα πιλοτικό πρόγραμμα συχνά προστατεύεται από έμπειρους χρήστες, επιλεγμένα δεδομένα, άμεση προσοχή του προμηθευτή, χαλαρή ενοποίηση, προσωρινή διακυβέρνηση και ένα κοινό πρόθυμο να συγχωρήσει τις ατέλειες. Η παραγωγή είναι διαφορετική. Η παραγωγή έχει όγκο, αποχωρήσεις προσωπικού, ελέγχους, ακραίες περιπτώσεις, περιορισμούς ασφαλείας, αιτήματα υποστήριξης, κανόνες διατήρησης, αλλαγμένες προτεραιότητες και χρήστες που δεν παρακολούθησαν την εμπνευσμένη εναρκτήρια συνάντηση.
Ένα πιλοτικό πρόγραμμα θα πρέπει επομένως να δοκιμάζει τις παραδοχές της παραγωγής, όχι μόνο τις δυνατότητες του προϊόντος. Μπορούν οι συνηθισμένοι χρήστες να ολοκληρώσουν τη ροή εργασίας. Διατηρείται η ποιότητα των απαντήσεων με πραγματικά δεδομένα. Πόσος χρόνος αναθεώρησης απαιτείται. Ποια αρχεία χρειάζονται για τον έλεγχο. Ποιες εξαιρέσεις είναι συχνές. Ποια σημεία ενοποίησης είναι εύθραυστα. Τι συμβαίνει όταν μια πηγή είναι παρωχημένη. Μπορεί το σύστημα να αρνηθεί σωστά. Μπορεί ο οργανισμός να το υποστηρίξει χωρίς μηχανικούς του προμηθευτή να βρίσκονται στη συνομιλία όλη μέρα. Αν αυτές οι ερωτήσεις αναβληθούν μέχρι μετά την έγκριση της κλίμακας, το πιλοτικό πρόγραμμα είναι θέατρο με καλύτερα σνακ.
Η μονάδα αγοράς θα πρέπει να είναι ένα ελεγχόμενο λειτουργικό τμήμα. Ένα τμήμα περιλαμβάνει την περίπτωση χρήσης, τις πηγές δεδομένων, την εξουσιοδότηση, τους χρήστες, τη διαδικασία αναθεώρησης, τα αποδεικτικά στοιχεία, το μοντέλο υποστήριξης, τη διαδικασία αλλαγής και τη διαδρομή εξόδου. Είναι στενότερο από μια στρατηγική και ευρύτερο από μια επίδειξη. Μπορεί να αξιολογηθεί ουσιαστικά επειδή περιέχει τα πράγματα που δημιουργούν αξία και τα πράγματα που δημιουργούν κόστος. Αν το τμήμα λειτουργεί, η κλίμακα σημαίνει επανάληψη και προσαρμογή ενός γνωστού προτύπου. Αν λειτουργεί μόνο το εργαλείο, η κλίμακα σημαίνει ανακάλυψη του οργανισμού μία εξάρτηση τη φορά.
Γι' αυτό οι μετρήσεις του πιλοτικού προγράμματος θα πρέπει να περιλαμβάνουν βαρετούς αριθμούς. Λεπτά αναθεώρησης ανά περίπτωση. Ποσοστό διορθωμένων εξόδων. Περιπτώσεις που απορρίφθηκαν λόγω ελλιπών αποδεικτικών στοιχείων. Αποτυχίες φρεσκάδας πηγής. Αριθμός κλιμάκωσης. Λόγοι διαφωνίας χρηστών. Πληρότητα εξαγωγής. Περιστατικά που απαιτούν υποστήριξη προμηθευτή. Χρόνος για να εξηγηθεί μια αμφισβητούμενη έξοδος. Αυτές οι μετρήσεις είναι λιγότερο εντυπωσιακές από την αύξηση της παραγωγικότητας. Είναι επίσης οι αριθμοί που καθορίζουν αν η παραγωγικότητα επιβιώνει.
Η πρόσβαση σε δεδομένα δεν είναι λίστα συνδέσεων
Τα έγγραφα προμηθειών συχνά ρωτούν σε ποια συστήματα συνδέεται το προϊόν. Αυτό είναι απαραίτητο αλλά ανεπαρκές. Μια σύνδεση είναι μια πόρτα. Δεν σας λέει αν το δωμάτιο περιέχει επισημασμένα ράφια, ενημερωμένα αρχεία, νόμιμη πρόσβαση, συνεπή αναγνωριστικά, χρησιμοποιήσιμα έγγραφα, διατηρημένο περιεχόμενο ή πάτωμα. Τα επιχειρηματικά δεδομένα σπάνια περιμένουν ευγενικά. Έχουν κληρονομημένα πεδία, διπλότυπες εγγραφές, PDF με απόρρητα, αρχαιολογία του SharePoint, τμηματικές ταξινομήσεις, ελλιπείς ιδιοκτήτες και αρχεία με το όνομα final επειδή η αισιοδοξία είναι ανανεώσιμη.
Ο αγοραστής πρέπει να κατανοήσει τι χρειάζεται το σύστημα τεχνητής νοημοσύνης από τα δεδομένα, όχι μόνο πού ζουν τα δεδομένα. Χρειάζεται πλήρη έγγραφα ή εξαγόμενα πεδία. Χρειάζεται τρέχουσα κατάσταση ή ιστορικά στιγμιότυπα. Χρειάζεται ανάκτηση με επίγνωση δικαιωμάτων. Χρειάζεται ιχνηλασιμότητα. Χρειάζεται δομημένες ετικέτες. Χρειάζεται διάδοση διαγραφής. Χρειάζεται όρια ποιότητας δεδομένων. Χρειάζεται ανθρώπινη διόρθωση. Κάθε ανάγκη αλλάζει το κόστος ενοποίησης και τη διακυβέρνηση. Μια σύνδεση που αγνοεί αυτές τις ανάγκες είναι απλώς ένας σωλήνας. Οι σωλήνες είναι χρήσιμοι. Είναι επίσης ο τρόπος με τον οποίο πλημμυρίζουν τα υπόγεια.
Η πρόσβαση σε δεδομένα έχει νομικές και κοινωνικές διαστάσεις. Ένα σύστημα μπορεί τεχνικά να διαβάζει μια πηγή και να μην έχει το δικαίωμα να τη χρησιμοποιήσει για εκπαίδευση μοντέλων, αναλυτική, παρακολούθηση εργαζομένων ή υποστήριξη αυτοματοποιημένων αποφάσεων. Οι χρήστες μπορεί να εμπιστεύονται ένα αποθετήριο για έναν σκοπό και να αντιτίθενται όταν το περιεχόμενό του γίνεται καύσιμο για άλλον. Οι προμήθειες που ρωτούν μπορούμε να συνδεθούμε πριν ρωτήσουν μπορούμε να χρησιμοποιήσουμε δημιουργούν μελλοντικές εκπλήξεις. Η έκπληξη είναι ένας φτωχός μηχανισμός συναίνεσης.
Η σωστή αγορά τεχνητής νοημοσύνης περιλαμβάνει, επομένως, δέουσα επιμέλεια στα δεδομένα πριν από την ανάθεση ή τουλάχιστον πριν από την κλιμάκωση. Δειγματοληψία από το ακατάστατο σύνολο δεδομένων. Δοκιμή εξαγωγής. Έλεγχος δικαιωμάτων. Μέτρηση διπλοτύπων. Εντοπισμός παρωχημένων πεδίων. Ορισμός υπευθύνων δεδομένων. Έλεγχος διατήρησης και συγκατάθεσης. Κατανόηση του ποια δεδομένα δεν μπορούν να μετακινηθούν. Κοστολόγηση του καθαρισμού. Αν αυτή η εργασία μοιάζει με καθυστέρηση της αγοράς, θυμηθείτε ότι η αγορά θα έβρισκε αργότερα το ίδιο χάος, μόνο με συμβόλαιο επισυναπτόμενο.
Ο έλεγχος αλλαγών είναι το προϊόν
Η επιχειρησιακή τεχνητή νοημοσύνη δεν παραμένει ακίνητη. Τα μοντέλα ενημερώνονται. Τα prompts αλλάζουν. Τα ευρετήρια ανάκτησης αναδομούνται. Οι πολιτικές μετατοπίζονται. Οι πηγές δεδομένων μετακινούνται. Οι χρήστες ανακαλύπτουν ακραίες περιπτώσεις. Οι κανόνες ασφαλείας αυστηροποιούνται. Νέοι κανονισμοί φτάνουν. Το σύστημα που πέρασε από τη διαδικασία προμήθειας δεν είναι το σύστημα που θα λειτουργεί ο οργανισμός ένα χρόνο αργότερα. Ο έλεγχος αλλαγών δεν είναι, επομένως, διοικητικό βάρος γύρω από το προϊόν. Είναι μέρος του προϊόντος.
Η προμήθεια θα πρέπει να ρωτά πώς προτείνονται, δοκιμάζονται, εγκρίνονται, επικοινωνούνται, ανακαλούνται και τεκμηριώνονται οι αλλαγές συμπεριφοράς. Μπορεί ο αγοραστής να καθυστερήσει μια ενημέρωση μοντέλου; Μπορούν οι αλλαγές στα prompts να εκδοχοποιηθούν; Μπορούν οι αλλαγές στην ανάκτηση να συγκριθούν; Μπορούν τα πακέτα πολιτικής να καρφιτσωθούν; Μπορεί ο προμηθευτής να παρέχει σημειώσεις έκδοσης που αντιστοιχούν σε λειτουργικό κίνδυνο και όχι σε διαφημιστική ποίηση; Μπορούν οι περιπτώσεις υψηλού αντικτύπου να ελεγχθούν για παλινδρόμηση πριν από την προώθηση; Μπορεί ο οργανισμός να δει ποιες περιπτώσεις επηρεάστηκαν από μια αλλαγή; Χωρίς αυτά τα δικαιώματα, ο αγοραστής δεν έχει αγοράσει ένα σύστημα. Έχει εγγραφεί σε μια συνδρομή κίνησης.
Η εσωτερική αλλαγή έχει την ίδια σημασία με την αλλαγή του προμηθευτή. Ένα τμήμα αλλάζει μια φόρμα. Μια ομάδα πολιτικής αναθεωρεί τις κατευθυντήριες γραμμές. Μια ομάδα δεδομένων αλλάζει το όνομα ενός πεδίου. Ένας διευθυντής μεταβάλλει τη στελέχωση. Μια νομική ερμηνεία μετατοπίζεται. Τα συστήματα τεχνητής νοημοσύνης βρίσκονται εγκάρσια σε αυτά τα όρια, οπότε μικρές εσωτερικές αλλαγές μπορούν να μετακινήσουν τα αποτελέσματα. Η προμήθεια δεν μπορεί να το λύσει μόνη της, αλλά μπορεί να απαιτήσει το λειτουργικό μοντέλο που ανιχνεύει και διαχειρίζεται την κίνηση. Αν κάθε αλλαγή αντιμετωπίζεται ως τοπική βελτίωση κάποιου άλλου, η ροή εργασίας τεχνητής νοημοσύνης γίνεται ένας διάδρομος όπου πόρτες ανοίγουν συνεχώς πάνω σε ανθρώπους.
Ο καλός έλεγχος αλλαγών δίνει στην καινοτομία μια διαδρομή. Δεν μπλοκάρει τις ενημερώσεις. Κάνει τις ενημερώσεις ευανάγνωστες. Οι ομάδες μπορούν να βελτιώνουν μοντέλα και ροές εργασίας ταχύτερα όταν ξέρουν πώς να δοκιμάζουν, να εγκρίνουν και να επαναφέρουν. Το αντίθετο του ελέγχου αλλαγών δεν είναι η ευελιξία. Είναι η μη διαχειριζόμενη μετατόπιση με ημερολόγιο εκδόσεων.
Οι χρήστες δεν είναι στόχοι υιοθέτησης
Οι προμήθειες συχνά αντιμετωπίζουν τους χρήστες ως στόχους υιοθέτησης. Εκπαιδεύστε τους, επικοινωνήστε τα οφέλη, μετρήστε τη χρήση, επιβραβεύστε τους πρωταθλητές, αφαιρέστε τις τριβές. Κάποια από αυτά είναι χρήσιμα. Αλλά οι χρήστες είναι επίσης σημεία ελέγχου, ειδικοί του τομέα και συστήματα έγκαιρης προειδοποίησης. Αν δεν εμπιστεύονται το σύστημα, μπορεί να αντιστέκονται στην αλλαγή. Μπορεί επίσης να ανιχνεύουν ότι η ροή εργασίας στερείται αποδεικτικών στοιχείων, εξουσίας, χρόνου ή επισκευής. Μια διαδικασία προμηθειών που βλέπει τους χρήστες κυρίως ως άτομα που πρέπει να πειστούν θα χάσει τις πληροφορίες που κουβαλούν.
Πριν από την αγορά, μιλήστε με τους ανθρώπους των οποίων η εργασία θα απορροφήσει το αποτέλεσμα του AI. Ρωτήστε ποια αποδεικτικά στοιχεία χρειάζονται για να δράσουν. Ποιες περιπτώσεις είναι επικίνδυνες. Ποια πεδία δεδομένων είναι αναξιόπιστα. Ποιες εξαιρέσεις καταναλώνουν χρόνο. Ποιες αποφάσεις δεν θα εκχωρούσαν. Ποια σφάλματα θα ήταν ντροπιαστικά, επιβλαβή ή παράνομα. Ποια μέρη της τρέχουσας διαδικασίας είναι άτυπα επειδή το επίσημο σύστημα δεν έμαθε ποτέ την πραγματικότητα. Αυτές οι απαντήσεις δεν είναι αντίσταση στην αλλαγή. Είναι απαιτήσεις με αποτυπώματα.
Μετά την αγορά, η ανατροφοδότηση των χρηστών θα πρέπει να τροφοδοτεί τον έλεγχο αλλαγών και τα αποδεικτικά στοιχεία. Οι διορθώσεις, οι παρακάμψεις, οι κλιμακώσεις και οι λόγοι άρνησης θα πρέπει να μετρώνται και να συζητούνται. Αν οι χρήστες αγνοούν το σύστημα, μάθετε αν είναι λάθος, αργό, αναξιόπιστο, κακώς τοποθετημένο, μη ευθυγραμμισμένο με τα κίνητρα ή απλώς λιγότερο χρήσιμο από ό,τι παρουσιάζει η ιστορία των προμηθειών. Η χρήση από μόνη της είναι φτωχό μέτρο αξίας. Οι άνθρωποι χρησιμοποιούν κακά συστήματα όταν εξαναγκάζονται και αποφεύγουν καλά συστήματα όταν η περιβάλλουσα διαδικασία τους τιμωρεί για τη χρήση κρίσης.
Οι χρήστες αξίζουν επίσης σαφήνεια. Αν το αποτέλεσμα του AI είναι συμβουλευτικό, πείτε το. Αν είναι υποχρεωτικό, πείτε ποιος κατέχει την απόφαση. Αν οι παρακάμψεις είναι ευπρόσδεκτες, μην τις τιμωρείτε ως απόκλιση. Αν τα αποδεικτικά στοιχεία είναι υποχρεωτικά, δώστε χρόνο για να τα εξετάσουν. Το επιχειρηματικό AI αποτυγχάνει όταν οι χρήστες γίνονται ανθρώπινα ρυθμιστικά στρώματα μεταξύ ενός σίγουρου εργαλείου και ενός ασαφούς οργανισμού. Αυτό δεν είναι υιοθέτηση. Είναι μόνωση.
Το τεστ εξόδου θα πρέπει να γίνεται πριν από την είσοδο
Η έξοδος είναι η πιο παραμελημένη απαίτηση προμηθειών επειδή κανείς δεν θέλει να συζητήσει το τέλος στην αρχή. Κι όμως, η έξοδος είναι όπου η διαπραγματευτική δύναμη του αγοραστή γίνεται πραγματική. Μπορεί ο οργανισμός να φύγει με δεδομένα, μεταδεδομένα, προτροπές, διαμορφώσεις, αρχεία αξιολόγησης, αρχεία καταγραφής ελέγχου, ανατροφοδότηση χρηστών, αποτελέσματα μοντέλων, ίχνη διόρθωσης και αποδείξεις διαγραφής άθικτα. Μπορεί να απενεργοποιήσει το σύστημα χωρίς να χάσει την ικανότητα να εξηγήσει προηγούμενες αποφάσεις. Μπορεί να μεταναστεύσει σε άλλο εργαλείο χωρίς να ζητήσει από το προσωπικό να αποτυπώσει τη μνήμη του οργανισμού με στιγμιότυπα οθόνης, σελίδα τη σελίδα.
Το τεστ εξόδου θα πρέπει να είναι πρακτικό. Πριν από την κλίμακα, εξάγετε ένα αντιπροσωπευτικό δείγμα. Επαναφέρετέ το κάπου αλλού. Ελέγξτε αναγνωριστικά, χρονοσφραγίδες, προέλευση, δικαιώματα, συνημμένα, διορθώσεις και αρχεία αποφάσεων. Επαληθεύστε ότι τα αποδεικτικά στοιχεία παραμένουν αναγνώσιμα. Ελέγξτε αν η γλώσσα της σύμβασης ταιριάζει με την τεχνική πραγματικότητα. Αν η εξαγωγή είναι αργή, με απώλειες ή εξαρτάται από εξειδικευμένη εργασία του προμηθευτή, τιμολογήστε αυτή την εξάρτηση. Η ελπίδα δεν είναι στρατηγική εξόδου. Είναι μια διάθεση με κακό έλεγχο εκδόσεων.
Τα δικαιώματα εξόδου βελτιώνουν επίσης την τρέχουσα σχέση. Όταν τα δεδομένα και τα αρχεία είναι φορητά, οι προμηθευτές ανταγωνίζονται στην υπηρεσία και την αξία και όχι στην αιχμαλωσία. Οι αγοραστές γίνονται λιγότερο φοβισμένοι απέναντι στην ειλικρινή αξιολόγηση. Οι εσωτερικές ομάδες μπορούν να σχεδιάζουν έχοντας κατά νου την αντικατάσταση. Η αρχιτεκτονική γίνεται καθαρότερη επειδή το νόημα πρέπει να είναι ρητό. Η έξοδος δεν είναι απαισιοδοξία. Είναι υγιεινή.
Υπάρχει μια παροιμία προμηθειών που περιμένει να γραφτεί: ποτέ μην αγοράζετε ένα σύστημα AI από το οποίο δεν μπορείτε να φύγετε χωρίς να ξεχάσετε γιατί το χρησιμοποιούσατε. Είναι πολύ μεγάλη για μια κούπα, κάτι που μάλλον είναι για το καλύτερο. Οι κούπες έχουν αρκετά για τα οποία πρέπει να λογοδοτήσουν στην κουλτούρα του γραφείου.
Πώς να ξεφύγετε από την παγίδα
Η διαφυγή από την παγίδα των προμηθειών δεν απαιτεί ηρωική επανεφεύρεση. Απαιτεί να μετακινηθεί το κέντρο βάρους της αγοράς από το προϊόν στο σύστημα εργασίας. Ορίστε με ακρίβεια την περίπτωση χρήσης. Δοκιμάστε πραγματικά δεδομένα νωρίς. Αποτιμήστε το κόστος της αναθεώρησης. Ζητήστε αποδείξεις που απαντούν σε θεσμικά ερωτήματα. Αντιμετωπίστε τον έλεγχο αλλαγών ως πρωταρχική απαίτηση. Αγοράστε δικαιώματα εξόδου. Συμπεριλάβετε τους χρήστες ως μάρτυρες του πεδίου. Αναθέστε την κυριότητα του αποτελέσματος. Μετρήστε το κόστος διόρθωσης και εξαιρέσεων. Υποχρεώστε τους προμηθευτές να δείξουν το σύστημα υπό δύσκολες συνθήκες, γιατί οι δύσκολες συνθήκες είναι εκεί όπου το επιχειρησιακό λογισμικό περνά το μεγαλύτερο μέρος της ζωής του.
Αυτό θα κάνει τις προμήθειες λιγότερο τακτοποιημένες στην αρχή. Θα φέρει στην επιφάνεια συγκρούσεις που οι λίστες ελέγχου έκρυβαν προηγουμένως. Οι υπεύθυνοι δεδομένων θα ανακαλύψουν υποχρεώσεις. Το νομικό τμήμα θα χρειαστεί επιχειρησιακές λεπτομέρειες. Η ασφάλεια θα ζητήσει αποδείξεις. Οι επιχειρήσεις θα ζητήσουν προσωπικό. Τα οικονομικά θα δουν κόστη που προηγουμένως περίμεναν κρυμμένα. Καλό. Το κρυφό κόστος παραμένει κόστος, μόνο που είναι αλαζονικό.
Ο στόχος δεν είναι να γίνει η αγορά πιο αργή για πάντα. Είναι να γίνει η αγορά αρκετά ειλικρινής ώστε να μπορεί να προχωρήσει η υλοποίηση. Ένα σαφές επιχειρησιακό συμβόλαιο μειώνει τις μεταγενέστερες διαφωνίες. Μια δοκιμασμένη διαδρομή δεδομένων μειώνει την έκπληξη της ενοποίησης. Ένα ρεαλιστικό μοντέλο αναθεώρησης μειώνει το θέατρο υιοθέτησης. Μια λειτουργική έξοδος μειώνει τον φόβο. Οι προμήθειες γίνονται ένας τρόπος να δημιουργηθούν οι συνθήκες για αξία, αντί για ένα τελετουργικό που επιλέγει την πιο πειστική υπόσχεση.
Το νικητήριο ντέμο στην εναρκτήρια ιστορία δεν ήταν λάθος. Ήταν ελλιπές. Έδειξε την απάντηση, όχι τον θεσμό γύρω από την απάντηση. Οι προμήθειες επιχειρησιακής τεχνητής νοημοσύνης πρέπει να μάθουν να αγοράζουν αυτό το επίπεδο που αφορά τον θεσμό: τα βαρετά δικαιώματα, τα αρχεία, τους ρόλους, τις δοκιμές και τις εξόδους που μετατρέπουν τη δυνατότητα σε ελεγχόμενη εργασία. Διαφορετικά, ο διαγωνισμός θα συνεχίσει να επιλέγει συστήματα που φαίνονται ολοκληρωμένα κατά την ανάθεση και αρχίζουν να γίνονται πραγματικά μόνο αφού όλοι έχουν ήδη δεσμευτεί συμβατικά. Αυτός είναι ένας ακριβός τρόπος να μάθεις αυτό που μια καλύτερη ερώτηση θα μπορούσε να είχε βρει νωρίτερα.