Όταν ένα chatbot γίνεται συνάδελφος

Ένα chatbot μπορεί να είναι χρήσιμο εργαλείο χωρίς να γίνεται διευθυντής σε μια φιλική διεπαφή. Η γραμμή ξεπερνιέται όταν ένα συνομιλητικό σύστημα αρχίζει...

Όταν ένα chatbot γίνεται συνάδελφος

Ένας συνάδελφος είναι κάτι περισσότερο από μια φωνή στην αίθουσα

Υπάρχει ένα συγκεκριμένο είδος πρότασης που κάνει μια αλλαγή να φαίνεται μικρότερη από ό,τι είναι: «Δίνουμε σε όλους ένα chatbot». Έρχεται με τα γνωστά χαρακτηριστικά μιας ανάπτυξης λογισμικού. Θα υπάρχει μια άδεια χρήσης, μια σύντομη επίδειξη, ίσως μια σελίδα με προτάσεις για προτροπές και μια υπερβολικά χαρούμενη υπενθύμιση κάποιου να το χρησιμοποιούμε υπεύθυνα. Το εργαλείο φαίνεται να βρίσκεται δίπλα στην εργασία. Μπορεί να συντάξει, να αναζητήσει, να συνοψίσει, να μεταφράσει, να εξηγήσει μια πολιτική ή να μετατρέψει μια πρόχειρη σημείωση σε κάτι που μοιάζει σαν να γράφτηκε μετά από έναν ολόκληρο βραδινό ύπνο. Αυτές είναι συνηθισμένες και μερικές φορές χρήσιμες δυνατότητες. Αλλά η πρόταση παύει να είναι αθώα όταν το chatbot αρχίζει να διαμορφώνει το ποιος αναλαμβάνει δουλειά, τι θεωρείται καλή απάντηση, ποια εκδοχή ενός γεγονότος γίνεται αποδεκτή ή πώς κρίνεται κάποιος που διαφωνεί με αυτό.

Σε εκείνο το σημείο, το ερώτημα δεν είναι πλέον αν η διεπαφή είναι συνομιλητική. Είναι αν το σύστημα έχει γίνει συνάδελφος στον χώρο εργασίας με την πιο ουσιαστική έννοια: συμμετέχων στον καταμερισμό της εργασίας, πηγή εξουσίας, μάρτυρας του οποίου η εκδοχή λαμβάνεται υπόψη, μια ήσυχη επιρροή στους όρους υπό τους οποίους κάποιος θεωρείται αξιόπιστος. Ένας συνάδελφος μπορεί να προτείνει, να αμφισβητήσει, να εξηγήσει και μερικές φορές να κάνει την ημέρα πιο εύκολη. Ένας συνάδελφος ανήκει επίσης σε μια δομή ευθύνης. Μπορεί να ρωτηθεί γιατί. Μπορεί να διορθωθεί. Ο ρόλος του μπορεί να περιγραφεί. Ένα σύστημα που μιλά με την άνεση ενός συναδέλφου αλλά διοικείται με την ασάφεια ενός βοηθητικού εργαλείου είναι μια πολύ πιο δύσκολη υπόθεση.

Η Ευρώπη έχει μια χρήσιμη αντίληψη εδώ. Δεν μας απαιτεί να προσποιούμαστε ότι κάθε αυτοματοποιημένο εργαλείο είναι διευθυντής, ούτε ότι κάθε εργαζόμενος πρέπει να γίνει ειδικός στην αρχιτεκτονική μοντέλων πριν ανοίξει ένα παράθυρο συνομιλίας. Θέτει πιο πρακτικά ερωτήματα σχετικά με τις συνθήκες εργασίας. Ποιοι επηρεάζονται; Ποια δεδομένα χρησιμοποιούνται; Ποιος είναι ο σκοπός; Τι συμβαίνει όταν μια πρόταση είναι λανθασμένη; Ποιος μπορεί να παρέμβει; Ποια δικαιώματα ενημέρωσης και διαβούλευσης ισχύουν; Ποιες αποφάσεις παραμένουν ανθρώπινες, και είναι αυτός ο ανθρώπινος ρόλος πραγματικός ή απλώς διακοσμητικός;

Ο τίτλος είναι σκόπιμα άβολος. Ένα chatbot δεν είναι συνάδελφος με την ανθρώπινη έννοια. Δεν έχει σύμβαση εργασίας, δεν έχει επαγγελματική κρίση, δεν έχει νομική ευθύνη και δεν έχει την εμπειρία να αργήσει στο τρένο στη βροχή. Δεν χρειάζεται διαλείμματα, εκκαθαριστικό μισθοδοσίας ή δυνατότητα ένστασης σε μια αξιολόγηση απόδοσης. Ο κίνδυνος αρχίζει όταν η αδυναμία του να φέρει αυτά τα πράγματα αντιμετωπίζεται ως πλεονέκτημα. Αν ένα σύστημα μπορεί να επηρεάσει την εργασία αλλά δεν φέρει καμία από τις κοινωνικές, νομικές ή πρακτικές υποχρεώσεις που συνοδεύουν την εξουσία στον χώρο εργασίας, ο οργανισμός πρέπει να θέσει ο ίδιος τα όρια. Διαφορετικά, ο φθηνότερος συνάδελφος στο κτίριο γίνεται ο λιγότερο υπόλογος.

Η μικρή πρόσκληση που αλλάζει την αίθουσα

Σκεφτείτε ένα σαφώς υποθετικό παράδειγμα. Ένας μεσαίου μεγέθους οργανισμός εισάγει έναν βοηθό συνομιλίας για ερωτήσεις εσωτερικής πολιτικής. Του λένε να βοηθά τους ανθρώπους να βρίσκουν διαδικασίες, να συντάσσουν συνηθισμένα μηνύματα και να εντοπίζουν το επόμενο βήμα σε μια υπόθεση. Κανείς δεν λέει ότι θα λαμβάνει αποφάσεις. Ο οργανισμός είναι αρκετά προσεκτικός ώστε να δηλώνει ότι το προσωπικό παραμένει υπεύθυνο για την εργασία του. Αυτή είναι μια λογική αρχή, αλλά δεν λύνει το ζήτημα.

Μέσα στις πρώτες εβδομάδες, οι άνθρωποι ανακαλύπτουν ότι ο βοηθός είναι πιο γρήγορος από το να ψάχνουν σε ένα πολυάσχολο intranet. Ένας προϊστάμενος αρχίζει να ζητά από τις ομάδες να το χρησιμοποιούν πριν προωθήσουν μια ερώτηση. Ένα προσχέδιο που δημιουργεί ο βοηθός γίνεται ο προεπιλεγμένος τόνος για την αλληλογραφία. Τα αρχεία που ανακτά ο βοηθός γίνονται τα αρχεία που επικαλούνται οι άνθρωποι. Αργότερα, το ίδιο εργαλείο συνδέεται με μια ουρά ώστε να μπορεί να προτείνει προτεραιότητες. Ένας διευθυντής βλέπει έναν πίνακα ελέγχου που δείχνει πόσο συχνά το προσωπικό αποδέχεται τις προτάσεις και πόσο χρόνο χρειάζεται για να απαντήσει. Κάθε προσθήκη έχει μια εύλογη εξήγηση. Μαζί, αλλάζουν τον πρακτικό ορισμό του οργανισμού για το τι σημαίνει καλός εργαζόμενος.

Δεν χρειάζεται να είναι δραματική κάποια μεμονωμένη στιγμή. Δεν χρειάζεται να υπάρξει κατασκευασμένη καταστροφή, ούτε υπάλληλος με ένα όνομα που να μένει βολικά στη μνήμη, ούτε μια άτυχη Τρίτη στις 09:17. Το νόημα του υποθετικού σεναρίου είναι ακριβώς ότι η αλλαγή μπορεί να έρθει χωρίς θεατρικότητα. Ένας χώρος εργασίας μπορεί να παραδώσει την εξουσία σε ένα σύστημα μέσα από μια ακολουθία μικρών ανέσεων. Ο βοηθός δεν χρειάζεται να δώσει εντολή. Μπορεί να δημιουργήσει το πρότυπο με το οποίο μετριέται η ανθρώπινη απάντηση. Μπορεί να γίνει η πρώτη πηγή στην οποία απευθύνεται κανείς, η οδός μέσα από την οποία διατυπώνεται η αβεβαιότητα, το ήσυχο σημείο αναφοράς από το οποίο πρέπει να αιτιολογηθεί οποιαδήποτε απόκλιση.

Το ερώτημα που πρέπει να τεθεί δεν είναι αν το chatbot έχει αντικαταστήσει έναν διευθυντή. Είναι πιο ακριβές: τι αλλάζει πλέον στην πράξη επειδή υπάρχει το chatbot; Αλλάζει τον χρόνο που επιτρέπεται για μια εργασία; Τυποποιεί μια γλώσσα που κάποτε εξαρτιόταν από την επαγγελματική κρίση; Αποφασίζει ποιες πληροφορίες εμφανίζονται πρώτες; Εμφανίζεται μια σύσταση σε μια ροή εργασίας όπου η απόρριψή της απαιτεί πρόσθετη αιτιολόγηση; Χρησιμοποιεί ένας διευθυντής τα ποσοστά αποδοχής ως ένδειξη επιμέλειας; Δημιουργεί το εργαλείο ένα αρχείο που επιβιώνει από τη συνομιλία, και μπορεί το άτομο που επηρεάζεται να το δει ή να το διορθώσει;

Αυτά τα ερωτήματα δεν είναι εχθρικά προς τα χρήσιμα εργαλεία. Είναι ο τρόπος με τον οποίο ένας οργανισμός διαχωρίζει ένα βοήθημα γραφής από ένα σύστημα σκιώδους διαχείρισης. Η διαφορά δεν βρίσκεται στην προσωπικότητα της διεπαφής. Ένας ψυχρός πίνακας ελέγχου μπορεί να διέπει την εργασία εξίσου ολοκληρωτικά με ένα φιλικό παράθυρο συνομιλίας. Αντίστροφα, ένα εργαλείο συνομιλίας μπορεί να παραμείνει ένα μέσο, αν ο ρόλος του είναι σαφής, αν οι είσοδοι και τα όριά του είναι κατανοητά, και αν ένα άτομο διατηρεί τόσο τον χρόνο όσο και την εξουσία να ασκήσει κρίση.

Η συνομιλία μπορεί να κρύβει μια αλυσίδα αποφάσεων

Η συνομιλία κάνει τα πολύπλοκα συστήματα να φαίνονται προσιτά. Ένα άτομο πληκτρολογεί μια ερώτηση σε καθημερινή γλώσσα και λαμβάνει μια απάντηση σε καθημερινή γλώσσα. Αυτό είναι μέρος της ελκυστικότητας. Κρύβει όμως και μια αλυσίδα αποφάσεων που έχει σημασία στην εργασία: ποιες πηγές είναι διαθέσιμες, ποιων οι πολιτικές θεωρούνται επίκαιρες, πώς ερμηνεύεται μια ερώτηση, ποιες πληροφορίες αποκρύπτονται, αν μια απάντηση καταγράφεται, ποιος μπορεί να επιθεωρήσει το αρχείο καταγραφής, πώς αλλάζει το μοντέλο, και αν μια απάντηση είναι απλώς χρήσιμη ή έχει επιχειρησιακές συνέπειες.

Οι άνθρωποι έχουν συνηθίσει να αντιμετωπίζουν ένα αποτέλεσμα αναζήτησης ως πρόσκληση για έλεγχο. Η πρόταση ενός chatbot έρχεται με μεγαλύτερη κοινωνική αυτοπεποίθηση. Έχει ήδη εκτελέσει μια μορφή σύνθεσης. Μπορεί να παραθέτει πηγές, μπορεί και να μην το κάνει. Μπορεί να διατυπώνει ένα συμπέρασμα σε έναν άνετο τόνο που κάνει τη διαφωνία να φαίνεται άβολη. Αν αυτή η απάντηση αφορά ένα αίτημα άδειας, μια διαδικασία ασφαλείας, μια πολιτική απασχόλησης, ένα παράπονο πελάτη ή τη σωστή επόμενη ενέργεια σε μια δημόσια υπηρεσία, η ευχέρεια δεν είναι ένα δευτερεύον αισθητικό χαρακτηριστικό. Διαμορφώνει την κατανομή της προσοχής και της αμφιβολίας.

Γι' αυτό η προέλευση είναι μια συνθήκη εργασίας, όχι ένα διακοσμητικό τεχνικό χαρακτηριστικό. Ένα άτομο πρέπει να γνωρίζει αν η απάντηση προήλθε από μια εγκεκριμένη πολιτική, από μια τρέχουσα τοπική διαδικασία, από μια γενική απόκριση του μοντέλου ή από ένα μείγμα πηγών. Πρέπει να μπορεί να δει πού έχει απλοποιηθεί μια δήλωση. Χρειάζεται μια οδό για να πει ότι η απάντηση δεν ταιριάζει στην περίπτωση που έχει μπροστά του. Χωρίς αυτή την οδό, η αυτοπεποίθηση του συστήματος γίνεται μια άτυπη εντολή, και ο εργαζόμενος επωμίζεται τον κίνδυνο είτε να την ακολουθήσει είτε να της αντισταθεί χωρίς αποδεικτικά στοιχεία.

Παρόμοιο ζήτημα υπάρχει και με τη λέξη «βοηθώ». Η βοήθεια μπορεί να είναι γνήσια. Ένα εργαλείο που συγκεντρώνει υλικό το οποίο ένα άτομο θα έπρεπε διαφορετικά να βρει χειροκίνητα μπορεί να προστατεύσει χρόνο για την κρίση. Αλλά η βοήθεια μπορεί επίσης να μετατοπίσει το βάρος. Αν ο βοηθός παράγει ένα εύλογο πρώτο προσχέδιο, ο εργαζόμενος μπορεί να κληθεί να επεξεργαστεί περισσότερες υποθέσεις. Αν κάνει μια σύσταση, ο εργαζόμενος μπορεί να χρειαστεί να τεκμηριώσει κάθε άρνηση. Αν μειώνει τον χρόνο που ξοδεύει ένας επόπτης για να εξηγήσει μια διαδικασία, ο οργανισμός μπορεί αθόρυβα να αφαιρέσει τον χρόνο μέσα στον οποίο μια ανθρώπινη εξήγηση θα μπορούσε να αποκαλύψει ότι η ίδια η διαδικασία είναι λανθασμένη.

Η διαχωριστική γραμμή δεν είναι, λοιπόν, ανάμεσα στην αυτοματοποίηση και στην απουσία της. Είναι ανάμεσα σε ένα εργαλείο που διευρύνει την ικανότητα ενός ανθρώπου να κάνει προσεκτική δουλειά και σε ένα εργαλείο που περιορίζει τον αποδεκτό τρόπο να γίνει αυτή. Τα δύο μπορεί να φαίνονται ίδια σε μια επίδειξη προϊόντος. Αποκλίνουν στην ουρά αναμονής, στη συζήτηση για την απόδοση, στη διαδικασία ένστασης και στη στιγμή που κάποιος πρέπει να πει: αυτή η απάντηση δεν είναι αρκετά καλή για αυτή την περίπτωση.

Ένα σύστημα μπορεί να κάνει τη διαδρομή μέσα στην εργασία πιο σαφή. Δεν θα πρέπει να θολώνει το σημείο όπου ένας υπεύθυνος άνθρωπος πρέπει να κρίνει και να αποφασίζει. Επιλέξτε ένα στάδιο για να δείτε τον ρόλο του.

Όταν μια σύσταση γίνεται εντολή

Η εξουσία στον χώρο εργασίας σπάνια φτάνει ως μία μόνο εντολή. Διαχέεται μέσα από την κατανομή εργασιών, τους στόχους, τις προεπιλογές, τις προτεινόμενες απαντήσεις, τον χειρισμό εξαιρέσεων και τη μικρή τριβή που συνοδεύει τη διαφωνία. Ένα σύστημα δεν χρειάζεται τη δύναμη να απολύσει κάποιον για να επηρεάσει την επαγγελματική του ζωή. Μπορεί να επηρεάσει ποιες εργασίες βλέπει, πότε τις λαμβάνει, πώς περιγράφεται η δουλειά του, ποιο σήμα απόδοσης φτάνει σε έναν προϊστάμενο ή αν ένα αίτημα αντιμετωπίζεται ως συνηθισμένο ή ως ύποπτο.

Η ευρωπαϊκή έρευνα για την επαγγελματική ασφάλεια χρησιμοποιεί τον όρο διαχείριση εργαζομένων με τεχνητή νοημοσύνη για συστήματα που συλλέγουν και αναλύουν πληροφορίες σχετικά με τους χώρους εργασίας, τους εργαζομένους και τις εργασίες, προκειμένου να λαμβάνουν αυτοματοποιημένες ή ημιαυτόματες αποφάσεις για θέματα όπως ο προγραμματισμός, η κατανομή εργασιών ή η αξιολόγηση της απόδοσης. Αυτός ο ορισμός είναι χρήσιμος επειδή εξετάζει τη λειτουργία και όχι το μάρκετινγκ. Ένα σύστημα με την ένδειξη «βοηθός», «συγκυβερνήτης» ή «σύντροφος γνώσης» μπορεί να βρίσκεται εκτός αυτής της περιγραφής σε ένα περιβάλλον και κοντά σε αυτήν σε ένα άλλο. Η ένδειξη δεν αποτελεί απόδειξη. Η επίδραση στην εργασία αποτελεί.

Το έργο του EU-OSHA διευκρινίζει επίσης γιατί αυτό δεν είναι μόνο ζήτημα προστασίας δεδομένων. Τα συστήματα που αυξάνουν την παρακολούθηση, την πίεση για απόδοση ή την ένταση της εργασίας μπορούν να έχουν συνέπειες για την ασφάλεια, την υγεία και την ευημερία. Η μειωμένη αυτονομία δεν είναι μια αφηρημένη αντίρρηση στην καινοτομία. Μπορεί να αλλάξει το αν κάποιος έχει αρκετό περιθώριο για να κάνει μια εργασία με ασφάλεια, να ζητήσει βοήθεια, να ασκήσει επαγγελματική κρίση ή να ανακάμψει από μια περίοδο υψηλής ζήτησης. Ο οργανισμός θα πρέπει να μπορεί να εξηγήσει πώς θα αντιληφθεί αυτές τις επιπτώσεις, και όχι μόνο πώς θα μετρήσει το μοντέλο.

Ένα chatbot μπορεί να γίνει μέρος αυτού του τοπίου με λιγότερο προφανείς τρόπους από ό,τι ένας βελτιστοποιητής διαδρομών ή μια μηχανή προγραμματισμού. Φανταστείτε ότι παράγει μια «επόμενη βέλτιστη ενέργεια» σε μια οθόνη διαχείρισης υποθέσεων. Φανταστείτε ότι συντάσσει μια σύνοψη απόδοσης από δεδομένα δραστηριότητας. Φανταστείτε ότι δίνει στους προϊσταμένους μια συνοπτική εικόνα συνομιλιών που οι ίδιοι δεν διάβασαν. Φανταστείτε ότι λέει σε έναν εργαζόμενο γιατί άλλαξε η βάρδιά του, ενώ τα υποκείμενα κριτήρια παραμένουν αόρατα. Η συνομιλητική επιφάνεια δεν αφαιρεί τη διαχειριστική λειτουργία. Μπορεί να κάνει τη λειτουργία πιο εύκολα αποδεκτή επειδή η απόφαση φτάνει με μια φωνή που ακούγεται εξυπηρετική.

Δεν υπάρχει τίποτα παιδιάστικο στο να το παίρνει κανείς στα σοβαρά. Οι ενήλικες γνωρίζουν ότι μια ευγενική πρόταση μπορεί να περιέχει μια εντολή. Στον χώρο εργασίας, η ευγένεια μπορεί να κάνει μια εντολή πιο δύσκολο να αμφισβητηθεί, επειδή μετατρέπει ένα ζήτημα εξουσίας σε ζήτημα τόνου. Η σωστή απάντηση δεν είναι να γίνει κάθε διεπαφή ζοφερή. Είναι να διασφαλιστεί ότι οι σημαντικές συστάσεις προσδιορίζουν τη βάση τους, τα όριά τους και τον ανθρώπινο ρόλο που παραμένει υπεύθυνος για το αποτέλεσμα.

Η ανθρώπινη εποπτεία δεν είναι ένα τυπικό κλικ

«Ένας άνθρωπος παραμένει στη διαδικασία» είναι μία από τις πιο καταχρηστικές διαβεβαιώσεις στην τεχνολογία. Μπορεί να περιγράφει ένα πραγματικό μέτρο προστασίας. Μπορεί επίσης να περιγράφει κάποιον που αναμένεται να επιβεβαιώσει ένα αποτέλεσμα σε λιγότερο χρόνο από όσο χρειάζεται για να το κατανοήσει, χωρίς πρόσβαση στις πληροφορίες που το παρήγαγαν και με έναν στόχο που επιβραβεύει τη συμφωνία. Η διάκριση έχει σημασία, γιατί το όνομα του ατόμου μπορεί αργότερα να συνδεθεί με την απόφαση, ακόμη και όταν η εξουσία του ήταν πλασματική.

Ο κανονισμός AI Act δίνει στην καλύτερη εκδοχή πρακτική μορφή. Για σχετικά συστήματα υψηλού κινδύνου, η ανθρώπινη εποπτεία δεν σημαίνει απλώς την παρουσία ενός ατόμου. Αφορά την κατάλληλη επάρκεια, εκπαίδευση και εξουσία. Τα άτομα που αναλαμβάνουν την εποπτεία θα πρέπει να μπορούν να κατανοούν τις σχετικές δυνατότητες και τους περιορισμούς, να έχουν επίγνωση της προκατάληψης αυτοματοποίησης, να ερμηνεύουν σωστά τα αποτελέσματα και να αποφασίζουν να μην χρησιμοποιήσουν, να παρακάμψουν ή να διακόψουν το σύστημα όταν είναι απαραίτητο. Οι ακριβείς νομικές υποχρεώσεις εξαρτώνται από το σύστημα και το πλαίσιο. Το οργανωτικό δίδαγμα έχει ευρύτερη ισχύ: η ουσιαστική εποπτεία χρειάζεται γνώση, χρόνο, πληροφόρηση και άδεια.

Αυτή η άδεια είναι συχνά το στοιχείο που λείπει. Ένας εργαζόμενος μπορεί τεχνικά να μπορεί να απορρίψει μια σύσταση, αλλά πρακτικά να αποθαρρύνεται από το να το κάνει. Ίσως η απόρριψη δημιουργεί μια μεγαλύτερη φόρμα. Ίσως μειώνει μια μετρική αποδοχής. Ίσως ο προϊστάμενος θεωρεί την απόκλιση ένδειξη ότι ο εργαζόμενος δεν έχει αγκαλιάσει τη νέα διαδικασία. Ίσως κανείς δεν έχει εξηγήσει τι θα συμβεί μετά από μια παράκαμψη, οπότε η ασφαλέστερη οδός φαίνεται να είναι η αποδοχή. Τίποτα από αυτά δεν απαιτεί κακή πρόθεση. Μπορεί να προκύψει από μια ροή εργασίας που δημιούργησαν άνθρωποι που έβλεπαν την αποδοχή ως αποδοτικότητα και δεν αναρωτήθηκαν τι χρειάζεται η άρνηση για να είναι πραγματική.

Ένας αξιόπιστος σχεδιασμός κάνει την οδό της άρνησης εξίσου ευανάγνωστη με την οδό της αποδοχής. Δηλώνει πότε δεν πρέπει να χρησιμοποιείται το σύστημα. Δίνει στο άτομο τη δυνατότητα να καταγράψει έναν λόγο σε απλή γλώσσα. Στέλνει τη διαφωνία κάπου όπου μπορεί να παραχθεί μια διόρθωση, αντί για ένα υπολογιστικό φύλλο όπου γίνεται μια μικρή ταλαιπωρία. Προστατεύει τον αξιολογητή από το να θεωρείται αναποτελεσματικός μόνο και μόνο επειδή η προσεκτική εργασία χρειάζεται περισσότερο χρόνο. Και καταγράφει την απόφαση με τρόπο που επιτρέπει σε μια μεταγενέστερη ανασκόπηση να διακρίνει το αποτέλεσμα του μοντέλου από το προσωπικό συμπέρασμα του ατόμου.

Οι κατευθυντήριες γραμμές του Ευρωπαϊκού Συμβουλίου Προστασίας Δεδομένων για την αυτοματοποιημένη ατομική λήψη αποφάσεων είναι ιδιαίτερα χρήσιμες ως προειδοποίηση κατά της ονομαστικής ανθρώπινης συμμετοχής. Η ανθρώπινη παρέμβαση πρέπει να είναι ουσιαστική, όχι μια τυπική χειρονομία. Αν και το νομικό κριτήριο του Άρθρου 22 του GDPR έχει τις δικές του προϋποθέσεις και δεν πρέπει να επεκτείνεται σε κάθε απόφαση στον χώρο εργασίας, το υποκείμενο ερώτημα είναι πολύτιμο: σταθμίζει πραγματικά ένα άτομο τις διαθέσιμες πληροφορίες και έχει την εξουσία να αποκλίνει από το αυτοματοποιημένο αποτέλεσμα; Αν η απάντηση είναι όχι, ο οργανισμός δεν θα πρέπει να χρησιμοποιεί μια ανθρώπινη υπογραφή για να κάνει μια αυτοματοποιημένη ρύθμιση να φαίνεται πιο υπόλογη από ό,τι είναι.

Διαβούλευση πριν η χρήσιμη συνήθεια γίνει πολιτική

Πολλά συστήματα στον χώρο εργασίας τίθενται σε διαβούλευση πολύ αργά. Ο προμηθευτής έχει επιλεγεί, η σύμβαση έχει υπογραφεί, η σύνδεση δεδομένων έχει προσδιοριστεί, στους διευθυντές έχει παρουσιαστεί ένα υποσχόμενο πιλοτικό πρόγραμμα και η υπόλοιπη συζήτηση περιγράφεται ως υλοποίηση. Σε αυτό το στάδιο, οι εργαζόμενοι μπορεί να κληθούν ακόμη να δώσουν ανατροφοδότηση, αλλά η ανατροφοδότηση είναι ένα στενό κανάλι όταν το βασικό ερώτημα έχει ήδη αποφασιστεί. Η κατάλληλη στιγμή για ενημέρωση και διαβούλευση είναι νωρίτερα, όταν ο οργανισμός αποφασίζει ακόμη ποιο πρόβλημα σκοπεύει πραγματικά να λύσει.

Η Οδηγία 2002/14/ΕΚ θεσπίζει ένα γενικό ευρωπαϊκό πλαίσιο για την ενημέρωση και τη διαβούλευση με τους εργαζομένους. Το πεδίο εφαρμογής της και η εθνική της μεταφορά έχουν σημασία, και δεν αποτελεί εγχειρίδιο ειδικά για την τεχνητή νοημοσύνη. Ωστόσο, η διατύπωσή της παραμένει άμεσα σχετική με μια αλλαγή που μπορεί να μεταβάλει ουσιωδώς την οργάνωση της εργασίας. Η ενημέρωση πρέπει να παρέχεται σε κατάλληλο χρόνο, με κατάλληλο τρόπο και με κατάλληλο περιεχόμενο, ώστε οι εκπρόσωποι να μπορούν να την εξετάσουν επαρκώς. Η διαβούλευση περιλαμβάνει ανταλλαγή απόψεων και δημιουργία διαλόγου, με στόχο την επίτευξη συμφωνίας για αποφάσεις που εμπίπτουν στις αρμοδιότητες του εργοδότη. Αυτό είναι σημαντικά πιο ουσιαστικό από το να παρουσιάζεται ένα έτοιμο σύστημα και να αποκαλείται η συνεδρία ερωτήσεων συμμετοχή.

Στην περίπτωση ενός chatbot, η έγκαιρη διαβούλευση θα πρέπει να ξεκινά από την ίδια την εργασία και όχι από το μοντέλο. Ποιο μέρος της δουλειάς είναι δύσκολο; Η δυσκολία οφείλεται σε ανεπαρκή πληροφόρηση, σε άνιση στελέχωση, σε ασαφή πολιτική, σε επαναλαμβανόμενη διοικητική εργασία, σε δυσπρόσιτα συστήματα, σε ανεπαρκή εκπαίδευση ή σε πραγματική ανάγκη για έναν βοηθό συνομιλίας; Ένα εργαλείο μπορεί να κρύψει πολύ αποτελεσματικά μια παλιά οργανωτική αποτυχία. Αν οι άνθρωποι δεν μπορούν να βρουν μια πολιτική επειδή η πολιτική είναι αντιφατική, ένα chatbot μπορεί να παράγει πιο ομαλή σύγχυση. Αν μια ομάδα είναι υπερφορτωμένη επειδή οι παραδοχές για τη στελέχωση είναι λανθασμένες, ένα εργαλείο σύνταξης μπορεί να μετατρέψει την υπερφόρτωση σε πιο προσεγμένο αποτέλεσμα.

Οι εργαζόμενοι και οι εκπρόσωποι μπορούν επίσης να εντοπίσουν πού ένας φαινομενικά ακίνδυνος βοηθός αλλάζει τον κίνδυνο. Μπορεί να γνωρίζουν ότι μια τυπική φράση είναι επισφαλής σε ένα συγκεκριμένο είδος υπόθεσης, ότι μια τοπική διαδικασία έχει εξαιρέσεις, ότι ένα γλωσσικό μοντέλο θα διαχειριστεί λανθασμένα έναν εξειδικευμένο όρο ή ότι ένα αρχείο καταγραφής ερωτήσεων θα αποκαλύψει πληροφορίες που οι άνθρωποι θα έπρεπε να μπορούν να θέτουν ιδιωτικά. Αυτή δεν είναι γνώση που εμφανίζεται σε ένα υπολογιστικό φύλλο προμηθειών. Είναι μέρος της επιχειρησιακής πραγματικότητας που καθορίζει αν ένα σύστημα βοηθά ή βλάπτει.

Η διαβούλευση δεν αποτελεί βέτο σε κάθε ανάπτυξη συστήματος. Είναι ένας τρόπος να γίνει η απόφαση πιο ειλικρινής. Υποχρεώνει τον οργανισμό να κατονομάσει τι θα αλλάξει, ποιοι ενδέχεται να επηρεαστούν, ποια στοιχεία διαθέτει, τι δεν γνωρίζει και ποιες διασφαλίσεις είναι διατεθειμένος να αποδεχθεί. Δημιουργεί ένα αρχείο διαφωνίας που μπορεί να επανεξεταστεί όταν αλλάξει το σύστημα. Ένας σχεδιασμός που δεν αντέχει σε μια σαφή εξήγηση προς τους ανθρώπους που εκτελούν την εργασία δεν είναι κατ' ανάγκην παράνομος. Ζητά, ωστόσο, εμπιστοσύνη με ασυνήθιστα αδύναμους όρους.

Η φωνή των εργαζομένων είναι στοιχείο, όχι ατμόσφαιρα

Υπάρχει η συνήθεια να αντιμετωπίζεται η φωνή των εργαζομένων ως ζήτημα κουλτούρας: επιθυμητή, θερμή, δύσκολο να μετρηθεί. Αυτό είναι υπερβολικά ήπιο. Σε μια μεταβαλλόμενη ροή εργασίας, οι άνθρωποι που συναντούν τις εξαιρέσεις αποτελούν πηγή στοιχείων. Βλέπουν τις περιπτώσεις που δεν ταιριάζουν στο σύνολο δεδομένων, τους πελάτες που δεν μπορούν να ακολουθήσουν την τυπική διαδρομή, τον εξοπλισμό που αποτυγχάνει στο κρύο, τον φάκελο που δεν ταιριάζει με το άτομο που έχουν μπροστά τους, το σημείο όπου μια διατύπωση πολιτικής και μια ανθρώπινη ανάγκη αποκλίνουν. Ένας χώρος εργασίας που τους αφαιρεί τη δυνατότητα να μιλήσουν πετάει μέρος του συστήματος αντίληψής του.

Αλλά το να ακούς δεν είναι το ίδιο με το να συλλέγεις σχόλια. Μια φόρμα σχολίων μπορεί να γίνει άλλο ένα μέσο επιτήρησης αν κανείς δεν γνωρίζει ποιος τη διαβάζει, πώς αποθηκεύεται ή αν μπορεί να επηρεάσει το άτομο που έθεσε μια ανησυχία. Μια χρήσιμη οδός έχει διασφαλίσεις. Επιτρέπει στους ανθρώπους να αναφέρουν ένα πρόβλημα χωρίς να χρειάζεται να το μεταφράσουν σε τεχνικό λεξιλόγιο. Διακρίνει μια μεμονωμένη περίπτωση από ένα μοτίβο. Δίνει στους εκπροσώπους αρκετές συγκεντρωτικές πληροφορίες για να εντοπίσουν ένα επαναλαμβανόμενο ζήτημα. Καθιστά σαφές ποιος είναι υπεύθυνος για την απάντηση και πότε ο οργανισμός θα αποφασίσει αν θα αλλάξει το σύστημα.

Αυτή η διαδρομή πρέπει να επιβιώσει από τις ενημερώσεις. Μια εφάπαξ διαβούλευση για την έκδοση ένα δεν διέπει ένα σύστημα που αργότερα λαμβάνει νέες πηγές, διαφορετικό μοντέλο, νέο κοινό, επιπλέον προτροπές, πίνακα επιδόσεων ή ενοποίηση με άλλη ροή εργασίας. Ένα chatbot αλλάζει όταν αλλάζει το πλαίσιό του. Μπορεί τεχνικά να είναι η ίδια υπηρεσία ενώ επιτελεί διαφορετικό κοινωνικό ρόλο. Η διακυβέρνηση πρέπει να ακολουθεί αυτόν τον ρόλο, όχι την αρχική παραγγελία αγοράς.

Υπάρχει ένα μετρημένο ολλανδικό μάθημα εδώ: ένα κουτί σχολίων δεν είναι μοντέλο polder. Ο διάλογος απαιτεί τραπέζι, πρακτικό και τη δυνατότητα να μετακινηθεί κάτι στον χάρτη. Το ζητούμενο δεν είναι να μετατραπεί κάθε προσαρμογή προτροπής σε συντακτική συνέλευση. Είναι να αναγνωριστούν τα κατώφλια που αξίζουν ανανεωμένο έλεγχο. Χρησιμοποιεί πλέον το σύστημα δεδομένα εργαζομένων; Κατατάσσει, κατανέμει, αξιολογεί ή προτείνει ενέργεια με σοβαρές συνέπειες; Διευρύνθηκε το σύνολο των επηρεαζόμενων ατόμων; Έγινε πιο δύσκολη η διαδρομή άρνησης; Έγιναν ανεπαρκείς οι παλιές διασφαλίσεις επειδή το εργαλείο αποτελεί πλέον μέρος μιας ταχύτερης, πιο πιεστικής ροής εργασίας;

Όταν η απάντηση είναι ναι, η φωνή πρέπει να έχει διαδρομή προς τη διακυβέρνηση. Διαφορετικά, ο οργανισμός ζητά από τους ανθρώπους να εντοπίζουν κινδύνους ενώ διατηρεί το δικαίωμα να αγνοεί τα στοιχεία που τους εντοπίζουν. Αυτό δεν είναι συμμετοχή. Είναι απλήρωτη δοκιμή με καλύτερα γραφικά.

Η ανάδραση γίνεται διακυβέρνηση όταν φτάνει σε έναν επώνυμο υπεύθυνο, παράγει τεκμηριωμένη απάντηση και μπορεί να αλλάξει το σύστημα. Επιλέξτε ένα σημείο στο κύκλωμα για να δείτε τον σκοπό του.

Η επιτήρηση δεν γίνεται πιο ήπια από ένα συννεφάκι συνομιλίας

Τα συνομιλητικά συστήματα δημιουργούν μια ιδιαίτερα δελεαστική μορφή δεδομένων στον χώρο εργασίας. Οι ερωτήσεις μπορούν να αποκαλύψουν αβεβαιότητα, φόρτο εργασίας, ανησυχίες για την υγεία, ευθύνες φροντίδας, συνδικαλιστική δραστηριότητα, οικονομικό άγχος, προστατευόμενα χαρακτηριστικά ή απλώς το γεγονός ότι κάποιος προσπαθεί να κατανοήσει μια δύσκολη κατάσταση. Ένα αρχείο καταγραφής μπορεί να φαίνεται λειτουργικά χρήσιμο επειδή δείχνει τι ρωτούν οι άνθρωποι. Μπορεί επίσης να γίνει χάρτης ευαλωτοτήτων. Το γεγονός ότι τα δεδομένα εμφανίζονται σε ένα εργαλείο εργασίας δεν καθορίζει αν πρέπει να συλλέγονται, να διατηρούνται, να αναλύονται ή να επαναχρησιμοποιούνται για αξιολόγηση.

Ο περιορισμός του σκοπού είναι επομένως ανθρώπινο ζήτημα προτού γίνει φράση συμμόρφωσης. Αν ο βοηθός παρέχεται για να βοηθήσει κάποιον να κατανοήσει μια διαδικασία, θα χρησιμοποιηθούν αργότερα οι ερωτήσεις του για να αξιολογηθεί η ικανότητά του; Αν ένας διευθυντής μπορεί να δει ποιες προτροπές εισήγαγε ένα άτομο, θα αποφύγουν οι άνθρωποι να ζητήσουν βοήθεια; Αν ο οργανισμός αναλύει επαναλαμβανόμενες ερωτήσεις, μπορεί να το κάνει με τρόπο που βελτιώνει την τεκμηρίωση χωρίς να δημιουργεί προφίλ των ανθρώπων που τη χρειάστηκαν; Ένα σύστημα μπορεί να κάνει έναν χώρο εργασίας να φαίνεται πιο ενημερωμένος ενώ καθιστά την ατομική μάθηση λιγότερο ασφαλή.

Η Οδηγία για την Εργασία μέσω Πλατφορμών προσφέρει ένα χρήσιμο, συγκεκριμένο ευρωπαϊκό παράδειγμα. Οι κανόνες της αφορούν την εργασία μέσω πλατφορμών, όχι κάθε εργασιακή σχέση, και πρέπει να διαβάζονται εντός αυτού του πεδίου. Ωστόσο, δείχνουν μια σοβαρή δημόσια κρίση για την αλγοριθμική διαχείριση: όπου η αυτοματοποιημένη παρακολούθηση ή λήψη αποφάσεων επηρεάζει την εργασία, πρέπει να υπάρχουν διαφάνεια, ανθρώπινη παρακολούθηση και επανεξέταση, διαδρομές εξήγησης και αμφισβήτησης, και ιδιαίτερη προσοχή σε συγκεκριμένες κατηγορίες προσωπικών δεδομένων. Η οδηγία δεν εξαφανίζει τα συνηθισμένα προβλήματα απασχόλησης. Καθιστά δυσκολότερο να ισχυριστεί κανείς ότι το λογισμικό βρίσκεται εκτός των κοινωνικών υποχρεώσεων της εργασίας απλώς επειδή ήρθε μέσω μιας εφαρμογής.

Σε ένα γενικό εργασιακό περιβάλλον, η πρακτική αρχή είναι πιο συγκεκριμένη και πιο χρήσιμη από μια γενική υπόσχεση προστασίας της ιδιωτικότητας. Συλλέξτε λιγότερα. Προσδιορίστε τον σκοπό. Διαχωρίστε τη βελτίωση της υπηρεσίας από την αξιολόγηση της απόδοσης, εκτός αν υπάρχει σαφής και τεκμηριωμένος λόγος να συνδεθούν. Μην μετατρέπετε τις ερωτήσεις ενός ατόμου σε ανεπίσημη βαθμολογία ικανοτήτων. Μην αντιμετωπίζετε την απουσία ερωτήσεων ως ένδειξη αυτοπεποίθησης. Μην επιτρέπετε σε έναν προϊστάμενο να περιηγείται στα ίχνη των συνομιλιών απλώς επειδή η πλατφόρμα το καθιστά τεχνικά εύκολο. Η τεχνική δυνατότητα δεν αποτελεί θεμιτό σκοπό.

Υπάρχει επίσης ένα ζήτημα αξιοπρέπειας που δεν μπορεί να περιοριστεί σε ένα πεδίο δεδομένων. Ένας εργαζόμενος θα πρέπει να μπορεί να ρωτήσει πώς να διαχειριστεί ένα άγνωστο πρόβλημα χωρίς να δημιουργείται μόνιμη υποψία ότι είναι λιγότερο ικανός από κάποιον που ήδη γνωρίζει την απάντηση. Η μάθηση ανέκαθεν περιλάμβανε αβεβαιότητα. Ένας χώρος εργασίας που καταγράφει και βαθμολογεί την αβεβαιότητα με υπερβολική προθυμία μπορεί να οδηγήσει σε λιγότερες εμφανείς ερωτήσεις και χειρότερες αποφάσεις. Η σιωπή είναι μια πολύ τακτοποιημένη μετρική. Δεν είναι απαραίτητα καλό σημάδι.

Η εκπαίδευση θα πρέπει να περιλαμβάνει το δικαίωμα στην αμφιβολία

Ο ψηφιακός γραμματισμός στην τεχνητή νοημοσύνη περιγράφεται συχνά ως η ικανότητα καλής χρήσης ενός εργαλείου. Αυτό είναι μόνο το μισό της απαίτησης. Σε έναν χώρο εργασίας, ο γραμματισμός πρέπει επίσης να περιλαμβάνει την ικανότητα αναγνώρισης πότε δεν πρέπει να εμπιστευόμαστε ένα εργαλείο με μια ερώτηση, πότε μια απάντηση στερείται τεκμηρίωσης, πότε μια σύσταση έχει συνέπειες πέρα από την οθόνη και πότε πρέπει να κλιμακώνεται το θέμα. Ένα άτομο που μπορεί να διατυπώσει μια σωστή προτροπή αλλά δεν μπορεί να εντοπίσει μια παραπλανητική έξοδο δεν είναι πλήρως εξοπλισμένο. Έμαθε τη διεπαφή, όχι την ευθύνη που τη συνοδεύει.

Το άρθρο 4 του κανονισμού για την τεχνητή νοημοσύνη απαιτεί από τους παρόχους και τους υπεύθυνους ανάπτυξης να λαμβάνουν μέτρα ώστε να διασφαλίζεται επαρκές επίπεδο ψηφιακού γραμματισμού στην τεχνητή νοημοσύνη για το προσωπικό και για άλλα άτομα που ασχολούνται με συστήματα τεχνητής νοημοσύνης για λογαριασμό τους, λαμβάνοντας υπόψη τις τεχνικές γνώσεις, την εμπειρία, την εκπαίδευση και την κατάρτισή τους, καθώς και το πλαίσιο στο οποίο χρησιμοποιείται το σύστημα. Αυτό είναι σοφά συμφραζόμενο. Ένας ρεσεψιονίστ, ένας κλινικός γιατρός, ένας κοινωνικός λειτουργός, ένας μηχανικός, ένας προϊστάμενος και ένας υπεύθυνος προστασίας δεδομένων μπορεί να χρειάζονται διαφορετικές γνώσεις. Μια γενική παρουσίαση, που ακολουθείται από ένα κουίζ λεξιλογίου, είναι απίθανο να εξυπηρετήσει τον πρακτικό σκοπό.

Η καλή εκπαίδευση ξεκινά από την πραγματική εργασία. Ποιες είναι οι εγκεκριμένες πηγές του βοηθού; Τι είδους απάντηση θα πρέπει να πυροδοτεί έλεγχο; Τι δεν πρέπει ποτέ να καταχωρίζεται; Ποια αποτελέσματα μπορούν να χρησιμοποιηθούν ως προσχέδιο και ποια απαιτούν δεύτερη πηγή; Τι πρέπει να κάνει κάποιος όταν ο βοηθός δεν είναι διαθέσιμος, είναι λάθος ή είναι ασυνήθιστα βέβαιος; Πώς διορθώνεται το αρχείο; Ποιος μπορεί να απαντήσει σε ερωτήσεις σχετικά με το εργαλείο χωρίς να αντιμετωπίζει κάθε ανησυχία ως δελτίο τεχνικής υποστήριξης; Αυτές είναι καθημερινές ερωτήσεις, και αυτό είναι ενθαρρυντικό. Οι καθημερινές ερωτήσεις είναι εκεί όπου ζουν οι ασφαλείς συνήθειες.

Η εκπαίδευση πρέπει επίσης να φτάσει στους προϊσταμένους. Εάν ένας διευθυντής ερμηνεύει τον όγκο των προτροπών, τα ποσοστά αποδοχής ή τον χρόνο απόκρισης ως ένδειξη αφοσίωσης, οι εργαζόμενοι θα βιώσουν το εργαλείο διαφορετικά από ό,τι περιέγραφε η παρουσίαση της κυκλοφορίας του. Οι προϊστάμενοι πρέπει να κατανοούν τα όρια αυτών των σημάτων και τους κινδύνους της μεροληψίας αυτοματοποίησης. Πρέπει να γνωρίζουν ότι μια έξοδος δεν αποτελεί γεγονός απόδοσης απλώς επειδή δημιουργήθηκε από δεδομένα του χώρου εργασίας. Χρειάζονται σαφή οδηγία να μην δημιουργούν ανεπίσημες πρακτικές βαθμολόγησης γύρω από ένα σύστημα που εισήχθη για υποστήριξη.

Η ισχυρότερη μορφή γραμματισμού περιλαμβάνει το δικαίωμα να πει κανείς «δεν γνωρίζω αν αυτή η απάντηση είναι ασφαλής για χρήση». Αυτό δεν είναι παραδοχή αποτυχίας. Είναι επαγγελματική κρίση υπό συνθήκες αβεβαιότητας. Οι οργανισμοί συχνά δηλώνουν ότι θέλουν υπεύθυνη χρήση και στη συνέχεια οικοδομούν μια κουλτούρα στην οποία η αβεβαιότητα φαίνεται αναποτελεσματική. Οι δύο θέσεις δεν μπορούν να συνυπάρξουν για πολύ. Εάν η προσεκτική αμφιβολία τιμωρείται, το εργαλείο θα χρησιμοποιείται με αυτοπεποίθηση μέχρι το σημείο όπου η αυτοπεποίθηση γίνεται δαπανηρή.

Πώς μοιάζει μια δίκαιη αξιολόγηση

Ένα σύστημα δεν θα πρέπει να κρίνεται μόνο από το αν το χρησιμοποιούν οι άνθρωποι. Η υιοθέτηση είναι ένα διφορούμενο σήμα. Οι άνθρωποι μπορεί να χρησιμοποιούν ένα chatbot επειδή όντως τους εξοικονομεί χρόνο, επειδή το περιμένει ένας προϊστάμενος, επειδή οι εναλλακτικές έχουν γίνει πιο δύσκολα προσβάσιμες, επειδή έχει ενσωματωθεί σε μια υποχρεωτική οθόνη ή επειδή η άρνηση χρήσης του μοιάζει με έλλειψη ενθουσιασμού. Καμία από αυτές τις αιτίες δεν αποδεικνύει ότι η ρύθμιση είναι δίκαιη ή χρήσιμη.

Μια καλύτερη αξιολόγηση ρωτά τι άλλαξε στην εργασία. Ξόδευαν οι άνθρωποι λιγότερο χρόνο αναζητώντας επαληθευμένο υλικό ή απλώς περισσότερο χρόνο ελέγχοντας ευφράδεις απαντήσεις; Μείωσε το εργαλείο τη διπλή γραφειοκρατία ή αύξησε τον αναμενόμενο όγκο ολοκληρωμένης εργασίας; Έκανε μια δύσκολη διαδικασία πιο εύκολα κατανοητή ή τυποποίησε μια απάντηση που θα έπρεπε να παραμείνει ευαίσθητη στα συμφραζόμενα; Αναδύονται περισσότερα προβλήματα επειδή το προσωπικό έχει έναν εύκολο δρόμο να υποβάλει ερωτήσεις ή είναι ορατά λιγότερα προβλήματα επειδή οι άνθρωποι έχουν μάθει ότι η υποβολή ερώτησης αφήνει ίχνη; Αυτά είναι διαφορετικά αποτελέσματα, ακόμη κι αν ο πίνακας ελέγχου δείχνει παρόμοια χρήση.

Η αξιολόγηση θα πρέπει να περιλαμβάνει τους ανθρώπους που επηρεάζονται περισσότερο και θα πρέπει να διατηρεί τη διαφορά μεταξύ μιας μετρημένης παρατήρησης και μιας φιλοδοξίας. Το «αναμένουμε ότι ο βοηθός θα μειώσει τη συνήθη προσπάθεια» είναι μια πρόταση. Το «οι εργαζόμενοι ανέφεραν ότι ο βοηθός μείωσε τις διπλές αναζητήσεις κατά τη διάρκεια μιας καθορισμένης δοκιμής» είναι μια παρατήρηση, εφόσον έχει όντως καταγραφεί. Το «ο βοηθός βελτίωσε την ποιότητα» χρειάζεται έναν ορισμό της ποιότητας, ένα πλαίσιο και αποδεικτικά στοιχεία. Λέξεις όπως βελτίωση, υιοθέτηση και αποδοτικότητα μπορούν να αποκρύψουν έναν αξιοσημείωτο όγκο ανεξέταστης πολιτικής.

Θα πρέπει επίσης να υπάρχει ένα προκαθορισμένο σημείο στο οποίο ο οργανισμός θα επανεξετάσει το σύστημα. Ένα chatbot που επεκτείνεται πέρα από τον αρχικό του σκοπό, αρχίζει να λαμβάνει διαφορετικά δεδομένα ή γίνεται μέρος μιας ροής εργασίας αξιολόγησης δεν θα πρέπει να προστατεύεται από το γεγονός ότι κάποτε εγκρίθηκε για κάτι μικρότερο. Η επανεξέταση δεν είναι σημάδι ότι η αρχική ομάδα δεν είχε αυτοπεποίθηση. Είναι μια αναγνώριση ότι τα συστήματα αποκτούν νέες συνέπειες όταν οι άνθρωποι χτίζουν συνήθειες γύρω τους.

Το έργο της ΔΟΕ για τη γενετική τεχνητή νοημοσύνη και τις θέσεις εργασίας είναι χρήσιμο εδώ, επειδή διαχωρίζει την πιθανή έκθεση από τα πραγματικά αποτελέσματα. Η τεχνολογία μπορεί να συμπληρώσει, να εκτοπίσει ή να αλλάξει καθήκοντα ανάλογα με το πώς οι οργανισμοί επιλέγουν να την εισαγάγουν. Η ίδια συγκράτηση είναι χρήσιμη και μέσα σε έναν χώρο εργασίας. Μια δυνατότητα δεν φέρει το δικό της κοινωνικό αποτέλεσμα. Ένα chatbot μπορεί να μειώσει την αγγαρεία, να εντείνει την εργασία, να ανακατανείμει την τεχνογνωσία, να αποδυναμώσει την επαγγελματική κρίση ή να δημιουργήσει μια καλύτερη διαδρομή προς τα αποδεικτικά στοιχεία. Η τεχνική δυνατότητα δεν καθορίζει τι θα συμβεί. Ο σχεδιασμός, οι διαχειριστικές επιλογές και η ισορροπία της φωνής το καθορίζουν.

Το όριο θα πρέπει να καταγράφεται γραπτώς

Κάθε σοβαρή ανάπτυξη χρειάζεται μια σύντομη, απλή δήλωση του ορίου της. Όχι ένα σύνθημα για την υπεύθυνη τεχνητή νοημοσύνη και όχι ένα νομικό έγγραφο τόσο πυκνό που μόνο η ομάδα προμηθειών μπορεί να βρει το νόημά του. Ένα λειτουργικό όριο περιγράφει τον σκοπό, τους ανθρώπους που επηρεάζονται, τις πληροφορίες που μπορεί να χρησιμοποιεί το σύστημα, τις πληροφορίες που δεν πρέπει να χρησιμοποιεί, τις αποφάσεις στις οποίες μπορεί να συνδράμει, τις αποφάσεις που δεν μπορεί να λαμβάνει, το άτομο που είναι υπεύθυνο για τη ροή εργασίας, τη διαδρομή για την αμφισβήτηση, τις συνθήκες υπό τις οποίες το εργαλείο θα πρέπει να τεθεί σε παύση και την ημερομηνία κατά την οποία θα επανεξεταστεί η ρύθμιση.

Αυτή η δήλωση θα είναι ατελής. Η εργασία αλλάζει. Οι πολιτικές αλλάζουν. Τα μοντέλα αλλάζουν. Αλλά η ίδια η πράξη της γραφής αλλάζει την ποιότητα της συζήτησης. Δίνει στον εργαζόμενο κάτι συγκεκριμένο να συγκρίνει με την εμπειρία του. Δίνει στον εκπρόσωπο μια διαδρομή για να ρωτήσει αν το εργαλείο έχει επεκταθεί πέρα από τον δηλωμένο ρόλο του. Δίνει στον προϊστάμενο μια υπενθύμιση ότι ένας χρήσιμος βοηθός δεν είναι γενική άδεια για τη συλλογή περισσότερων δεδομένων ή για τη λήψη περισσότερων αποφάσεων γρηγορότερα. Δίνει στον ελεγκτή, στη ρυθμιστική αρχή ή στη μελλοντική ομάδα ένα αρχείο που δεν εξαρτάται από τη θεσμική μνήμη.

Το όριο θα πρέπει επίσης να διαχωρίζει τη σύσταση από την απόφαση. Ένα chatbot μπορεί να προτείνει μια σύνοψη, ένα επόμενο βήμα ή ένα προσχέδιο. Το σύστημα θα πρέπει να αναφέρει πότε η πρόταση βασίζεται σε ελλιπείς πληροφορίες. Ο άνθρωπος που λαμβάνει την απόφαση θα πρέπει να είναι ορατός στο αρχείο. Αν μια ενέργεια αμφισβητηθεί αργότερα, ο οργανισμός θα πρέπει να μπορεί να προσδιορίσει το μοντέλο ή τον κανόνα που εμπλέκεται, τη σχετική έκδοση, το υλικό που οδήγησε στο αποτέλεσμα, το άτομο που το εξέτασε και τον λόγο της τελικής επιλογής. Αυτό δεν είναι απαίτηση να μετατραπεί κάθε καθημερινή ερώτηση σε φάκελο. Είναι ζήτημα αναλογικότητας: όσο περισσότερο επηρεάζει ένα αποτέλεσμα ένα άτομο, τόσο περισσότερο θα πρέπει να διατηρείται η δυνατότητα τεκμηρίωσης της διαδρομής που οδήγησε σε αυτό.

Υπάρχει ένα χρήσιμο τεστ. Θα μπορούσε ο οργανισμός να εξηγήσει αυτό το όριο σε έναν νέο συνάδελφο την πρώτη του εβδομάδα χωρίς να χρησιμοποιήσει τις λέξεις «μαγικό», «απρόσκοπτο» ή «το σύστημα γνωρίζει»; Θα μπορούσε να εξηγήσει το ίδιο όριο σε έναν εκπρόσωπο των εργαζομένων χωρίς να αλλάξει θέμα; Θα μπορούσε να το εξηγήσει σε ένα άτομο που έλαβε δυσμενή έκβαση; Αν η απάντηση είναι όχι, το πρόβλημα δεν είναι ότι το κοινό δεν έχει την απαραίτητη κατανόηση. Το όριο είναι πιθανότατα πολύ ασαφές.

Η σαφήνεια έχει μια ήσυχη αρετή. Καθιστά δυσκολότερο να ισχυριστεί κανείς ότι ένα σύστημα απλώς βοηθά, όταν στην πραγματικότητα κατευθύνει. Καθιστά δυσκολότερο να πει κανείς σε έναν εργαζόμενο ότι παραμένει υπεύθυνος, ενώ ταυτόχρονα δεν του δίνεται καμία εξουσία να διαφωνήσει. Καθιστά δυσκολότερο να χρησιμοποιηθεί ένας συνομιλητικός τόνος ως υποκατάστατο μιας υπόλογης απόφασης. Στη διακυβέρνηση, αυτού του είδους η ταλαιπωρία είναι συχνά πλεονέκτημα.

Μια μικρή παρατήρηση από εμάς και ένα μεγαλύτερο ανθρώπινο ζήτημα

Στη Dweve, το σχετικό σχεδιαστικό ένστικτο είναι μετρημένο: οι σημαντικές απαντήσεις θα πρέπει να διατηρούν μια διαδρομή επιστροφής στα στοιχεία, στα όρια και στο άτομο που είναι υπεύθυνο να ενεργήσει βάσει αυτών. Αυτή είναι μια θέση για το πώς ένα σύστημα θα πρέπει να υποστηρίζει την κρίση, όχι ένας ισχυρισμός ότι το λογισμικό μπορεί να επιλύσει τις ανισορροπίες ισχύος στον χώρο εργασίας ή να αντικαταστήσει τους θεσμούς που προστατεύουν τους ανθρώπους στην εργασία. Μια καλά δομημένη απάντηση μπορεί να κάνει μια συζήτηση πιο χρήσιμη. Δεν μπορεί να αποφασίσει αν κάποιος είχε αρκετό χρόνο, εξουσία ή ασφάλεια για να την αμφισβητήσει.

Το μεγαλύτερο ζήτημα ανήκει στους εργοδότες, στους εργαζομένους, στους εκπροσώπους, στις ομάδες ασφάλειας, στους ειδικούς προστασίας δεδομένων, στους ρυθμιστές και στο κοινό. Αυτοί αποφασίζουν αν ένα chatbot θα γίνει εργαλείο καλύτερης εργασίας ή μια ευχάριστη διεπαφή για μια παλαιότερη συνήθεια: να αποσπάται περισσότερη κρίση από τους ανθρώπους ενώ τους δίνεται λιγότερος λόγος για τις συνθήκες υπό τις οποίες ασκείται αυτή η κρίση. Καμία ρύθμιση μοντέλου δεν θα το επιλύσει αυτό από μόνη της.

Μην συγχέετε τη φιλικότητα με τη δικαιοσύνη

Ένα chatbot μπορεί να είναι χρήσιμο στην εργασία. Μπορεί να βοηθήσει έναν νέο συνάδελφο να βρει μια διαδικασία, να δώσει σε έναν ειδικό ένα πρώτο προσχέδιο, να κάνει μια πολιτική λιγότερο δυσνόητη ή να γλιτώσει μια ομάδα από περιττές αναζητήσεις. Αυτά είναι αξιόλογα πράγματα. Το λάθος είναι να πιστεύει κανείς ότι μια φιλική διεπαφή καθιστά φιλικές και τις οργανωτικές συνέπειες. Όσο περισσότερο το σύστημα επηρεάζει την κατανομή, την αξιολόγηση, την πρόσβαση, την πειθαρχία ή την καταγραφή του τι συνέβη, τόσο πιο προσεκτικά πρέπει να οριοθετείται η εξουσία του.

Αυτό απαιτεί μερικές άκομψες δεσμεύσεις: διαβούλευση πριν παγιωθεί η ρύθμιση· εκπαίδευση που περιλαμβάνει την αμφιβολία· πρακτικές δεδομένων που σέβονται τη μάθηση και την ιδιωτικότητα· ανθρώπινη εποπτεία με πραγματική εξουσία· μια διαδρομή για ατομική και συλλογική αμφισβήτηση· αρχεία που διακρίνουν μια πρόταση από μια απόφαση· και περιοδική επανεξέταση όταν αλλάζει ο ρόλος του συστήματος. Καμία από αυτές δεν είναι απόρριψη της τεχνολογίας. Είναι οι όροι υπό τους οποίους η τεχνολογία μπορεί να εισέλθει σε έναν χώρο εργασίας χωρίς να ζητά από τους ανθρώπους να παραδώσουν πρώτα την κρίση τους.

Το chatbot δεν χρειάζεται να γίνει συνάδελφος. Μπορεί να παραμείνει ένα εργαλείο, που είναι συχνά μια καλύτερη και πιο έντιμη φιλοδοξία. Τα εργαλεία μπορούν να είναι εξαιρετικά. Δεν χρειάζονται μυθολογία. Χρειάζονται έναν σκοπό, ένα όριο, έναν ιδιοκτήτη και κάποιον που επιτρέπεται να τα αφήσει στην άκρη όταν δεν βοηθούν πλέον.

Πηγές