Όταν η αυτοματοποίηση αλλάζει τη δουλειά, ποιος παίρνει τη νέα θέση;

Η αυτοματοποίηση σπάνια εξαλείφει ένα ολόκληρο επάγγελμα με μία κίνηση. Αναδιατάσσει καθήκοντα, διακριτική ευχέρεια, εκπαίδευση, επιτήρηση και ευθύνη. Το...

Όταν η αυτοματοποίηση αλλάζει τη δουλειά, ποιος παίρνει τη νέα θέση;

Η δουλειά δεν είναι ποτέ η λίστα εργασιών

Μία από τις πιο παραπλανητικές ερωτήσεις στη συζήτηση για τον αυτοματισμό είναι αν μια μηχανή θα πάρει μια δουλειά. Μια δουλειά σπάνια είναι ένα πράγμα που μπορεί να βγει από έναν άνθρωπο και να τοποθετηθεί μέσα σε έναν διακομιστή. Είναι ένα σύνολο από καθήκοντα, κρίσεις, ρουτίνες, σχέσεις, άδειες και κομμάτια τοπικής γνώσης. Κάποια από αυτά τα κομμάτια μπορούν να υποστηριχθούν. Κάποια μπορούν να τυποποιηθούν. Κάποια μπορούν να αφαιρεθούν. Άλλα γίνονται πιο σημαντικά ακριβώς επειδή η ρουτίνα έχει μεταφερθεί αλλού.

Η αλλαγή επομένως φτάνει πριν από τον τίτλο της θέσης. Ένα σύστημα προγραμματισμού μπορεί να αλλάξει το ποιος καλείται να δουλέψει, ακόμα κι αν το ωρολόγιο πρόγραμμα εξακολουθεί να φέρει τα ίδια ονόματα. Ένας βοηθός εγγράφων μπορεί να αλλάξει το τι θεωρείται λογικός φόρτος υποθέσεων, ακόμα κι αν η σύμβαση εξακολουθεί να λέει κοινωνικός λειτουργός. Ένας πίνακας απόδοσης μπορεί να μετατρέψει μια άτυπη κρίση σε στόχο, ακόμα κι αν κανείς δεν αποκαλεί τον πίνακα διευθυντή. Η δουλειά έχει αλλάξει. Ο οργανισμός μπορεί απλώς να έχει ξεχάσει να αλλάξει το λεξιλόγιό του.

Γι' αυτό το σοβαρό ερώτημα δεν είναι αν ο αυτοματισμός καταστρέφει δουλειές αφηρημένα. Είναι ποιος αποφασίζει ποια καθήκοντα μετακινούνται, ποια νέα καθήκοντα εμφανίζονται, ποιοι κίνδυνοι γίνονται αποδεκτοί, ποιοι άνθρωποι εκπαιδεύονται και ποιος έχει την εξουσία να αμφισβητήσει ένα αποτέλεσμα. Η απάντηση καθορίζει αν μια τεχνική αλλαγή γίνεται μια δίκαιη μετάβαση, μια εντατικοποίηση της εργασίας ή μια ήσυχη μεταφορά εξουσίας από τους ανθρώπους που κάνουν τη δουλειά στο σύστημα που τη μετρά.

Φανταστείτε μια σύνθετη εργάσιμη ημέρα, συναρμολογημένη από γνωστά χαρακτηριστικά και όχι από αναφορά κάποιου συγκεκριμένου εργοδότη. Μια ομάδα λαμβάνει ένα εργαλείο που συντάσσει περιλήψεις, προτείνει προτεραιότητες και μετρά τον χρόνο που αφιερώνεται σε κάθε υπόθεση. Το εργαλείο περιγράφεται ως βοήθεια. Η ομάδα ενημερώνεται ότι δεν αφαιρείται κανένας ρόλος. Μέσα σε λίγες εβδομάδες, οι εύκολες υποθέσεις ολοκληρώνονται πιο γρήγορα, οι δύσκολες υποθέσεις παραμένουν, ο στόχος υπολογίζεται εκ νέου από τον ταχύτερο μέσο όρο και οι άνθρωποι που αμφισβητούν μια πρόταση ξοδεύουν περισσότερο χρόνο τεκμηριώνοντας γιατί το έκαναν. Τίποτα σε αυτή τη σειρά δεν απαιτεί από μια μηχανή να πάρει μια δουλειά. Η δουλειά έχει ωστόσο επανασχεδιαστεί γύρω από τη μηχανή.

Η διάκριση έχει σημασία επειδή αλλάζει τι πρέπει να απαντήσει μια υπεύθυνη εισαγωγή. Αν η εργασία αναδιατάσσεται, οι εργαζόμενοι χρειάζονται λόγο στον χάρτη, όχι μια αφίσα παρακίνησης αφού ο χάρτης είναι τελικός. Αν η κρίση μεταφέρεται σε ένα σύστημα βαθμολόγησης, οι ενδιαφερόμενοι χρειάζονται έναν τρόπο να επιθεωρούν και να αμφισβητούν τη βαθμολογία. Αν η εκπαίδευση είναι απαραίτητη για να λειτουργήσει η νέα διευθέτηση, η εκπαίδευση είναι μέρος της ίδιας της αλλαγής, όχι ένα προνόμιο που προσφέρεται όταν ο προϋπολογισμός είναι γενναιόδωρος.

Ξεκινήστε με το τι κάνουν πραγματικά οι άνθρωποι

Η καλή δουλειά μετάβασης ξεκινά με την παρατήρηση. Πριν επιλέξει ένα μοντέλο, μια ομάδα θα πρέπει να περιγράψει την εργασία όπως εκτελείται, συμπεριλαμβανομένων των δύσκολων σημείων που δεν εμφανίζονται ποτέ στο διάγραμμα διαδικασίας. Ποιες αποφάσεις είναι ρουτίνας; Ποιες εξαρτώνται από τα συμφραζόμενα; Ποιες απαιτούν μια συζήτηση, μια επαγγελματική σχέση ή μια φυσική επιθεώρηση; Πού παρατηρούν οι άνθρωποι ότι ένα αρχείο είναι ελλιπές; Πού αντισταθμίζουν ένα σύστημα που δεν γνωρίζει τη διαφορά μεταξύ μιας ασυνήθιστης υπόθεσης και μιας κακής;

Αυτό δεν είναι επιχείρημα για να εξιδανικεύεται η ανθρώπινη εργασία. Κάποιες ρουτίνες είναι κουραστικές, επαναλαμβανόμενες και εντελώς ακατάλληλες για έναν άνθρωπο που έχει άλλα πράγματα να κάνει. Η αφαίρεση περιττής αντιγραφής, αναζήτησης ή αναδιαμόρφωσης μπορεί να είναι μια πραγματική βελτίωση. Το ζητούμενο είναι να ονομαστεί το καθήκον που πρέπει να αλλάξει, αντί να αντιμετωπίζεται το επάγγελμα ως ένα ενιαίο σύνολο. Ένα σύστημα που αφαιρεί τη διπλή καταχώριση μπορεί να επιστρέψει χρόνο. Ένα σύστημα που αφαιρεί τον χρόνο που χρειάζεται για να ελεγχθεί μια αβέβαιη απάντηση μπορεί να δημιουργήσει έναν ταχύτερο τρόπο να κάνεις λάθος.

Ένας χρήσιμος χάρτης εργασιών έχει τουλάχιστον τέσσερα επίπεδα. Το πρώτο είναι η ορατή ενέργεια: ταξινόμηση, σύνταξη, προγραμματισμός, επιθεώρηση, απάντηση ή έγκριση. Το δεύτερο είναι η κρίση που κρύβεται μέσα της: τι θεωρείται πλήρες, επείγον, ασφαλές, δίκαιο ή σχετικό. Το τρίτο είναι η ευθύνη που συνδέεται με την κρίση: ποιος πρέπει να εξηγήσει την απόφαση, να τη διορθώσει και να επωμιστεί τις συνέπειες. Το τέταρτο είναι ο βρόχος μάθησης: ποιος παρατηρεί ένα νέο μοτίβο, ενημερώνει την πρακτική και λέει στο σύστημα ότι η παλιά του συντόμευση δεν λειτουργεί πλέον.

Αυτά τα επίπεδα συχνά κατανέμονται σε μια ομάδα. Ένας ρεσεψιονίστ μπορεί να παρατηρήσει μια λεπτομέρεια που ένας αναλυτής πολιτικής επισημοποιεί. Ένας τεχνικός μπορεί να αναγνωρίσει μια βλάβη που αργότερα ένας μηχανικός κωδικοποιεί ως κανόνα. Μια κοινωνική λειτουργός μπορεί να γνωρίζει ότι μια φράση σε μια φόρμα είναι σημάδι αγωνίας και όχι ένα πεδίο που λείπει. Το σύστημα μπορεί να υποστηρίξει κάθε άτομο διαφορετικά, αλλά δεν θα πρέπει να σβήνει τη διαδρομή μέσω της οποίας η γνώση εισέρχεται στον οργανισμό. Αν οι άνθρωποι που βλέπουν την εξαίρεση αποκλείονται από τον σχεδιασμό, το σύστημα θα είναι πολύ συνεπές στο να την αγνοεί.

Η εργασία της Διεθνούς Οργάνωσης Εργασίας για τη γενετική τεχνητή νοημοσύνη είναι χρήσιμη εδώ, επειδή διαχωρίζει την έκθεση των εργασιών από την τύχη ολόκληρων επαγγελμάτων. Η ανάλυσή της διαπιστώνει ότι πολλές θέσεις εργασίας εκτίθενται μόνο εν μέρει και είναι πιο πιθανό να συμπληρωθούν παρά να υποκατασταθούν πλήρως. Αυτό δεν σημαίνει ότι η μετάβαση είναι ακίνδυνη. Η ΔΟΕ επισημαίνει αλλαγές στην ποιότητα της εργασίας, στην ένταση της εργασίας και στην αυτονομία, και αναφέρει ότι το αποτέλεσμα εξαρτάται από τον τρόπο με τον οποίο εισάγεται η τεχνολογία. Μια εργασία μπορεί να παραμείνει τυπικά ανθρώπινη ενώ οι συνθήκες γύρω της γίνονται λιγότερο ανθρώπινες.

Η ίδια ανάλυση προειδοποιεί επίσης να μην αντιμετωπίζονται οι δείκτες έκθεσης ως προβλέψεις απώλειας θέσεων εργασίας. Μια βαθμολογία έκθεσης μπορεί να εντοπίσει πού μια τεχνολογία θα μπορούσε να αγγίξει την εργασία. Δεν μπορεί να μας πει αν ένας εργοδότης θα χρησιμοποιήσει τη δυνατότητα για να μειώσει την κοπιαστική εργασία, να αυξήσει την παραγωγικότητα, να αφαιρέσει τη διακριτική ευχέρεια ή να δημιουργήσει μια καλύτερη υπηρεσία. Αυτό είναι ένα ζήτημα διαχείρισης και κοινωνικό ζήτημα. Ένας αριθμός μπορεί να εντοπίσει την πόρτα. Δεν μπορεί να μας πει ποιος επιτρέπεται να περάσει από αυτήν.

Η αυτοματοποίηση αλλάζει ένα δίκτυο εργασίας, όχι ένα μόνο κουτί σε ένα οργανόγραμμα. Ο χάρτης διατηρεί την κρίση και την ευθύνη ορατές.

Η ενίσχυση μπορεί να εντείνει την εργασία

Η λέξη ενίσχυση ακούγεται καθησυχαστική επειδή υποδηλώνει ότι ένα άτομο παραμένει στην εικόνα. Δεν αποτελεί από μόνη της εγγύηση καλύτερης εργασίας. Ένα σύστημα μπορεί να ενισχύσει έναν εργαζόμενο δίνοντάς του ένα χρήσιμο εργαλείο, ή δίνοντάς του έναν μεγαλύτερο σωρό υποθέσεων και ένα μικρότερο χρονικό περιθώριο για να διαχειριστεί την καθεμία. Μπορεί να βελτιώσει την ποιότητα μιας απόφασης, ή μπορεί να κάνει μια απόφαση να φαίνεται αρκετά αντικειμενική ώστε κανείς να μην αισθάνεται ότι επιτρέπεται να την αμφισβητήσει.

Η ένταση της εργασίας δεν είναι μόνο ο αριθμός των εργασιών που ολοκληρώνονται. Περιλαμβάνει την αναμενόμενη ταχύτητα, τις ανεκτές διακοπές, τη συναισθηματική προσπάθεια που απαιτείται για τη διαχείριση εξαιρέσεων και τον βαθμό προσοχής που διατίθεται για μια προσεκτική απόφαση. Ένα εργαλείο σύνταξης μπορεί να εξοικονομεί χρόνο σε μια συνηθισμένη επιστολή, αυξάνοντας όμως τον αριθμό των επιστολών που αναμένεται να παράγει ένα άτομο. Ένας βελτιστοποιητής διαδρομών μπορεί να συντομεύει το ταξίδι, γεμίζοντας όμως κάθε εξοικονομημένο λεπτό με μία ακόμη επίσκεψη. Ένας πίνακας ελέγχου μπορεί να αποκαλύψει ένα σημείο συμφόρησης και στη συνέχεια να μετατρέψει σιωπηλά το σημείο συμφόρησης σε ατομικό πρόβλημα απόδοσης.

Τα ευρήματα της ΔΟΕ τοποθετούν την ποιότητα της εργασίας δίπλα στην ποσότητα της εργασίας για κάποιο λόγο. Ένας ρόλος μπορεί να επιβιώσει ενώ η αυτονομία συρρικνώνεται. Ένα άτομο μπορεί να διατηρήσει τον τίτλο του ενώ χάνει τη διακριτική ευχέρεια που καθιστούσε τον ρόλο εξειδικευμένο. Η μετάβαση μπορεί επίσης να είναι άνιση. Οι εργαζόμενοι που έχουν ήδη πρόσβαση σε αξιόπιστα συστήματα και εκπαίδευση μπορεί να αποκτήσουν πλεονέκτημα, ενώ οι εργαζόμενοι στο ίδιο επάγγελμα καλούνται να διαχειριστούν τις δύσκολες περιπτώσεις με λιγότερο χρόνο και λιγότερους πόρους. Η συνολική εικόνα μπορεί να μοιάζει με παραγωγικότητα, ενώ η καθημερινή εμπειρία γίνεται μια ουρά που δεν αδειάζει ποτέ πραγματικά.

Γι' αυτό μια υπεύθυνη πρόταση θα πρέπει να περιγράφει τη βελτίωση που επιδιώκεται με όρους που μπορεί να ελέγξει ένας εργαζόμενος. Θα αφαιρέσει το σύστημα ένα επαναλαμβανόμενο βήμα; Θα διευκολύνει την εύρεση σχετικών πληροφοριών; Θα αφήσει χρόνο για μια συζήτηση που δεν μπορεί να αυτοματοποιηθεί; Θα μειώσει την έκθεση σε μια επικίνδυνη εργασία; Τι θα γίνει με τον εξοικονομημένο χρόνο; Αν η απάντηση είναι απλώς ότι η ομάδα θα διεκπεραιώνει περισσότερα, ο οργανισμός δεν συζητά την ενίσχυση. Συζητά έναν νέο στόχο παραγωγής με μια ευγενική διεπαφή.

Υπάρχει επίσης ένα πρόβλημα ποιότητας. Όταν ένα σύστημα διαχειρίζεται τη συνηθισμένη περίπτωση, οι άνθρωποι βλέπουν μεγαλύτερο ποσοστό ασυνήθιστων περιπτώσεων. Η υπόλοιπη εργασία γίνεται πιο διφορούμενη, πιο κρίσιμη ή πιο εξαρτημένη από την εμπειρία. Αυτός μπορεί να είναι ένας καλός λόγος για επένδυση στην εξειδίκευση. Μπορεί επίσης να χρησιμοποιηθεί για να συναχθεί ότι η εργασία είναι πλέον πολύ ακανόνιστη για να αξίζει μια σωστή διαδικασία. Η πρώτη προσέγγιση αντιμετωπίζει την κρίση ως ικανότητα. Η δεύτερη την αντιμετωπίζει ως κέντρο κόστους που δεν έχει ακόμη συμπιεστεί επιτυχώς.

Ένα σχέδιο μετάβασης θα πρέπει επομένως να περιλαμβάνει ένα αντιπαράδειγμα που σπάνια καταγράφεται: πώς θα είναι η εργασία αν το σύστημα είναι αρκετά ακριβές ώστε να είναι χρήσιμο, αλλά όχι αρκετά ακριβές ώστε να είναι αξιόπιστο χωρίς έλεγχο; Αυτή είναι η συνήθης συνθήκη για πολλά συστήματα υποστήριξης αποφάσεων. Η απάντηση θα πρέπει να προσδιορίζει πού γίνεται ο έλεγχος, πόσο διαρκεί, ποια στοιχεία χρειάζεται και πώς μπορεί ένα άτομο να απορρίψει τη σύσταση χωρίς να χαρακτηριστεί αναποτελεσματικό.

Ο κρυφός διαχειριστής μέσα στο λογισμικό

Η αυτοματοποίηση μετατρέπεται σε διακυβέρνηση του χώρου εργασίας όταν το λογισμικό αρχίζει να κατανέμει, να κατευθύνει, να αξιολογεί ή να ελέγχει την εργασία. Δεν χρειάζεται να ονομάζεται τεχνητή νοημοσύνη. Ένας σταθερός κανόνας που αναθέτει μια εργασία με βάση τη διαθεσιμότητα μπορεί να διαμορφώσει μια ημέρα. Ένα σύστημα βαθμολόγησης μπορεί να επηρεάσει την πρόσβαση σε μελλοντική εργασία. Ένα μοντέλο που προβλέπει μια πιθανή καθυστέρηση μπορεί να αλλάξει ποιος θα αναλάβει τη δύσκολη βάρδια. Η τεχνική διάκριση μεταξύ ενός κανόνα και ενός εκπαιδευμένου μοντέλου έχει σημασία για τη διαφάνεια, αλλά ο εργαζόμενος βιώνει και τα δύο μέσω της απόφασης που φτάνει.

Η μελέτη της Ευρωπαϊκής Επιτροπής για την αλγοριθμική διαχείριση περιγράφει αυτό το πεδίο ως ένα σύνολο πρακτικών που μπορούν να αυτοματοποιήσουν ή να υποστηρίξουν παραδοσιακές διοικητικές λειτουργίες. Αυτές οι λειτουργίες περιλαμβάνουν την πρόσληψη, την κατανομή εργασιών, την παρακολούθηση, την αξιολόγηση και τις αποφάσεις σχετικά με την εξέλιξη ή τον τερματισμό της απασχόλησης. Η μελέτη σημειώνει επίσης ότι η πολιτική και νομική απάντηση κατανέμεται σε διάφορα μέσα και δεν περιέχεται σε έναν ενιαίο κώδικα εργασιακών σχέσεων. Αυτός ο κατακερματισμός είναι ένα διοικητικό γεγονός, όχι άδεια για να προσποιούμαστε ότι το λογισμικό δεν έχει αποτελέσματα ανάλογα με αυτά ενός διαχειριστή.

Η αλγοριθμική διαχείριση εισάγεται συχνά με μια μικρή επιχειρησιακή υπόσχεση. Να αντιστοιχίζονται οι άνθρωποι με τις εργασίες πιο γρήγορα. Να γίνεται αντιληπτή η χωρητικότητα πριν χαλάσει το ωρολόγιο πρόγραμμα. Να αποκτά ο επόπτης πιο καθαρή εικόνα. Να εντοπίζεται ένα ζήτημα ασφάλειας. Κάθε υπόσχεση μπορεί να είναι εύλογη. Ο κίνδυνος εμφανίζεται όταν το μέτρο γίνεται υποκατάστατο της ίδιας της εργασίας. Ο χρόνος απόκρισης υποκαθιστά τη φροντίδα. Μια βαθμολογία υποκαθιστά την αξιοπιστία. Η καταγραφή της δραστηριότητας στην οθόνη υποκαθιστά την προσπάθεια. Το υποκατάστατο είναι πιο εύκολο να μετρηθεί, οπότε ο οργανισμός αρχίζει να το αντιμετωπίζει ως πιο πραγματικό από αυτό που υποτίθεται ότι περιγράφει.

Μόλις ένα υποκατάστατο καθορίζει την πρόσβαση στην εργασία, το βάρος της απόδειξης αλλάζει. Ένας διευθυντής μπορεί συνήθως να εξηγήσει μια απόφαση στο πλαίσιό της, ακόμη κι αν η εξήγηση είναι φτωχή. Ένα σύστημα μπορεί να παράγει μια βαθμολογία που φαίνεται ουδέτερη επειδή τα δεδομένα εισόδου της είναι κρυφά. Ο εργαζόμενος τότε πρέπει να αμφισβητήσει και το αποτέλεσμα και την ιδέα ότι το αποτέλεσμα είναι το σωστό είδος αποδεικτικού στοιχείου. Γι' αυτό έχουν σημασία η πρόσβαση σε πληροφορίες, η ανθρώπινη επανεξέταση και η ουσιαστική δυνατότητα αμφισβήτησης. Μια απάντηση που λέει ότι το σύστημα είναι πολύπλοκο δεν είναι εξήγηση. Είναι μια πρόσκληση να σταματήσεις να ρωτάς.

Η επιτήρηση χρήζει ιδιαίτερης προσοχής. Δεδομένα που συλλέγονται για συντονισμό μπορούν να επαναχρησιμοποιηθούν για αξιολόγηση. Δεδομένα που συλλέγονται για ασφάλεια μπορούν να χρησιμοποιηθούν για πειθαρχικά μέτρα. Δεδομένα που συλλέγονται ενώ κάποιος εργάζεται μπορούν να αποκαλύψουν ευαίσθητες πληροφορίες για την υγεία, τις ευθύνες φροντίδας ή τις συναναστροφές του. Το γεγονός ότι ένα σύστημα μπορεί να συλλέξει ένα σήμα δεν καθιστά το σήμα θεμιτό στη χρήση του. Ένας χώρος εργασίας δεν είναι εργαστήριο στο οποίο μπορεί να θεωρηθεί δεδομένη η συναίνεση επειδή ο εργαζόμενος πάτησε σε μια οθόνη πριν ξεκινήσει τη βάρδια.

Η Ευρωπαϊκή Συνομοσπονδία Συνδικάτων έχει υποστηρίξει ότι οι παρεμβατικές εφαρμογές στον χώρο εργασίας χρειάζονται ισχυρότερους περιορισμούς, ότι οι εργαζόμενοι και οι εκπρόσωποί τους θα πρέπει να λαμβάνουν πληροφορίες σε απλή γλώσσα και ότι η διαβούλευση θα πρέπει να πραγματοποιείται πριν από την ανάπτυξη και τις ουσιαστικές αλλαγές. Η θέση της συνδέει επίσης τα αλγοριθμικά συστήματα με τις συλλογικές διαπραγματεύσεις, την εκπαίδευση των εργαζομένων και το δικαίωμα ελέγχου και αναθεώρησης των αποφάσεων. Αυτά δεν είναι τεχνικά πρόσθετα. Αναγνωρίζουν ότι ο χώρος εργασίας είναι ένας κοινωνικός θεσμός και ότι η μεταφορά της εξουσίας στο λογισμικό αλλάζει την ισορροπία μέσα σε αυτόν τον θεσμό.

Η διαβούλευση είναι μέρος του σχεδιασμού

Η ενημέρωση και η διαβούλευση αντιμετωπίζονται μερικές φορές ως τελετουργικά στάδια που έπονται της πραγματικής απόφασης. Το ευρωπαϊκό πλαίσιο δεν μας δίνει κανένα λόγο να τα αντιμετωπίζουμε έτσι. Το πλαίσιο της Επιτροπής γύρω από την Οδηγία 2002/14/ΕΚ παρουσιάζει την έγκαιρη ενημέρωση και διαβούλευση ως μέρος του τρόπου με τον οποίο οι οργανισμοί διαχειρίζονται σημαντικές αλλαγές και νέες μορφές οργάνωσης της εργασίας. Η οδηγία θεσπίζει ένα γενικό πλαίσιο, με εθνικές επιλογές ως προς το πεδίο εφαρμογής και την εφαρμογή. Δεν είναι ένα εγχειρίδιο τεχνητής νοημοσύνης. Είναι μια υπενθύμιση ότι μια ουσιαστική αλλαγή στην εργασία έχει μια διαδικαστική ζωή πριν γίνει τεχνική ανάπτυξη.

Ο συγχρονισμός είναι σημαντικός. Μια συνάντηση αφού έχει επιλεγεί ο προμηθευτής και έχει διαμορφωθεί η ροή εργασίας δεν είναι το ίδιο με μια συζήτηση ενώ ο οργανισμός εξακολουθεί να αποφασίζει ποιο πρόβλημα θέλει να λύσει. Η έγκαιρη συμμετοχή επιτρέπει στους εργαζόμενους να ρωτήσουν ποια δεδομένα είναι απαραίτητα, ποιες εργασίες αλλάζουν πραγματικά, πώς θα αντιμετωπιστούν τα σφάλματα και πώς μοιάζει η εναλλακτική λύση. Αποκαλύπτει επίσης γνώση που είναι δύσκολο να αγοραστεί από έξω. Οι άνθρωποι που κάνουν τη δουλειά ξέρουν πού είναι εύθραυστη η διαδικασία επειδή έχουν περάσει χρόνια κρατώντας την όρθια.

Η διαβούλευση δεν απαιτεί κάθε απόφαση να είναι ομόφωνη. Απαιτεί οι ενδιαφερόμενοι να αντιμετωπίζονται ως συμμετέχοντες σε μια αλλαγή και όχι ως αισθητήρες που θα αναφέρουν την αντίσταση μετά την έναρξη. Μια σοβαρή διαδικασία θα πρέπει να καταγράφει τι προτάθηκε, τι αμφισβήτησαν οι εργαζόμενοι, τι άλλαξε ως αποτέλεσμα και ποιες διαφωνίες παραμένουν. Αν μια πρόταση εξακολουθεί να γίνεται αποδεκτή, ο οργανισμός θα πρέπει να μπορεί να εξηγήσει γιατί. Αυτό είναι πιο ώριμο από το να προσποιείται ότι η έλλειψη συμφωνίας σημαίνει ότι κανείς δεν είχε άποψη.

Υπάρχει ένας πρακτικός λόγος για να γίνει αυτό το αρχείο ρητό. Τα συστήματα αλλάζουν μετά την έναρξη λειτουργίας τους. Το μοντέλο ενημερώνεται, η πηγή δεδομένων αλλάζει, προστίθεται ένα νέο τμήμα, μια μετρική αξιολόγησης προσαρμόζεται ή ένας προμηθευτής ξαναγράφει μια πολιτική. Μια εφάπαξ διαβούλευση δεν μπορεί να καλύψει ένα σύστημα που εξελίσσεται. Οι εκπρόσωποι των εργαζομένων χρειάζονται μια συνεχή οδό για να παρατηρούν τις επιπτώσεις και να ζητούν επανεξέταση. Διαφορετικά, ο οργανισμός έχει διαβουλευτεί για την έκδοση ένα και έχει θέσει υπό διακυβέρνηση ένα διαφορετικό μηχάνημα μέχρι την έκδοση τρία.

Η πρόταση της ΕΣΕ για μια οδηγία σχετικά με τα αλγοριθμικά συστήματα στην εργασία προβλέπει εκτίμηση επιπτώσεων πριν από την εφαρμογή και σε τακτά διαστήματα στη συνέχεια, με τη συμμετοχή των εργαζομένων και των εκπροσώπων τους. Αυτή είναι μια χρήσιμη αρχή σχεδιασμού, ακόμη και εκεί όπου η πρόταση δεν αποτελεί νόμο. Μια εκτίμηση επιπτώσεων δεν θα πρέπει να είναι ένα έγγραφο που αποδεικνύει ότι η απόφαση είχε ήδη ληφθεί. Θα πρέπει να είναι ένας χώρος όπου ο οργανισμός κατονομάζει ποιοι ενδέχεται να επηρεαστούν, τι μπορεί να πάει στραβά, ποια στοιχεία θα παρακολουθούνται και ποιος έχει την εξουσία να αλλάξει πορεία.

Η ίδια αρχή ισχύει και για τους μικρούς οργανισμούς. Ένας μικρότερος εργοδότης μπορεί να μην έχει συμβούλιο εργαζομένων ή ειδικό γραφείο δεδομένων, αλλά εξακολουθεί να χρειάζεται να κατανοήσει τι αλλάζει ένα σύστημα για τους ανθρώπους που το χρησιμοποιούν. Η γραφειοκρατία μπορεί να είναι ελαφρύτερη. Τα ερωτήματα δεν μπορούν να εξαφανιστούν. Διαφορετικά, μια μέτρια εγκατάσταση μπορεί να εξελιχθεί σε ένα μεγάλο πρόβλημα διακυβέρνησης χωρίς κανέναν να έχει οριστεί για να το παρατηρήσει.

Η εκπαίδευση είναι δύναμη στην πράξη

Η εκπαίδευση είναι συχνά η πρώτη υπόσχεση που δίνεται και το πρώτο πράγμα που περικόπτεται. Ένα σχέδιο έναρξης λέει ότι το προσωπικό θα παρακολουθήσει μια συνεδρία. Η συνεδρία γίνεται μια παρουσίαση διαφανειών. Η παρουσίαση διαφανειών γίνεται μια ηχογράφηση. Η ηχογράφηση γίνεται ένας σύνδεσμος σε μια πύλη μάθησης που όλοι αναμένεται να έχουν παρακολουθήσει προτού το νέο σύστημα αλλάξει σιωπηλά τους κανόνες της εργασίας.

Αυτό δεν είναι αυτό που χρειάζονται οι άνθρωποι. Χρειάζονται αρκετή κατανόηση για να αναγνωρίζουν τι κάνει το σύστημα, τι δεν κάνει, ποια δεδομένα χρησιμοποιεί, πώς πρέπει να ελέγχεται το αποτέλεσμά του, πότε πρέπει να αγνοείται, πώς να αναφέρουν ένα σφάλμα και τι θα συμβεί αν αρνηθούν μια σύσταση. Χρειάζονται χρόνο για να εξασκηθούν με τις πραγματικές περιπτώσεις και τις οριακές συνθήκες της εργασίας τους. Χρειάζονται να γνωρίζουν ποιος μπορεί να απαντήσει σε μια ερώτηση χωρίς να τη μετατρέψει σε ένα εισιτήριο που εξαφανίζεται σε μια ουρά του προμηθευτή.

Η Πράξη για την Τεχνητή Νοημοσύνη διατυπώνει αυτό το πρακτικό σημείο σε νομική γλώσσα. Οι πάροχοι και οι υπεύθυνοι ανάπτυξης πρέπει να λαμβάνουν μέτρα για να διασφαλίσουν ένα επαρκές επίπεδο γραμματισμού στην τεχνητή νοημοσύνη για τα άτομα που χρησιμοποιούν συστήματα για λογαριασμό τους, λαμβάνοντας υπόψη τις τεχνικές τους γνώσεις, την εμπειρία, την εκπαίδευση, την κατάρτιση και το πλαίσιο στο οποίο θα χρησιμοποιηθεί το σύστημα. Για συγκεκριμένα συστήματα υψηλού κινδύνου, τα άτομα που έχουν οριστεί για ανθρώπινη εποπτεία χρειάζονται ικανότητα, κατάρτιση και εξουσία. Η Πράξη διατηρεί επίσης τα υφιστάμενα δικαιώματα ενημέρωσης και διαβούλευσης για τους εργαζομένους και τους εκπροσώπους τους. Ο γραμματισμός συνδέεται επομένως με την εξουσία, όχι απλώς με την εξοικείωση με μια οθόνη προϊόντος.

Η θέση της ΕΣΕ για την ανάπτυξη δεξιοτήτων των εργαζομένων προχωρά περαιτέρω προς μια κατεύθυνση που έχει σημασία για τη δικαιοσύνη. Αντιμετωπίζει τον γραμματισμό στην τεχνητή νοημοσύνη ως την ικανότητα να κατανοεί κανείς κριτικά πώς η τεχνητή νοημοσύνη επηρεάζει την εργασία και τα επαγγέλματα, όχι μόνο την ικανότητα να χειρίζεται ένα εργαλείο για τον εργοδότη. Αυτή η διάκριση είναι εύκολο να χαθεί. Αν η εκπαίδευση διδάσκει σε ένα άτομο πώς να αποδέχεται μια πρόταση αλλά όχι πώς να αμφισβητεί το σύστημα που την παρήγαγε, ο οργανισμός έχει εκπαιδεύσει τη συμμόρφωση, όχι την ικανότητα.

Ένα χρήσιμο σχέδιο εκπαίδευσης έχει τουλάχιστον τρία κοινά. Το πρώτο είναι το άτομο που χρησιμοποιεί το σύστημα στην καθημερινή εργασία. Χρειάζεται επιχειρησιακό γραμματισμό: εισροές, εκροές, αβεβαιότητα, κλιμάκωση και ασφαλή χρήση. Το δεύτερο είναι το άτομο που επανεξετάζει ή εποπτεύει την εργασία. Χρειάζεται γραμματισμό αποφάσεων: στοιχεία, μεροληψία, διαφωνία, παρακάμψεις και συνέπειες. Το τρίτο είναι η ομάδα που εκπροσωπεί τους εργαζομένους ή επιθεωρεί τον οργανισμό. Χρειάζεται γραμματισμό διακυβέρνησης: σκοπός, ροές δεδομένων, επιπτώσεις, αλλαγές, πρόσβαση σε εμπειρογνωμοσύνη και οδοί αποκατάστασης.

Η εκπαίδευση έχει επίσης πρόβλημα κατανομής. Όσοι έχουν τον λιγότερο χρόνο και την πιο αδύναμη διαπραγματευτική θέση είναι συχνά αυτοί που λαμβάνουν μια σύντομη γενική συνεδρία. Όσοι σχεδιάζουν το σύστημα λαμβάνουν λεπτομερείς ενημερώσεις και άμεση επικοινωνία με τον προμηθευτή. Το αποτέλεσμα είναι μια ιεραρχία γνώσης που ακολουθεί την εξουσία. Αν ένα νέο σύστημα πρόκειται να αλλάξει την εργασία πολλών ανθρώπων, ο οργανισμός θα πρέπει να αφιερώσει περισσότερη προσπάθεια σε όσους θα ζήσουν με το σύστημα παρά σε όσους θα κάνουν την παρουσίαση της κυκλοφορίας.

Η εκπαίδευση θα πρέπει να αντιμετωπίζεται ως απόδειξη ετοιμότητας, όχι ως τελετουργικό ποσοστό ολοκλήρωσης. Μπορεί ένας εργαζόμενος να εντοπίσει μια υπόθεση που χρειάζεται ανθρώπινη αναθεώρηση; Μπορεί να εξηγήσει γιατί απορρίφθηκε μια σύσταση; Μπορεί ένας προϊστάμενος να θέσει σε παύση τη ροή εργασίας; Μπορεί ένας εκπρόσωπος να ζητήσει τις πληροφορίες που χρειάζονται για να αξιολογήσει μια αλλαγή; Μπορεί ο οργανισμός να δείξει τι συνέβη όταν κάποιος εξέφρασε μια ανησυχία; Αν η απάντηση είναι όχι, το πρόβλημα δεν είναι ότι οι εργαζόμενοι δεν είναι αρκετά ενθουσιώδεις. Το σύστημα δεν έχει εισαχθεί υπεύθυνα.

Οι δεξιότητες αποκτούν νόημα όταν συνοδεύονται από την εξουσία να αμφισβητεί, να παρακάμπτει και να αναδιαμορφώνει κανείς το σύστημα.

Ποιος αναλαμβάνει τη νέα εργασία;

Όταν μια συνηθισμένη διαδικασία μεταφέρεται σε λογισμικό, η εργασία δεν εξαφανίζεται σε ένα σύννεφο. Εμφανίζεται κάπου αλλού. Κάποιος γράφει τους κανόνες, επιμελείται τα δεδομένα, ελέγχει τις εξαιρέσεις, χειρίζεται τις ενστάσεις, συντηρεί την ενσωμάτωση, παρακολουθεί την ασφάλεια και εξηγεί το αποτέλεσμα. Αυτά τα καθήκοντα μπορεί να είναι νέοι ρόλοι, νέες ευθύνες μέσα σε υπάρχοντες ρόλους ή αόρατη εργασία που προστίθεται σε όσους έχουν ήδη τον λιγότερο ελεύθερο χρόνο.

Το ζήτημα της κατανομής είναι επομένως συγκεκριμένο. Ποιος αναλαμβάνει την τεχνική εργασία; Ποιος αναλαμβάνει την ερμηνευτική εργασία; Ποιος εκτίθεται στον κίνδυνο όταν το σύστημα αποτυγχάνει; Ποιος λαμβάνει τον χρόνο που εξοικονομείται από την αυτοματοποίηση; Ποιος αναμένεται να μάθει μια νέα διαδικασία χωρίς αλλαγή στην αμοιβή, τον φόρτο εργασίας ή το καθεστώς; Μια μετάβαση που απαντά μόνο στο πρώτο ερώτημα μπορεί να δημιουργήσει μια μικρή ομάδα ειδικών και μια πολύ μεγαλύτερη ομάδα ανθρώπων των οποίων η εργασία μετράται πιο στενά.

Δεν υπάρχει καθολικός κανόνας ότι κάθε εξοικονόμηση πρέπει να γίνεται ελεύθερος χρόνος ή ότι κάθε νέο καθήκον πρέπει να γίνεται νέος τίτλος θέσης. Οι οργανισμοί έχουν διαφορετικούς σκοπούς και συλλογικές συμβάσεις. Αλλά η κατανομή θα πρέπει να είναι σκόπιμη και συζητήσιμη. Αν η αυτοματοποίηση αφαιρεί επαναλαμβανόμενες διοικητικές εργασίες, το όφελος μπορεί να είναι περισσότερος χρόνος για φροντίδα, έρευνα, συντήρηση ή επαφή με το κοινό. Αν δημιουργεί καθήκοντα παρακολούθησης, αυτά τα καθήκοντα χρειάζονται δυνατότητες και αναγνώριση. Αν αυξάνει την αξία της συμφραζόμενης εμπειρογνωμοσύνης, όσοι διαθέτουν αυτή την εμπειρογνωμοσύνη δεν θα πρέπει να αντιμετωπίζονται ως προσωρινά εμπόδια σε ένα καθαρότερο σύνολο δεδομένων.

Η πολιτική για τις δεξιότητες έχει σημασία, επειδή η μετάβαση μπορεί να διευρύνει τις υπάρχουσες ανισότητες. Η ΔΟΕ επισημαίνει ότι, σύμφωνα με την ανάλυσή της, η έκθεση της γυναικείας απασχόλησης στη γενετική τεχνητή νοημοσύνη είναι υψηλότερη, εν μέρει επειδή οι γυναίκες υπερεκπροσωπούνται σε διοικητικά καθήκοντα. Αυτή είναι μια διαπίστωση για την πιθανή έκθεση, όχι μια πρόβλεψη για το ποιος θα χάσει τη δουλειά του. Δείχνει όμως γιατί μια ουδέτερη στην εμφάνιση εφαρμογή μπορεί να έχει άνισες επιπτώσεις. Αν οι θέσεις που επηρεάζονται περισσότερο είναι και εκείνες με λιγότερες ευκαιρίες για αμειβόμενη κατάρτιση ή εξέλιξη, τα οφέλη δεν θα κατανεμηθούν από μόνα τους. Η μαγεία παραμένει μια αναξιόπιστη στρατηγική διαχείρισης ανθρώπινου δυναμικού.

Η ηλικία, η αναπηρία, οι ευθύνες φροντίδας, η γλώσσα και το καθεστώς απασχόλησης μπορούν επίσης να καθορίσουν ποιος επωφελείται από ένα νέο σύστημα. Ένα εργαλείο που προϋποθέτει αδιάλειπτη διαθεσιμότητα μπορεί να τιμωρήσει τη φροντίδα. Ένα μέτρο απόδοσης που αγνοεί προσβάσιμους τρόπους εργασίας μπορεί να μετατρέψει τη διευκόλυνση σε απόκλιση. Ένα σύστημα που χρησιμοποιεί ένα περιορισμένο γλωσσικό μοντέλο μπορεί να δημιουργήσει επιπλέον έλεγχο για όσους επικοινωνούν σε άλλη γλώσσα. Αυτά δεν είναι οριακές περιπτώσεις που πρέπει να παραπεμφθούν σε μια μεταγενέστερη έκθεση ισότητας. Αποτελούν μέρος του τι σημαίνει για το σύστημα να οργανώνει την εργασία.

Η οικονομία των πλατφορμών δίνει στην Ευρώπη ένα σαφές πεδίο για τη μελέτη αυτών των δυναμικών. Η Οδηγία για την Εργασία μέσω Πλατφορμών, που εκδόθηκε ως Οδηγία (ΕΕ) 2024/2831, ρυθμίζει το καθεστώς απασχόλησης και την αλγοριθμική διαχείριση στην εργασία μέσω πλατφορμών. Περιλαμβάνει κανόνες για τη διαφάνεια, την προστασία δεδομένων, την ανθρώπινη παρακολούθηση και την επανεξέταση σημαντικών αποφάσεων, καθώς και δικαιώματα εξήγησης και αμφισβήτησης. Η οδηγία επικεντρώνεται στην εργασία μέσω πλατφορμών, αλλά η λογική της είναι ευρύτερη: όταν το λογισμικό κατευθύνει και αξιολογεί την εργασία, ο εργαζόμενος χρειάζεται κάτι περισσότερο από έναν σύνδεσμο με τους όρους χρήσης και μια πρόθυμη ειδοποίηση.

Η οδηγία είναι επίσης μια χρήσιμη υπενθύμιση ότι ο τεχνικός έλεγχος μπορεί να έχει νομική σημασία. Ζητά από τους οργανισμούς να αφήσουν χώρο για ανθρώπινη παρακολούθηση και επανεξέταση, να εξηγούν τις σημαντικές αποφάσεις και να μεταχειρίζονται ορισμένες κατηγορίες δεδομένων εργαζομένων με προσοχή. Αυτό δεν παράγει ένα τέλειο μοντέλο για κάθε χώρο εργασίας. Δίνει μια βάση από την οποία μπορεί να ξεκινήσει ο ευρύτερος διάλογος: αν το λογισμικό οργανώνει την εργασία, οι άνθρωποι χρειάζονται δικαιώματα που επιβιώνουν πέρα από τη διεπαφή του λογισμικού.

Η δυνατότητα αμφισβήτησης είναι συνθήκη εργασίας

Ένας εργαζόμενος δεν μπορεί να αμφισβητήσει ουσιαστικά μια απόφαση που δεν μπορεί να εντοπιστεί. Ο οργανισμός πρέπει να γνωρίζει ποιο σύστημα την παρήγαγε, ποια έκδοση ίσχυε, ποια δεδομένα χρησιμοποιήθηκαν, ποιος κανόνας ή ποιο αποτέλεσμα μοντέλου είχε σημασία και ποιος είναι εξουσιοδοτημένος να την επανεξετάσει. Ο εργαζόμενος χρειάζεται μια διαδρομή που δεν εξαρτάται από την εικασία του εσωτερικού ονόματος μιας λειτουργίας του προμηθευτή. Ο αναθεωρητής χρειάζεται αρκετό χρόνο και αρκετές πληροφορίες για να κάνει κάτι περισσότερο από το να εγκρίνει το αποτέλεσμα με μια ανθρώπινη υπογραφή.

Η Οδηγία για την Εργασία μέσω Πλατφορμών δίνει σε αυτή την αρχή νομική μορφή για τους ανθρώπους που καλύπτει. Απαιτεί ανθρώπινη εποπτεία των συστημάτων αυτοματοποιημένης παρακολούθησης και λήψης αποφάσεων, προβλέπει εξηγήσεις για αποφάσεις που λαμβάνονται ή υποστηρίζονται από τέτοια συστήματα και δημιουργεί διαδρομές για την αμφισβήτηση σημαντικών αποφάσεων. Επίσης, θέτει όρια γύρω από τις κατηγορίες προσωπικών δεδομένων που μπορούν να επεξεργάζονται οι πλατφόρμες για αλγοριθμική διαχείριση. Αυτές οι λεπτομέρειες έχουν σημασία, επειδή ένα δικαίωμα χωρίς λειτουργική διαδρομή είναι συχνά μια σύσταση μεταμφιεσμένη σε διασφάλιση.

Για άλλους χώρους εργασίας, η αρχιτεκτονική της δυνατότητας αμφισβήτησης προσφέρει ακόμη ένα χρήσιμο τεστ. Ρωτήστε αν ένα άτομο μπορεί να σταματήσει τη δράση πριν εξαπλωθεί η βλάβη. Ρωτήστε αν μπορεί να δει τον λόγο με όρους που σχετίζονται με την εργασία. Ρωτήστε αν ο αναθεωρητής έχει την εξουσία να αγνοήσει το αποτέλεσμα. Ρωτήστε αν οι επαναλαμβανόμενες αμφισβητήσεις μπορούν να οδηγήσουν σε αλλαγή του συστήματος, αντί να συγκεντρώνονται μεμονωμένες εξαιρέσεις που κανείς δεν αναλύει. Ρωτήστε αν ένας εργαζόμενος μπορεί να υποβάλει αμφισβήτηση χωρίς να διακινδυνεύσει μια κρυφή κύρωση στην επόμενη ανάθεση.

Η δυνατότητα αμφισβήτησης είναι επίσης συλλογική. Μία μεμονωμένη αμφισβητούμενη βαθμολογία μπορεί να μοιάζει με προσωπική διαφωνία. Ένα μοτίβο αμφισβητούμενων βαθμολογιών μπορεί να αποκαλύψει λανθασμένη είσοδο δεδομένων, άδικο υποκατάστατο ή φόρτο εργασίας που το σύστημα δεν σχεδιάστηκε ποτέ να αποτυπώσει. Οι εκπρόσωποι των εργαζομένων και οι επιθεωρητές χρειάζονται πρόσβαση στο μοτίβο, όχι μόνο σε μεμονωμένες οθόνες. Ο οργανισμός θα πρέπει να μπορεί να συγκεντρώνει τις αμφισβητήσεις χωρίς να μετατρέπει όσους τις διατυπώνουν σε νέα κατηγορία κινδύνου.

Υπάρχει ο πειρασμός να αντιμετωπίζεται η ανθρώπινη επανεξέταση ως τελική τυπική επικύρωση. Αυτό είναι επισφαλές και άδικο. Ένας αξιολογητής που κρίνεται με βάση την ταχύτητα, δεν έχει πρόσβαση στις υποκείμενες πληροφορίες και του λένε ότι το σύστημα είναι ακριβέστερο από εκείνον, δεν ασκεί εποπτεία. Απλώς προσδίδει ανθρώπινο πρόσωπο σε μια αυτοματοποιημένη απόφαση. Οι αναφορές του AI Act σε ικανότητα, κατάρτιση, εξουσία και στη δυνατότητα παράκαμψης ή διακοπής ενός συστήματος υψηλού κινδύνου είναι χρήσιμες επειδή καθιστούν τη διαφορά σαφή. Ένας άνθρωπος στη ροή εργασίας δεν είναι αυτόματα άνθρωπος με τον έλεγχο.

Το νομικό κατώτατο όριο και το οργανωτικό ανώτατο όριο

Η ευρωπαϊκή νομοθεσία θέτει κατώτατα όρια. Δεν γράφει κάθε καλή εργασιακή διαδικασία για έναν οργανισμό. Ο AI Act περιέχει απαιτήσεις σχετικά με τον ψηφιακό γραμματισμό, την ενημέρωση των εργαζομένων και των εκπροσώπων τους σε σχετικές αναπτύξεις υψηλού κινδύνου, την ανθρώπινη εποπτεία και τις εκτιμήσεις επιπτώσεων στα θεμελιώδη δικαιώματα για συγκεκριμένες χρήσεις. Το πλαίσιο ενημέρωσης και διαβούλευσης προσθέτει ένα ευρύτερο εργατικό δίκαιο πλαίσιο. Οι κανόνες προστασίας δεδομένων περιορίζουν τι μπορεί να συλλεχθεί και πώς μπορούν να ληφθούν αποφάσεις. Η οδηγία για την εργασία σε πλατφόρμες προσθέτει συγκεκριμένες προστασίες όπου οι ψηφιακές πλατφόρμες οργανώνουν την εργασία.

Ένα νομικό κατώτατο όριο είναι πολύτιμο επειδή σταματά το χειρότερο επιχείρημα στο τραπέζι: ότι δεν χρειάζεται να γίνει τίποτα έως ότου μια ρυθμιστική αρχή επισημάνει αυτό ακριβώς το χαρακτηριστικό. Δεν είναι ανώτατο όριο. Ένα σύστημα μπορεί να συμμορφώνεται με μια στενή απαίτηση και παρόλα αυτά να κάνει την εργασία πιο εξαντλητική, λιγότερο κατανοητή ή δυσκολότερη στην αμφισβήτηση. Οι οργανισμοί που επιδιώκουν μια διαρκή μετάβαση θα πρέπει να θεσπίσουν υψηλότερο εσωτερικό πρότυπο, ιδίως όπου ο νόμος είναι σκόπιμα γενικός ή όπου η ανάπτυξη βρίσκεται εκτός συγκεκριμένου τομεακού κανόνα.

Αυτό το πρότυπο μπορεί να εκφραστεί ως αλυσίδα ερωτημάτων. Ποιος είναι ο σκοπός του συστήματος και τι βρίσκεται εκτός του σκοπού του; Ποιες εργασίες αλλάζουν και ποιες κρίσεις πρέπει να παραμείνουν ορατές; Ποια δεδομένα είναι απαραίτητα και ποια είναι απλώς διαθέσιμα; Ποιοι επηρεάζονται άμεσα και έμμεσα; Ποια στοιχεία δείχνουν ότι το σύστημα είναι χρήσιμο σε αυτό το πλαίσιο; Ποιος μπορεί να το παρακάμψει, με ποια κατάρτιση και προστασία; Πώς θα αμφισβητήσει ένας εργαζόμενος ένα αποτέλεσμα; Τι συμβαίνει όταν αλλάξει το μοντέλο, ο προμηθευτής ή η πολιτική; Ποιος έχει την ευθύνη της απόφασης για παύση ή απόσυρση του συστήματος;

Αυτά τα ερωτήματα θα πρέπει να απαντηθούν πριν ολοκληρωθεί η προμήθεια, όχι να κρυφτούν σε παράρτημα μετά το πρώτο περιστατικό. Ένας προμηθευτής μπορεί να παρέχει τεκμηρίωση και υποστήριξη. Δεν μπορεί να γνωρίζει την πλήρη σημασία μιας ροής εργασίας μέσα σε έναν οργανισμό που δεν διαχειρίζεται. Ο υπεύθυνος ανάπτυξης γνωρίζει το πλαίσιο, τους επηρεαζόμενους και τις συνέπειες μιας κακής συντόμευσης. Γι' αυτό ο AI Act αντιμετωπίζει τους υπεύθυνους ανάπτυξης ως σημαντικούς παράγοντες για τα συστήματα υψηλού κινδύνου. Η ευθύνη δεν εξαφανίζεται στο όριο της σύμβασης.

Είναι επίσης χρήσιμο να προσδιοριστεί τι δεν είναι επιτυχία. Μια επιτυχημένη ανάπτυξη δεν είναι υψηλό ποσοστό υιοθέτησης εάν οι εργαζόμενοι υιοθετούν το σύστημα επειδή η άρνηση βλάπτει τις προοπτικές τους. Δεν είναι χαμηλότερος μέσος χρόνος διαχείρισης εάν οι δύσκολες υποθέσεις αναβάλλονται. Δεν είναι πίνακας ελέγχου με πράσινους δείκτες εάν οι άνθρωποι που βρίσκονται πιο κοντά στην εργασία έχουν σταματήσει να αναφέρουν σφάλματα. Δεν είναι ποσοστό ολοκλήρωσης κατάρτισης εάν κανείς δεν μπορεί να εξηγήσει πώς να σταματήσει τη ροή εργασίας. Οι μετρήσεις είναι εργαλεία για την κρίση, όχι υποκατάστατό της.

Μια μετάβαση που αφήνει ίχνη

Η υπεύθυνη αλλαγή χρειάζεται μνήμη. Ο οργανισμός θα πρέπει να καταγράφει τον επιδιωκόμενο σκοπό, τον χάρτη εργασιών, τις πηγές δεδομένων, τη διαβούλευση, την εκπαίδευση, τους ελέγχους, τα όρια και τις αποφάσεις που ελήφθησαν όταν τα στοιχεία ήταν αβέβαια. Θα πρέπει να καταγράφει ποια έκδοση χρησιμοποιήθηκε και πότε άλλαξαν οι συνθήκες λειτουργίας. Ένας εργαζόμενος δεν θα πρέπει να ανακατασκευάζει το ιστορικό μιας απόφασης από μηνύματα, στιγμιότυπα οθόνης και τη μνήμη ενός συναδέλφου. Αυτός είναι ένας φτωχός τρόπος να αντιμετωπίζει κανείς τόσο την εργασία όσο και τα στοιχεία.

Το αρχείο θα πρέπει να περιλαμβάνει τις διαφωνίες. Ένα άρτιο αρχείο ανάπτυξης που περιέχει μόνο εγκρίσεις δεν αποτελεί απολογισμό διαβούλευσης. Είναι ένα πιστοποιητικό αισιοδοξίας. Οι ερωτήσεις από εργαζόμενους, εκπροσώπους, προσωπικό ασφαλείας και ειδικούς σε θέματα ισότητας αποτελούν μέρος των τεκμηρίων σχεδιασμού. Δείχνουν πού μπορεί να αποτύχει το σύστημα και ποιες παραδοχές δεν ήταν κοινές. Η διατήρησή τους ορατών διευκολύνει επίσης την επανεξέταση μιας απόφασης χωρίς να προσποιείται κανείς ότι η ανησυχία εμφανίστηκε για πρώτη φορά μετά την ανάπτυξη.

Η παρακολούθηση θα πρέπει να ακολουθεί την εργασία και όχι μόνο το μοντέλο. Παρατηρήστε τις αλλαγές στη σύνθεση των εργασιών, τον χρόνο επανεξέτασης, τα πρότυπα σφαλμάτων, την πρόσβαση στην εκπαίδευση, τις ενστάσεις, τις απουσίες, τις υπερωρίες και το ποιος αναλαμβάνει τις δύσκολες υποθέσεις. Αυτά δεν είναι όλα μετρήσεις τεχνητής νοημοσύνης. Είναι σήματα των συνθηκών εργασίας. Ένα μοντέλο μπορεί να διατηρήσει την ίδια ακρίβεια ενώ η γύρω εργασία γίνεται λιγότερο βιώσιμη. Αν ο οργανισμός παρακολουθεί μόνο το μοντέλο, μπορεί να χάσει την εργασία που έχει αναδιαταχθεί γύρω από αυτό.

Θα πρέπει να υπάρχει μια ιστορία λήξης. Ένα σύστημα που εισήχθη για έναν σκοπό δεν θα πρέπει να γίνεται μόνιμο από αδράνεια. Ορίστε μια ημερομηνία επανεξέτασης, ένα όριο αλλαγής και έναν σαφή υπεύθυνο. Αν αλλάξουν τα δεδομένα, η εργασία, η νομική βάση ή οι ενδιαφερόμενοι, ο οργανισμός θα πρέπει να γνωρίζει αν χρειάζεται νέα αξιολόγηση και διαβούλευση. Η συντήρηση δεν αποτελεί παραδοχή ότι η πρώτη απόφαση ήταν αδύναμη. Είναι μια αναγνώριση ότι τόσο η εργασία όσο και το λογισμικό εξελίσσονται.

Αυτό μπορεί να ακούγεται βαρύ για μια μικρή παρέμβαση. Η απάντηση είναι η αναλογικότητα, όχι η εξαφάνιση. Ένας βοηθός σύνταξης χωρίς πρόσβαση σε προσωπικά αρχεία μπορεί να χρειάζεται μια ελαφρύτερη διαδικασία από ένα σύστημα που καθορίζει την πρόσβαση σε βάρδιες, παροχές, φροντίδα ή απασχόληση. Αλλά ακόμη και ένα μικρό εργαλείο αξίζει μια δήλωση για το τι μπορεί να κάνει και τι δεν μπορεί. Η σαφήνεια κλιμακώνεται καλύτερα από τη γραφειοκρατία, επειδή λέει στους ανθρώπους πού να σταματήσουν.

Πώς μοιάζει ένα δίκαιο μερίδιο

Η φράση δίκαιη μετάβαση χρησιμοποιείται συχνά σαν η δικαιοσύνη να θα φτάσει μόλις εγκατασταθεί σωστά η τεχνολογία. Δεν θα φτάσει. Η δικαιοσύνη είναι ένα σύνολο επιλογών σχετικά με τον χρόνο, τη φωνή, την ικανότητα, τον κίνδυνο και την ανταμοιβή. Ρωτά αν οι εργαζόμενοι μπορούν να διαμορφώσουν την αλλαγή, αν μπορούν να την κατανοήσουν, αν μπορούν να την αμφισβητήσουν και αν τα οφέλη μοιράζονται αντί να μετατρέπονται σιωπηλά σε υψηλότερες προσδοκίες.

Η συμμετοχή στο όφελος δεν σημαίνει πάντα άμεση πληρωμή. Μπορεί να σημαίνει μικρότερη αναμονή, περισσότερο χρόνο με τους ανθρώπους, λιγότερο επικίνδυνη εργασία, καλύτερο εξοπλισμό, την ευκαιρία να μάθει κανείς μια πολύτιμη δεξιότητα, μια διαδρομή προς έναν νέο ρόλο ή μια επαγγελματική κρίση που λαμβάνεται πιο σοβαρά επειδή η συνηθισμένη εργασία δεν την επισκιάζει πλέον. Η επιλογή θα πρέπει να γίνεται με τους ανθρώπους των οποίων η εργασία αλλάζει. Διαφορετικά, ο οργανισμός μπορεί να βελτιστοποιήσει ένα αποτέλεσμα που φαίνεται αποδοτικό από την αίθουσα συνεδριάσεων και μοιάζει με μόνιμη επιτάχυνση στο πεδίο.

Υπάρχει επίσης μια πολιτική διάσταση. Οι χώροι εργασίας εκπαιδεύουν τους ανθρώπους για τους θεσμούς γύρω τους. Αν κάθε ψηφιακό σύστημα διδάσκει ότι μια βαθμολογία είναι πιο αξιόπιστη από ένα άτομο, αυτή η συνήθεια μεταφέρεται στις δημόσιες υπηρεσίες και στην καθημερινή ζωή. Αν οι χώροι εργασίας διδάσκουν ότι τα στοιχεία μπορούν να αμφισβητηθούν, οι αποφάσεις μπορούν να εξηγηθούν και η εξουσία μπορεί να διακοπεί, αυτές οι συνήθειες μεταφέρονται επίσης. Ο σχεδιασμός μιας αυτοματοποιημένης ροής εργασίας δεν είναι επομένως μόνο εσωτερικό ζήτημα. Είναι εξάσκηση στο πώς μια κοινωνία αντιμετωπίζει την κρίση.

Η επιμονή της Ευρώπης στην ενημέρωση, τη διαβούλευση, τον κοινωνικό διάλογο, την προστασία δεδομένων και την ανθρώπινη εποπτεία παρουσιάζεται συχνά ως τροχοπέδη στην καινοτομία. Μια πιο σωστή ανάγνωση είναι ότι πρόκειται για τρόπους να αποφασιστεί ποιος επωμίζεται τις συνέπειες μιας νέας δυνατότητας. Η ταχύτητα δεν είναι ουδέτερη όταν όσοι δεν μπορούν να επιβραδύνουν το σύστημα είναι εκείνοι που εκτίθενται στα σφάλματά του. Μια μετάβαση που μπορεί να συζητηθεί, να ελεγχθεί και να αναθεωρηθεί μπορεί να χρειαστεί περισσότερο χρόνο για να ξεκινήσει. Είναι επίσης πιο πιθανό να παραμείνει χρήσιμη αφού περάσει η γοητεία του καινούργιου.

Στη Dweve, αυτό είναι το μικρό κομμάτι του ζητήματος στο οποίο επιστρέφουμε διαρκώς στο Ground truth και στη δουλειά μας για τον ψηφιακό γραμματισμό. Ένα σύστημα κερδίζει την εμπιστοσύνη όταν οι άνθρωποι γύρω του μπορούν να κατονομάσουν τις πηγές, τα όρια, την αβεβαιότητα και την εξουσία του. Αυτό δεν είναι ισχυρισμός ότι μια βιβλιοθήκη ή ένα προϊόν μπορεί να επιλύσει τις εργασιακές σχέσεις. Είναι μια σχεδιαστική θέση: τα τεκμήρια πρέπει να μένουν κοντά στην απόφαση, και οι άνθρωποι που είναι υπεύθυνοι για την απόφαση πρέπει να έχουν αρκετή δομή για να την αμφισβητήσουν. Το μεγαλύτερο έργο ανήκει στους εργοδότες, τους εργαζόμενους, τους εκπροσώπους, τους ρυθμιστές και το κοινό.

Η νέα θέση εργασίας είναι συλλογική απόφαση

Ο αυτοματισμός αλλάζει την εργασία πριν αλλάξει το οργανόγραμμα. Μετατοπίζει την προσοχή, τη διακριτική ευχέρεια και τον κίνδυνο. Δημιουργεί εργασία συντήρησης, εργασία ελέγχου, εργασία εκπαίδευσης και την εργασία της εξήγησης ενός συστήματος σε ανθρώπους που δεν το επέλεξαν. Μπορεί να κάνει μια θέση καλύτερη, ή μπορεί να κάνει τη θέση μια ταχύτερη διαδρομή μέσα από έναν στενότερο διάδρομο. Η διαφορά δεν κρύβεται μόνο στο μοντέλο. Διαμορφώνεται στις αποφάσεις γύρω από το μοντέλο.

Οι άνθρωποι που θα αναλάβουν τη νέα θέση δεν θα πρέπει να επιλέγονται μόνο αφού έχουν αφαιρεθεί τα παλιά καθήκοντα. Θα πρέπει να συμμετέχουν στην απόφαση για το τι είναι η νέα εργασία. Θα πρέπει να έχουν χρόνο να μάθουν, εξουσία να αμφισβητούν, προστασία όταν το κάνουν και μερίδιο στη δυνατότητα που δημιουργεί η αλλαγή. Οι άνθρωποι που εκπροσωπούνται από τις μετρήσεις θα πρέπει να μπορούν να δουν τι σημαίνουν οι μετρήσεις. Οι άνθρωποι που επωμίζονται τις συνέπειες θα πρέπει να μπορούν να σταματήσουν ένα σύστημα που δεν είναι πλέον ασφαλές ή δίκαιο.

Μια καλή μετάβαση αφήνει πίσω της κάτι περισσότερο από ένα λειτουργικό εργαλείο. Αφήνει έναν σαφέστερο χάρτη καθηκόντων, ισχυρότερες δεξιότητες, μια οδό διαφωνίας, ένα αρχείο του τι άλλαξε και έναν θεσμό που ξέρει ποιος είναι υπεύθυνος. Αυτά είναι μέτρια επιτεύγματα σε σύγκριση με τις υποσχέσεις μιας επίδειξης προϊόντος. Είναι όμως και τα πράγματα που εμποδίζουν έναν χώρο εργασίας να γίνει ένα μέρος όπου το λογισμικό παίρνει αποφάσεις και όλοι οι άλλοι παρέχουν τα άλλοθι.

Θέστε λοιπόν νωρίς το πρακτικό ερώτημα. Όταν μετακινείται αυτό το καθήκον, ποια εργασία εμφανίζεται; Ποιος θα την κάνει; Ποια εξουσία θα έχει; Ποια εκπαίδευση θα κάνει αυτή την εξουσία πραγματική; Ποιος μπορεί να αμφισβητήσει τη διευθέτηση; Πού πηγαίνει ο χρόνος που εξοικονομείται; Αν ο οργανισμός δεν μπορεί να απαντήσει, δεν είναι έτοιμος να αυτοματοποιήσει το καθήκον. Είναι έτοιμος να ελπίζει ότι η θέση θα φροντίσει somehow τον εαυτό της. Οι θέσεις εργασίας σπάνια είναι τόσο εξυπηρετικές.

Πηγές