Quando l'automazione cambia il lavoro, a chi tocca il nuovo impiego?

L'automazione raramente elimina un'intera professione con un solo gesto netto. Ridistribuisce compiti, discrezionalità, formazione, sorveglianza e...

Quando l'automazione cambia il lavoro, a chi tocca il nuovo impiego?

Il lavoro non è mai l'elenco delle attività

Una delle domande più fuorvianti nel dibattito sull'automazione è se una macchina porterà via un lavoro. Un lavoro raramente è una cosa sola che può essere estratta da una persona e inserita in un server. È un insieme di attività, giudizi, routine, relazioni, permessi e frammenti di conoscenza locale. Alcune di queste parti possono essere supportate. Alcune possono essere standardizzate. Alcune possono essere eliminate. Altre diventano più importanti proprio perché il lavoro di routine è stato spostato altrove.

Il cambiamento arriva quindi prima del titolo della posizione. Un sistema di pianificazione può modificare chi viene chiamato a lavorare, anche se il turnario riporta ancora gli stessi nomi. Un assistente documentale può cambiare ciò che viene considerato un carico di lavoro ragionevole, anche se il contratto dice ancora operatore sociale. Una dashboard delle prestazioni può trasformare un giudizio informale in un obiettivo, anche se nessuno chiama la dashboard un manager. Il lavoro è cambiato. L'organizzazione potrebbe semplicemente aver dimenticato di cambiare il proprio vocabolario.

Ecco perché la domanda seria non è se l'automazione distrugga i lavori in astratto. È chi decide quali attività vengono spostate, quali nuove attività emergono, quali rischi vengono accettati, quali persone vengono formate e chi ha l'autorità di contestare un risultato. La risposta determina se un cambiamento tecnico diventa una transizione equa, un'intensificazione del lavoro o un silenzioso trasferimento di potere dalle persone che svolgono il lavoro al sistema che lo misura.

Immagina una giornata lavorativa composita, assemblata da caratteristiche familiari piuttosto che da un resoconto di un datore di lavoro nominato. Un team riceve uno strumento che redige sintesi, suggerisce priorità e misura il tempo dedicato a ciascun caso. Lo strumento viene descritto come un supporto. Al team viene detto che nessun ruolo verrà eliminato. Nel giro di poche settimane, i casi facili vengono completati più rapidamente, i casi difficili restano, l'obiettivo viene ricalcolato sulla base della media più veloce e le persone che mettono in discussione un suggerimento passano più tempo a documentare il perché. In questa sequenza nulla richiede che una macchina porti via un lavoro. Eppure il lavoro è stato ridisegnato attorno alla macchina.

La distinzione conta perché cambia ciò che un'introduzione responsabile deve rispondere. Se il lavoro viene riorganizzato, i lavoratori devono avere voce in capitolo sulla mappa, non un poster motivazionale dopo che la mappa è definitiva. Se il giudizio si sposta in un sistema di punteggio, le persone coinvolte devono avere un modo per ispezionare e contestare il punteggio. Se la formazione è necessaria per rendere funzionante il nuovo assetto, la formazione fa parte del cambiamento stesso, non un privilegio da offrire quando il budget se lo può permettere.

Inizia da ciò che le persone fanno davvero

Un buon lavoro di transizione inizia con l'osservazione. Prima che un team scelga un modello, dovrebbe descrivere il lavoro così come viene svolto, incluse le parti scomode che non compaiono mai nel diagramma di processo. Quali decisioni sono di routine? Quali dipendono dal contesto? Quali richiedono una conversazione, una relazione professionale o un'ispezione fisica? Dove le persone notano che un registro è incompleto? Dove compensano un sistema che non distingue tra un caso insolito e uno sbagliato?

Non si tratta di romanticizzare il lavoro umano. Alcune routine sono noiose, ripetitive e poco adatte a una persona che ha altre cose da fare. Eliminare copiature, ricerche o riformattazioni inutili può essere un miglioramento genuino. Il punto è dare un nome all'attività che dovrebbe cambiare, piuttosto che trattare l'occupazione come un blocco unico. Un sistema che elimina l'inserimento duplicato può restituire tempo. Un sistema che elimina il tempo necessario per verificare una risposta incerta può creare un modo più rapido di sbagliare.

Una mappa delle attività utile ha almeno quattro livelli. Il primo è l'azione visibile: classificare, redigere, pianificare, ispezionare, rispondere o approvare. Il secondo è il giudizio nascosto al suo interno: ciò che conta come completo, urgente, sicuro, equo o pertinente. Il terzo è la responsabilità legata al giudizio: chi deve spiegare la decisione, correggerla e farsene carico. Il quarto è il ciclo di apprendimento: chi nota un nuovo schema, aggiorna la pratica e comunica al sistema che la sua vecchia scorciatoia non funziona più.

Questi livelli sono spesso distribuiti all'interno di un team. Un receptionist può notare un dettaglio che un analista di politiche formalizza. Un tecnico può riconoscere un guasto che un ingegnere in seguito codifica come regola. Un assistente sociale può sapere che una frase in un modulo è un segno di disagio piuttosto che un campo mancante. Il sistema può supportare ogni persona in modo diverso, ma non dovrebbe cancellare il percorso attraverso cui la conoscenza entra nell'organizzazione. Se le persone che vedono l'eccezione sono escluse dalla progettazione, il sistema sarà molto coerente nel non vederla.

Il lavoro dell'Organizzazione Internazionale del Lavoro sull'IA generativa è utile qui perché separa l'esposizione delle attività dal destino delle intere occupazioni. La sua analisi rileva che molti lavori sono solo parzialmente esposti e hanno maggiori probabilità di essere integrati piuttosto che completamente sostituiti. Questo non significa che la transizione sia innocua. L'OIL segnala cambiamenti nella qualità del lavoro, nell'intensità e nell'autonomia, e afferma che l'esito dipende da come la tecnologia viene introdotta. Un'attività può rimanere formalmente umana mentre le condizioni che la circondano diventano meno umane.

La stessa analisi mette anche in guardia dal trattare gli indicatori di esposizione come previsioni di perdita di posti di lavoro. Un punteggio di esposizione può identificare dove una tecnologia potrebbe toccare il lavoro. Non può dirci se un datore di lavoro userà questa possibilità per ridurre la fatica, aumentare la produttività, eliminare il potere decisionale o creare un servizio migliore. Questa è una questione gestionale e sociale. Un numero può individuare la porta. Non può dirci a chi è permesso attraversarla.

L'automazione cambia una rete di lavoro, non una singola casella in un organigramma. La mappa mantiene visibili giudizio e responsabilità.

L'augmentation può comunque intensificare il lavoro

La parola augmentation rassicura perché suggerisce che una persona rimane nel quadro. Non è, di per sé, una garanzia di un lavoro migliore. Un sistema può potenziare un lavoratore fornendogli uno strumento utile, oppure dandogli una pila più grande di casi e una finestra più piccola per gestirne ciascuno. Può migliorare la qualità di una decisione, oppure può far sembrare una decisione abbastanza oggettiva da far sentire a nessuno il permesso di metterla in discussione.

L'intensità del lavoro non è solo il numero di attività completate. Comprende la velocità prevista, le interruzioni tollerate, lo sforzo emotivo necessario per gestire le eccezioni e la quantità di attenzione disponibile per una decisione ponderata. Uno strumento di redazione può far risparmiare tempo su una lettera di routine, ma allo stesso tempo aumentare il numero di lettere che ci si aspetta una persona produca. Un ottimizzatore di percorsi può accorciare i viaggi, riempiendo però ogni minuto risparmiato con un'altra visita. Una dashboard può rivelare un collo di bottiglia e poi trasformarlo silenziosamente in un problema di performance individuale.

I risultati dell'ILO mettono la qualità del lavoro accanto alla quantità per un motivo. Un ruolo può sopravvivere mentre l'autonomia si riduce. Una persona può mantenere il proprio titolo perdendo la discrezionalità che rendeva qualificato quel ruolo. La transizione può anche essere disomogenea. I lavoratori che hanno già accesso a sistemi affidabili e a una formazione adeguata possono acquisire vantaggio, mentre i lavoratori nella stessa occupazione restano a gestire i casi difficili con meno tempo e meno risorse. Il quadro complessivo può sembrare produttività mentre l'esperienza quotidiana diventa una coda che non si svuota mai del tutto.

Per questo una proposta responsabile dovrebbe descrivere il miglioramento previsto in termini che un lavoratore possa verificare. Il sistema eliminerà un passaggio duplicato? Renderà più facile trovare le informazioni pertinenti? Lascerà tempo per una conversazione che non può essere automatizzata? Ridurrà l'esposizione a un compito pericoloso? Cosa succede al tempo risparmiato? Se la risposta è semplicemente che il team elaborerà di più, l'organizzazione non sta parlando di potenziamento. Sta parlando di un nuovo obiettivo di produzione con un'interfaccia educata.

C'è anche un problema di qualità. Quando un sistema gestisce i casi comuni, le persone vedono una quota maggiore di casi non comuni. Il lavoro rimanente diventa più ambiguo, più consequenziale o più dipendente dall'esperienza. Questo può essere un buon motivo per investire nelle competenze. Può anche essere usato per concludere che il lavoro è ormai troppo irregolare per meritare un processo adeguato. Il primo percorso tratta il giudizio come una capacità. Il secondo lo tratta come un centro di costo che non è stato ancora compresso con successo.

Un piano di transizione dovrebbe quindi includere un controfattuale che raramente viene messo per iscritto: come sarà il lavoro se il sistema è abbastanza accurato da essere utile ma non abbastanza accurato da essere affidato senza revisione? Questa è la condizione normale per molti sistemi di supporto alle decisioni. La risposta dovrebbe identificare dove avviene la revisione, quanto tempo richiede, di quali prove ha bisogno e come una persona può rifiutare la raccomandazione senza essere etichettata come inefficiente.

Il manager nascosto nel software

L'automazione diventa governance del lavoro quando il software inizia ad allocare, dirigere, valutare o controllare il lavoro. Non deve essere chiamata intelligenza artificiale. Una regola fissa che assegna un compito in base alla disponibilità può dare forma a una giornata. Un sistema di valutazione può influenzare l'accesso al lavoro futuro. Un modello che prevede un probabile ritardo può cambiare chi riceve il turno difficile. La distinzione tecnica tra una regola e un modello appreso è importante per la trasparenza, ma il lavoratore sperimenta entrambi attraverso la decisione che arriva.

Lo studio della Commissione europea sulla gestione algoritmica descrive questo campo come un insieme di pratiche che possono automatizzare o assistere le funzioni gestionali tradizionali. Queste funzioni includono reclutamento, allocazione dei compiti, monitoraggio, valutazione e decisioni su progressione o cessazione del rapporto. Lo studio osserva inoltre che la risposta politica e giuridica è distribuita su diversi strumenti piuttosto che contenuta in un unico codice del lavoro ordinato. Questa frammentazione è un dato amministrativo, non una licenza per fingere che il software non abbia effetti simili a quelli di un manager.

La gestione algoritmica viene spesso introdotta attraverso una piccola promessa operativa. Abbina le persone ai compiti più rapidamente. Nota la capacità prima che la turnazione vada in crisi. Dai al supervisore una visione più chiara. Rileva un problema di sicurezza. Ogni promessa può essere ragionevole. Il rischio appare quando la misura diventa un indicatore del lavoro. Il tempo di risposta sostituisce la cura. Una valutazione sostituisce l'affidabilità. L'attività sullo schermo sostituisce l'impegno. L'indicatore è più facile da contare, quindi l'organizzazione inizia a trattarlo come più reale della cosa che doveva descrivere.

Quando un indicatore governa l'accesso al lavoro, l'onere della prova cambia. Un manager di solito può spiegare una decisione nel contesto, anche se la spiegazione è scarsa. Un sistema può produrre un punteggio che sembra neutro perché i suoi input sono nascosti. Il lavoratore deve quindi contestare sia il risultato sia l'idea che il risultato sia il tipo giusto di prova. Ecco perché l'accesso alle informazioni, la revisione umana e una contestabilità significativa contano. Una risposta che dice che il sistema è complesso non è una spiegazione. È un invito a smettere di fare domande.

La sorveglianza merita particolare attenzione. I dati raccolti per il coordinamento possono essere riutilizzati per la valutazione. I dati raccolti per la sicurezza possono essere riutilizzati per la disciplina. I dati raccolti mentre qualcuno lavora possono rivelare informazioni intime su salute, responsabilità di cura o associazioni. Il fatto che un sistema possa raccogliere un segnale non rende il segnale giusto da usare. Un luogo di lavoro non è un laboratorio in cui il consenso può essere dato per scontato perché il dipendente ha cliccato su una schermata prima di iniziare il turno.

La Confederazione europea dei sindacati ha sostenuto che le applicazioni intrusive sul luogo di lavoro necessitano di limiti più forti, che i lavoratori e i loro rappresentanti dovrebbero ricevere informazioni in linguaggio semplice e che la consultazione dovrebbe avvenire prima della distribuzione e dei cambiamenti sostanziali. La sua posizione collega anche i sistemi algoritmici alla contrattazione collettiva, alla formazione dei lavoratori e al diritto di controllare e rivedere le decisioni. Questi non sono componenti aggiuntivi tecnici. Riconoscono che un luogo di lavoro è un'istituzione sociale e che spostare l'autorità nel software cambia l'equilibrio all'interno di quell'istituzione.

La consultazione fa parte della progettazione

Informazione e consultazione sono talvolta trattate come fasi cerimoniali che seguono la decisione reale. Il quadro europeo non ci dà alcun motivo per trattarle in questo modo. Il quadro della Commissione relativo alla direttiva 2002/14/CE presenta informazioni tempestive e consultazione come parte del modo in cui le organizzazioni gestiscono cambiamenti significativi e nuove forme di organizzazione del lavoro. La direttiva stabilisce un quadro generale, con scelte nazionali su ambito e attuazione. Non è un manuale sull'IA. È un promemoria che un cambiamento sostanziale nel lavoro ha una vita procedurale prima di diventare una distribuzione tecnica.

La tempistica è importante. Un incontro dopo che il fornitore è stato selezionato e il flusso di lavoro è stato configurato non è la stessa cosa di una conversazione mentre l'organizzazione sta ancora decidendo quale problema vuole risolvere. Il coinvolgimento precoce consente ai lavoratori di chiedere quali dati sono necessari, quali attività vengono realmente modificate, come verranno gestiti gli errori e come appare il piano di riserva. Espone anche conoscenze difficili da acquistare dall'esterno. Le persone che svolgono il lavoro sanno dove il processo è fragile perché hanno passato anni a mantenerlo in piedi.

La consultazione non richiede che ogni decisione sia unanime. Richiede che le persone coinvolte siano trattate come partecipanti a un cambiamento, non come sensori che riporteranno la resistenza dopo il lancio. Un processo serio dovrebbe registrare cosa è stato proposto, cosa hanno contestato i lavoratori, cosa è cambiato di conseguenza e quali disaccordi rimangono. Se una proposta viene comunque adottata, l'organizzazione dovrebbe essere in grado di spiegare perché. Questo è più maturo che fingere che la mancanza di accordo significhi che nessuno aveva un'opinione.

Esiste una ragione pratica per rendere esplicito questo registro. I sistemi cambiano dopo il lancio. Il modello viene aggiornato, la fonte dei dati cambia, viene aggiunto un nuovo reparto, una metrica di valutazione viene modificata, oppure un fornitore riscrive un motore di policy. Una consulenza una tantum non può coprire un sistema in evoluzione. I rappresentanti dei lavoratori hanno bisogno di un canale continuo per notare gli effetti e richiedere una revisione. In caso contrario, l'organizzazione ha condotto la consultazione sulla versione uno e ha governato una macchina diversa dalla versione tre.

La proposta della CES per una direttiva sui sistemi algoritmici sul lavoro richiede una valutazione d'impatto prima dell'implementazione e a intervalli regolari successivi, con il coinvolgimento dei lavoratori e dei loro rappresentanti. Questo è un principio di progettazione utile anche laddove la proposta non è legge. Una valutazione d'impatto non dovrebbe essere un documento che dimostra che la decisione era già stata presa. Dovrebbe essere un luogo in cui l'organizzazione indica chi potrebbe essere interessato, cosa potrebbe andare storto, quali evidenze saranno monitorate e chi ha l'autorità di cambiare rotta.

Lo stesso principio vale per le piccole organizzazioni. Un datore di lavoro più piccolo potrebbe non avere un consiglio di fabbrica o un ufficio dati dedicato, ma deve comunque capire cosa un sistema cambia per le persone che lo usano. La burocrazia può essere più leggera. Le domande non possono scomparire. In caso contrario, un'implementazione modesta può diventare un grande problema di governance senza che nessuno sia incaricato di notarlo.

La formazione è potere di azione

La formazione è spesso la prima promessa fatta e la prima cosa a essere sacrificata. Un piano di lancio dice che il personale riceverà una sessione. La sessione diventa una presentazione di diapositive. La presentazione diventa una registrazione. La registrazione diventa un link in un portale di apprendimento che tutti dovrebbero aver visto prima che il nuovo sistema cambi silenziosamente le regole del lavoro.

Non è questo ciò di cui le persone hanno bisogno. Hanno bisogno di una comprensione sufficiente per riconoscere cosa fa il sistema, cosa non fa, quali dati utilizza, come dovrebbe essere verificato il suo output, quando dovrebbe essere ignorato, come segnalare un errore e cosa succederà se rifiutano una raccomandazione. Hanno bisogno di tempo per esercitarsi con i casi reali e le condizioni limite del loro lavoro. Hanno bisogno di sapere chi può rispondere a una domanda senza trasformarla in un ticket che sparisce in una coda del fornitore.

L'AI Act rende questo punto pratico in linguaggio giuridico. I fornitori e i deployer devono adottare misure per garantire un livello adeguato di alfabetizzazione all'IA per le persone che utilizzano sistemi per loro conto, tenendo conto delle loro conoscenze tecniche, esperienza, istruzione, formazione e del contesto in cui il sistema sarà utilizzato. Per i sistemi ad alto rischio specificati, le persone assegnate alla supervisione umana necessitano di competenza, formazione e autorità. L'atto preserva inoltre i diritti esistenti di informazione e consultazione per i lavoratori e i loro rappresentanti. L'alfabetizzazione è quindi collegata all'autorità, non semplicemente alla familiarità con una schermata di prodotto.

La posizione della CES sullo sviluppo delle competenze dei lavoratori va oltre in una direzione che conta per l'equità. Tratta l'alfabetizzazione all'IA come la capacità di comprendere criticamente come l'IA influisce sul lavoro e sulle occupazioni, non solo la capacità di utilizzare uno strumento per conto del datore di lavoro. Questa distinzione è facile da perdere. Se la formazione insegna a una persona come accettare un suggerimento ma non come mettere in discussione il sistema che lo ha prodotto, l'organizzazione ha formato la conformità, non la capacità.

Un piano di formazione utile ha almeno tre destinatari. Il primo è la persona che usa il sistema nel lavoro ordinario. Ha bisogno di alfabetizzazione operativa: input, output, incertezza, escalation e uso sicuro. Il secondo è la persona che revisiona o supervisiona il lavoro. Ha bisogno di alfabetizzazione decisionale: evidenze, bias, disaccordo, override e conseguenze. Il terzo è il gruppo che rappresenta i lavoratori o ispeziona l'organizzazione. Ha bisogno di alfabetizzazione di governance: scopo, flussi di dati, impatto, modifiche, accesso alle competenze e vie di ricorso.

Anche la formazione ha un problema di distribuzione. Chi ha meno tempo e una posizione contrattuale più debole è spesso chi riceve più facilmente una sessione generica e breve. Chi progetta il sistema riceve briefing dettagliati e un canale diretto con il fornitore. Il risultato è una gerarchia della conoscenza che segue il potere. Se un nuovo sistema deve cambiare il lavoro di molte persone, l'organizzazione dovrebbe investire più energie su chi dovrà conviverci che su chi terrà la presentazione di lancio.

La formazione dovrebbe essere trattata come prova di preparazione, non come un tasso di completamento cerimoniale. Un lavoratore sa riconoscere un caso che richiede una revisione umana? Sa spiegare perché una raccomandazione è stata respinta? Un supervisore può mettere in pausa il flusso di lavoro? Un rappresentante può richiedere le informazioni necessarie per valutare una modifica? L'organizzazione può dimostrare cosa è successo quando qualcuno ha sollevato una preoccupazione? Se la risposta è no, il problema non è che i lavoratori non siano abbastanza entusiasti. Il sistema non è stato introdotto in modo responsabile.

Le competenze diventano significative quando viaggiano insieme all'autorità di mettere in discussione, sovrascrivere e rimodellare il sistema.

Chi ottiene il nuovo lavoro?

Quando una routine passa al software, il lavoro non svanisce in una nuvola. Riappare da qualche parte. Qualcuno scrive le regole, cura i dati, controlla le eccezioni, gestisce i ricorsi, mantiene l'integrazione, monitora la sicurezza e spiega il risultato. Questi compiti possono essere nuovi ruoli, nuove responsabilità all'interno di ruoli esistenti o lavoro invisibile aggiunto a chi ha già meno tempo libero.

La questione della distribuzione è quindi concreta. Chi ottiene il lavoro tecnico? Chi ottiene il lavoro interpretativo? Chi è esposto al rischio quando il sistema fallisce? Chi riceve il tempo risparmiato dall'automazione? Da chi ci si aspetta che impari un nuovo processo senza un cambiamento di retribuzione, carico di lavoro o status? Una transizione che risponde solo alla prima domanda può creare un piccolo gruppo di specialisti e un gruppo molto più ampio di persone il cui lavoro viene misurato più da vicino.

Non esiste una regola universale per cui ogni risparmio debba diventare tempo libero o ogni nuovo compito debba diventare una nuova qualifica. Le organizzazioni hanno scopi e accordi collettivi diversi. Ma la distribuzione dovrebbe essere deliberata e discutibile. Se l'automazione elimina la gestione amministrativa ripetitiva, il beneficio potrebbe essere più tempo per la cura, la ricerca, la manutenzione o il contatto con il pubblico. Se crea compiti di monitoraggio, questi compiti richiedono capacità e riconoscimento. Se aumenta il valore delle competenze contestuali, chi le possiede non dovrebbe essere trattato come un ostacolo temporaneo a un set di dati più pulito.

Le politiche sulle competenze contano perché la transizione può ampliare le disuguaglianze esistenti. L’ILO osserva che, nella sua analisi, l’esposizione dell’occupazione femminile all’IA generativa è più elevata, in parte perché le donne sono sovrarappresentate nel lavoro d’ufficio. Questa è un’affermazione sull’esposizione potenziale, non una previsione su chi perderà il lavoro. Mostra però perché un’implementazione dall’apparenza neutra possa avere effetti diseguali. Se i ruoli più colpiti sono anche quelli con minori opportunità di formazione retribuita o di progressione, i benefici non si distribuiranno da soli. La magia resta una strategia inaffidabile per la gestione delle risorse umane.

Età, disabilità, responsabilità di cura, lingua e status occupazionale possono anch’essi determinare chi trae beneficio da un nuovo sistema. Uno strumento che presuppone una disponibilità ininterrotta può penalizzare chi ha impegni di cura. Una misura di performance che ignora modalità di lavoro accessibili può trasformare un accomodamento in una deviazione. Un sistema che usa un modello linguistico limitato può creare controlli aggiuntivi per chi comunica in un’altra lingua. Non sono casi limite da rimandare a un futuro rapporto sull’uguaglianza. Sono parte di ciò che significa per il sistema organizzare il lavoro.

L’economia delle piattaforme offre all’Europa un contesto chiaro per studiare queste dinamiche. La direttiva sul lavoro tramite piattaforme, adottata come direttiva (UE) 2024/2831, affronta lo status occupazionale e la gestione algoritmica nel lavoro su piattaforma. Include norme su trasparenza, protezione dei dati, monitoraggio umano e revisione delle decisioni significative, insieme a diritti di spiegazione e contestazione. La direttiva è incentrata sul lavoro su piattaforma, ma la sua logica è più ampia: quando il software dirige e valuta il lavoro, il lavoratore ha bisogno di più di un link ai termini di servizio e di una notifica amichevole.

La direttiva è anche un utile promemoria del fatto che il controllo tecnico può avere un significato giuridico. Chiede alle organizzazioni di fare spazio al monitoraggio e alla revisione umani, di spiegare le decisioni significative e di trattare con cura alcune categorie di dati dei lavoratori. Questo non produce un modello perfetto per ogni luogo di lavoro. Stabilisce una base da cui può partire una conversazione più ampia: se il software organizza il lavoro, le persone hanno bisogno di diritti che sopravvivano all’interfaccia del software.

La contestabilità è una condizione di lavoro

Un lavoratore non può contestare in modo significativo una decisione che non può essere localizzata. L’organizzazione deve sapere quale sistema l’ha prodotta, quale versione era in vigore, quali dati sono stati usati, quale regola o output del modello ha contato e chi è autorizzato a rivederla. Il lavoratore ha bisogno di un percorso che non dipenda dall’indovinare il nome interno di una funzionalità del fornitore. Il revisore ha bisogno di tempo e informazioni sufficienti per fare più che approvare il risultato con una firma umana.

La direttiva sul lavoro tramite piattaforme dà a questo principio una forma giuridica per le persone che copre. Richiede la supervisione umana dei sistemi automatizzati di monitoraggio e di decisione, prevede spiegazioni per le decisioni prese o supportate da tali sistemi e crea percorsi per contestare le decisioni significative. Impone inoltre limiti alle categorie di dati personali che le piattaforme possono trattare per la gestione algoritmica. Questi dettagli contano perché un diritto senza un percorso operativo è spesso un suggerimento travestito da salvaguardia.

Per altri luoghi di lavoro, l’architettura della contestabilità offre comunque un test utile. Chiedetevi se una persona può fermare l’azione prima che il danno si diffonda. Chiedetevi se può vedere il motivo in termini che riguardano il lavoro. Chiedetevi se il revisore ha l’autorità di ignorare il risultato. Chiedetevi se le contestazioni ripetute possono portare a un cambiamento del sistema, invece che a una raccolta di eccezioni individuali che nessuno analizza. Chiedetevi se un lavoratore può presentare una contestazione senza rischiare una penalità nascosta nella successiva assegnazione.

La contestabilità è anche una questione collettiva. Un singolo punteggio contestato può sembrare un disaccordo personale. Un insieme di punteggi contestati può rivelare un input errato, un indicatore iniquo o un carico di lavoro che il sistema non è mai stato progettato per rappresentare. I rappresentanti dei lavoratori e gli ispettori devono poter accedere al quadro d'insieme, non solo ai singoli schermi. L'organizzazione dovrebbe poter aggregare le contestazioni senza trasformare chi le ha sollevate in una nuova categoria a rischio.

Esiste la tentazione di trattare la revisione umana come una mera formalità finale. Questo è pericoloso e ingiusto. Un revisore valutato sulla velocità, senza accesso alle informazioni sottostanti e a cui viene detto che il sistema è più accurato di lui, non sta esercitando una supervisione. Sta prestando un volto umano a una decisione automatizzata. I riferimenti dell'AI Act a competenza, formazione, autorità e alla capacità di disattendere o interrompere un sistema ad alto rischio sono utili perché rendono esplicita questa differenza. Una persona nel flusso di lavoro non è automaticamente una persona al comando.

Il minimo legale e il massimo organizzativo

Il diritto europeo stabilisce dei minimi. Non scrive ogni buon processo di lavoro per un'organizzazione. L'AI Act prevede requisiti relativi all'alfabetizzazione sull'IA, alle informazioni da fornire ai lavoratori e ai loro rappresentanti nelle implementazioni ad alto rischio pertinenti, alla supervisione umana e alle valutazioni d'impatto sui diritti fondamentali per usi specifici. Il quadro su informazione e consultazione aggiunge un contesto più ampio di diritto del lavoro. Le norme sulla protezione dei dati limitano ciò che può essere raccolto e come possono essere prese le decisioni. La direttiva sul lavoro tramite piattaforma aggiunge tutele specifiche laddove le piattaforme digitali organizzano il lavoro.

Un minimo legale è prezioso perché blocca il peggior argomento possibile: che non si debba fare nulla finché un regolatore non indica questa specifica funzionalità. Non è un massimo. Un sistema può essere conforme a un requisito ristretto e rendere comunque il lavoro più estenuante, meno comprensibile o più difficile da contestare. Le organizzazioni che vogliono una transizione duratura dovrebbero definire uno standard interno più elevato, soprattutto dove la legge è volutamente generica o dove l'implementazione non rientra in una specifica norma settoriale.

Questo standard può essere espresso come una catena di domande. Qual è lo scopo del sistema e cosa resta fuori dal suo scopo? Quali compiti vengono modificati e quali giudizi devono rimanere visibili? Quali dati sono necessari e quali sono solo disponibili? Chi è coinvolto direttamente e indirettamente? Quali evidenze dimostrano che il sistema è utile in questo contesto? Chi può sovrascriverlo, con quale formazione e protezione? Come farà un lavoratore a contestare un risultato? Cosa succede quando cambiano il modello, il fornitore o le politiche? Chi ha la responsabilità di decidere di sospendere o ritirare il sistema?

Queste domande dovrebbero trovare risposta prima che l'acquisto sia completato, non essere nascoste in un'appendice dopo il primo incidente. Un fornitore può fornire documentazione e supporto. Non può conoscere il significato completo di un flusso di lavoro all'interno di un'organizzazione che non gestisce. Il deployer conosce il contesto, le persone coinvolte e le conseguenze di una scorciatoia sbagliata. È per questo che l'AI Act considera i deployer attori importanti per i sistemi ad alto rischio. La responsabilità non svanisce al confine contrattuale.

È utile anche specificare cosa non è il successo. Un'implementazione riuscita non è un alto tasso di adozione se i lavoratori adottano il sistema perché rifiutarlo danneggerebbe le loro prospettive. Non è un tempo medio di gestione inferiore se i casi difficili vengono rimandati. Non è una dashboard con indicatori verdi se le persone più vicine al lavoro hanno smesso di segnalare errori. Non è una cifra di completamento della formazione se nessuno sa spiegare come fermare il flusso di lavoro. Le metriche sono strumenti per il giudizio, non un suo sostituto.

Una transizione che lascia una traccia

Un cambiamento responsabile ha bisogno di memoria. L'organizzazione dovrebbe registrare lo scopo previsto, la mappa dei compiti, le fonti dei dati, la consultazione, la formazione, i test, i limiti e le decisioni prese quando le evidenze erano incerte. Dovrebbe registrare quale versione è stata utilizzata e quando sono cambiate le condizioni operative. Un lavoratore non dovrebbe dover ricostruire la storia di una decisione da messaggi, screenshot e dalla memoria di un collega. È un modo inadeguato di trattare sia il lavoro che le evidenze.

La registrazione dovrebbe includere il dissenso. Un file di distribuzione rifinito che contiene solo approvazioni non è un resoconto della consultazione. È un certificato di ottimismo. Le domande dei lavoratori, dei rappresentanti, del personale addetto alla sicurezza e degli esperti di parità fanno parte delle evidenze di progettazione. Mostrano dove il sistema potrebbe fallire e quali presupposti non erano condivisi. Mantenerle visibili rende anche più facile rivedere una decisione senza fingere che la preoccupazione sia emersa per la prima volta dopo la distribuzione.

Il monitoraggio dovrebbe seguire il lavoro piuttosto che solo il modello. Osservare i cambiamenti nella combinazione dei compiti, nei tempi di revisione, nei modelli di errore, nell'accesso alla formazione, nei ricorsi, nelle assenze, negli straordinari e in chi riceve i casi difficili. Non sono tutti parametri di intelligenza artificiale. Sono segnali delle condizioni di lavoro. Un modello può mantenere la stessa accuratezza mentre il lavoro circostante diventa meno sostenibile. Se l'organizzazione monitora solo il modello, potrebbe non notare il lavoro che è stato riorganizzato attorno ad esso.

Dovrebbe esserci una storia di scadenza. Un sistema introdotto per uno scopo non dovrebbe diventare permanente per inerzia. Fissare una data di revisione, una soglia di cambiamento e un responsabile chiaro. Se i dati cambiano, il compito cambia, la base giuridica cambia o le persone coinvolte cambiano, l'organizzazione dovrebbe sapere se sono necessarie una nuova valutazione e una nuova consultazione. La manutenzione non è un'ammissione che la prima decisione fosse debole. È un riconoscimento che sia il lavoro che il software si muovono.

Questo può sembrare pesante per un piccolo intervento. La risposta è la proporzionalità, non la scomparsa. Un assistente di redazione senza accesso ai dati personali può richiedere un processo più leggero rispetto a un sistema che determina l'accesso a turni, benefici, assistenza o occupazione. Ma anche un piccolo strumento merita una dichiarazione di ciò che può fare e di ciò che non può fare. La chiarezza si riduce meglio della burocrazia perché dice alle persone dove fermarsi.

Come appare una quota equa

L'espressione transizione equa viene spesso usata come se l'equità arrivasse una volta che la tecnologia è installata correttamente. Non sarà così. L'equità è un insieme di scelte su tempo, voce, capacità, rischio e ricompensa. Chiede se i lavoratori possono plasmare il cambiamento, se possono comprenderlo, se possono contestarlo e se i guadagni sono condivisi piuttosto che convertiti silenziosamente in aspettative più elevate.

Condividere il guadagno non significa sempre un pagamento diretto. Potrebbe significare una coda più breve, più tempo con le persone, lavoro meno pericoloso, attrezzature migliori, l'opportunità di apprendere una competenza apprezzata, un percorso verso un nuovo ruolo o un giudizio professionale preso più seriamente perché il lavoro di routine non lo soffoca più. La scelta dovrebbe essere fatta con le persone il cui lavoro sta cambiando. Altrimenti l'organizzazione potrebbe ottimizzare un risultato che sembra efficiente dalla sala del consiglio e che sul campo sembra un'accelerazione permanente.

C'è anche una dimensione civica. I luoghi di lavoro formano le persone per le istituzioni che le circondano. Se ogni sistema digitale insegna che un punteggio è più credibile di una persona, l'abitudine si trasferisce nei servizi pubblici e nella vita quotidiana. Se i luoghi di lavoro insegnano che le evidenze possono essere messe in discussione, le decisioni possono essere spiegate e l'autorità può essere interrotta, anche quelle abitudini si trasferiscono. La progettazione di un flusso di lavoro automatizzato non è quindi solo una questione interna. È una pratica di come una società tratta il giudizio.

L'insistenza dell'Europa su informazione, consultazione, dialogo sociale, protezione dei dati e supervisione umana viene talvolta caricaturata come un freno all'innovazione. Una lettura migliore è che si tratta di modi per decidere chi si fa carico delle conseguenze di una nuova capacità. La velocità non è neutrale quando le persone che non possono rallentare il sistema sono quelle esposte ai suoi errori. Una transizione che può essere discussa, ispezionata e rivista può richiedere più tempo per essere avviata. Ma è anche più probabile che resti utile dopo che la novità è svanita.

In Dweve, questo è il piccolo aspetto della questione a cui torniamo continuamente in Ground truth e nel nostro lavoro sull'AI literacy. Un sistema guadagna fiducia quando le persone che lo circondano possono nominarne le fonti, i limiti, l'incertezza e l'autorità. Non è un'affermazione che una biblioteca o un prodotto possano risolvere le relazioni di lavoro. È una posizione progettuale: le evidenze dovrebbero restare vicine alla decisione, e le persone responsabili della decisione dovrebbero avere abbastanza struttura per metterla in discussione. Il lavoro più ampio spetta a datori di lavoro, lavoratori, rappresentanti, regolatori e pubblico.

Il nuovo lavoro è una decisione collettiva

L'automazione cambia il lavoro prima di cambiare l'organigramma. Sposta attenzione, discrezione e rischio. Crea lavoro di manutenzione, lavoro di revisione, lavoro di formazione e il lavoro di spiegare un sistema a persone che non lo hanno scelto. Può rendere un lavoro migliore, oppure può trasformare il lavoro in un percorso più rapido attraverso un corridoio più stretto. La differenza non è nascosta solo nel modello. Si crea nelle decisioni attorno al modello.

Le persone che ottengono il nuovo lavoro non dovrebbero essere scelte solo dopo che i vecchi compiti sono stati rimossi. Dovrebbero partecipare a decidere cosa sia il nuovo lavoro. Dovrebbero avere tempo per imparare, autorità per fare domande, protezione quando lo fanno e una parte della capacità che il cambiamento crea. Le persone rappresentate dalle metriche dovrebbero poter ispezionare cosa significano le metriche. Le persone che si fanno carico delle conseguenze dovrebbero poter fermare un sistema che non è più sicuro o equo.

Una buona transizione lascia dietro di sé più di uno strumento funzionante. Lascia una mappa dei compiti più chiara, competenze più solide, un canale per il dissenso, una registrazione di ciò che è cambiato e un'istituzione che sa chi è responsabile. Sono risultati modesti rispetto alle promesse fatte in una dimostrazione di prodotto. Ma sono anche le cose che impediscono a un luogo di lavoro di diventare un posto dove il software prende decisioni e tutti gli altri forniscono le giustificazioni.

Quindi poniti la domanda pratica subito. Quando questo compito si sposta, che lavoro appare? Chi lo farà? Che autorità avranno? Che formazione renderà reale quell'autorità? Chi può contestare l'accordo? Dove va il tempo risparmiato? Se l'organizzazione non sa rispondere, non è pronta ad automatizzare il compito. È pronta a sperare che il lavoro si sistemi da solo. I lavori raramente sono così premurosi.

Fonti