Quand l'automatisation change le travail, qui obtient le nouveau poste ?

L’automatisation supprime rarement un métier entier d’un seul geste net. Elle réorganise les tâches, le pouvoir discrétionnaire, la formation, la...

Quand l'automatisation change le travail, qui obtient le nouveau poste ?

Le métier, ce n’est jamais la liste des tâches

L’une des questions les plus trompeuses du débat sur l’automatisation est de savoir si une machine va prendre un emploi. Un emploi est rarement une chose unique que l’on peut extraire d’une personne pour la placer dans un serveur. C’est un ensemble de tâches, de jugements, de routines, de relations, d’autorisations et de bribes de savoir local. Certaines de ces pièces peuvent être assistées. Certaines peuvent être standardisées. Certaines peuvent être supprimées. D’autres deviennent plus importantes précisément parce que le travail de routine a été déplacé ailleurs.

Le changement arrive donc avant le titre du poste. Un système de planification peut modifier qui est sollicité pour travailler, même si le tableau de service affiche toujours les mêmes noms. Un assistant documentaire peut changer ce qui compte comme une charge de travail raisonnable, même si le contrat mentionne toujours « travailleur social ». Un tableau de bord de performance peut transformer un jugement informel en objectif, même si personne n’appelle ce tableau de bord un manager. Le travail a changé. L’organisation a peut-être simplement oublié de changer son vocabulaire.

C’est pourquoi la vraie question n’est pas de savoir si l’automatisation détruit des emplois dans l’abstrait. C’est de savoir qui décide quelles tâches sont déplacées, quelles nouvelles tâches apparaissent, quels risques sont acceptés, quelles personnes sont formées, et qui a l’autorité de contester un résultat. La réponse détermine si un changement technique devient une transition équitable, une intensification du travail, ou un transfert silencieux de pouvoir des personnes qui font le travail vers le système qui le mesure.

Imaginez une journée de travail composite, assemblée à partir de caractéristiques familières plutôt que d’un rapport sur un employeur nommé. Une équipe reçoit un outil qui rédige des résumés, suggère des priorités et mesure le temps passé sur chaque dossier. L’outil est présenté comme une aide. On dit à l’équipe qu’aucun poste ne sera supprimé. En quelques semaines, les cas simples sont traités plus rapidement, les cas difficiles restent, l’objectif est recalculé à partir de la moyenne plus rapide, et les personnes qui remettent en question une suggestion passent plus de temps à documenter pourquoi elles l’ont fait. Rien dans cette séquence n’exige qu’une machine prenne un emploi. L’emploi a néanmoins été redessiné autour de la machine.

Cette distinction compte parce qu’elle change ce qu’une introduction responsable doit garantir. Si le travail est réorganisé, les travailleurs doivent avoir leur mot à dire sur la carte, et non recevoir une affiche de motivation une fois la carte finalisée. Si le jugement est transféré dans un système de notation, les personnes concernées doivent pouvoir inspecter et contester le score. Si une formation est nécessaire pour rendre le nouvel agencement viable, la formation fait partie du changement lui-même, et non un avantage offert quand le budget se montre généreux.

Commencez par ce que les gens font réellement

Un bon travail de transition commence par l’observation. Avant qu’une équipe choisisse un modèle, elle devrait décrire le travail tel qu’il est effectué, y compris les aspects gênants qui n’apparaissent jamais dans le schéma de processus. Quelles décisions sont routinières ? Lesquelles dépendent du contexte ? Lesquelles nécessitent une conversation, une relation professionnelle ou une inspection physique ? Où les gens remarquent-ils qu’un dossier est incomplet ? Où compensent-ils un système qui ne fait pas la différence entre un cas inhabituel et un mauvais cas ?

Ce n’est pas un argument pour idéaliser le travail humain. Certaines routines sont fastidieuses, répétitives et mal adaptées à un être humain qui a d’autres choses à faire. Supprimer les copier-coller, les recherches ou les reformatages inutiles peut être une véritable amélioration. Le but est de nommer la tâche qui devrait changer, plutôt que de traiter la profession comme un bloc unique. Un système qui élimine la saisie en double peut rendre du temps. Un système qui supprime le temps nécessaire pour vérifier une réponse incertaine peut créer un moyen plus rapide de se tromper.

Une carte des tâches utile comporte au moins quatre niveaux. Le premier est l’action visible : classer, rédiger, planifier, inspecter, répondre ou approuver. Le deuxième est le jugement qui s’y cache : ce qui compte comme complet, urgent, sûr, juste ou pertinent. Le troisième est la responsabilité attachée à ce jugement : qui doit expliquer la décision, la corriger et en assumer les conséquences. Le quatrième est la boucle d’apprentissage : qui remarque un nouveau schéma, met à jour la pratique et indique au système que son ancien raccourci ne fonctionne plus.

Ces niveaux sont souvent répartis entre les membres d’une équipe. Une réceptionniste peut remarquer un détail qu’une analyste des politiques formalise. Un technicien peut reconnaître un défaut qu’un ingénieur encode ensuite sous forme de règle. Un travailleur social peut savoir qu’une phrase dans un formulaire est un signe de détresse plutôt qu’un champ manquant. Le système peut soutenir chaque personne différemment, mais il ne doit pas effacer le chemin par lequel la connaissance entre dans l’organisation. Si les personnes qui voient l’exception sont exclues de la conception, le système sera très cohérent dans le fait de la manquer.

Les travaux de l’Organisation internationale du Travail sur l’IA générative sont utiles ici, car ils séparent l’exposition des tâches du sort des professions entières. Son analyse constate que de nombreux emplois ne sont que partiellement exposés et qu’ils ont plus de chances d’être complétés que entièrement remplacés. Cela ne signifie pas que la transition est sans danger. L’OIT souligne les changements dans la qualité de l’emploi, l’intensité du travail et l’autonomie, et affirme que le résultat dépend de la manière dont la technologie est introduite. Une tâche peut rester formellement humaine tandis que les conditions qui l’entourent deviennent moins humaines.

La même analyse met également en garde contre le fait de considérer les indicateurs d’exposition comme des prévisions de pertes d’emplois. Un score d’exposition peut identifier où une technologie pourrait toucher le travail. Il ne peut pas nous dire si un employeur utilisera cette possibilité pour réduire la pénibilité, augmenter le rendement, supprimer le pouvoir discrétionnaire ou créer un meilleur service. C’est une question de gestion et de société. Un chiffre peut localiser la porte. Il ne peut pas nous dire qui est autorisé à la franchir.

L’automatisation modifie un réseau de travail, et non une simple case sur un organigramme. La carte maintient le jugement et la responsabilité visibles.

L’augmentation peut aussi intensifier le travail

Le mot augmentation semble rassurant, car il suggère qu’une personne reste dans le tableau. Il ne garantit pas, en soi, un meilleur travail. Un système peut augmenter un travailleur en lui donnant un instrument utile, ou en lui donnant une pile de dossiers plus grande et une fenêtre plus courte pour traiter chacun d’eux. Il peut améliorer la qualité d’une décision, ou il peut rendre une décision suffisamment objective en apparence pour que personne ne se sente autorisé à la remettre en question.

L’intensité du travail ne se mesure pas seulement au nombre de tâches accomplies. Elle comprend aussi la vitesse attendue, les interruptions tolérées, l’effort émotionnel nécessaire pour gérer les exceptions et la capacité d’attention disponible pour une décision réfléchie. Un outil de rédaction peut faire gagner du temps sur une lettre courante tout en augmentant le nombre de lettres qu’une personne est censée produire. Un optimiseur d’itinéraires peut raccourcir les trajets tout en remplissant chaque minute gagnée par une visite supplémentaire. Un tableau de bord peut révéler un goulot d’étranglement, puis transformer discrètement ce goulot d’étranglement en problème de performance individuelle.

Les conclusions de l’OIT placent la qualité de l’emploi au même niveau que la quantité pour une raison. Un poste peut survivre tandis que l’autonomie diminue. Une personne peut conserver son titre tout en perdant la latitude qui faisait de son poste un poste qualifié. La transition peut aussi être inégale. Les travailleurs qui ont déjà accès à des systèmes fiables et à une formation peuvent gagner en influence, tandis que les travailleurs du même métier se retrouvent à traiter les cas difficiles avec moins de temps et moins de ressources. Le tableau d’ensemble peut ressembler à de la productivité, alors que l’expérience quotidienne devient une file d’attente qui ne se vide jamais tout à fait.

C’est pourquoi une proposition responsable devrait décrire l’amélioration visée en des termes qu’un travailleur peut vérifier. Le système supprimera-t-il une étape redondante ? Rendra-t-il l’information pertinente plus facile à trouver ? Laissera-t-il du temps pour une conversation qui ne peut pas être automatisée ? Réduira-t-il l’exposition à une tâche dangereuse ? Qu’advient-il du temps gagné ? Si la réponse est simplement que l’équipe traitera davantage de dossiers, l’organisation ne parle pas d’augmentation. Elle parle d’un nouvel objectif de production avec une interface polie.

Il y a aussi un problème de qualité. Lorsqu’un système traite le cas courant, les personnes voient une part plus élevée de cas inhabituels. Le travail restant devient plus ambigu, plus lourd de conséquences ou plus dépendant de l’expérience. Cela peut être une bonne raison d’investir dans l’expertise. Cela peut aussi servir à conclure que le travail est désormais trop irrégulier pour mériter un processus digne de ce nom. La première voie traite le jugement comme une capacité. La seconde le traite comme un centre de coûts qui n’a pas encore été compressé avec succès.

Un plan de transition devrait donc inclure un scénario contrefactuel rarement écrit : à quoi ressemblera le poste si le système est suffisamment précis pour être utile, mais pas suffisamment précis pour être utilisé sans vérification ? C’est la condition normale de nombreux systèmes d’aide à la décision. La réponse devrait préciser où se fait la vérification, combien de temps elle prend, quelles preuves elle exige et comment une personne peut refuser la recommandation sans être considérée comme inefficace.

Le gestionnaire caché dans le logiciel

L’automatisation devient une gouvernance du travail lorsque le logiciel commence à répartir, orienter, évaluer ou contrôler le travail. Il n’a pas besoin d’être appelé intelligence artificielle. Une règle fixe qui attribue une tâche en fonction de la disponibilité peut structurer une journée. Un système de notation peut influer sur l’accès au travail futur. Un modèle qui prédit un retard probable peut changer qui reçoit le quart de travail difficile. La distinction technique entre une règle et un modèle appris importe pour la transparence, mais le travailleur vit les deux à travers la décision qui arrive.

L’étude de la Commission européenne sur la gestion algorithmique décrit ce domaine comme un ensemble de pratiques pouvant automatiser ou assister les fonctions de gestion traditionnelles. Ces fonctions comprennent le recrutement, la répartition des tâches, le suivi, l’évaluation et les décisions concernant la progression ou le licenciement. L’étude note également que la réponse politique et juridique est répartie entre plusieurs instruments plutôt que contenue dans un code du travail unique et cohérent. Cette fragmentation est un fait administratif, pas une licence pour prétendre que le logiciel n’a pas d’effets comparables à ceux d’un gestionnaire.

La gestion algorithmique est souvent introduite par une petite promesse opérationnelle. Associer plus rapidement les personnes aux tâches. Détecter les capacités avant que le roulement ne se brise. Donner à un superviseur une vision plus claire. Repérer un problème de sécurité. Chaque promesse peut être raisonnable. Le risque apparaît lorsque la mesure devient un substitut au travail. Le temps de réponse remplace le soin. Une évaluation remplace la fiabilité. L'activité à l'écran remplace l'effort. Le substitut est plus facile à compter, alors l'organisation commence à le traiter comme plus réel que ce qu'il était censé décrire.

Dès qu'un substitut régit l'accès au travail, la charge de la preuve change. Un gestionnaire peut généralement expliquer une décision en contexte, même si l'explication est pauvre. Un système peut produire un score qui semble neutre parce que ses données d'entrée sont cachées. Le travailleur doit alors contester à la fois le résultat et l'idée que ce résultat est le bon type de preuve. C'est pourquoi l'accès à l'information, l'examen humain et une contestabilité significative importent. Une réponse qui dit que le système est complexe n'est pas une explication. C'est une invitation à cesser de poser des questions.

La surveillance mérite une attention particulière. Les données collectées pour la coordination peuvent être réutilisées pour l'évaluation. Les données collectées pour la sécurité peuvent être détournées pour la discipline. Les données collectées pendant qu'une personne travaille peuvent révéler des informations intimes sur la santé, les responsabilités de soin ou les associations. Le fait qu'un système puisse collecter un signal ne rend pas ce signal équitable à utiliser. Un lieu de travail n'est pas un laboratoire dans lequel le consentement peut être présumé parce que l'employé a cliqué sur un écran avant de commencer son quart de travail.

La Confédération européenne des syndicats a fait valoir que les applications intrusives sur le lieu de travail nécessitent des limites plus strictes, que les travailleurs et leurs représentants devraient recevoir des informations en langage clair, et que la consultation devrait avoir lieu avant le déploiement et tout changement substantiel. Sa position relie également les systèmes algorithmiques à la négociation collective, à la formation des travailleurs et au droit de vérifier et de réviser les décisions. Ce ne sont pas des ajouts techniques. Elles reconnaissent qu'un lieu de travail est une institution sociale et que le transfert de l'autorité vers un logiciel modifie l'équilibre au sein de cette institution.

La consultation fait partie de la conception

L'information et la consultation sont parfois traitées comme des étapes cérémonielles qui suivent la véritable décision. Le cadre européen ne nous donne aucune raison de les traiter ainsi. Le cadre de la Commission autour de la directive 2002/14/CE présente l'information et la consultation en temps utile comme faisant partie de la manière dont les organisations gèrent les changements importants et les nouvelles formes d'organisation du travail. La directive établit un cadre général, avec des choix nationaux concernant la portée et la mise en œuvre. Ce n'est pas un manuel sur l'IA. C'est un rappel qu'un changement substantiel dans le travail a une vie procédurale avant de devenir un déploiement technique.

Le moment est important. Une réunion après que le fournisseur a été sélectionné et que le flux de travail a été configuré n'est pas la même chose qu'une conversation pendant que l'organisation décide encore du problème qu'elle veut résoudre. Une implication précoce permet aux travailleurs de demander quelles données sont nécessaires, quelles tâches sont réellement modifiées, comment les erreurs seront gérées et à quoi ressemble la solution de repli. Elle expose également des connaissances difficiles à acheter de l'extérieur. Les personnes qui effectuent le travail savent où le processus est fragile parce qu'elles ont passé des années à le maintenir debout.

La consultation n'exige pas que chaque décision soit unanime. Elle exige que les personnes concernées soient traitées comme des participantes à un changement, et non comme des capteurs qui signaleront la résistance après le lancement. Un processus sérieux devrait consigner ce qui a été proposé, ce que les travailleurs ont contesté, ce qui a changé en conséquence et quels désaccords subsistent. Si une proposition est tout de même adoptée, l'organisation devrait être en mesure d'expliquer pourquoi. C'est plus mature que de prétendre qu'une absence d'accord signifie que personne n'avait d'opinion.

Il y a une raison pratique de rendre ce constat explicite. Les systèmes évoluent après leur mise en service. Le modèle est mis à jour, la source de données change, un nouveau service est ajouté, un indicateur d'évaluation est ajusté, ou un fournisseur réécrit un moteur de règles. Une consultation ponctuelle ne peut pas couvrir un système en mouvement. Les représentants des travailleurs ont besoin d'un canal permanent pour constater les effets et demander un réexamen. Sinon, l'organisation a consulté sur la version un et a gouverné une machine différente à la version trois.

La proposition de la CES pour une directive sur les systèmes algorithmiques au travail prévoit une évaluation d'impact avant la mise en œuvre, puis à intervalles réguliers, avec la participation des travailleurs et de leurs représentants. C'est un principe de conception utile, même là où la proposition n'a pas force de loi. Une évaluation d'impact ne devrait pas être un document qui prouve que la décision était déjà prise. Elle devrait être un espace où l'organisation nomme les personnes susceptibles d'être affectées, ce qui pourrait mal tourner, quels éléments de preuve seront surveillés et qui a l'autorité de changer de cap.

Le même principe s'applique aux petites organisations. Un employeur plus petit n'a peut-être pas de comité d'entreprise ni de service dédié aux données, mais il doit quand même comprendre ce qu'un système change pour les personnes qui l'utilisent. La paperasse peut être allégée. Les questions ne peuvent pas disparaître. Sinon, un déploiement modeste peut devenir un problème de gouvernance majeur sans personne désigné pour le constater.

La formation, c'est le pouvoir d'agir

La formation est souvent la première promesse faite et la première chose sacrifiée. Un plan de lancement annonce que le personnel recevra une session. La session devient un diaporama. Le diaporama devient un enregistrement. L'enregistrement devient un lien dans un portail d'apprentissage que tout le monde est censé avoir consulté avant que le nouveau système ne change discrètement les règles du métier.

Ce n'est pas ce dont les gens ont besoin. Ils ont besoin d'une compréhension suffisante pour reconnaître ce que le système fait, ce qu'il ne fait pas, quelles données il utilise, comment vérifier ses résultats, quand l'ignorer, comment signaler une erreur et ce qui se passera s'ils refusent une recommandation. Ils ont besoin de temps pour s'entraîner avec les cas réels et les situations limites de leur travail. Ils ont besoin de savoir qui peut répondre à une question sans la transformer en ticket qui disparaît dans une file d'attente chez le fournisseur.

L'AI Act traduit ce point pratique en langage juridique. Les fournisseurs et les déployeurs doivent prendre des mesures pour garantir un niveau adéquat de culture de l'IA pour les personnes qui utilisent des systèmes en leur nom, en tenant compte de leurs connaissances techniques, de leur expérience, de leur éducation, de leur formation et du contexte dans lequel le système sera utilisé. Pour certains systèmes à haut risque, les personnes chargées de la surveillance humaine doivent avoir les compétences, la formation et l'autorité nécessaires. Le règlement préserve également les droits existants d'information et de consultation des travailleurs et de leurs représentants. La culture de l'IA est donc liée à l'autorité, et pas seulement à la familiarité avec un écran de produit.

La position de la CES sur le développement des compétences des travailleurs va plus loin dans une direction qui compte pour l'équité. Elle considère la culture de l'IA comme la capacité de comprendre de manière critique comment l'IA affecte le travail et les professions, et pas seulement la capacité d'utiliser un outil pour l'employeur. Cette distinction est facile à manquer. Si la formation apprend à une personne à accepter une suggestion mais pas à remettre en question le système qui l'a produite, l'organisation a formé à la conformité, pas à la capacité.

Un plan de formation utile s'adresse à au moins trois publics. Le premier est la personne qui utilise le système dans son travail quotidien. Elle a besoin d'une culture opérationnelle : entrées, sorties, incertitude, escalade et utilisation sûre. Le deuxième est la personne qui examine ou supervise le travail. Elle a besoin d'une culture décisionnelle : preuves, biais, désaccord, dérogation et conséquences. Le troisième est le groupe qui représente les travailleurs ou qui inspecte l'organisation. Il a besoin d'une culture de gouvernance : objectif, flux de données, impact, changements, accès à l'expertise et voies de recours.

La formation pose aussi un problème de répartition. Les personnes qui disposent de moins de temps et du plus faible pouvoir de négociation sont souvent celles qui reçoivent le plus probablement une session générique et courte. Les personnes qui conçoivent le système reçoivent des briefings détaillés et une ligne directe avec le fournisseur. Le résultat est une hiérarchie des connaissances qui suit le pouvoir. Si un nouveau système doit changer le travail de nombreuses personnes, l'organisation devrait consacrer plus d'efforts aux personnes qui devront vivre avec le système qu'à celles qui feront la présentation de lancement.

La formation doit être traitée comme une preuve de préparation, et non comme un taux de réussite cérémoniel. Un travailleur peut-il identifier un cas nécessitant un examen humain ? Peut-il expliquer pourquoi une recommandation a été rejetée ? Un superviseur peut-il mettre en pause le flux de travail ? Un représentant peut-il demander les informations nécessaires pour évaluer un changement ? L'organisation peut-elle montrer ce qui s'est passé lorsque quelqu'un a soulevé une préoccupation ? Si la réponse est non, le problème n'est pas que les travailleurs manquent d'enthousiasme. Le système n'a pas été introduit de manière responsable.

Les compétences prennent leur sens lorsqu'elles s'accompagnent de l'autorité de questionner, de contourner et de remodeler le système.

Qui obtient le nouveau poste ?

Lorsqu'une tâche répétitive passe dans un logiciel, le travail ne disparaît pas dans un nuage. Il réapparaît quelque part. Quelqu'un écrit les règles, organise les données, vérifie les exceptions, traite les recours, maintient l'intégration, surveille la sécurité et explique le résultat. Ces tâches peuvent être de nouveaux rôles, de nouvelles responsabilités au sein de rôles existants ou un travail invisible ajouté aux personnes qui ont déjà le moins de temps libre.

La question de la répartition est donc concrète. Qui obtient le travail technique ? Qui obtient le travail d'interprétation ? Qui est exposé au risque lorsque le système échoue ? Qui reçoit le temps gagné grâce à l'automatisation ? Qui est censé apprendre un nouveau processus sans changement de salaire, de charge de travail ou de statut ? Une transition qui ne répond qu'à la première question peut créer un petit groupe de spécialistes et un groupe beaucoup plus large de personnes dont le travail est mesuré plus étroitement.

Il n'existe pas de règle universelle selon laquelle chaque économie doit devenir du loisir ou chaque nouvelle tâche doit devenir un nouveau titre de poste. Les organisations ont des objectifs différents et des conventions collectives. Mais la répartition doit être délibérée et discutable. Si l'automatisation supprime l'administration répétitive, le bénéfice pourrait être plus de temps pour les soins, la recherche, la maintenance ou le contact avec le public. Si elle crée des tâches de surveillance, ces tâches nécessitent de la capacité et de la reconnaissance. Si elle augmente la valeur de l'expertise contextuelle, les personnes possédant cette expertise ne doivent pas être traitées comme des obstacles temporaires à un ensemble de données plus propre.

La politique en matière de compétences est importante, car la transition peut creuser les inégalités existantes. L’OIT note que, dans son analyse, l’exposition de l’emploi des femmes à l’IA générative est plus élevée, en partie parce que les femmes sont surreprésentées dans le travail de bureau. Il s’agit d’une déclaration sur l’exposition potentielle, et non d’une prévision de qui perdra son emploi. Cela montre néanmoins pourquoi un déploiement à la tonalité neutre peut avoir des effets inégaux. Si les postes les plus touchés sont aussi ceux qui offrent le moins de possibilités de formation rémunérée ou de progression, les bénéfices ne se répartiront pas par magie. La magie reste une stratégie de ressources humaines peu fiable.

L’âge, le handicap, les responsabilités de soins, la langue et le statut d’emploi peuvent également déterminer qui bénéficie d’un nouveau système. Un outil qui suppose une disponibilité ininterrompue peut pénaliser les personnes qui s’occupent d’autrui. Une mesure de performance qui ignore les modes de travail accessibles peut transformer un aménagement en écart. Un système qui utilise un modèle linguistique étroit peut créer des vérifications supplémentaires pour les personnes qui communiquent dans une autre langue. Ce ne sont pas des cas marginaux à reléguer dans un futur rapport sur l’égalité. Ils font partie de ce que signifie le fait que le système organise le travail.

L’économie de plateforme offre à l’Europe un cadre clair pour étudier ces dynamiques. La directive sur le travail de plateforme, adoptée sous la forme de la directive (UE) 2024/2831, traite du statut d’emploi et de la gestion algorithmique dans le travail de plateforme. Elle comprend des règles sur la transparence, la protection des données, le contrôle humain et l’examen des décisions importantes, ainsi que des droits à des explications et à une contestation. La directive se concentre sur le travail de plateforme, mais sa logique est plus large : lorsque le logiciel dirige et évalue le travail, le travailleur a besoin de plus qu’un lien vers les conditions d’utilisation et qu’une notification enjouée.

La directive rappelle également que le contrôle technique peut avoir une signification juridique. Elle demande aux organisations de laisser une place au contrôle et à l’examen humains, d’expliquer les décisions importantes et de traiter avec soin certaines catégories de données des travailleurs. Cela ne produit pas un modèle parfait pour chaque lieu de travail. Cela établit un socle à partir duquel la conversation plus large peut commencer : si le logiciel organise le travail, les personnes ont besoin de droits qui survivent à l’interface du logiciel.

La contestabilité est une condition de travail

Un travailleur ne peut pas contester de manière significative une décision qui ne peut pas être localisée. L’organisation doit savoir quel système l’a produite, quelle version était en vigueur, quelles données ont été utilisées, quelle règle ou quel résultat de modèle a compté et qui est autorisé à l’examiner. Le travailleur a besoin d’une voie qui ne dépend pas de la devinette du nom interne d’une fonctionnalité du fournisseur. L’examinateur a besoin de suffisamment de temps et d’informations pour faire plus qu’approuver le résultat avec une signature humaine.

La directive sur le travail de plateforme donne à ce principe une forme juridique pour les personnes qu’elle couvre. Elle exige une surveillance humaine des systèmes automatisés de surveillance et de prise de décision, prévoit des explications sur les décisions prises ou soutenues par ces systèmes et crée des voies pour contester les décisions importantes. Elle impose également des limites autour des catégories de données personnelles que les plateformes peuvent traiter pour la gestion algorithmique. Ces détails comptent, car un droit sans voie opérationnelle est souvent une suggestion déguisée en protection.

Pour les autres lieux de travail, l’architecture de la contestabilité offre encore un test utile. Demandez-vous si une personne peut suspendre l’action avant que le préjudice ne se propage. Demandez-vous si elle peut voir la raison en des termes liés au travail. Demandez-vous si l’examinateur a l’autorité de ne pas tenir compte du résultat. Demandez-vous si des contestations répétées peuvent conduire à un changement dans le système, plutôt qu’à une collection d’exceptions individuelles que personne n’analyse. Demandez-vous si un travailleur peut faire une contestation sans risquer une pénalité cachée dans la prochaine répartition.

La contestabilité est aussi collective. Un score contesté peut ressembler à un désaccord personnel. Une série de scores contestés peut révéler une mauvaise saisie, un indicateur injuste ou une charge de travail que le système n'a jamais été conçu pour représenter. Les représentants des travailleurs et les inspecteurs ont besoin d'accéder à cette série, et pas seulement aux écrans individuels. L'organisation doit pouvoir regrouper les contestations sans transformer ceux qui les ont soulevées en une nouvelle catégorie à risque.

Il est tentant de considérer l'examen humain comme un simple tampon final. C'est à la fois dangereux et injuste. Un examinateur évalué sur sa rapidité, privé d'accès aux informations sous-jacentes et informé que le système est plus précis que lui n'exerce pas une surveillance. Il prête un visage humain à une décision automatisée. Les références du règlement sur l'IA à la compétence, à la formation, à l'autorité et à la capacité de passer outre ou d'interrompre un système à haut risque sont utiles car elles rendent la différence explicite. Une personne présente dans le flux de travail n'est pas automatiquement une personne qui contrôle.

Le plancher juridique et le plafond organisationnel

Le droit européen fixe des planchers. Il n'écrit pas à la place d'une organisation chaque bon processus de travail. Le règlement sur l'IA impose des exigences concernant la culture de l'IA, l'information des travailleurs et de leurs représentants dans les déploiements à haut risque concernés, la surveillance humaine et les évaluations d'impact sur les droits fondamentaux pour certains usages. Le cadre d'information et de consultation ajoute un contexte plus large de droit du travail. Les règles de protection des données limitent ce qui peut être collecté et la manière dont les décisions peuvent être prises. La directive sur le travail de plateforme ajoute des protections spécifiques lorsque des plateformes numériques organisent le travail.

Un plancher juridique est précieux car il met fin au pire argument possible : celui selon lequel rien ne doit être fait tant qu'un régulateur ne pointe pas précisément cette fonctionnalité. Ce n'est pas un plafond. Un système peut respecter une exigence étroite et rendre le travail plus épuisant, moins compréhensible ou plus difficile à contester. Les organisations qui souhaitent une transition durable devraient se fixer une norme interne plus exigeante, surtout lorsque la loi est volontairement générale ou lorsque le déploiement échappe à une règle sectorielle particulière.

Cette norme peut s'exprimer sous la forme d'une chaîne de questions. Quelle est la finalité du système, et qu'est-ce qui lui est étranger ? Quelles tâches sont modifiées, et quels jugements doivent rester visibles ? Quelles données sont nécessaires, et quelles données sont simplement disponibles ? Qui est concerné, directement et indirectement ? Quelles preuves montrent que le système est utile dans ce contexte ? Qui peut le neutraliser, avec quelle formation et quelle protection ? Comment un travailleur contestera-t-il un résultat ? Que se passe-t-il lorsque le modèle, le fournisseur ou la politique change ? Qui décide de mettre en pause ou de retirer le système ?

Ces questions doivent trouver une réponse avant la fin de l'acquisition, et non être reléguées en annexe après le premier incident. Un fournisseur peut fournir documentation et assistance. Il ne peut pas connaître le sens complet d'un flux de travail au sein d'une organisation qu'il ne gère pas. Le déployeur connaît le contexte, les personnes concernées et les conséquences d'un mauvais raccourci. C'est pourquoi le règlement sur l'IA considère les déployeurs comme des acteurs importants pour les systèmes à haut risque. La responsabilité ne disparaît pas à la frontière du contrat.

Il est également utile de préciser ce que la réussite n'est pas. Un déploiement réussi n'est pas un taux d'adoption élevé si les travailleurs adoptent le système parce que le refuser nuirait à leurs perspectives. Ce n'est pas un temps de traitement moyen plus faible si les cas difficiles sont reportés. Ce n'est pas un tableau de bord aux indicateurs verts si les personnes les plus proches du travail ont cessé de signaler les erreurs. Ce n'est pas un taux de formation achevée si personne ne sait expliquer comment arrêter le flux de travail. Les mesures sont des outils au service du jugement, pas un substitut à celui-ci.

Une transition qui laisse une trace

Un changement responsable a besoin d’une mémoire. L’organisation devrait consigner la finalité prévue, la cartographie des tâches, les sources de données, la consultation, la formation, les tests, les limites et les décisions prises lorsque les preuves étaient incertaines. Elle devrait consigner quelle version a été utilisée et quand les conditions d’exploitation ont changé. Un travailleur ne devrait pas avoir à reconstituer l’historique d’une décision à partir de messages, de captures d’écran et de la mémoire d’un collègue. C’est une mauvaise façon de traiter à la fois le travail et les preuves.

Le dossier devrait inclure les désaccords. Un fichier de déploiement soigné qui ne contient que des approbations n’est pas un compte rendu de consultation. C’est un certificat d’optimisme. Les questions des travailleurs, des représentants, du personnel de sécurité et des spécialistes de l’égalité font partie des preuves de conception. Elles montrent où le système pourrait échouer et quelles hypothèses n’étaient pas partagées. Les garder visibles permet aussi de revenir plus facilement sur une décision sans prétendre que la préoccupation n’est apparue qu’après le déploiement.

Le suivi devrait suivre le travail plutôt que seulement le modèle. Surveillez les changements dans la répartition des tâches, le temps d’examen, les schémas d’erreur, l’accès à la formation, les recours, les absences, les heures supplémentaires et qui reçoit les cas difficiles. Ce ne sont pas tous des indicateurs d’IA. Ce sont des signaux de conditions de travail. Un modèle peut conserver la même précision tandis que le travail qui l’entoure devient moins soutenable. Si l’organisation ne surveille que le modèle, elle risque de manquer le travail qui a été réorganisé autour de lui.

Il devrait y avoir une histoire d’expiration. Un système introduit pour une finalité ne devrait pas devenir permanent par inertie. Fixez une date de révision, un seuil de changement et un propriétaire clair. Si les données changent, si la tâche change, si la base juridique change ou si les personnes concernées changent, l’organisation devrait savoir si une nouvelle évaluation et une nouvelle consultation sont nécessaires. La maintenance n’est pas un aveu que la première décision était faible. C’est une reconnaissance que le travail et les logiciels évoluent tous les deux.

Cela peut sembler lourd pour une petite intervention. La réponse est la proportionnalité, pas la disparition. Un assistant de rédaction sans accès aux dossiers personnels peut nécessiter un processus plus léger qu’un système qui détermine l’accès aux horaires, aux avantages, aux soins ou à l’emploi. Mais même un petit outil mérite une déclaration de ce qu’il peut faire et de ce qu’il ne peut pas faire. La clarté se réduit mieux que la bureaucratie parce qu’elle dit aux gens où s’arrêter.

À quoi ressemble une part équitable

L’expression transition équitable est souvent utilisée comme si l’équité arriverait une fois la technologie correctement installée. Ce ne sera pas le cas. L’équité est un ensemble de choix concernant le temps, la voix, les capacités, le risque et la récompense. Elle demande si les travailleurs peuvent façonner le changement, s’ils peuvent le comprendre, s’ils peuvent le contester et si les gains sont partagés plutôt que discrètement convertis en attentes plus élevées.

Partager le gain ne signifie pas toujours un paiement direct. Cela peut signifier une file d’attente plus courte, plus de temps avec les gens, un travail moins dangereux, un meilleur équipement, une chance d’apprendre une compétence valorisée, une voie vers un nouveau rôle ou un jugement professionnel pris plus au sérieux parce que le travail de routine ne l’évince plus. Le choix devrait être fait avec les personnes dont le travail change. Sinon, l’organisation pourrait optimiser un résultat qui semble efficace depuis la salle du conseil et qui ressemble à une accélération permanente sur le terrain.

Il y a aussi une dimension civique. Les lieux de travail forment les gens aux institutions qui les entourent. Si chaque système numérique enseigne qu’un score est plus crédible qu’une personne, l’habitude se propage dans les services publics et la vie quotidienne. Si les lieux de travail enseignent que les preuves peuvent être contestées, que les décisions peuvent être expliquées et que l’autorité peut être interrompue, ces habitudes se propagent aussi. La conception d’un flux de travail automatisé n’est donc pas seulement une question interne. C’est une pratique de la façon dont une société traite le jugement.

L’insistance de l’Europe sur l’information, la consultation, le dialogue social, la protection des données et la supervision humaine est parfois caricaturée comme un frein à l’innovation. Une meilleure lecture est que ce sont des moyens de décider qui assume les conséquences d’une nouvelle capacité. La vitesse n’est pas neutre lorsque les personnes qui ne peuvent pas ralentir le système sont celles qui sont exposées à ses erreurs. Une transition qui peut être discutée, inspectée et révisée peut prendre plus de temps à lancer. Elle est aussi plus susceptible de rester utile une fois la nouveauté passée.

Chez Dweve, c’est la petite partie de la question à laquelle nous revenons sans cesse dans Ground truth et notre travail sur la littératie en IA. Un système gagne la confiance lorsque les personnes qui l’entourent peuvent nommer ses sources, ses limites, son incertitude et son autorité. Ce n’est pas une affirmation selon laquelle une bibliothèque ou un produit peut régler les relations de travail. C’est une position de conception : les preuves doivent rester proches de la décision, et les personnes responsables de la décision doivent disposer d’une structure suffisante pour la contester. Le travail plus large appartient aux employeurs, aux travailleurs, aux représentants, aux régulateurs et au public.

Le nouveau poste est une décision collective

L’automatisation change le travail avant de changer l’organigramme. Elle déplace l’attention, le pouvoir discrétionnaire et le risque. Elle crée du travail de maintenance, du travail de révision, du travail de formation et le travail d’expliquer un système à des personnes qui ne l’ont pas choisi. Elle peut améliorer un poste, ou elle peut en faire un passage plus rapide dans un couloir plus étroit. La différence ne se cache pas dans le modèle seul. Elle se joue dans les décisions autour du modèle.

Les personnes qui obtiennent le nouveau poste ne devraient pas être choisies seulement après la suppression des anciennes tâches. Elles devraient participer à la définition du nouveau travail. Elles devraient avoir du temps pour apprendre, l’autorité de questionner, une protection lorsqu’elles le font et une part de la capacité que le changement crée. Les personnes représentées par les indicateurs devraient pouvoir inspecter ce que signifient ces indicateurs. Les personnes qui portent les conséquences devraient pouvoir arrêter un système qui n’est plus sûr ou équitable.

Une bonne transition laisse derrière elle plus qu’un outil fonctionnel. Elle laisse une carte des tâches plus claire, des compétences renforcées, une voie pour le désaccord, un registre de ce qui a changé et une institution qui sait qui est responsable. Ce sont des réalisations modestes comparées aux promesses faites lors d’une démonstration de produit. Ce sont aussi les choses qui empêchent un lieu de travail de devenir un endroit où le logiciel prend les décisions et où tout le monde fournit les alibis.

Alors posez la question pratique tôt. Lorsque cette tâche se déplace, quel travail apparaît ? Qui le fera ? Quelle autorité auront-ils ? Quelle formation rendra cette autorité réelle ? Qui peut contester l’arrangement ? Où va le temps gagné ? Si l’organisation ne peut pas répondre, elle n’est pas prête à automatiser la tâche. Elle est prête à espérer que le poste s’occupera de lui-même d’une manière ou d’une autre. Les postes sont rarement aussi prévenants.

Sources