Quand un chatbot devient un collègue de travail

Un chatbot peut être un outil utile sans devenir un manager dans une interface conviviale. La ligne est franchie lorsqu'un système conversationnel commence...

Quand un chatbot devient un collègue de travail

Un collègue est plus qu’une voix dans la pièce

Il existe un type de phrase qui fait paraître un changement plus petit qu’il ne l’est : « Nous offrons un chatbot à tout le monde. » Elle arrive avec le décor familier d’un déploiement logiciel. Il y aura une licence, une courte démonstration, peut-être une page de suggestions d’invites et le rappel un peu trop enjoué de quelqu’un de l’utiliser de manière responsable. L’outil semble se placer à côté du travail. Il peut rédiger, rechercher, résumer, traduire, expliquer une politique ou transformer une note brute en quelque chose qui semble avoir été écrit après une nuit complète de sommeil. Ce sont des capacités ordinaires et parfois utiles. Mais la phrase cesse d’être anodine lorsque le chatbot commence à façonner qui obtient du travail, ce qui compte comme une bonne réponse, quel récit d’un événement est accepté, ou comment une personne est jugée pour être en désaccord avec lui.

À ce stade, la question n’est plus de savoir si l’interface est conversationnelle. Elle est de savoir si le système est devenu un collègue de travail au sens le plus important : un participant à la division du travail, une source d’autorité, un témoin dont le récit est pris en compte, une influence discrète sur les conditions dans lesquelles quelqu’un est digne de confiance. Un collègue peut recommander, contester, expliquer et parfois rendre la journée plus facile. Un collègue appartient aussi à une structure de responsabilité. On peut lui demander pourquoi. On peut le corriger. Son rôle peut être décrit. Un système qui parle avec la facilité d’un collègue mais qui est gouverné avec le flou d’un service public est une proposition plus difficile.

L’Europe a un instinct utile ici. Elle ne nous demande pas de prétendre que chaque outil automatisé est un gestionnaire, ni que chaque travailleur doive devenir un spécialiste de l’architecture des modèles avant d’ouvrir une fenêtre de discussion. Elle pose des questions plus pratiques sur les conditions de travail. Qui est concerné ? Quelles données sont utilisées ? Quel est l’objectif ? Que se passe-t-il lorsqu’une suggestion est erronée ? Qui peut intervenir ? Quels droits d’information et de consultation s’appliquent ? Quelles décisions restent humaines, et ce rôle humain est-il réel ou simplement décoratif ?

Le titre est délibérément inconfortable. Un chatbot n’est pas un collègue au sens humain. Il n’a pas de contrat de travail, pas de jugement professionnel, pas de responsabilité légale et aucune expérience d’être en retard pour un train sous la pluie. Il n’a pas besoin de pauses, de fiche de paie ou de voie de recours contre une évaluation de performance. Le danger commence lorsque son incapacité à porter ces choses est traitée comme un avantage. Si un système peut influencer le travail mais ne porte aucune des obligations sociales, légales ou pratiques qui accompagnent l’autorité au travail, l’organisation doit fournir elle-même les limites. Sinon, le collègue le moins cher du bâtiment devient le moins responsable.

La petite invitation qui change la pièce

Considérons un exemple clairement hypothétique. Une organisation de taille moyenne introduit un assistant de discussion pour les questions de politique interne. On lui dit d’aider les gens à trouver des procédures, à rédiger des messages courants et à identifier la prochaine étape dans un dossier. Personne ne dit qu’il prendra des décisions. L’organisation est assez prudente pour dire que le personnel reste responsable de son travail. C’est un début sensé, mais cela ne règle pas la question.

Au cours des premières semaines, les gens découvrent que l’assistant est plus rapide que de chercher dans un intranet encombré. Un superviseur commence à demander aux équipes de l’utiliser avant de faire remonter une question. Un brouillon créé par l’assistant devient le ton par défaut pour la correspondance. Les dossiers que l’assistant récupère deviennent ceux que les gens citent. Plus tard, le même outil est connecté à une file d’attente afin de suggérer des priorités. Un gestionnaire voit un tableau de bord montrant à quelle fréquence le personnel accepte les suggestions et combien de temps il met à répondre. Chaque ajout a une explication plausible. Ensemble, ils changent la définition pratique qu’a l’organisation d’un bon travailleur.

Aucun moment précis n’a besoin d’être dramatique. Il ne faut pas d’incident inventé, pas d’employé au nom facilement mémorisable, pas de mardi funeste à 09h17. L’intérêt de l’hypothèse est précisément que le changement peut arriver sans mise en scène. Un lieu de travail peut confier l’autorité à un système par une série de petites commodités. L’assistant n’a pas besoin de donner un ordre. Il peut créer la norme à l’aune de laquelle la réponse humaine est mesurée. Il peut devenir la première source consultée, le canal par lequel l’incertitude est formulée, la référence silencieuse dont tout écart doit être justifié.

La question à poser n’est pas de savoir si le chatbot a remplacé un manager. Elle est plus précise : qu’est-ce qui, désormais, se passe différemment parce que le chatbot est là ? Modifie-t-il le temps accordé à une tâche ? Standardise-t-il un langage qui dépendait autrefois du jugement professionnel ? Décide-t-il quelles informations sont visibles en premier ? Une recommandation apparaît-elle dans un flux de travail où la refuser exige une explication supplémentaire ? Un manager utilise-t-il les taux d’acceptation comme preuve de diligence ? L’outil crée-t-il un enregistrement qui survit à la conversation, et la personne concernée peut-elle le voir ou le corriger ?

Ces questions ne sont pas hostiles aux outils utiles. Elles sont la manière dont une organisation distingue un aide à l’écriture d’un système de gestion occulte. La différence ne tient pas à la personnalité de l’interface. Un tableau de bord froid peut gouverner le travail aussi complètement qu’une fenêtre de discussion conviviale. À l’inverse, un outil conversationnel peut rester un instrument si son rôle est clair, si ses entrées et ses limites sont comprises, et si une personne conserve à la fois le temps et l’autorité d’exercer son jugement.

La conversation peut masquer une chaîne de décisions

Le chat donne l’impression que les systèmes complexes sont à portée de main. Une personne tape une question en langage courant et reçoit une réponse en langage courant. C’est en partie ce qui attire. Cela masque aussi une chaîne de décisions qui compte au travail : quelles sources sont disponibles, quelles politiques sont considérées comme actuelles, comment une question est interprétée, quelles informations sont retenues, si une réponse est consignée, qui peut consulter le journal, comment le modèle évolue, et si une réponse est simplement utile ou opérationnellement conséquente.

Les gens ont l’habitude de traiter un résultat de recherche comme une invitation à vérifier. La phrase d’un chatbot arrive avec plus d’assurance sociale. Elle a déjà effectué une forme de synthèse. Elle peut citer des sources, ou pas. Elle peut présenter une conclusion dans un registre fluide qui rend le désaccord gênant. Si cette réponse concerne une demande de congé, une procédure de sécurité, une politique d’emploi, une réclamation client ou la bonne action à mener dans un service public, la fluidité n’est pas un simple détail esthétique. Elle façonne la répartition de l’attention et du doute.

C’est pourquoi la provenance est une condition de travail, et non une caractéristique technique décorative. Une personne doit savoir si la réponse provient d’une politique approuvée, d’une procédure locale en vigueur, d’une réponse générale du modèle ou d’un mélange de sources. Elle doit pouvoir voir où une affirmation a été simplifiée. Elle doit avoir un moyen de dire que la réponse ne correspond pas au cas qui se présente. Sans ce moyen, la confiance du système devient une instruction informelle, et le travailleur porte le risque de la suivre ou d’y résister sans preuve.

Il y a un problème similaire avec le mot « assister ». L’assistance peut être réelle. Un outil qui rassemble des éléments qu’une personne aurait dû chercher manuellement peut préserver du temps pour le jugement. Mais l’assistance peut aussi déplacer la charge. Si l’assistant produit un premier brouillon plausible, le travailleur peut être tenu de traiter plus de cas. S’il fait une recommandation, le travailleur peut devoir documenter chaque refus. S’il réduit le temps qu’un superviseur passe à expliquer un processus, l’organisation peut discrètement supprimer le temps où une explication humaine pourrait révéler que le processus lui-même est erroné.

La ligne de partage ne passe donc pas entre automatisation et absence d’automatisation. Elle passe entre un outil qui élargit la capacité d’une personne à faire un travail soigné et un outil qui rétrécit la manière acceptable de le faire. Les deux peuvent sembler identiques lors d’une démonstration produit. Elles divergent dans la file d’attente, dans l’entretien de performance, dans la voie de recours et au moment où quelqu’un doit dire : cette réponse n’est pas assez bonne pour ce cas.

Un système peut rendre le chemin du travail plus clair. Il ne doit pas estomper le point où une personne responsable doit juger et décider. Sélectionnez une étape pour examiner son rôle.

Quand une recommandation devient une directive

L’autorité au travail arrive rarement sous la forme d’un ordre unique. Elle circule à travers l’attribution des tâches, les objectifs, les valeurs par défaut, les réponses suggérées, la gestion des exceptions et la petite friction attachée au désaccord. Un système n’a pas besoin du pouvoir de licencier quelqu’un pour affecter sa vie professionnelle. Il peut influencer les tâches qu’une personne voit, le moment où elle les reçoit, la manière dont son travail est décrit, quel signal de performance atteint un superviseur ou si une demande est traitée comme ordinaire ou suspecte.

La recherche européenne sur la sécurité au travail utilise le terme gestion algorithmique des travailleurs pour désigner les systèmes qui collectent et analysent des informations sur les lieux de travail, les travailleurs et les tâches afin de prendre des décisions automatisées ou semi-automatisées sur des questions telles que la planification, la répartition des tâches ou l’évaluation des performances. Cette définition est utile car elle s’intéresse à la fonction plutôt qu’au marketing. Un système étiqueté « assistant », « copilote » ou « compagnon de connaissances » peut échapper à cette description dans un contexte et s’en rapprocher dans un autre. L’étiquette n’est pas une preuve. L’effet sur le travail en est une.

Les travaux de l’EU-OSHA montrent aussi pourquoi il ne s’agit pas seulement d’une question de protection des données. Les systèmes qui augmentent la surveillance, la pression de performance ou l’intensité du travail peuvent avoir des conséquences sur la sécurité, la santé et le bien-être. La réduction de l’autonomie n’est pas une objection abstraite à l’innovation. Elle peut changer la capacité d’une personne à faire une tâche en toute sécurité, à demander de l’aide, à exercer son jugement professionnel ou à récupérer après une période de forte demande. L’organisation doit pouvoir expliquer comment elle remarquera ces effets, et pas seulement comment elle mesurera le modèle.

Un chatbot peut s’inscrire dans ce paysage de manières moins évidentes qu’un optimiseur d’itinéraires ou qu’un moteur de planification. Imaginez qu’il produise une « prochaine meilleure action » dans un écran de gestion de dossier. Imaginez qu’il rédige un résumé de performance à partir des données d’activité. Imaginez qu’il donne aux superviseurs un compte rendu concis de conversations qu’ils n’ont pas eux-mêmes lues. Imaginez qu’il explique à un travailleur pourquoi son horaire a été modifié, tandis que les critères sous-jacents restent invisibles. La surface conversationnelle ne supprime pas la fonction de gestion. Elle peut rendre cette fonction plus facile à accepter parce que la décision arrive avec une voix qui semble utile.

Il n’y a rien d’enfantin à prendre cela au sérieux. Les adultes savent qu’une phrase polie peut encore porter une instruction. Dans un environnement de travail, la politesse peut rendre une instruction plus difficile à contester, car elle transforme une question d’autorité en question de ton. La bonne réponse n’est pas de rendre chaque interface austère. Elle consiste à garantir que les recommandations importantes identifient leur fondement, leurs limites et le rôle humain qui reste responsable du résultat.

La supervision humaine n’est pas un clic de pure forme

« Un humain reste dans la boucle » est l’une des assurances les plus galvaudées dans le domaine de la technologie. Elle peut décrire une véritable protection. Elle peut aussi décrire une personne censée confirmer un résultat en moins de temps qu’il n’en faut pour le comprendre, sans accès aux informations qui l’ont produit et avec un objectif qui récompense l’accord. La distinction importe, car le nom de cette personne peut ensuite être associé à la décision, même lorsque son autorité n’était qu’illusoire.

L’AI Act donne une forme concrète à la meilleure version de cette assurance. Pour les systèmes à haut risque concernés, la supervision humaine ne consiste pas simplement en la présence d’une personne. Elle implique des compétences, une formation et une autorité appropriées. Les personnes chargées de la supervision doivent être capables de comprendre les capacités et les limites pertinentes, de rester conscientes du biais d’automatisation, d’interpréter correctement les résultats et de décider de ne pas utiliser, de neutraliser ou d’interrompre le système lorsque cela est nécessaire. Les obligations juridiques exactes dépendent du système et du contexte. La leçon organisationnelle va plus loin : une supervision utile exige des connaissances, du temps, des informations et une autorité.

Cette autorité est souvent l’élément manquant. Un travailleur peut techniquement être en mesure de rejeter une recommandation, mais être pratiquement dissuadé de le faire. Peut-être que le rejet implique un formulaire plus long. Peut-être qu’il fait baisser un indicateur d’acceptation. Peut-être que le supérieur considère l’écart comme un signe que le travailleur n’a pas adopté le nouveau processus. Peut-être que personne n’a expliqué ce qui se passera après une neutralisation, si bien que la voie la plus sûre semble être l’acceptation. Rien de tout cela n’exige de mauvaises intentions. Cela peut émerger d’un flux de travail conçu par des personnes qui voyaient l’acceptation comme une efficacité et ne se sont pas demandé ce dont le refus a besoin pour être réel.

Une conception fiable rend la voie du refus aussi lisible que celle de l’acceptation. Elle précise quand le système ne doit pas être utilisé. Elle offre à une personne la possibilité d’enregistrer une raison en langage courant. Elle transmet le désaccord à un endroit où il peut produire une correction, plutôt que dans un tableur où il devient une gêne mineure. Elle protège l’examinateur du fait d’être traité comme inefficace simplement parce qu’un travail minutieux prend plus de temps. Et elle enregistre la décision d’une manière qui permet à un examen ultérieur de distinguer un résultat du modèle de la conclusion personnelle de l’individu.

Les orientations du Comité européen de la protection des données sur la prise de décision individuelle automatisée sont particulièrement utiles comme mise en garde contre une implication humaine purement nominale. L’intervention humaine doit être significative, et non un geste symbolique. Bien que le test juridique de l’article 22 du RGPD ait ses propres conditions et ne doive pas être étendu à chaque décision en milieu de travail, la question sous-jacente est précieuse : une personne a-t-elle réellement pesé les informations disponibles et avait-elle l’autorité de s’écarter du résultat automatisé ? Si la réponse est non, l’organisation ne devrait pas utiliser une signature humaine pour faire paraître un dispositif automatisé plus responsable qu’il ne l’est.

Consulter avant que l’habitude utile ne devienne une politique

De nombreux systèmes en milieu de travail sont consultés trop tard. Le fournisseur a été choisi, le contrat a été signé, la connexion de données a été définie, les gestionnaires ont vu un projet pilote prometteur et la conversation restante est décrite comme une mise en œuvre. À ce stade, on peut encore demander l’avis des travailleurs, mais le retour d’information est un canal étroit lorsque la question fondamentale a déjà été tranchée. Le bon moment pour l’information et la consultation est plus tôt, lorsque l’organisation décide encore du problème qu’elle entend réellement résoudre.

La directive 2002/14/CE établit un cadre général européen relatif à l'information et à la consultation des travailleurs. Son champ d'application et sa mise en œuvre nationale importent, et elle ne constitue pas un manuel spécifique à l'IA. Pourtant, son langage reste directement pertinent pour un changement susceptible de modifier substantiellement l'organisation du travail. L'information doit être fournie à un moment, d'une manière et avec un contenu qui permettent aux représentants d'en examiner la portée de manière adéquate. La consultation implique un échange de vues et l'établissement d'un dialogue, en vue d'aboutir à un accord sur les décisions relevant des prérogatives de l'employeur. Cela est considérablement plus sérieux que de dévoiler un système abouti et de qualifier la séance de questions de participation.

Pour un chatbot, la consultation précoce devrait commencer par le travail plutôt que par le modèle. Quelle partie du poste est difficile ? La difficulté provient-elle d'une mauvaise information, d'un effectif inégal, d'une politique floue, d'une administration répétitive, de systèmes inaccessibles, d'une formation inadéquate ou d'un besoin réel d'assistant conversationnel ? Un outil peut dissimuler très efficacement une défaillance organisationnelle ancienne. Si les personnes ne trouvent pas une politique parce que celle-ci est contradictoire, un chatbot peut produire une confusion plus fluide. Si une équipe est surchargée parce que les hypothèses d'effectif sont erronées, un outil de rédaction peut transformer la surcharge en un résultat plus poli.

Les travailleurs et les représentants peuvent également identifier où un assistant d'apparence anodine modifie le risque. Ils peuvent savoir qu'une phrase standard est dangereuse dans un type de cas particulier, qu'une procédure locale comporte des exceptions, qu'un modèle de langage traitera mal un terme spécialisé, ou qu'un journal des questions révélera des informations que les personnes devraient pouvoir soulever en privé. Ce n'est pas une connaissance qui apparaît dans un tableur d'approvisionnement. Elle fait partie de la réalité opérationnelle qui détermine si un système aide ou nuit.

La consultation n'est pas un veto sur chaque déploiement. C'est une manière de rendre la décision plus honnête. Elle oblige l'organisation à nommer ce qui changera, qui peut être affecté, quelles preuves elle détient, ce qu'elle ne sait pas et quelles garanties elle est prête à accepter. Elle crée un enregistrement du désaccord qui peut être revisité lorsque le système change. Une conception qui ne survit pas à une explication claire aux personnes qui effectuent le travail n'est pas nécessairement illégale. Elle demande cependant une confiance sur des bases inhabituellement faibles.

La voix des travailleurs est une preuve, pas une atmosphère

Il existe une habitude de traiter la voix des travailleurs comme une question de culture : souhaitable, chaleureuse, difficile à mesurer. C'est trop doux. Dans un flux de travail en évolution, les personnes qui rencontrent les exceptions sont une source de preuves. Elles voient les cas qui ne correspondent pas à l'ensemble de données, les clients qui ne peuvent pas utiliser le parcours standard, l'équipement qui tombe en panne par temps froid, le dossier qui ne correspond pas à la personne en face d'elles, l'endroit où une phrase de politique et un besoin humain se séparent. Un lieu de travail qui supprime leur capacité à s'exprimer jette une partie de son système de détection.

Mais écouter n'est pas la même chose que collecter des commentaires. Un formulaire de retour peut devenir un autre instrument de surveillance si personne ne sait qui le lit, comment il est stocké ou s'il peut affecter la personne qui a soulevé une préoccupation. Une voie utile comporte des garanties. Elle permet aux personnes de signaler un problème sans avoir à le traduire en vocabulaire technique. Elle distingue un cas individuel d'un schéma récurrent. Elle donne aux représentants suffisamment d'informations agrégées pour remarquer un problème récurrent. Elle clarifie qui est responsable de la réponse et quand l'organisation décidera si elle doit modifier le système.

Cette voie doit survivre aux mises à jour. Une consultation ponctuelle sur la version un ne régit pas un système qui reçoit ensuite de nouvelles sources, un modèle différent, un nouveau public, des invites supplémentaires, un tableau de bord de performance ou une intégration avec un autre flux de travail. Un chatbot change lorsque son contexte change. Il peut s'agir techniquement du même service tout en jouant un rôle social différent. La gouvernance doit suivre ce rôle, et non le bon de commande initial.

Il y a ici une leçon néerlandaise modeste : une boîte à suggestions n'est pas un modèle de polder. Le dialogue exige une table, un procès-verbal et la possibilité que quelque chose bouge sur la carte. Il ne s'agit pas de transformer chaque ajustement d'invite en convention constitutionnelle. Il s'agit de reconnaître les seuils qui méritent un nouvel examen. Le système utilise-t-il désormais des données sur les employés ? Classe-t-il, répartit-il, évalue-t-il ou recommande-t-il une action aux conséquences graves ? L'ensemble des personnes concernées s'est-il élargi ? La voie de refus est-elle devenue plus difficile ? Les anciennes garanties sont-elles devenues inadéquates parce que l'outil fait désormais partie d'un flux de travail plus rapide et plus sous pression ?

Lorsque la réponse est oui, la voix doit avoir une voie vers la gouvernance. Sinon, l'organisation demande aux gens d'identifier les risques tout en se réservant le droit d'ignorer les preuves qui les identifient. Ce n'est pas de la participation. C'est un test non rémunéré avec de meilleurs articles de papeterie.

Le retour d'information devient une gouvernance lorsqu'il atteint un propriétaire nommé, produit une réponse documentée et peut modifier le système. Sélectionnez un point du circuit pour en inspecter la fonction.

La surveillance n'est pas adoucie par une bulle de discussion

Les systèmes conversationnels créent une forme de données sur le lieu de travail particulièrement tentante. Les questions peuvent révéler de l'incertitude, une charge de travail, des problèmes de santé, des responsabilités de soins, une activité syndicale, un stress financier, des caractéristiques protégées ou simplement le fait que quelqu'un essaie de comprendre une situation difficile. Un journal peut sembler utile sur le plan opérationnel parce qu'il montre ce que les gens demandent. Il peut aussi devenir une carte des vulnérabilités. Le fait que les données apparaissent dans un outil de travail ne tranche pas la question de savoir si elles doivent être collectées, conservées, analysées ou réutilisées à des fins d'évaluation.

La limitation des finalités est donc une question humaine avant d'être une formule de conformité. Si l'assistant est fourni pour aider quelqu'un à comprendre une procédure, ses questions seront-elles ensuite utilisées pour évaluer ses compétences ? Si un gestionnaire peut voir quelles invites une personne a saisies, les gens éviteront-ils de demander de l'aide ? Si l'organisation analyse les questions récurrentes, peut-elle le faire d'une manière qui améliore la documentation sans établir un profil des personnes qui en avaient besoin ? Un système peut donner l'impression qu'un lieu de travail est mieux informé tout en rendant l'apprentissage individuel moins sûr.

La directive sur le travail de plateforme offre un exemple européen utile et précis. Ses règles visent le travail de plateforme, et non toutes les relations de travail, et doivent être lues dans ce cadre. Elles montrent néanmoins un jugement public sérieux sur la gestion algorithmique : lorsque la surveillance ou la prise de décision automatisée affecte le travail, il doit y avoir transparence, surveillance et examen humains, des voies d'explication et de contestation, et une attention particulière à certaines catégories de données personnelles. La directive ne fait pas disparaître les problèmes ordinaires de l'emploi. Elle rend plus difficile l'affirmation selon laquelle un logiciel est en dehors des obligations sociales du travail simplement parce qu'il est arrivé par une application.

Dans un environnement de travail ordinaire, le principe pratique est plus étroit et plus utile qu'une grande promesse de confidentialité. Collectez moins. Nommez l'objectif. Séparez l'amélioration du service de l'évaluation des performances, sauf s'il existe une raison claire et défendable de les relier. Ne transformez pas les questions d'une personne en score de compétence non déclaré. Ne considérez pas l'absence de question comme une preuve de confiance. N'autorisez pas un manager à consulter les traces de conversation simplement parce que la plateforme rend cela techniquement facile. La disponibilité technique n'est pas un objectif légitime.

Il y a aussi un point de dignité qui ne peut être réduit à un champ de données. Un travailleur doit pouvoir demander comment gérer un problème inconnu sans créer un soupçon permanent qu'il est moins capable que quelqu'un qui connaît déjà la réponse. L'apprentissage a toujours impliqué de l'incertitude. Un lieu de travail qui enregistre et classe l'incertitude avec trop d'empressement peut produire moins de questions visibles et de moins bonnes décisions. Le silence est une mesure très propre. Ce n'est pas nécessairement un bon signe.

La formation doit inclure le droit de douter

La littératie en IA est souvent décrite comme la capacité d'utiliser un outil correctement. Ce n'est que la moitié de l'exigence. Dans un environnement de travail, la littératie doit aussi inclure la capacité de reconnaître quand un outil ne doit pas se voir confier une question, quand une réponse manque de fondement, quand une recommandation a des conséquences au-delà de l'écran, et quand il faut escalader. Une personne qui peut produire une invite soignée mais ne peut pas identifier une sortie trompeuse n'est pas entièrement équipée. Elle a appris l'interface, pas la responsabilité qui l'entoure.

L'article 4 du règlement sur l'IA exige que les fournisseurs et les déployeurs prennent des mesures pour garantir un niveau suffisant de littératie en IA parmi le personnel et les autres personnes qui traitent des systèmes d'IA en leur nom, en tenant compte de leurs connaissances techniques, de leur expérience, de leur éducation, de leur formation et du contexte dans lequel le système est utilisé. C'est judicieusement contextuel. Une réceptionniste, un clinicien, un travailleur social, un ingénieur, un superviseur et un délégué à la protection des données peuvent tous avoir besoin de connaissances différentes. Une présentation générique, suivie d'un quiz sur le vocabulaire, est peu susceptible de répondre à l'objectif pratique.

Une bonne formation commence par le travail réel. Quelles sont les sources approuvées de l'assistant ? Quel type de réponse devrait déclencher une vérification ? Qu'est-ce qui ne doit jamais être saisi ? Quelles sorties peuvent être utilisées comme brouillon et lesquelles nécessitent une seconde source ? Que doit faire quelqu'un lorsque l'assistant est indisponible, se trompe ou est inhabituellement certain ? Comment corriger le dossier ? Qui peut répondre aux questions sur l'outil sans traiter chaque préoccupation comme un ticket informatique ? Ce sont des questions banales, ce qui est encourageant. C'est dans les questions banales que vivent les habitudes sûres.

La formation doit aussi atteindre les superviseurs. Si un manager interprète le volume d'invites, les taux d'acceptation ou le temps de réponse comme un indicateur d'engagement, les travailleurs vivront l'outil différemment de ce que la présentation du déploiement décrivait. Les superviseurs doivent comprendre les limites de ces signaux et les risques du biais d'automatisation. Ils doivent savoir qu'une sortie n'est pas un fait de performance simplement parce qu'elle a été générée à partir de données de travail. Ils doivent recevoir une instruction claire de ne pas créer de pratiques de notation informelles autour d'un système introduit pour l'assistance.

La forme la plus forte de littératie inclut le droit de dire « je ne sais pas si cette réponse est sûre à utiliser ». Ce n'est pas un aveu d'échec. C'est un jugement professionnel dans l'incertitude. Les organisations disent souvent vouloir un usage responsable, puis construisent une culture dans laquelle l'incertitude semble inefficace. Les deux positions ne peuvent pas coexister longtemps. Si le doute prudent est puni, l'outil sera utilisé avec confiance jusqu'au point où la confiance devient coûteuse.

À quoi ressemble une évaluation équitable

Un système ne devrait pas être jugé uniquement sur le fait que les gens l’utilisent. L’adoption est un signal ambigu. Une personne peut utiliser un chatbot parce qu’il lui fait gagner du temps, parce que son manager l’attend, parce que les alternatives sont devenues plus difficiles d’accès, parce qu’il a été intégré à un écran obligatoire, ou parce que refuser de l’utiliser pourrait passer pour un manque d’enthousiasme. Aucune de ces raisons ne prouve que le dispositif est juste ou utile.

Une meilleure évaluation consiste à se demander ce qui a changé dans le travail. Les gens passent-ils moins de temps à chercher des informations vérifiées, ou simplement plus de temps à vérifier des réponses fluides ? L’outil a-t-il réduit les tâches administratives redondantes, ou a-t-il augmenté le volume de travail attendu ? A-t-il rendu une procédure difficile plus facile à comprendre, ou a-t-il standardisé une réponse qui aurait dû rester sensible au contexte ? Davantage de problèmes sont-ils remontés parce que le personnel dispose d’un moyen simple de poser des questions, ou moins de problèmes sont-ils visibles parce que les gens ont appris que poser une question laisse une trace ? Ce sont des résultats différents, même si le tableau de bord affiche une utilisation similaire.

L’évaluation devrait inclure les personnes les plus concernées et préserver la différence entre une observation mesurée et une aspiration. « Nous attendons de l’assistant qu’il réduise les efforts de routine » est une proposition. « Les travailleurs ont indiqué que l’assistant avait réduit les recherches redondantes au cours d’un projet pilote défini » est une observation, si elle a réellement été consignée. « L’assistant a amélioré la qualité » nécessite une définition de la qualité, un contexte et des preuves. Des mots comme amélioration, adoption et efficacité peuvent dissimuler une quantité remarquable de politiques non examinées.

Il devrait également exister un point prédéfini auquel l’organisation réexaminera le système. Un chatbot qui s’étend au-delà de son objectif initial, commence à recevoir des données différentes ou s’intègre dans un flux de travail d’évaluation ne devrait pas être protégé par le fait qu’il a été approuvé pour quelque chose de plus restreint. Le réexamen n’est pas un signe que l’équipe d’origine manquait de confiance. C’est une reconnaissance du fait que les systèmes acquièrent de nouvelles conséquences lorsque les gens développent des habitudes autour d’eux.

Les travaux de l’OIT sur l’IA générative et l’emploi sont utiles ici, car ils séparent l’exposition potentielle des résultats réels. La technologie peut compléter, déplacer ou modifier des tâches selon la manière dont les organisations choisissent de l’introduire. La même retenue est utile au sein d’un même lieu de travail. Une capacité ne porte pas en elle son propre résultat social. Un chatbot peut réduire la pénibilité, intensifier le travail, redistribuer l’expertise, affaiblir le pouvoir discrétionnaire professionnel ou créer une meilleure voie vers les preuves. La possibilité technique ne décide pas de ce qui se produit. Ce sont la conception, les choix de gestion et l’équilibre des voix qui en décident.

La limite doit être écrite

Tout déploiement sérieux nécessite un énoncé court et clair de ses limites. Pas un slogan sur l’IA responsable, et pas un document juridique si dense que seule l’équipe des achats peut en trouver le sens. Une limite opérationnelle décrit l’objectif, les personnes concernées, les informations que le système peut utiliser, celles qu’il ne doit pas utiliser, les décisions qu’il peut assister, celles qu’il ne peut pas prendre, la personne responsable du flux de travail, la voie de recours, les circonstances dans lesquelles l’outil doit être mis en pause et la date à laquelle le dispositif sera réexaminé.

Cet énoncé sera imparfait. Le travail change. Les politiques changent. Les modèles changent. Mais le fait de l’écrire change la qualité de la conversation. Il donne au travailleur quelque chose de concret à comparer avec son expérience. Il donne au représentant un moyen de demander si l’outil a dépassé son rôle déclaré. Il rappelle au manager qu’un assistant utile n’est pas une licence générale pour collecter plus de données ou prendre plus de décisions plus rapidement. Il donne à l’auditeur, au régulateur ou à la future équipe un enregistrement qui ne dépend pas de la mémoire institutionnelle.

La frontière doit aussi séparer la recommandation de la décision. Un chatbot peut proposer un résumé, une prochaine étape ou un brouillon. Le système doit indiquer quand la proposition repose sur des informations incomplètes. La personne qui décide doit être visible dans le dossier. Si une action est contestée plus tard, l’organisation doit pouvoir identifier le modèle ou la règle en cause, la version pertinente, les éléments qui ont éclairé le résultat, la personne qui l’a examiné et la raison du choix final. Il ne s’agit pas d’exiger que chaque question du quotidien devienne un dossier. C’est une question de proportionnalité : plus un résultat affecte une personne, plus le chemin vers l’explication doit être préservé.

Il existe un test utile. L’organisation pourrait-elle expliquer cette frontière à une nouvelle collègue dès sa première semaine sans utiliser les mots « magie », « fluidité » ou « le système sait » ? Pourrait-elle expliquer la même frontière à un représentant des travailleurs sans changer de sujet ? Pourrait-elle l’expliquer à une personne qui a reçu un résultat défavorable ? Si la réponse est non, le problème n’est pas que le public manque de sophistication. La frontière est probablement trop vague.

La clarté a une vertu discrète. Elle rend plus difficile de prétendre qu’un système ne fait qu’assister lorsqu’il dirige clairement. Elle rend plus difficile de dire à un travailleur qu’il reste responsable tout en ne lui donnant aucune autorité pour contester. Elle rend plus difficile d’utiliser un ton conversationnel comme substitut à une décision responsable. En gouvernance, ce genre de désagrément est souvent une qualité.

Un point modeste de notre part, et un enjeu humain plus vaste

Chez Dweve, l’instinct de conception pertinent est modeste : les réponses importantes doivent conserver un chemin de retour vers les preuves, les limites et la personne responsable de leur mise en œuvre. C’est une position sur la manière dont un système doit soutenir le jugement, et non une affirmation selon laquelle un logiciel peut résoudre les rapports de pouvoir au travail ou remplacer les institutions qui protègent les personnes au travail. Une réponse bien structurée peut rendre une conversation plus utile. Elle ne peut pas décider si quelqu’un avait assez de temps, d’autorité ou de sécurité pour la contester.

La question plus vaste appartient aux employeurs, aux travailleurs, aux représentants, aux équipes de sécurité, aux spécialistes de la protection des données, aux régulateurs et au public. Ce sont eux qui décident si un chatbot devient un instrument d’un meilleur travail ou une interface agréable pour une habitude plus ancienne : extraire davantage de jugement des personnes tout en leur donnant moins de pouvoir sur les conditions dans lesquelles ce jugement s’exerce. Aucun réglage de modèle ne réglera cela à lui seul.

Ne pas confondre convivialité et équité

Un chatbot peut être utile au travail. Il peut aider une nouvelle collègue à trouver une procédure, donner à une spécialiste un premier brouillon, rendre une politique moins obscure ou épargner à une équipe des recherches inutiles. Ce sont des choses qui en valent la peine. L’erreur est de penser qu’une interface conviviale rend aussi conviviales les conséquences organisationnelles. Plus le système influence l’allocation, l’évaluation, l’accès, la discipline ou le récit de ce qui s’est passé, plus son autorité doit être soigneusement encadrée.

Cela exige quelques engagements sans éclat : une consultation avant que l’arrangement ne soit figé ; une formation qui inclut le doute ; des pratiques en matière de données qui respectent l’apprentissage et la vie privée ; une supervision humaine dotée d’une réelle autorité ; une voie de contestation individuelle et collective ; des dossiers qui distinguent une proposition d’une décision ; et un examen périodique lorsque le rôle du système change. Aucun de ces engagements n’est un rejet de la technologie. Ce sont les conditions auxquelles la technologie peut entrer dans un lieu de travail sans demander aux personnes d’abandonner d’abord leur jugement.

Le chatbot n’a pas besoin de devenir un collègue. Il peut rester un outil, ce qui est souvent une ambition meilleure et plus honnête. Les outils peuvent être excellents. Ils n’ont pas besoin d’une mythologie. Ils ont besoin d’un but, d’une frontière, d’un responsable et de quelqu’un qui est autorisé à les poser lorsqu’ils ne sont plus utiles.

Sources