Le débat européen sur l'IA a besoin de moins de démonstrations et de plus d'institutions.

Une démonstration convaincante peut montrer une capacité. Elle ne peut pas décider qui détient l’autorité, comment contester un résultat, où vivent les...

Le débat européen sur l'IA a besoin de moins de démonstrations et de plus d'institutions.

Une démonstration n'est pas une institution publique

Une bonne démonstration possède un type de pouvoir particulier. Elle condense une possibilité en quelques minutes. Un formulaire est rempli, un document est résumé, une image apparaît, une question difficile reçoit une réponse plausible. Toutes les personnes présentes peuvent voir pourquoi quelqu'un pourrait vouloir cet outil. C'est utile. C'est aussi le moment où un grand nombre de questions plus difficiles sont poliment reportées à plus tard.

Plus tard, c'est là que l'institution commence. Qui a le droit de décider si le système peut être utilisé ? Quel objectif d'intérêt public sert-il ? Quelles preuves sont suffisantes à cette fin, et qui peut affirmer qu'elles ne le sont pas ? Que se passe-t-il lorsqu'une version change, lorsqu'un travailleur conteste une recommandation, lorsqu'une personne demande une explication, lorsqu'une contrainte énergétique ferme un itinéraire, ou lorsque la feuille de route du fournisseur devient une feuille de route différente ? Une démonstration n'est pas conçue pour répondre à ces questions. Une institution publique l'est.

L'Europe a consacré beaucoup de temps à discuter de l'IA comme d'une compétition de capacités. Cette conversation est compréhensible. La capacité est visible. Elle fait un joli clip vidéo. Les institutions sont surtout visibles à travers le travail qu'elles empêchent de devenir mystérieux : conditions d'achat, tenue de registres, contrôles d'accès, formation, surveillance, voies de recours, budgets de maintenance, soutien linguistique, normes techniques, une personne dont le nom est associé à une décision. Rien de tout cela ne donne à un discours d'ouverture son éclat habituel. Cela détermine cependant si un système reste redevable une fois la salle vidée.

Ce n'est pas un plaidoyer pour une technologie timide ni pour un secteur public qui n'achète rien tant qu'il ne peut pas voir l'avenir. C'est un plaidoyer pour refuser une erreur de catégorie. Un modèle peut générer, classer, prédire ou recommander. Il ne peut pas, à lui seul, créer un mandat légitime, attribuer une responsabilité publique, apprendre à un collègue à le contester, maintenir une langue nationale, négocier un raccordement au réseau ou préserver un recours pour une personne affectée par son utilisation. Ces tâches appartiennent aux personnes et aux organisations, même lorsque des logiciels aident à les accomplir.

La conversation européenne sur l'IA a besoin de moins de démonstrations, au sens où elle a besoin de moins de démonstrations servant à prouver l'état de préparation. Elle a besoin de plus d'institutions, au sens où elle a besoin de meilleurs lieux pour prendre des décisions, conserver les connaissances et corriger le cap. Le changement ne va pas de la technologie vers la bureaucratie. Il va d'une image mince de la technologie vers l'agencement réel dans lequel la technologie a des conséquences.

Cette question dépasse largement le gouvernement. Un hôpital, une municipalité, une école, un fabricant, une institution culturelle et une petite entreprise n'ont pas les mêmes obligations ni les mêmes risques. Mais tous finissent par découvrir que le modèle n'est qu'un composant d'un agencement plus vaste. Cet agencement plus vaste détermine qui fournit les intrants, qui lit les résultats, qui accepte le risque résiduel, qui peut arrêter le système et qui reste lorsque l'entreprise de logiciels a envoyé sa lettre d'information trimestrielle.

C'est pourquoi le langage des institutions n'est pas un recul face à l'ambition technique. C'est le langage de la continuité. Un service public doit fonctionner un mardi ordinaire, dans la langue des personnes qui l'utilisent, sous un budget que quelqu'un peut inspecter, après un changement de personnel, pendant un désaccord avec un fournisseur et lorsque l'enthousiasme initial est devenu un ticket de maintenance. Toute affirmation sérieuse sur l'IA doit éventuellement survivre à ce parcours.

La capacité n'est qu'une des questions

Une démonstration pose normalement une question étroite et raisonnable : le système peut-il accomplir cette tâche dans ces conditions ? Une institution doit poser un ensemble plus large de questions à la fois. Cette tâche est-elle appropriée à automatiser ou à assister ? La finalité déclarée est-elle licite et proportionnée ? Les personnes qui effectuent le travail peuvent-elles encore comprendre et contester le résultat ? Existe-t-il un moyen pour un membre du public de demander ce qui s'est passé ? L'organisation peut-elle changer de fournisseur sans abandonner ses archives ? Le système dépend-il d'une puissance de calcul rare, d'une ressource linguistique particulière ou d'un flux de données dont personne n'a budgété la maintenance ?

Ces questions ne rendent pas le modèle moins bon. Elles rendent la décision plus honnête. Elles distinguent une fonctionnalité d'un service et un service d'une capacité publique. Une fonctionnalité peut être impressionnante alors que l'arrangement qui l'entoure est fragile. Un service peut être utile alors que son contrat rend impossible l'inspection d'un changement matériel. Une capacité publique doit rester utilisable, gouvernée et réparable dans le temps. Elle doit porter plus qu'un résultat.

On parle souvent de l'AI Act comme s'il était une réponse unique à ce problème. Il ne l'est pas. C'est un cadre juridique important, et sa finalité déclarée relie le fonctionnement du marché intérieur à une IA digne de confiance et centrée sur l'humain, ainsi qu'à un niveau élevé de protection de la santé, de la sécurité, des droits fondamentaux, de la démocratie, de l'état de droit et de l'environnement. Mais l'Acte lui-même soulève un point important sur la réalité institutionnelle : il s'applique parallèlement au droit existant de l'Union concernant la protection des données, les consommateurs, l'emploi, les travailleurs et la sécurité des produits. Le cadre juridique ne remplace pas ces domaines. Il les rejoint.

Cela devrait façonner la conversation pratique. Une équipe ne peut pas déclarer un système socialement sain en pointant une classification de risque IA tout en ignorant le processus d'emploi qui l'entoure. Une autorité publique ne peut pas déclarer un système responsable parce qu'elle a réalisé une évaluation technique tout en laissant les résidents incapables de trouver le propriétaire ou le dossier. Un fournisseur ne peut pas faire disparaître un problème de portabilité en utilisant le mot « cloud ». La question est toujours de savoir comment le nouveau composant se comporte à l'intérieur des obligations qui existaient déjà.

Il y a une tentation pratique de traiter cela comme un argument en faveur d'un dossier de conformité plus volumineux. Ce n'est pas le cas. Plus de pages peuvent rendre une organisation moins capable d'agir si personne ne sait quelle page change la décision. Les institutions ne deviennent pas capables en collectant des modèles. Elles deviennent capables lorsqu'une finalité définie, une autorité nommée, des preuves utilisables et une voie de correction peuvent se rencontrer dans le même travail.

C'est une norme bien plus exigeante qu'une démonstration. C'est aussi une norme plus juste. Un fournisseur de modèle ne devrait pas avoir à répondre de chaque choix politique local fait par un déployeur. Un déployeur ne devrait pas être invité à rétro-ingénierer chaque décision technique en amont. Chaque partie a besoin d'une frontière, d'un enregistrement de ce qui la traverse et d'un moyen d'identifier quand la frontière a bougé. Les institutions existent en partie pour rendre ces frontières lisibles.

La loi est un plancher, pas tout le bâtiment

L'Europe est souvent décrite comme si elle avait choisi les règles plutôt que la technologie. La description est trop nette pour être utile. La loi peut interdire, exiger, attribuer des devoirs et préserver des recours. Elle peut définir un plancher public minimum sous lequel un système ne devrait pas tomber. Elle ne peut pas embaucher le réviseur qui comprend un flux de travail local, maintenir une interface de données, rédiger une spécification d'approvisionnement sensée ou donner soudainement le temps à une équipe épuisée d'apprendre un nouveau processus. Ces choses exigent de la capacité.

La distinction importe, car le langage juridique peut masquer une absence opérationnelle. Une politique peut affirmer qu’une supervision humaine existe. Cette affirmation ne veut rien dire si la personne concernée n’a pas le pouvoir d’interrompre le parcours, pas le temps d’examiner un cas, pas d’information sur la version du modèle, pas de formation à la tâche et aucun moyen de faire remonter un désaccord. La supervision n’existe que sur le papier, un peu comme une issue de secours cachée derrière une armoire. Elle rassurera beaucoup, jusqu’au moment où l’on en aura besoin.

Il en va de même pour la transparence. Une information peut être techniquement disponible et pratiquement inutile. Une personne peut recevoir une longue description d’un système sans apprendre qui détient la décision, quel enregistrement peut être contesté ni comment obtenir réparation. Un registre public peut lister un algorithme sans préciser si la version indiquée est à jour, à quoi sert le système ni qui est habilité à répondre à une question. La transparence ne se mesure pas à la quantité de texte. C’est la capacité de localiser une décision et son responsable.

Le travail juridique européen est précieux précisément parce qu’il rend certaines de ces questions plus difficiles à écarter. Il fournit un langage commun aux fournisseurs, aux déployeurs, aux régulateurs et aux personnes concernées. Il rend aussi les lacunes plus visibles. Lorsqu’une organisation ne peut pas énoncer sa finalité prévue, identifier son flux de données, conserver la trace d’une modification importante ou nommer la personne capable d’arrêter une utilisation, le problème ne tient pas seulement à des formalités en retard. L’organisation n’a pas encore construit ce qu’elle prétend exploiter.

C’est ici que les institutions disposent d’un avantage modeste sur les slogans. Elles se souviennent qu’une décision a eu lieu. Elles en conservent les conditions. Elles préservent la différence entre un projet et un événement. Elles associent un nom, une boîte de réception et parfois un formulaire un peu rigide à une promesse. Le formulaire n’est pas la réussite. La réussite, c’est que quelqu’un puisse être tenu de répondre de ses actes.

Une bonne loi laisse de la place à ce travail. Elle ne devrait pas servir à le remplacer. La question qui vient à maturité n’est pas de savoir si un système est conforme dans l’abstrait. Elle consiste à savoir si les personnes responsables peuvent démontrer comment son utilisation particulière satisfait aux obligations applicables, ce qu’elles ignorent encore et ce qu’elles feront lorsque les éléments de preuve changeront. C’est à la fois une question juridique, une question opérationnelle et une question institutionnelle.

Les marchés publics sont le point de rencontre entre l’intention publique et le contrat du fournisseur

Les marchés publics semblent procéduriers parce qu’ils le sont. C’est aussi l’un des endroits où l’intention publique devient réelle. Une autorité publique achète des travaux, des biens ou des services auprès d’entreprises sélectionnées, selon un processus encadré par des règles destinées à garantir l’ouverture et la concurrence. Dans le contexte de l’IA, ce processus n’est pas seulement le moment où un produit est choisi. C’est le moment où une autorité peut décider ce que le fournisseur doit rendre inspectable, quels changements exigent un préavis, quels enregistrements restent disponibles, comment le travail peut être transféré et ce qui se passe si le système doit s’arrêter.

Un marché qui ne demande que les capacités d’un modèle tend à acheter une démonstration avec une facture à la clé. Un marché qui demande les conditions d’exploitation achète quelque chose de plus proche d’un service. Il peut exiger une finalité prévue définie, des interfaces, de la documentation, des preuves accessibles, des autorisations fondées sur les rôles, des contacts en cas d’incident, des avis de mise à jour, des formats d’exportation, des limites de support, des modalités de conservation, une assistance à la sortie et une répartition claire des responsabilités. Il peut demander qui détient un risque particulier, plutôt que de laisser chaque partie supposer que c’est l’autre.

Il n’existe aucune clause universelle qui règle ces questions. Une petite organisation qui achète un outil interne spécialisé ne devrait pas hériter d’un contrat conçu pour un service critique national. De même, un usage public à fort impact ne devrait pas recevoir la discipline contractuelle d’un essai gratuit avec un formulaire un peu plus long. Le contrat doit suivre la conséquence de la décision, la dépendance créée par le service et la capacité de l’organisation à l’exploiter.

Scénario illustratif, et non compte rendu d’un marché réel : imaginons un organisme public qui envisage un système aidant le personnel à organiser les dossiers entrants. La démonstration présente des résumés, des champs extraits et une file d’attente suggérée. La question pertinente n’est pas de savoir si la file d’attente est soignée. Elle est de savoir si le personnel peut consulter les documents sources, si les règles de priorité sont documentées, si un dossier peut être corrigé sans créer un second flux de travail caché, si une mise à jour du système modifie le résultat, si les enregistrements peuvent être exportés, et qui répond lorsqu’une personne conteste la manière dont son dossier a été traité. Aucune de ces questions n’exige une peur théâtrale de l’IA. Elles exigent un contrat adulte.

Les achats peuvent aussi protéger l’organisation contre son propre optimisme. Si un fournisseur annonce qu’une nouvelle fonctionnalité arrivera plus tard, l’autorité peut l’inscrire comme un projet plutôt que de l’acheter comme une capacité existante. Si un fournisseur promet un circuit d’examen humain, le contrat peut décrire le rôle réel, les conditions de réponse et les preuves, plutôt que d’accepter une formule rassurante. Si un service dépend d’un format de données particulier, l’autorité peut exiger le mappage et l’exportation avant que le système ne devienne difficile à quitter. L’optimisme a sa place dans l’innovation. Il ne devrait pas être autorisé à signer des contrats sans accompagnement.

Cela ne signifie pas que chaque équipe d’achat doive devenir un laboratoire de modèles. Cela signifie que les équipes doivent avoir accès aux bonnes compétences. Les connaissances juridiques, techniques, opérationnelles, financières et celles tournées vers les utilisateurs doivent se rencontrer avant que les choix irréversibles ne soient faits. C’est l’une des raisons pour lesquelles les institutions comptent. Elles créent un espace où différentes formes de savoir peuvent coexister sans prétendre qu’une seule personne peut toutes les porter.

La meilleure question d’achat est souvent d’une simplicité désarmante : qu’exigera de nous cet arrangement après le lancement ? La réponse peut inclure du temps de personnel, des dossiers, du suivi, de l’énergie, une expertise linguistique, du travail d’intégration, des circuits d’examen et un plan de sortie. Si aucun de ces éléments n’apparaît dans la réponse, l’achat n’a pas fait disparaître la charge. Il l’a simplement laissée hors budget.

L’infrastructure a une adresse publique

Il est tentant de parler de calcul comme s’il s’agissait de météo. Une charge de travail a besoin de capacité, la capacité est ailleurs, et l’important est de savoir si la page finit par se charger. Mais le calcul a une localisation, une chaîne d’approvisionnement, un chemin réseau, une demande énergétique, un régime de maintenance et un contexte juridique. L’infrastructure fait donc partie de la capacité institutionnelle, et non un simple décor.

Les travaux de la Commission européenne sur la numérisation du système énergétique rendent cette réalité difficile à ignorer. Ils portent sur l’optimisation du réseau, l’efficacité, la flexibilité et l’intégration durable des centres de données. Le mot important est intégration. Un centre de données n’est pas simplement une boîte privée de machines qui consomme de l’électricité par hasard. Il s’inscrit dans un système énergétique partagé, avec des contraintes locales, une planification publique et d’autres demandes sur le réseau. Une stratégie sérieuse en matière d’IA doit voir l’ensemble du dispositif plutôt que de traiter l’électricité comme une note de bas de page sous un graphique de calcul.

Une telle approche ne produit pas une règle simple selon laquelle tout traitement devrait être local, central, national ou européen. Chaque choix comporte des conditions. Un déploiement local peut réduire certains transferts et rapprocher le contrôle de l’organisation, tout en alourdissant sa charge de maintenance. Une infrastructure européenne partagée peut élargir l’accès à des capacités coûteuses, à condition de définir des règles d’accès claires et un chemin réaliste de l’expérimentation à l’exploitation. Un service hébergé commercial peut offrir une voie utile pour certains travaux, tout en soulevant des questions de juridiction, de dépendance, de conservation des données et de contrôle des modifications. La géographie est une décision de conception qui a des conséquences, pas un label moral.

Les AI Factories d’EuroHPC sont intéressantes à cet égard, car leur description publique va au-delà d’une salle remplie d’accélérateurs. Les services comprennent le calcul et le stockage, l’accès aux données et aux logiciels, l’assistance, la formation, l’intégration et la collaboration sectorielle. Cette combinaison compte. Une machine sans voie d’accès accessible, sans personnes pour aider et sans lien raisonné avec un domaine de travail n’est pas une capacité publique. C’est un équipement coûteux avec un bruit de ventilateur impressionnant.

L’infrastructure publique a aussi besoin d’une mémoire institutionnelle. Qui peut utiliser la ressource ? À quelles conditions ? Quels travaux sont prioritaires lorsque la capacité est limitée ? Quelles données peuvent être importées ? Quels résultats peuvent en sortir ? Que se passe-t-il à la fin d’un projet ? Comment aider les petites organisations à utiliser la ressource sans exiger qu’elles arrivent avec un bureau de recherche dédié et une semaine de libre ? L’acquisition de matériel ne répond pas à ces questions. L’exploitation, si.

Il y a ici une leçon de souveraineté souvent réduite à une carte. Un service peut être physiquement proche et rester difficile à gouverner. Un système peut être hébergé sur le sol européen tandis que des contrôles essentiels, l’autorité de mise à jour, les interfaces ou le pouvoir de négociation commerciale restent ailleurs. À l’inverse, un arrangement européen transfrontalier peut soutenir une capacité publique réelle lorsque les limites, les droits d’accès, les responsabilités et les voies de sortie sont explicites. La question pertinente n’est pas simplement de savoir où se trouve un rack. C’est de savoir qui peut décider, inspecter, maintenir et partir.

Des institutions sont nécessaires pour tenir ces questions ensemble. Les planificateurs énergétiques ne peuvent pas déduire une charge de travail d’IA d’une page marketing. Les responsables des achats ne peuvent pas négocier une relation avec un centre de données à partir d’un benchmark de modèle. Une équipe de recherche ne peut pas transformer l’accès à une machine en capacité durable sans soutien, sans pratiques de données et sans voie d’utilisation des résultats. Le fil qui relie ces enjeux n’est pas un modèle particulier. C’est la capacité publique de prendre une décision délimitée et de conserver la possibilité de la réexaminer.

La capacité ne se trouve pas au centre d’elle-même. Sélectionnez un domaine pour voir le travail public qu’il doit porter.

Le travail n’est pas un détail de déploiement

Chaque système d’IA modifie le travail quelque part. Parfois, le changement est évident parce qu’une tâche est confiée à un logiciel. Le plus souvent, il est plus discret. Un travailleur vérifie une suggestion au lieu de créer un premier jet. Un gestionnaire voit un score avant une conversation. Un agent d’appel reçoit un résumé qui oriente la question suivante. Un agent de traitement passe moins de temps à trouver un document et plus de temps à expliquer une exception. La tâche a changé, même si le titre du poste n’a pas changé.

C'est pourquoi le travail ne peut pas être relégué à la fin d'un plan de mise en œuvre, sous la rubrique gestion du changement. Le travail n'est pas une surface à gérer une fois la décision technique prise. C'est là que le système acquiert son sens pratique. Les travailleurs savent quels dossiers sont incomplets, quelles exceptions sont courantes, où une règle sensée devient absurde et ce qu'un processus apparemment efficace demande à une personne d'absorber. Les écarter de la conversation sur la conception est un moyen sûr de rendre un flux de travail moins intelligible.

L'aperçu de l'EU-OSHA sur la gestion des travailleurs par l'IA signale à la fois des opportunités et des risques pour la santé et la sécurité au travail. Cette formulation est utile car elle rejette deux récits simplistes. Le premier affirme que chaque outil d'IA est un manager déguisé. Le second affirme que la technologie est neutre jusqu'à ce qu'un acteur malveillant particulier en fasse un mauvais usage. En pratique, la conception de la surveillance, des objectifs, des recommandations, des alertes et de l'allocation peut façonner la qualité du travail avant même que quiconque n'ait prononcé un mot dramatique sur le remplacement.

Une réponse institutionnelle humaine ne consiste pas à exiger que chaque employé devienne un spécialiste de l'IA. Elle consiste à rendre la relation entre l'outil et le travail discutable. Qu'est-ce que le système est autorisé à recommander ? Qu'est-ce qu'il n'est pas autorisé à décider ? Quels signaux alimentent une conversation sur la performance ? Un travailleur peut-il consulter et corriger le dossier utilisé à son sujet ? Que se passe-t-il lorsque la sortie du système entre en conflit avec le jugement professionnel ? Y a-t-il du temps pour apprendre l'outil, et ce temps est-il considéré comme du travail plutôt que comme un passe-temps privé pratiqué après que les enfants sont endormis ?

La question de l'autorité est particulièrement importante. Un travailleur qui est nominalement libre de passer outre une sortie mais qui est évalué par un tableau de bord récompensant l'accord n'a pas reçu un pouvoir discrétionnaire réel. Un manager qui reçoit un score sans en connaître la base n'a pas reçu une responsabilité réelle. Un représentant syndical qui ne voit le système qu'après l'achat ne peut pas apporter les connaissances qui auraient évité un conflit évitable. Les institutions font de la place pour ces faits avant qu'un tableur ne les transforme en surprises.

Il n'existe pas de lieu de travail européen unique. Les accords sectoriels, le droit du travail national, la culture organisationnelle et la nature de la tâche comptent tous. Mais le principe institutionnel se transpose bien : ne pas traiter les personnes comme la couche de gestion des erreurs d'un système qu'elles n'ont pas été autorisées à comprendre. Si le jugement humain fait partie de l'argument de sécurité, alors l'organisation doit donner à ce jugement des informations, de l'autorité et une voie pour être entendu.

L'éducation est une pratique, et le langage fait partie de la pratique

La littératie en IA est devenue une réponse populaire à la faiblesse institutionnelle. Envoyez les gens en formation, délivrez un certificat, placez une diapositive joyeuse sur l'intranet et considérez la question réglée. C'est une meilleure réponse que pas d'apprentissage du tout. Ce n'est pas suffisant.

Les orientations de la Commission sur la littératie en IA placent l'obligation dans un cadre plus concret. Les fournisseurs et les déployeurs devraient prendre des mesures pour garantir un niveau suffisant de littératie parmi le personnel et les autres personnes traitant des systèmes d'IA en leur nom. Les facteurs pertinents incluent les connaissances techniques, l'expérience, l'éducation et la formation, ainsi que le contexte dans lequel le système est utilisé. Il ne s'agit pas d'une exigence de quiz universel sur l'apprentissage automatique. C'est une invitation à faire correspondre les connaissances à la responsabilité.

Un responsable des achats doit savoir reconnaître une affirmation qui ne peut pas être évaluée à partir d'une brochure. Un travailleur de première ligne doit savoir quand un résultat doit être vérifié par rapport au matériel source. Un gestionnaire doit comprendre ce qu'un score agrégé ne peut pas lui dire sur un cas individuel. Un membre du conseil d'administration doit pouvoir demander qui a l'autorité d'arrêter un système. Un développeur a besoin d'une compréhension plus approfondie des données, des interfaces, de l'évaluation et des défaillances. Qualifier tout cela de littératie peut être un peu approximatif. Les institutions réelles ont le droit d'être approximatives lorsque l'alternative consiste à prétendre qu'un seul cours rend chaque rôle également prêt.

L'éducation a aussi un problème temporel. Une personne peut comprendre un outil en mars et se retrouver en octobre face à une interface, un modèle ou un flux de travail sensiblement différent. Un programme d'apprentissage utile suit donc les changements qui comptent. Il donne aux gens un moyen de revoir les conditions de décision, et non pas seulement un souvenir d'un événement de lancement. Les orientations éthiques de la Commission pour les éducateurs font un point similaire dans un autre contexte : le jugement pratique concernant l'IA dans l'enseignement et l'apprentissage ne peut pas être réduit à un interrupteur que l'on allume. Le contexte, l'objectif et les personnes présentes restent pertinents.

La langue a aussi sa place ici. La langue affichée d'un système n'est pas la langue d'une société. Un modèle peut produire un texte fluide dans une langue tout en manquant les termes administratifs, les formes régionales, le vocabulaire professionnel, les références culturelles ou les significations juridiques qui rendent une décision réelle intelligible. Une traduction peut être grammaticalement soignée et pourtant modifier une responsabilité, une obligation ou un droit. L'usage multilingue n'est pas une opération de localisation décorative à la fin d'un produit par ailleurs terminé.

Pour l'Europe, c'est une question institutionnelle pratique. Les services publics, les lieux de travail et les écoles fonctionnent dans de nombreuses langues, parfois plusieurs au sein de la même organisation. La documentation, les parcours d'erreur, la formation, le soutien et les processus de contestation doivent rencontrer les gens là où le travail se fait. Si la politique est disponible dans une langue mais que l'interface opérationnelle est dans une autre, l'organisation a divisé le système en deux. Si une personne peut recevoir une décision dans sa langue mais ne peut pas trouver l'explication ou le parcours de contestation dans cette langue, le recours devient théorique.

La solution n'est pas de promettre que chaque système comprend chaque langue également. Ce serait une affirmation avec très peu de preuves derrière elle. La solution est de déclarer honnêtement la couverture, de tester l'usage réellement prévu, de garder les limites linguistiques visibles et de s'assurer qu'une lacune ne devienne pas silencieusement un désavantage pour les personnes les moins capables de la corriger. C'est moins spectaculaire que d'annoncer une IA multilingue. C'est plus respectueux.

La sécurité commence par une affirmation que l'on peut contester

La sécurité est un autre mot qui devient vague lorsqu'on lui demande de porter trop de choses. Un système d'IA n'est pas sûr parce qu'un fournisseur dit qu'il a des garde-fous. Il n'est pas sûr parce qu'un benchmark contient un nombre rassurant. Il n'est pas sûr parce qu'une personne reste quelque part dans la boucle. La sécurité concerne une affirmation délimitée : ce système peut être utilisé à cette fin, dans ce cadre, dans ces conditions, avec ces contrôles, ces preuves, ces risques résiduels et ces personnes qui peuvent agir.

C'est pourquoi les dossiers de sécurité sont utiles au-delà des secteurs où ils sont couramment discutés. Un dossier de sécurité n'est pas un badge. C'est un argument qui relie une affirmation aux dangers, aux contrôles, aux hypothèses, aux preuves et à une décision. Il a de la place pour l'incertitude. Il peut dire qu'une condition n'est pas encore remplie. Il peut dire qu'un changement nécessite une réévaluation. Il peut dire que la bonne décision est de faire une pause. Une démonstration n'a aucun moyen réel de dire ces choses sans gâcher sa propre ambiance.

Dans le travail sur l’IA, la démarche décisive consiste à relier les preuves à l’usage réel. Une évaluation de modèle peut renseigner une organisation sur une capacité, selon une méthode donnée. Elle n’établit pas automatiquement que le modèle convient à tous les flux de travail, à tous les groupes, dans toutes les langues ou après chaque modification d’intégration. Une institution doit porter la chaîne qui va du modèle au service, puis à la décision locale. C’est dans cette chaîne que bien des déclarations sincères deviennent excessives.

Une preuve a une date de péremption, même lorsque le fichier lui-même n’en a pas. Une version change. Une collection de recherche change. Un nouveau modèle de prompt modifie le comportement visible par l’utilisateur. Un agent découvre un mode de défaillance absent du jeu de test. Une loi, une politique ou une source de données change. Ce ne sont pas des interruptions gênantes d’un système parfait. Ce sont les conditions ordinaires de l’exploitation d’un logiciel dans le monde réel. La tâche institutionnelle consiste à décider quels changements exigent un nouvel examen, qui prend cette décision et comment l’historique reste disponible pour comparaison.

La capacité à s’arrêter fait partie du même raisonnement. Une condition d’arrêt que personne ne peut invoquer est une clause décorative. Un bouton d’arrêt sans responsable est une petite œuvre d’art contemporain. Un dispositif crédible désigne l’autorité, le signal qui peut déclencher l’action, la voie d’escalade, l’état sûr et la manière dont la décision est consignée. Les détails varient. Le besoin de détails, lui, ne varie pas.

La sécurité n’est donc pas le service qui arrive à la fin avec un stylo rouge. C’est une manière de rendre une décision partagée plus précise avant que le système ne devienne difficile à modifier. Elle pose la question que les démonstrations évitent parce que la réponse peut être inconfortable : quelles preuves nous convaincraient de ne pas poursuivre ? Une institution capable de répondre à cette question est déjà plus compétente qu’une institution qui ne sait que célébrer un lancement.

La capacité publique est une chaîne, pas une vitrine

La capacité publique européenne en matière d’IA ne se mesurera pas seulement au nombre de modèles, de centres de données ou d’annonces de recherche qu’elle peut placer sur une carte. Ces éléments comptent. Ils ne sont pas autosuffisants. La capacité, c’est la possibilité d’utiliser des ressources techniques à des fins publiques dans la durée, avec suffisamment de compétence et d’autorité pour éviter qu’une dépendance se fasse passer pour du progrès.

La loi sur l’interopérabilité pour une Europe interopérable offre un indice utile. Son objet est l’interopérabilité du secteur public dans l’ensemble de l’Union, ainsi que le partage et la réutilisation de solutions d’interopérabilité. L’interopérabilité est parfois traitée comme une préférence technique : une question de format pour ceux qui aiment les diagrammes à flèches. Dans le travail public, c’est aussi une propriété institutionnelle. Elle détermine si un document peut voyager avec son sens, si une autorité peut comprendre les limites du système d’une autre autorité, si le départ d’un fournisseur se transforme en migration gérable ou en placard rempli d’exports illisibles.

L’interopérabilité ne signifie pas que tous les systèmes doivent se ressembler ni que tout le travail public doit être centralisé. Elle signifie qu’une frontière ne doit pas détruire l’information nécessaire pour poursuivre de manière responsable. Une organisation doit pouvoir identifier l’objet, son propriétaire, sa finalité, sa version, les preuves qui lui sont attachées et les décisions qui l’ont modifié. Un nouveau service doit pouvoir recevoir les documents nécessaires sans avoir besoin de la permission de l’ancien fournisseur pour les interpréter. Ce n’est pas un ornement de conception. C’est ainsi qu’une institution publique reste libre de décider plus tard.

Le registre néerlandais des algorithmes est un autre objet institutionnel petit mais utile. Il publie des informations sur les algorithmes utilisés par les organismes publics et se concentre sur les algorithmes à fort impact, y compris les systèmes d’IA à haut risque. Un registre ne prouve pas que chaque système répertorié est bon, équitable ou conforme à la loi. Sa valeur réside ailleurs. Il rend plus facile à trouver l’existence d’un système, d’un usage déclaré et d’un organisme public responsable. Il crée une surface sur laquelle une question peut se poser.

Il nous faut davantage de ces surfaces, pas nécessairement davantage de sites web. Un dossier de modèle ou de système, une explication publique, un fichier technique contrôlé, un parcours d'incident, un dossier d'achat, un plan de formation et une spécification d'interopérabilité servent chacun des lecteurs différents. Ils doivent s'accorder sur les faits qui circulent entre eux. Une page publique n'a pas à exposer chaque détail sensible. Mais elle ne doit pas contredire les preuves internes. Un dossier d'achat n'a pas à être un manuel destiné au public. Mais il ne doit pas permettre à l'organisation d'oublier les conditions qu'elle a achetées.

Le danger est de confondre visibilité et capacité. Un portail soigné peut masquer un modèle opérationnel absent. Une stratégie nationale peut nommer une priorité sans fournir de personnel, d'accès, de maintenance ni de parcours pour les petites organisations. Un fonds d'innovation peut soutenir une preuve de concept sans soutenir le travail nécessaire pour maintenir un service utile en vie. L'écart entre ces éléments est l'endroit où beaucoup de projets sensés s'arrêtent discrètement.

La capacité publique a une forme moins photogénique. Elle comprend l'expertise partagée, une infrastructure accessible, des compétences en matière d'achats, un travail sur les normes, des ressources linguistiques locales, un financement à long terme, un contrôle indépendant et des personnes qui en savent assez pour poser une question difficile à un fournisseur. Elle comprend la capacité de dire non, de faire une pause, de s'adapter et de partir. Un continent qui peut faire ces choses possède plus qu'un secteur de l'IA. Il possède les débuts d'une autonomie technologique.

La capacité publique est une boucle : la finalité, les preuves, l'autorité, l'exploitation et l'apprentissage doivent rester connectés après un lancement.

Le travail après les applaudissements

Il peut être utile d'imaginer la semaine qui suit une démonstration plutôt que l'instant de celle-ci. Pas un événement réel, pas une étude de cas déguisée, simplement le travail ordinaire qui suit une idée prometteuse. Quelqu'un doit transformer la finalité déclarée en un périmètre qui puisse être évalué. Quelqu'un doit décider quels enregistrements sources sont appropriés à utiliser. Quelqu'un doit cartographier la manière dont une sortie entre dans un flux de travail. Quelqu'un doit se demander si le travail change pour les personnes qui le font déjà. Quelqu'un doit s'assurer que le parcours de support fonctionne dans les langues qui comptent. Quelqu'un doit chiffrer l'intégration, la surveillance et la sortie éventuelle.

À ce stade, le projet peut sembler plus lent, car il a acquis des noms, des conditions et des dépendances. En réalité, il est devenu possible à gérer. Une démonstration est rapide parce qu'elle ignore le travail qui consiste à rendre un système responsable. Une institution n'est pas lente parce qu'elle utilise une liste de contrôle. Elle est lente lorsqu'elle découvre les véritables dépendances après avoir déjà promis un résultat.

La discipline pratique consiste à placer les questions non résolues là où elles peuvent modifier la décision. Si l'organisation ne sait pas comment un fournisseur l'informera d'un changement matériel de modèle, consignez cela avant que le contrat ne soit conclu. Si elle ne peut pas expliquer qui peut passer outre une recommandation, résolvez cela avant que l'interface ne devienne habituelle. Si personne ne possède les données sources, n'appelez pas les données prêtes. Si l'organisation ne peut pas prendre en charge les langues prévues, réduisez l'usage prévu plutôt que de permettre à une promesse large de devenir une exclusion silencieuse.

Ce n'est pas du maximalisme bureaucratique. C'est de la proportionnalité. Un assistant interne à faible impact peut se contenter d'un dispositif léger : un usage déclaré, une limite claire des données, des consignes au personnel, un moyen de signaler un problème et une voie de sortie. Un système qui conditionne l'accès à l'emploi, aux services, à l'éducation, au crédit, à la santé ou au pouvoir public exige un dispositif bien plus solide. La bonne réponse à la proportionnalité n'est pas de poser moins de questions. C'est de poser des questions à la mesure du préjudice qu'une erreur peut causer.

Le travail institutionnel rend aussi l'innovation plus réutilisable. Lorsqu'une équipe documente la manière dont elle a évalué un flux de travail, une autre équipe peut tirer parti de la méthode plutôt que de refaire face à la même incertitude. Lorsqu'une autorité publie un dossier utile sur un système, les habitants et les autres organismes publics disposent d'un point de départ. Lorsqu'un contrat préserve les droits d'exportation et l'historique des modifications, un successeur n'est pas contraint de reconstituer le passé à partir de captures d'écran et de factures. La réutilisation ne concerne pas seulement le code. Elle consiste à garder intelligibles les décisions qui entourent le code.

Il y a là une ironie plaisante. Les organisations les plus inquiètes que la gouvernance ne les ralentisse sont souvent celles qui accumulent le plus de travail caché à refaire. Elles réévaluent parce que les conditions n'ont jamais été consignées. Elles débattent des responsabilités parce que les rôles n'ont jamais été nommés. Elles renégocient un contrat parce que la sortie a été supposée plutôt que spécifiée. Elles forment les gens après le déploiement parce que le flux de travail a été traité comme allant de soi. Les institutions ne paraissent être des frais généraux que tant que leur absence n'est pas encore visible sur un plan de projet.

Ce que font réellement les institutions

Il est facile de présenter les institutions comme grandioses et lointaines. En pratique, elles accomplissent des actes ordinaires d'entretien. Elles préservent des distinctions qu'une conversation de marché préfère estomper. Elles distinguent un objectif d'un résultat, un plan d'un événement, un modèle d'un service, un service d'une décision publique, un enregistrement d'une preuve, et une plainte d'un recours.

Elles répartissent l'autorité. Non pas une autorité symbolique, mais l'autorité d'approuver un usage prévu, de refuser une source de données, de suspendre un parcours, de publier une correction, d'accepter un risque résiduel et de dire à un fournisseur que la réponse ne suffit pas. Un système sans cette répartition tend à découvrir l'autorité par le conflit. C'est une manière coûteuse de le concevoir.

Elles préservent la mémoire. L'enregistrement d'une décision antérieure n'a rien de glamour, mais c'est ce qui permet à un nouveau membre de l'équipe de comprendre pourquoi une contrainte existe. L'historique permet à une organisation de comparer un système modifié avec les conditions dans lesquelles il a été approuvé. Il protège une personne qui conteste un résultat du risque de s'entendre dire que les éléments pertinents se sont dissous dans une version précédente. L'oubli est parfois commode. C'est rarement un modèle de gouvernance solide.

Elles créent des voies pour le désaccord. Une bonne institution ne part pas du principe qu'une plainte est la preuve d'un échec. Elle donne à la plainte un endroit où aller, suffisamment d'informations pour être examinée et une personne capable de répondre sans inventer une nouvelle procédure sous la pression. Cela importe pour les travailleurs, les habitants, les clients, les fournisseurs et les équipes internes. Une voie de contestation n'est pas une concession au pessimisme. Elle fait partie de la manière dont un système prend conscience de ses propres limites.

Elles investissent dans la compétence. Le travail n'est pas seulement technique. Il inclut des personnes capables de lire un contrat, d'évaluer une limite de données, de comprendre un flux de travail, d'expliquer un résultat en langage clair, d'exploiter l'infrastructure, de former des collègues et de reconnaître quand les éléments sont trop faibles pour la décision proposée. Aucune organisation n'embauche toutes ces personnes pour chaque petit projet. Mais les organisations sérieuses savent comment les trouver, les partager ou les consulter avant que la décision ne se fige.

Enfin, les institutions rendent les engagements viables. Une entreprise peut changer de direction, un ministre peut changer de portefeuille, un modèle peut changer de version et un budget peut devenir moins imaginatif. La mission d'intérêt public, le dossier, l'autorité et le recours ne devraient pas disparaître avec le support de présentation initial. C'est pourquoi les systèmes durables ont besoin de choses ennuyeuses : des interfaces ouvertes lorsque c'est possible, une propriété claire, des dossiers conservés, des conditions de support réalistes, des points de revue nommés et une sortie praticable. Les choses ennuyeuses ne sont pas le contraire de l'innovation. Elles sont ce qui permet de réviser l'innovation sans que cela devienne une opération de démolition.

Un avantage européen qui vaut la peine d'être construit

L'Europe n'a pas besoin de gagner un débat sur le caractère excitant des institutions. Elles ne le sont pas, la plupart du temps. Un registre bien tenu n'est pas palpitant. Une spécification d'interopérabilité n'a jamais déclenché de vague dans un stade. Une clause d'achat public sur les formats d'exportation ne sera pas imprimée sur un tote bag. L'absence de glamour fait partie de leur valeur. Elles continuent de fonctionner lorsque l'attention se porte ailleurs.

Il n'y a pas non plus de raison de transformer cela en récit de supériorité morale européenne. Chaque région a des institutions, des échecs, des réalisations techniques et des angles morts. L'Europe a une opportunité, pas un avantage acquis. Ses traditions juridiques, ses services publics, ses sociétés multilingues, ses réseaux de recherche, sa base industrielle et ses arrangements transfrontaliers peuvent soutenir une approche distincte s'ils sont reliés à une capacité opérationnelle réelle. Ils peuvent aussi rester une collection de documents admirables si les personnes chargées de faire le travail se retrouvent sans temps, sans autorité ni outils.

Le choix est pratique. Construire des achats publics qui achètent des preuves et des voies de sortie, pas seulement des capacités. Construire des infrastructures qui incluent l'accès, le support, la conscience énergétique et une exploitation responsable. Construire des processus de travail qui donnent aux personnes des informations et un pouvoir discrétionnaire réel. Intégrer la littératie dans les rôles et les changements plutôt que dans un seul après-midi. Intégrer le support linguistique dans le service, pas seulement dans la page de lancement. Construire des arguments de sécurité qui peuvent être rouverts. Construire des archives publiques qui permettent à une question difficile d'atteindre le bon responsable.

Ensuite, la prochaine démonstration pourra être reçue correctement. Elle pourra être appréciée pour ce qu'elle est : une preuve qu'une capacité technique mérite peut-être d'être étudiée. Elle n'a pas à porter le fardeau impossible de prouver que la société environnante est prête. Cette preuve, lorsqu'elle est possible, se construit lentement par les institutions qui font leur travail.

Une petite note de notre part

Chez Dweve, nous abordons le même problème institutionnel avec une revendication publique délibérément étroite. Notre Trust Centre indique que Dweve Loom 1.0 reste en test de pré-lancement interne uniquement, avec un accès externe fermé. Le critère de publication publié stipule que l'ouverture d'une voie externe dépend de preuves correspondant à la version, de validations spécifiques à la voie, d'une décision de publication enregistrée et d'une vérification de l'intégrité des archives publiques. Ce n'est pas une affirmation selon laquelle un dossier rend un système sûr ou qu'une future version verra le jour. C'est une affirmation sur le fait de maintenir un plan séparé d'un événement, et une décision opérationnelle liée à des preuves.

C'est la norme qui mérite d'être appliquée plus largement. Ne demandez pas à un modèle d'être une institution. Demandez aux institutions d'être suffisamment bonnes pour décider où un modèle a sa place, ce qu'il peut faire, comment il peut être contesté et quand il doit s'arrêter.

Sources