La « pourriture des compétences » : l’IA va-t-elle nous rendre stupides ?
Les Enfants du Magenta
Dans le secteur de l’aviation, il existe un documentaire glaçant connu sous le nom de « Children of the Magenta ». Il désigne une génération de pilotes qui ont appris à voler sur des avions modernes hautement automatisés. Le « Magenta » fait référence à la couleur de la ligne de trajectoire de vol sur l’écran de navigation automatisé du cockpit.
Ces pilotes étaient experts dans la programmation du calculateur de gestion de vol. Ils maîtrisaient parfaitement les systèmes. Mais les enquêteurs ont constaté que, dans les situations de crise (lorsque l’automatisation tombait en panne ou se déconnectait à cause de données de capteurs erronées), certains de ces pilotes paniquaient. Ils avaient perdu la « sensation » de l’avion. Ils avaient du mal avec le pilotage manuel de base. Ils étaient devenus des opérateurs de systèmes, plus des aviateurs. Leurs compétences fondamentales s’étaient atrophiées.
Nous sommes actuellement en train d’infliger ce phénomène à l’ensemble de l’économie mondiale du savoir.
Nous donnons aux développeurs juniors des outils qui écrivent du code qu’ils ne comprennent pas. Nous donnons aux jeunes avocats des outils qui rédigent des contrats qu’ils n’ont pas lus. Nous donnons aux étudiants en médecine des outils de diagnostic qui repèrent des tumeurs qu’ils ne voient pas.
Tout fonctionne bien quand le temps est dégagé et que l’automatisation opère. Mais que se passe-t-il quand le système tombe en panne ? Et surtout : si la machine fait toute la pratique, comment les humains parviennent-ils jamais à la maîtrise ?
L'atrophie cognitive
C'est le risque de Skill Rot. C'est le déclin progressif des capacités humaines dû à la non-utilisation. C'est "The Google Maps Effect" sous stéroïdes. Avant le GPS, les gens avaient une carte mentale de leur ville ; ils comprenaient les relations spatiales. Maintenant, nous suivons la ligne bleue. Si la batterie meurt, nous sommes perdus dans notre propre quartier.
En génie logiciel, nous assistons à la montée du "Copy-Paste Senior". Ce sont des développeurs avec 2 ans d'expérience qui peuvent produire le résultat d'un vétéran de 10 ans en s'appuyant fortement sur les assistants IA. Mais quand vous leur demandez de déboguer une condition de course, ou d'expliquer pourquoi ils ont choisi une architecture spécifique, ils s'effondrent. Ils ont la productivité, mais pas la profondeur.
C'est dangereux parce que le logiciel est complexe. Le code écrit par l'IA contient souvent des bogues subtils ou des vulnérabilités de sécurité que seul un véritable expert peut repérer. Si nous éliminons la difficulté de l'apprentissage (les heures passées à se cogner la tête contre le mur pour essayer de comprendre une erreur de pointeur), nous éliminons le processus qui forme les experts.
Le paradoxe de l'apprenti
Cela mène à une crise structurelle sur le marché du travail : le paradoxe de l'apprenti.
Historiquement, les experts seniors étaient formés en effectuant des « tâches subalternes » en tant que juniors. On apprenait à rédiger d'excellents mémoires juridiques en en écrivant des centaines d'ennuyeux et en recevant les critiques d'un associé. On apprenait à diagnostiquer des maladies rares en voyant des milliers de cas courants pendant l'internat.
Si l'IA automatise les tâches subalternes (si elle écrit le code standard, résume les documents et trie les patients), que reste-t-il pour le junior ? Comment acquiert-il les « répétitions » ? Si vous sautez l'apprentissage, vous ne pouvez pas devenir un maître. Vous restez simplement un novice permanent avec une calculatrice très puissante.
La solution Dweve : l'intelligence augmentée
Chez Dweve, nous concevons nos outils pour lutter contre la « Skill Rot ». Nous sommes idéologiquement opposés à l'« Automation » qui remplace la réflexion. Nous croyons en l'« Augmentation » qui améliore la réflexion.
Nous pensons que l'IA devrait être un vélo pour l'esprit (pour aller plus vite), et non un fauteuil roulant pour l'esprit (qui vous porte parce que vous ne pouvez pas marcher).
1. Mode explicatif : l'IA comme tuteur
Lorsque notre assistant de codage suggère une correction, il ne se contente pas de coller le code en silence. Il passe en « mode explicatif ». Il met en évidence les lignes modifiées et explique pourquoi.
- « J'ai remplacé cette boucle par une fonction map car elle est plus économe en mémoire dans ce contexte. »
- « J'ai ajouté une vérification d'assainissement ici car cette entrée pourrait être vulnérable aux XSS. »
Il transforme la correction de bug en micro-leçon. Il oblige l'utilisateur à s'engager avec la logique, et non seulement avec le résultat. Il transfère les connaissances du modèle à l'humain.
2. Humain dans la boucle par conception
Nos systèmes de décision critiques (pour la médecine, le droit et la finance) sont conçus pour proposer et justifier, jamais pour décider en silence. Nous appelons cela l'« interface argumentative ».
L'IA présente un projet : « Je recommande d'approuver ce prêt. » Mais elle présente aussi l'argument : « Parce que le ratio d'endettement est faible et que la garantie est élevée. » Elle oblige l'expert humain à examiner les étapes logiques et à les valider. Cela maintient l'humain « dans la boucle » cognitivement, et non seulement procéduralement.
3. Débogage interactif
Parce que nos modèles sont transparents (Glass Box), les utilisateurs peuvent discuter avec eux. Si l'IA dit « C'est un chat », l'utilisateur peut demander « Pourquoi ? ». L'IA montre les caractéristiques qu'elle a détectées. L'utilisateur peut dire « Non, c'est un chien, regarde les oreilles. »
Ce processus dialectique (l'échange d'arguments entre l'humain et la machine) aiguise l'esprit critique de l'utilisateur. Il encourage le scepticisme. Il empêche la complaisance du « Computer Says No ».
Préserver le métier
Nous devons protéger le « métier ». La compréhension profonde et intuitive qui naît de l'effort, de la pratique et de l'échec.
L'IA devrait éliminer les tâches pénibles (la paperasse, la saisie de données, la mise en forme). Mais elle ne doit pas éliminer la réflexion. Elle ne doit pas éliminer le jugement.
Si nous construisons une IA qui nous rend stupides, nous avons échoué en tant qu'espèce. Nous avons construit une béquille au lieu d'un outil.
Chez Dweve, nous construisons des outils qui nous poussent à être meilleurs. Nous construisons des outils qui exigent des utilisateurs intelligents. Parce que l'avenir ne devrait pas être seulement celui de machines plus intelligentes ; il devrait être celui d'humains plus intelligents.
Vous cherchez une IA qui rend votre équipe plus intelligente, pas dépendante ? L'architecture Glass Box et le mode explicatif de Dweve garantissent que vos experts évoluent aux côtés de la technologie. Contactez-nous pour découvrir comment l'intelligence augmentée peut préserver et amplifier l'expertise humaine dans votre organisation.