IA générative : les deux dettes invisibles qu'elle installe dans vos équipes

La GenAI produit des gains. Elle installe deux dettes invisibles que personne ne mesure : une qualité fantôme et une reddition cognitive. Non traitées, elles se paient plus tard, au pire moment.

Ils ont raison, et c'est précisément là qu'il faut regarder

Bpifrance Conseil et Siparex viennent de publier le panorama le plus complet de l'année sur l'IA en PME-ETI : vingt cas d'usage, vingt réussites documentées, toutes fonctions confondues. Sur les gains, rien à redire. La démonstration est solide.

Le plus intéressant se trouve pourtant dans les premières pages. L'ouvrage cite une étude McKinsey de 2025 : plus de 80% des organisations ayant investi dans l'IA générative ne constatent aucun impact financier tangible. Le MIT chiffre le même écart à 95% dans The GenAI Divide. Un livre qui célèbre vingt succès admet en préambule que la règle, c'est l'échec.

La bonne question n'est donc pas de savoir si l'IA générative fonctionne. Elle fonctionne. La question est de savoir ce qu'elle installe pendant qu'elle fonctionne.

Le paradoxe : ce qui se compte, et ce qui s'accumule

Ce qui se mesure se pilote. Ce qui ne se mesure pas s'accumule. Les cas d'usage documentés mesurent un retour sur investissement projet par projet. Aucun ne mesure ce que chaque usage dépose, silencieusement, dans la manière de travailler des équipes.

Ce dépôt a un nom : la dette de pratique. Elle prend deux formes, invisibles parce qu'elles n'apparaissent dans aucun tableau de bord. Et c'est justement pour cela qu'elles courent.

Première dette : la qualité fantôme

On fait confiance à une sortie de l'IA parce que sa forme est convaincante, sans en vérifier le fond. La phrase est fluide, la structure est propre, le ton est assuré. On valide.

Le problème n'est pas l'erreur ponctuelle. C'est ce que j'appelle la boucle amplificatrice. Une sortie plausible mais fausse n'est pas corrigée : elle est réutilisée. Elle nourrit la production suivante, qui la reprend comme un acquis. L'erreur ne se dissout pas, elle se propage. Et à mesure qu'elle circule, elle gagne en autorité. Ce qui a été généré une fois devient, trois documents plus loin, une référence interne que plus personne ne songe à questionner.

Ce n'est pas un risque d'hallucination, que le livre blanc traite d'ailleurs correctement. C'est un régime de production où la vérification recule au rythme exact où la fluidité progresse.

Seconde dette : la reddition cognitive

À force de déléguer le raisonnement, le jugement s'atrophie. L'équipe passe de productrice à réceptrice. Elle relit, elle valide, elle ajuste à la marge. Elle cesse peu à peu de produire elle-même le raisonnement qu'elle se contente désormais de valider.

Cela ne se voit pas tant que tout va bien. Cela se voit le jour où il faut arbitrer un cas limite, trancher une situation que l'IA n'a pas vue, ou détecter qu'une réponse convaincante est en réalité hors sujet. Ce jour-là, la compétence n'est plus là. Personne n'a décidé de s'en séparer. Elle s'est effacée pendant qu'on déléguait.

C'est la plus grave des deux dettes. La qualité fantôme se corrige avec de la méthode. La reddition cognitive érode la capacité même de corriger.

Ce ne sont pas des problèmes d'outil

Aucune de ces deux dettes ne se règle en changeant de modèle. Un modèle plus puissant produit des sorties encore plus convaincantes, donc encore moins vérifiées. Il aggrave le problème au lieu de le résoudre.

Ces dettes vivent dans les gestes, à trois niveaux : l'individu, l'équipe, l'organisation. Former les individus améliore les sorties individuelles, pas ce que l'équipe produit collectivement. Agir à un seul niveau ne suffit pas.

Il faut ici tenir une distinction que le livre blanc n'a pas à faire, mais qu'un dirigeant a intérêt à voir. L'ouvrage gradue l'ambition des projets, de l'usage individuel aux chantiers structurants. C'est un axe d'échelle de projet. Les deux dettes se logent sur un tout autre axe : la diffusion d'une pratique dans le collectif. Un projet peut afficher un excellent retour sur investissement et installer les deux dettes en même temps. Le projet mesure ce qu'il produit. La pratique, elle, décide de ce qui reste.

Interrompre les boucles

Traiter ces dettes est un travail continu, pas un livrable. Structurer la pensée avant d'agir. Rendre chaque affirmation vérifiable. Diffuser les bons gestes plutôt que les concentrer sur quelques experts. Les faire évoluer à mesure que les outils changent.

Ce travail a besoin d'un responsable. Non pas un pilote de projets IA de plus, mais un rôle qui tient la pratique elle-même : sa qualité, ses règles d'usage, sa cohérence, sa diffusion. Il est à l'IA générative ce que le Data Steward est aux données. Son levier n'est pas technique.

Et contrairement à un responsable IA permanent, ce rôle a vocation à s'effacer. Il installe la pratique, forme en interne, puis se retire. Ce qui reste alors n'est pas une dépendance de plus. C'est une capacité.

Ces dettes ne relèvent pas de l'intuition. Elles se mesurent, comme se mesure l'écart entre ce que la direction vise à trois ans et ce que les équipes font réellement chaque jour.

L'IA générative ne remplace pas le jugement. Elle le met à l'épreuve. L'humain doit rester l'arbitre, pas le spectateur. Le déterminant n'a jamais été l'outil. Il est dans la pratique qu'on installe autour.