Apprendre à douter de l'IA : cinq réflexes à transmettre aux salariés

Les outils d'IA se trompent avec la même assurance que lorsqu'ils ont raison. Apprendre aux équipes quand et comment vérifier une réponse est l'un des volets les plus utiles d'une formation à l'IA.

Une réponse de l'IA arrive bien rédigée, sans hésitation apparente. Et cette forme inspire confiance. Quand on est pressé et que le texte paraît raisonnable, le réflexe est de le copier et de passer à la suite. Les psychologues appellent "biais d'automatisation" cette tendance à accorder plus de crédit à ce que propose une machine qu'à son propre jugement. En entreprise, il prend des formes très concrètes : un chiffre que personne ne vérifie, une référence à un texte réglementaire qui n'existe pas, un résumé qui oublie l'exception importante.

La plupart des formations à l'IA expliquent ce qu'est un modèle de langage et comment rédiger un bon prompt. Beaucoup moins entraînent à ce qui vient ensuite : lire la réponse d'un œil critique. En près de vingt ans passés à concevoir des formations pour les entreprises, nous avons constaté qu'une habitude se construit en répétant un geste jusqu'à ce qu'il devienne automatique, et qu'un guide de bonnes pratiques suffit rarement pour y parvenir. Douter à bon escient de ce que dit l'IA fait partie de ces gestes-là.

Cinq réflexes à transmettre à chaque salarié

1. Demander la source, et l'ouvrir. Si la réponse cite un chiffre, une loi, une étude ou un prix, il faut remonter au document d'origine. Si l'IA ne peut pas indiquer de source, l'information reste une hypothèse à confirmer.
2. Tester l'IA sur un sujet que l'on maîtrise. Avant de lui faire confiance sur un thème, mieux vaut lui poser des questions dont on connaît bien la réponse. Si elle se trompe sur ce que l'on sait, il faut se méfier du reste.
3. Reformuler la question. La poser autrement, demander l'argument inverse ou demander ce qui pourrait être faux dans la réponse. Si le fond change d'une version à l'autre, la réponse ne repose pas sur une base solide.
4. Chercher ce qui manque. L'IA ne connaît ni le client, ni l'historique du projet, ni les exceptions propres à l'entreprise. La question utile est donc : qu'a-t-elle laissé de côté ?
5. Séparer la rédaction de la décision. L'IA peut rédiger, résumer ou mettre des idées en ordre. Celui qui décide et qui signe reste une personne, qui répond de ce qui sort sous son nom.

Quand vérifier systématiquement

Tout ne demande pas le même niveau de contrôle. Exiger de tout vérifier, ligne par ligne, conduit souvent à ne plus rien vérifier. Une règle simple fonctionne mieux : plus une erreur coûte cher et plus le texte sera lu, plus il faut vérifier.

Dans certains cas, la vérification devrait être systématique :

• les chiffres, les dates, les calculs et les citations ;
• les références juridiques, réglementaires ou contractuelles ;
• tout ce qui sort de l'entreprise : un e-mail à un client, une proposition commerciale, une réponse à un régulateur ou à la presse ;
• les décisions qui concernent des personnes, comme un recrutement, une évaluation ou un licenciement ;
• les données personnelles ou confidentielles, avant même de les confier à l'IA ;
• le code ou les automatisations destinés à passer en production.

Un brouillon interne, un brainstorming ou le résumé d'un document que l'on connaît bien peuvent se contenter d'une relecture rapide.

Faire de la vigilance une habitude

La première mesure consiste à l'écrire : une liste courte, d'une page, avec les cas où la vérification est obligatoire et le nom du responsable final pour chaque type de document. Les règles trop longues sont rarement lues.

La deuxième, c'est l'entraînement. La méthode la plus efficace que nous connaissions consiste à s'exercer sur de vraies réponses d'IA qui contiennent des erreurs : un rapport avec un chiffre inventé, un e-mail client qui mentionne une condition inexistante, un résumé qui oublie la clause clé. Chaque salarié doit les repérer dans des cas tirés de son propre métier, se tromper parfois et recevoir une explication sur le moment. Après quelques séances, la question "d'où vient cette information ?" se pose d'elle-même.

Une entreprise cliente préparait récemment, avec l'aide de l'IA, le dossier de sa candidature à un prix, dans lequel elle présentait une solution innovante qu'elle avait mise en place. Les données disponibles dans son cloud n'étaient pas à jour, et l'IA a repris des chiffres anciens qui n'étaient plus exacts. L'équipe s'en est aperçue juste avant d'envoyer sa candidature. Ces chiffres auraient pu la desservir auprès du jury.

La troisième, c'est l'exemplarité des managers. Quand un responsable raconte en réunion qu'il a repéré une erreur de l'IA et explique comment il l'a vérifiée, il légitime le doute. Si douter est perçu comme une façon de ralentir le travail, les équipes cessent de le faire.

La quatrième consiste à mesurer et à partager. Recenser de temps en temps les erreurs repérées, et celles qui sont passées, permet d'ajuster la liste des cas sensibles et montre aux équipes que leur vigilance sert à quelque chose.

L'IA va continuer de progresser, et ses erreurs deviendront plus rares et plus difficiles à repérer. C'est justement pour cela que le réflexe du doute devient plus précieux. Former une équipe à l'IA, c'est aussi former son discernement. Et le discernement s'entraîne comme n'importe quelle compétence : par la pratique.