Reddition cognitive : on ne suit pas trop l'IA, on la suit sans discernement

Wadih Rhondali
Anotherway

Quand l'IA se trompe, nous la suivons presque autant que lorsqu'elle a raison. Cette " reddition cognitive " pose une question : savons-nous encore ajuster notre confiance ?

Des chercheurs de Wharton ont donné un nom à un phénomène que beaucoup observent : la reddition cognitive ou "cognitive surrender". Le problème n'est pas que nous suivions l'IA. C'est que nous la suivons presque autant quand elle a tort. 

Ce que l'étude montre vraiment

Steven Shaw et Gideon Nave ont mené trois expériences préenregistrées, puis une synthèse portant sur 1 372 participants et près de 9 600 essais. La tâche est classique : des items du test de réflexion cognitive, ces problèmes qui appellent une réponse intuitive fausse et une réponse réfléchie juste. Un assistant ChatGPT est disponible. Ce que les participants ignorent : selon les essais, des instructions cachées lui font donner soit la bonne réponse, soit l'erreur intuitive, avec une courte justification.

Les participants consultent l'assistant un peu plus d'une fois sur deux. Quand ils le consultent, ils suivent sa réponse dans 92,7 % des cas lorsqu’elle est juste, et dans 79,8 % des cas lorsqu’elle est fausse. Le taux de bonnes réponses passe de 45,8 % sans IA à 71,0 % avec une IA juste, et tombe à 31,5 % avec une IA fausse. Enfin, la confiance des participants assistés est supérieure de près de 12 points à celle des participants seuls, alors que la moitié des réponses qu'ils ont reçues étaient erronées.

Les auteurs proposent d'ajouter un "Système 3", la cognition artificielle, aux deux systèmes popularisés par Kahneman : l'intuition rapide et la délibération lente. Et ils distinguent deux gestes. Le délestage cognitif, quand on confie une tâche à un outil en gardant la main sur le raisonnement, comme avec une calculatrice. La reddition cognitive, quand on cesse de construire sa réponse pour adopter celle du système, sans examen.

Le vrai problème n'est pas de suivre l'IA

On lit souvent ces résultats comme une preuve de crédulité. C'est aller trop vite. Suivre un conseiller plus fiable que soi est rationnel. Quand l'IA a raison, la suivre dans 92,7 % des cas n'a rien d'inquiétant ; c'est même ce qui fait passer les participants de 46 % à 71 % de bonnes réponses.

Le chiffre qui devrait nous arrêter est l'écart entre 92,7 % et 79,8 %. Il est faible. Face à une réponse juste et face à une réponse fausse, le comportement change à peine. Ce n'est pas un excès de confiance. C'est une confiance qui ne discrimine plus.

Il y a là un retournement historique. En 2015, une autre équipe de Wharton montrait l'inverse : après avoir vu un algorithme se tromper, les gens s'en détournaient, même lorsqu'il restait plus fiable qu'un humain (Dietvorst et al.). On parlait alors d'aversion pour les algorithmes. Quatre ans plus tard, d'autres travaux décrivaient une "appréciation" des algorithmes : dans plusieurs tâches de jugement, les participants pondéraient davantage un conseil présenté comme algorithmique que le même conseil attribué à un humain (Logg et al., 2019). Aujourd'hui, on parle de reddition.

Trop de méfiance hier, trop d'adhésion aujourd'hui : ce n'est pas le niveau de confiance qui pose problème, c'est son ajustement. Une confiance utile monte quand l'outil a raison et baisse quand il se trompe. C'est précisément ce que les participants ne parviennent pas à faire.

Rien de nouveau, sauf la fluidité

La médecine connaît ce phénomène depuis longtemps sous un autre nom : le biais d'automatisation, la tendance à s'en remettre à un système automatisé au détriment de son propre jugement. Une revue systématique de 2012 en recensait déjà les facteurs aggravants : la charge de travail, la complexité de la tâche, la contrainte de temps, la confiance dans le système (Goddard et al.).

L'imagerie en donne une illustration frappante. Dans une expérience publiée dans Radiology, vingt-sept radiologues lisaient des mammographies avec l'aide d'une prétendue IA, qui proposait parfois une classification erronée. Lorsque la suggestion était fausse, la proportion de lectures correctes chutait chez tous : de près de 80 % à environ 20 % chez les moins expérimentés, de 82 % à 45,5 % chez les plus expérimentés (Dratsch et al., 2023). L'expertise protège. Elle ne suffit pas.

Ce qui change avec les grands modèles de langage n'est donc pas le mécanisme. C'est sa puissance. Un outil d'aide au diagnostic affichait une catégorie. Un assistant conversationnel livre une réponse rédigée, justifiée, nuancée en apparence, sur n'importe quel sujet. Or la psychologie cognitive le montre depuis longtemps : ce qui se traite facilement nous paraît plus vrai, plus fiable, plus familier (Alter et Oppenheimer, 2009). Les modèles actuels sont, par construction, des machines à produire de la fluidité. Ils produisent exactement le signal que notre cerveau confond avec la justesse. À quoi s’ajoute leur tendance à la complaisance : un modèle entraîné à satisfaire son interlocuteur rouvre rarement une question que l’utilisateur considère comme close.

Le "Système 3", une métaphore utile mais trompeuse

L'idée d'un troisième système a un mérite : elle rend visible une ressource cognitive que nous utilisons désormais tous les jours. Elle a aussi un défaut. Elle laisse penser que l’IA s’ajouterait à notre appareil mental, à côté de l’intuition et de la délibération. Ce n'est pas le cas. Elle reste à l'extérieur. Ce qui se joue en nous est ailleurs.

La recherche sur le délestage cognitif l'a montré bien avant l'IA générative : décider de confier une tâche à un support externe repose sur une évaluation métacognitive, une estimation de ce qu'on sait faire, de l'effort que cela demande, de la fiabilité de l'outil. Et cette évaluation peut se tromper (Risko et Gilbert, 2016). La reddition n'est pas d'abord un échec du raisonnement. C'est un échec de la décision de raisonner.

Le clinicien reconnaît ce schéma. Ce qui se dégrade en premier n'est pas toujours la capacité ; c'est la perception qu'on en a. On peut rester tout à fait capable de résoudre un problème et ne plus percevoir le moment où il faudrait s’y mettre. Dans mon dernier livre, j'appelle "dérive" le point d'arrivée de cette pente : la substitution est devenue si habituelle qu'on ne la perçoit plus comme une délégation. On croit sincèrement penser, alors qu'on approuve surtout.

Ce qui protège, d'après les données

L'intérêt de l'étude de Wharton est aussi de montrer ce qui fait varier la reddition.

La pression du temps l'aggrave nettement. Les incitations financières combinées à un retour immédiat sur l'erreur la réduisent : la proportion de participants qui corrigent une IA fautive passe de 20 % à 42 %. Mais elle ne disparaît pas ; même dans ces conditions favorables, la majorité continue de suivre la mauvaise réponse. Côté individuel, le goût pour l'effort intellectuel et l'intelligence fluide protègent, tandis qu'une confiance élevée dans l'IA expose.

On retrouve presque terme à terme les facteurs du biais d'automatisation en médecine : le temps, la charge, la confiance, et parmi les leviers efficaces, la responsabilisation de l'utilisateur et la manière dont le système présente son conseil. Ce n'est pas une coïncidence. C'est le même phénomène, rendu plus fréquent par des outils plus convaincants.

Une difficulté demeure

Ces résultats ont leurs limites, et les auteurs les reconnaissent. Une seule famille de problèmes, conçue pour piéger l'intuition. Une seule exposition à l'outil. Des conditions de laboratoire.

Surtout, la vie réelle est moins favorable que l'expérience. Dans le protocole, les erreurs de l'IA sont connues et l'on peut compter les réponses fausses adoptées. Au travail, personne ne nous signale qu'une réponse était erronée. Le retour sur erreur, le levier le plus efficace de l'étude, est justement ce qui manque le plus au quotidien.

Quant aux effets durables, ils restent à mesurer. Deux travaux vont dans le même sens sans le démontrer. Chez des lycéens, l'accès libre à GPT-4 améliorait les exercices mais dégradait les résultats une fois l'outil retiré, sauf avec une version conçue pour protéger l'apprentissage (Bastani et al., 2025). Chez des endoscopistes, la détection des adénomes en coloscopie sans IA a baissé après l'introduction de l'IA dans les services, de 28,4 % à 22,4 %, dans une étude observationnelle (Budzyń et al., 2025). Ni l'un ni l'autre ne prouve que la reddition s'installe avec le temps. Les deux invitent à le vérifier.

Concevoir contre la reddition

Si le problème est la calibration, l'appel à la vigilance ne suffira pas. Demander aux utilisateurs d'être plus critiques face à un outil conçu pour être convaincant, c'est leur demander de compenser seuls un choix de conception. Plusieurs leviers relèvent de ceux qui conçoivent et déploient ces outils.

Faire répondre avant de montrer. Pour les décisions qui comptent, demander à l'utilisateur sa propre réponse avant d'afficher celle du système. L'engagement préalable oblige à construire, et rend l'écart visible.

Rendre l'incertitude lisible. Un modèle qui affiche le même aplomb quand il sait et quand il devine prive l'utilisateur du seul indice qui permettrait de calibrer sa confiance.

Informer plutôt que recommander. La littérature sur le biais d'automatisation l'indique depuis longtemps : présenter des éléments d'information plutôt qu'une conclusion réduit la tendance à s'en remettre au système.

Préférer les garde-fous pédagogiques. L'étude sur les lycéens le montre : le même modèle, réglé pour faire chercher plutôt que pour donner, protège l'apprentissage. Pour une école, un hôpital ou une entreprise qui déploie un assistant interne, c'est un paramètre de conception, pas un détail.

Mesurer la reddition. C'est peut-être le levier le plus simple et le moins utilisé. L'expérience de Wharton repose sur des réponses dont on connaît la justesse. Une organisation peut faire de même : glisser régulièrement, dans les flux de travail assistés, des cas tests dont la bonne réponse est connue, et suivre le taux de correction des erreurs de l'IA. Un audit de reddition, en somme, comme on audite la sécurité.

Enfin, organiser la contradiction. J'ai décrit dans une précédente chronique une méthode qui sépare une conversation principale, chargée de cadrer, de conversations courtes dédiées chacune à une tâche, dont l'humain relit la synthèse avant de la transmettre. Elle avait été pensée pour réduire la dépense énergétique. Elle a un autre effet : elle remet un acte humain de vérification entre deux réponses du modèle. C'est le même principe que la confrontation de plusieurs modèles dans des rôles différents : la synthèse finale ne quitte jamais l'humain.

La confiance se mérite, réponse par réponse

La question n'est pas de savoir s'il faut faire confiance à l'IA. Sur de nombreuses tâches, elle mérite davantage de confiance que notre intuition. La question est de savoir si notre confiance sait encore baisser quand l'outil se trompe.

Une confiance qui ne baisse jamais n'est plus de la confiance. C'est une habitude.

Sources