Illusions utiles : quand l'IA rassure trop et retarde le soin

Wadih Rhondali

IA utile, mais illusion de sécurité (rareté, données incomplètes, signaux faibles) : triage/ajustements ⇒ revue humaine.

Les chatbots et copilotes santé savent très bien expliquer, reformuler, orienter. Cette “compétence d’apaisement” est précieuse… mais elle peut fabriquer une illusion d’exactitude et de sécurité qui coûte des semaines sur des tableaux atypiques. L’enjeu n’est pas d’interdire l’outil : c’est d’encadrer son usage, rendre visibles ses zones d’ombre et installer un protocole d’escalade vers l’humain.

1) La promesse réelle de l’IA… et sa “précision perçue”

Dans la relation de soin, l’IA excelle sur trois registres :

Pédagogie (dédramatiser, vulgariser, traduire un jargon),

Synthèse (résumer un dossier, structurer des symptômes),

Orientation (conseils de premier recours, hygiène de vie, signaux d’alerte génériques).

Ce triptyque crée un effet collatéral : la précision perçue. La fluidité du texte, le ton assuré et la complétude apparente d’une réponse donnent l’impression d’un avis clinique abouti. Or un avis clinique, c’est aussi l’incertitude argumentée, la prise en compte de la rareté, du délai d’évolution, du bruit contextuel (médicaments, antécédents, facteurs de risque). Ce que les modèles généralistes ne voient pas… tant qu’on ne les y oblige pas.

À retenir : l’IA est performante dans le connu et le fréquent. Elle devient fragile sur l’atypique, l’incomplet et l’ambigu.

2) Trois angles morts à haut risque

a) Les pathologies rares et présentations atypiques
Les modèles apprennent des fréquences : plus un tableau est rare, plus le signal est faible. D’où des réponses “probabilistes” qui rassurent trop quand il faudrait s’inquiéter un peu.

b) Les données partielles et les délais
L’IA répond au texte qu’on lui donne, pas à l’histoire qui manque. Un symptôme isolé traité comme un ticket de support, sans traçabilité du temps (depuis quand ? progression ? facteurs aggravants ?), produit des conseils justes mais inadéquats au moment.

c) Les signaux faibles somato-psychiques
Anxiété masquée par des douleurs, douleurs masquées par des pensées anxieuses : ces “mélanges” requièrent l’examen clinique et la hiérarchisation du danger. Un chatbot peut proposer une auto-prise en charge raisonnable… là où un clinicien déciderait un examen sans délai.

3) Biais de surconfiance : côté patients et côté soignants

Côté patients : l’apaisement textuel réduit l’angoisse et repousse la consultation (“je verrai lundi”).
Côté soignants : avec un copilote, le risque est l’out-of-the-loop : on surveille moins car “l’assistant a co-rédigé”. Deux erreurs classiques :

Automation bias : on valide la suggestion par défaut ;

Perte graduelle de compétence : on consulte moins les référentiels, on examine plus vite.

Le correctif n’est pas de “désinstaller l’IA”, mais d’instrumenter le doute : expliciter l’incertitude, afficher les “red flags”, forcer la double lecture sur les décisions à fort impact.

4) Bon usage en première ligne : ce qui est autorisé / interdit

  • Autorisé (et souhaitable)

Éducation à la santé, hygiène de vie, psycho-éducation.

Réécriture simple (instructions, ordonnances standards validées en interne).

Checklists de préparation (consultations, bilans).

Aide à la structuration d’un récit clinique (sans se substituer à l’examen).

  • Interdit (ou strictement sous supervision)

Triage critique sans protocole d’escalade humain.

Ajustement personnalisé de traitement sans dossier complet ni examen.

Conseils qui découragent une consultation indiquée (“peu probable → attendre”).

Toute décision diagnostique ou thérapeutique non revue par un clinicien identifié.

5) Gouvernance : consentement, traçabilité, recours humain

Une IA utilisée “au chevet” exige un cadre simple et public :

  • Finalité : expliquer, structurer, orienter (pas diagnostiquer).
  • Consentement : ce que l’outil fait / ne fait pas ; comment sont gérées les données.
  • Traçabilité : horodatage, version du modèle, prompts sensibles, sortie retenue.
  • Escalade : critères obligatoires de passage à l’humain, avec délais (ex. “symptôme X + Y depuis >48 h ou intensité ≥7/10 → consultation dans la journée”).
  • Revue de cas : comité médico-tech mensuel, incidents anonymisés, apprentissages partagés.