IA & Santé : lignes de faille

La confiance ne naît pas d'un lac de données, mais d'un système : finalité clinique claire, minimisation, traçabilité, "chaîne du froid" des données et revue mensuelle clinique–data.

Dans un hôpital, un tableau de bord scintille ; au chevet, l’information manque. Entre la promesse d’“avoir tout” et la réalité d’“avoir ce qu’il faut, au bon moment”, il y a la gouvernance. La valeur d’une IA ne vient pas d’un lac de données, mais d’un système de confiance : qui collecte quoi, pourquoi, comment, sous regard clinique, avec droit au doute et capacité à remonter la chaîne.

1) Quand ça brille à l’écran… mais pas au chevet

On m’appelle pour un patient anxieux, déjà passé par urgences et consultation rapide. Dans le dossier, des chiffres impeccables ; dans la vie réelle, un symptôme clé sans date. La machine conclut “peu urgent” — elle n’a pas tort si ce symptôme a trois jours, elle se trompe dangereusement s’il a trois semaines. Le problème n’est pas l’algorithme, c’est l’absence de temporalité fiable. La data n’a pas failli par manque de volume, mais par manque de contexte.
Moralité : la donnée n’est pas neutre. Elle raconte une histoire ou elle la désordonne. Notre travail n’est pas d’en empiler plus, mais d’en orchestrer mieux.

2) Mettre la clinique au volant (et pas en caution)

La gouvernance utile commence au niveau des scènes de soin. Un Comité Clinique–Data court, mensuel, avec un ordre du jour identique, change tout : un cas d’usage prioritaire, un point qualité, un arbitrage d’accès, un retour d’incident. On sort de la croyance “la tech va ranger le réel” pour entrer dans “la clinique guide la tech”.
Le langage commun s’installe : un médecin référent par filière, un data steward qui regarde la complétude et la fraîcheur, un DPO qui campe la transparence, un RSSI qui pense la panne avant qu’elle n’arrive. On n’empile pas des rôles ; on dessine une scène où chacun sait quoi faire quand ça bloque.

3) Ce qui doit être écrit, simplement

Un “contrat d’usage” n’est pas un roman. C’est une page que tout le monde peut lire. On y trouve la finalité clinique (quel problème on résout, pour qui), la minimisation (quels champs strictement nécessaires), la protection (pseudonymisation par défaut et limites connues), la traçabilité (qui a regardé quoi et quand), la réversibilité (comment sortir proprement du dispositif).
Écrit noir sur blanc, ce cadre évite deux illusions : croire que “tout est permis parce que c’est interne”, et croire que “rien n’est possible parce que c’est la santé”. Entre les deux, il y a la voie praticable.

4) Architecturer la confiance : penser “chaîne du froid”

Une donnée de santé se dégrade si on la manipule sans règles. La métaphore utile n’est pas le “lac”, c’est la chaîne du froid. On sait d’où vient chaque information (lignage), on distingue les zones brut (bronze), nettoyé (silver), prêt clinique (gold) avec critères d’entrée simples et visibles.
On versionne les jeux de données et les modèles : qui a changé quoi, quand, pourquoi. On blinde l’identité patient (doublons, collisions) pour ne pas mélanger des vies. Et, surtout, on surveille la qualité en continu : taux de champs vides, valeurs aberrantes, retards de mise à jour. Le jour où ça tombe, on sait où est la rupture et comment réparer sans paralyser le soin.

5) Mesurer là où la valeur se crée

On peut tout compter et ne rien améliorer. Mieux vaut trois mesures qui parlent au terrain qu’un mur de métriques. Par exemple : le délai entre premier contact et consultation quand l’IA oriente vers la psy ; le taux de doublons évités (examens re-prescrits inutilement) ; la complétude de quelques champs cliniques clés (datation des symptômes, traitements en cours).
Ces indicateurs ne “font pas joli” ; ils guident une décision. Ils disent vite si la donnée aide un patient précis à un moment précis.

Appel à l’action

Ne cherchez pas “plus de data”. Cherchez mieux de data, plus souvent relue. Installez votre Comité Clinique–Data, écrivez la page qui encadre un cas d’usage, réparez un champ qui manque, mesurez trois choses qui comptent. C’est modeste ; c’est ainsi que la confiance s’installe.