L'empoisonnement des données : une menace croissante pour le secteur de la santé

Alors le domaine de la santé s'appuie de plus en plus sur l'IA, cette technologie peut conduire à des actes d'ingérence et de sabotage des systèmes, notamment grâce à l'empoisonnement des données.

D’après un rapport récent de l’Organisation mondiale de la santé (OMS), près de 75 % des États membres de l’Union européenne utilisent déjà des outils d’intelligence artificielle (IA) dans le domaine de la santé, notamment pour l’imagerie médicale, la détection de maladies et l’aide à la décision médicale.

L’IA transforme les soins de santé en améliorant la prévention, le diagnostic et le traitement des maladies. Face à des populations vieillissantes et à des soins toujours plus complexes, elle aide les cliniciens à prendre des décisions plus éclairées. L’IA contribue également au développement de la télémédecine, offrant aux professionnels de santé les outils nécessaires pour interpréter les résultats d’examens à distance et prendre en charge un plus grand nombre de patients.

Ce marché, estimé à 50 milliards de dollars d’ici 2025 et appelé à dépasser les 1 000 milliards de dollars d’ici 2035, a rapidement été investi par les leaders de l’IA. Des outils tels que ChatGPT Health et Claude for Healthcare illustrent cette tendance avec des solutions destinées à informer le public et à accompagner les professionnels de santé.

Au mois de mai, le CHU de Nice a lancé SKIN, un Tiers-Lieu d’Expérimentation visant à réduire les délais d’attente pour les consultations de dermatologie, qui varient actuellement de 100 jours à plus de 18 mois dans certaines régions, et à améliorer l’accès aux soins dermatologiques grâce à l’IA.

Risques et conséquences de l’empoisonnement des données

L’IA peut faciliter des actes d’ingérence sophistiqués – reposant sur de nouvelles méthodes – menés par des attaquants qui se servent de l’empoisonnement des données (data poisoning) pour compromettre ou saboter un système d’IA. En injectant de fausses données dans le processus d’entraînement, les cybercriminels peuvent induire le système en erreur.

Des études récentes, notamment celle menée par l’Université Carnegie Mellon, ont montré que la modification de seulement 0,1 % des données d’entraînement peut altérer le comportement d’un modèle d’IA. De plus, une étude publiée en octobre 2025 par des chercheurs des universités d’Oxford (Royaume-Uni) et de Zurich (Suisse), de l’Alan Turing Institute et de l’AI Security Institute (Royaume Uni), et d’Anthropic a révélé que seulement 250 documents corrompus suffiraient à causer des dommages sur l’ensemble des modèles testés, quelle que soit leur taille.

Ces attaques sont particulièrement préoccupantes dans le secteur de la santé, où la fiabilité des modèles d’IA est cruciale. Par exemple, si un modèle de diagnostic est entraîné sur des données d’imagerie médicale corrompues, il pourrait identifier à tort un tissu sain comme un indicateur de maladie ou ne pas détecter une affection grave, ce qui pourrait influencer les décisions cliniques et les résultats pour les patients. Au-delà du diagnostic, des données empoisonnées peuvent également affecter la recherche clinique en compromettant l’intégrité des résultats des essais, tandis que les jeux de données manipulés pourraient exposer des informations sensibles sur les patients et créer de nouveaux risques de sécurité au sein des systèmes de santé. Ces menaces sont particulièrement difficiles à détecter lorsque les données corrompues sont dissimulées dans de vastes jeux de données complexes utilisés par les établissements de santé qui gèrent d’énormes volumes de dossiers médicaux et d’informations cliniques.

Prévenir l’empoisonnement des données : les sauvegardes immuables, ultime ligne de défense

Des outils tels que les contre-mesures anti-phishing fondées sur l’IA, la détection par l’IA des malwares, des deepfakes et du clonage de voix, ainsi que les solutions de neutralisation des attaques par empoisonnement des données, constituent des avancées significatives. Toutefois, ils n’éliminent pas complètement le risque, car les menaces générées par l’IA s’adaptent, à l’instar des virus, et les attaquants modifient constamment leurs tactiques pour contourner les dispositifs de protection.

Devant ces menaces, capables de contourner aisément les mécanismes de défense traditionnels, un stockage de sauvegardes doté d’une immutabilité absolue est désormais crucial. Ce type de stockage veille à ce que même l’administrateur aux privilèges les plus élevés ou un attaquant ayant accès à l’infrastructure informatique, y compris au stockage des sauvegardes, ne puisse ni modifier ni supprimer les données de sauvegarde. Un stockage de sauvegardes à immutabilité absolue garantit qu’il est toujours possible de récupérer les données, même en cas de défaillance des outils de détection, de dysfonctionnement des assistants d’IA ou de prise de contrôle par des acteurs malveillants.