Gouvernance IA : l'obligation déjà opposable n'est pas de conserver les journaux, c'est de les lire

Le 9 novembre, la Cnil a prononcé dix sanctions pour manquements de sécurité. L'un des manquements retenus déplace le calendrier que la plupart des programmes de gouvernance IA ont adopté.

Le 9 novembre 2026, la Cnil a frappé direct : dix sanctions simplifiées coup sur coup visant des collectivités territoriales et un établissement public. Les amendes grimpent de 3 000 € à 20 000 € (le plafond légal sur ce type de procédure). Au cœur des dossiers ? Des manquements bruts à l’article 32 du RGPD sur la sécurité des traitements, doublés de l’absence d’analyse d’impact (article 35) pour deux d'entre eux.

Sur le papier, le catalogue des failles ressemble à un inventaire classique :

Authentification à distance bancale, y compris sur des accès admin sans MFA
Prestataires et éditeurs tiers connectés en permanence au réseau sans contrôle au cas par cas, ou via des identifiants partagés par plusieurs salariés
Segmentation réseau absente ou mal pensée
OS obsolètes et mots de passe légers
Systèmes mis en prod sans la moindre homologation préalable, pourtant exigée par le RGS

Mais au milieu de tout ça, une ligne mérite un arrêt net pour n'importe quelle boîte qui déploie de l'IA aujourd'hui : "les mesures déployées afin de détecter les comportements anormaux étaient inefficaces". La Cnil enfonce le clou en pointant une journalisation lacunaire et des logs laissés à l'abandon, jamais exploités en temps réel ou à court terme.

L'enseignement est brutal. Ce qui prend une praline ici, ce n'est pas le fait de ne pas avoir gardé de traces : c'est de ne jamais les avoir regardées.

Le piège du calendrier de la gouvernance IA

Quand j'observe la construction des programmes de gouvernance IA en entreprise, le réflexe quasi systématique consiste à tout verrouiller autour de la conservation des données. L'AI Act européen impose d'ailleurs au fournisseur puis au déployeur d'archiver les journaux générés par les systèmes à haut risque pendant au moins six mois (si les logs sont sous leur contrôle). Bref, une obligation de stockage documentaire : la trace existe, elle a une date, un proprio identifié.

Sauf que ce volet n'est absolument pas applicable aujourd'hui. Les exigences du chapitre III ne tomberont que le 2 décembre 2027 pour les systèmes de l'annexe III, et le 2 août 2028 pour ceux de l'annexe I — selon le calendrier calé par l'article 113 suite au règlement omnibus (UE) 2026/1744.

En revanche, l'obligation qui s'impose dès maintenant ne parle pas d'archivage passivement stocké sur un serveur. Elle parle d'exploitation concrète. Sa base juridique ? L'article 32 du RGPD, effectif depuis 2018. La Cnil vient de sortir son barème et rappelle au passage qu'elle consacre en 2026 la moitié de ses contrôles à la sécurité.

Résultat des courses : attendre 2027 pour s'occuper des logs IA, ce n'est pas juste un retard de calendrier. C'est tromper d'épreuve.

Deux épreuves, deux logiques économiques

Le test de conservation relève de la possession matérielle : le log existe-t-il, depuis quand, chez qui ?

Le test d'exploitation relève de la capacité opérationnelle : qui l'a ouvert, sous quel délai, avec quel constat ?

Passer le premier tout en se ramassant sur le second est le scénario le plus courant, tout simplement parce que les coûts n'ont rien à voir. Conserver est un arbitrage d'architecture réseau qu'on règle une fois pour toutes à la mise en place. Exploiter demande un effort humain continu : des personnes dédiées, une fréquence d'analyse et un seuil d'alerte défini.

Avec des agents IA autonomes, le gouffre entre les deux approche son maximum :

Le volume d'événements généré par action utile est démesuré
Le comportement étant non déterministe, la ligne de base d'un "comportement normal" est constamment mouvante
Le journal d'audit est produit par le système même qu'il a pour rôle de surveiller

Ce que l'argument juridique ne sauve pas

L'AI Act n'oublie pas la surveillance post-déploiement et demande bien au déployeur de garder un œil sur les systèmes à haut risque. Mais cette contrainte suit l'agenda du chapitre III et reste alignée sur la notice du fournisseur. De son côté, l'article 32 du RGPD ne s'embarrasse pas de notices : il exige une mesure proportionnée au risque réel, dont l'autorité juge la pertinence a posteriori.

Parmi les griefs retenus dans la décision du 9 novembre, deux autres situations collent parfaitement aux architectures IA actuelles :

L'accès permanent non filtré d'un prestataire ou via un compte générique : c'est le schéma d'intégration par défaut de la plupart des connecteurs, copilotes d'entreprise ou agents agissant avec une identité de service globale
La mise en prod sans homologation : la grande majorité des boîtes déploient des assistants IA sans le moindre examen formel préalable, d'autant qu'aucune règle européenne n'impose encore ce filtre au déployeur

La feuille de route immédiate

Pour faire le point cette semaine sur chaque brique d'IA déjà en production, trois vérifications suffisent :

Complétude des logs : Trace-t-on l'ensemble du spectre — non seulement les prompts entrants, mais aussi l'impact du système sur les bases de données et les outils tiers ?

Traitement réel : Qui passe ces journaux en revue, à quelle régularité, et à partir de quel déclencheur d'alerte ?
Périmètre des droits : Les identifiants accordés au système sont-ils nominatifs, temporaires et validés au cas par cas, ou permanents et partagés ?
Aucune de ces questions ne peut attendre 2027 pour être tranchée.

Face à un audit sur vos journaux d'IA, la première question ne sera jamais de savoir si vous les avez archivés dans un coin. Ce sera de savoir qui les a lus, et combien de temps il a fallu pour réagir.