IA : l'État en généralise l'usage, il lui reste à gouverner la décision

L'État généralise l'IA dans l'administration. Le prochain défi : garantir des décisions traçables, explicables et sous responsabilité humaine grâce à une architecture adaptée.

1 million. C'est le nombre d'agents publics que l'État s'apprête à équiper d'un assistant IA, au terme d'un plan doté de 655 millions d'euros. C'est aussi une puissance publique qui reconnaît, dans le même temps et par la voix de la CNIL et du Conseil de l'IA et du numérique, ne plus toujours savoir à qui imputer une décision prise par un système autonome. Cette contradiction n'est pas un procès à instruire. C'est le vrai chantier de la rentrée : après l'usage, la gouvernance de la décision. Et il ne se joue ni dans le choix du modèle, ni dans celui de l'hébergeur, mais dans l'architecture.

L'IA est déjà là, et la décision est l'angle mort

Avant même que l'État ne généralise son assistant conversationnel, l'IA avait déjà pénétré les administrations, en passant par la petite porte. L'enquête publiée avec le plan Notre IA le confirme : 89 % des agents déclarent déjà utiliser l'IA, et 55 % le font via des outils grand public que leur administration n'a pas validés. Si ce shadow AI atteint des environnements aussi exigeants en matière de sécurité que les services de l'État, comme il atteint d'ailleurs les grandes entreprises, c'est qu'aucune organisation n'y échappe. Le plan de généralisation n'est donc pas une audace : c'est une reprise de contrôle sur un usage déjà diffusé hors cadre. La démarche est nécessaire. Elle n'est pas suffisante.

Car les mêmes autorités qui accompagnent ce déploiement décrivent un risque plus profond. En avril, l'ANSSI déconseillait le déploiement en production d'agents autonomes sur les postes de travail. En juillet, la CNIL et le Conseil de l'IA et du numérique constataient qu'à mesure que les systèmes gagnent en autonomie, il devient difficile d'identifier qui répond d'une décision, et que l'origine d'un dysfonctionnement se perd dans des chaînes de traitement opaques. Les cas les plus sensibles sont faciles à imaginer : une aide indûment refusée sans que l'on puisse dire quelle règle a joué, ou une donnée erronée en amont qui se propage en cascade d'un service à l'autre jusqu'à fonder une décision qui engage un usager.

L'assistant d'aujourd'hui rédige et synthétise, sous le contrôle de l'agent public. Mais la trajectoire décrite par les autorités elles-mêmes mène de l'assistant à l'agent : de l'aide à la rédaction à la préparation, puis à la prise de décision. C'est à ce seuil que se pose la vraie question, celle de l'auteur de l'acte.

Passer de la boîte noire au choix de l'architecture

On ne peut pas laisser les données de millions de Français, et les décisions qui les concernent, aux mains d'un système dont personne ne peut restituer le raisonnement. Une subvention instruite, un dossier pré-traité, un droit ouvert ou refusé : derrière chaque acte administratif, il doit y avoir une logique explicable et un responsable identifiable. Une boîte noire, aussi souveraine et aussi bien hébergée soit-elle, ne le permet pas. Le droit administratif ne connaît pas la décision sans auteur : un acte doit être imputable à une autorité, motivé, susceptible de recours. C'est cette chaîne que l'autonomie mal maîtrisée vient rompre.

La bonne nouvelle, c'est que des solutions existent, et qu'elles ne relèvent pas d'une prouesse technologique à venir mais d'un choix d'architecture. Un agent autonome peut être bâti de deux façons. Dans la première, il improvise sa logique au fil de l'exécution : c'est la boîte noire, et c'est elle qui creuse le vide de responsabilité. Dans la seconde, la logique de décision est définie et validée en amont, au moment de la conception. Les règles, les seuils, les points de contrôle humain et les cas d'exception sont arrêtés avant tout déploiement. L'agent n'invente pas la règle, il exécute un processus tracé, explicable et opposable.

Pour l'instruction d'une demande d'aide, les critères d'éligibilité, les pièces requises, les seuils et le point de validation humaine des cas limites sont définis et approuvés au moment de la conception. L'agent rassemble les éléments du dossier, applique les règles pré-validées et oriente vers un agent public tout cas ambigu. Chaque décision reste alors rattachable à une règle et à la personne qui l'a validée. L'autonomie porte sur l'enchaînement des actions, jamais sur le fondement de la décision.

Le workflow reste ainsi la priorité : c'est lui qui garantit que chaque acte demeure rejouable, motivé et rattachable à une intention documentée, donc à un auteur. À l'heure où le règlement européen sur l'IA entre en application, cette traçabilité n'est plus une élégance, c'est une condition d'exercice. Et le droit français ne dit pas autre chose. Dès 2018, le Conseil constitutionnel a admis la décision administrative fondée sur un algorithme, mais a explicitement exclu qu'elle repose sur un système révisant seul les règles qu'il applique, sans le contrôle et la validation de son responsable. Loin d'être un frein à l'IA dans l'État, cette exigence est un cahier des charges. Un système gouverné à la conception y répond par construction, et transforme la supervision humaine, exigée par la CNIL et par la jurisprudence européenne comme une intervention réelle et effective, en une propriété de l'architecture plutôt qu'en une validation de façade.

La vraie souveraineté, c'est maîtriser la décision

C'est ainsi qu'il faut comprendre la souveraineté que recherche l'État. Elle ne s'arrête pas au choix du modèle ou de l'hébergeur, ni même aux 655 millions d'euros engagés dans les infrastructures. Elle se joue dans la capacité à garder la main sur la logique appliquée à des millions d'actes publics. Maîtriser l'infrastructure sans maîtriser la décision ne serait qu'une demi-souveraineté. Et en matière de données personnelles et de responsabilité publique, une demi-souveraineté n'en est pas une.

L'État a franchi vite la première étape, celle de l'usage. Reste la seconde, la seule qui bâtira la confiance des citoyens : gouverner la décision. La question n'est pas de savoir si l'administration utilisera l'IA. Elle l'utilise déjà. Elle est de savoir si, derrière chaque décision qui engage un usager, il restera un auteur identifiable. C'est un choix d'architecture. C'est donc, entièrement, entre nos mains.