L'illusion du contrôle n'est pas technique, elle est politique

Renforcement de la transparence de l'IA par l'UE, mais confusion persistante entre transparence et maîtrise réelle : pourquoi le vrai point de contrôle est l'environnement d'usage, pas le modèle.

Une question s'impose à nos sociétés, et nous ne l'avons pas encore pleinement mesurée : comment contrôler une technologie dont la diffusion progresse plus vite que notre aptitude à en maîtriser les risques ? On assiste à un basculement précis — le contrôle se déplace des modèles vers leur environnement d'usage. Le constat est juste, mais il touche à quelque chose de plus vaste que la seule régulation technique : notre confusion croissante entre transparence et maîtrise.

Être transparent n'est pas rester maître

La fermeture des modèles était censée garantir la sécurité. Elle se heurte pourtant à une double pression : certains réclament la levée de toute restriction sur les modèles ouverts, tandis que la recherche d'économies pousse vers des modèles moins coûteux, souvent moins contrôlés. Entre sécurité et compétitivité, entre souveraineté et coût, la contradiction paraît insoluble.

Début août, l'Union européenne est entrée dans une nouvelle étape de son règlement sur l'IA, renforçant les obligations de transparence. C'est un effort nécessaire. Mais un régulateur qui exige de savoir comment fonctionne un système n'offre aucune garantie que les administrations, les entreprises ou les collectivités qui le déploient conservent, en interne, la compétence de comprendre ce qu'elles regardent. Nous prenons la transparence pour de la maîtrise. Ce sont deux choses différentes, et c'est précisément là que se loge l'illusion du contrôle.

Une dépendance qui ne dit pas son nom

Ce glissement n'est pas propre à l'intelligence artificielle. Il prolonge un mouvement plus ancien : celui par lequel nos institutions ont, décision après décision, délégué à des plateformes privées des pans entiers de leur fonctionnement — le stockage de leurs données, l'analyse de leurs indicateurs, désormais une part de leur jugement. Chaque délégation, prise isolément, semblait rationnelle. Leur somme a produit une dépendance dont on ne prend la mesure qu'au moment où elle se dérobe : lors d'une panne, d'un changement de conditions commerciales, ou d'un rachat qui redistribue soudainement les cartes.

L'IA générative accélère ce mouvement plutôt qu'elle ne le crée. Elle ajoute une dimension nouvelle : ce n'est plus seulement l'infrastructure ou la donnée qui échappe à l'organisation, mais une part de sa capacité à décider elle-même. Un modèle qui rédige, synthétise, recommande ou tranche prend en charge un exercice de jugement que l'on croyait, jusqu'ici, irréductiblement humain et interne. Ce déplacement est silencieux, parce qu'il ne s'accompagne d'aucune rupture visible — seulement d'une lente accoutumance à ne plus exercer soi-même ce que l'on a délégué.

Le contrôle ne se loge pas où on le cherche

Depuis quinze ans, comme directeur des systèmes d'information puis comme responsable de la sécurité des systèmes d'information dans le secteur public, j'ai observé un phénomène constant : les crises technologiques ne sont presque jamais des crises de la technologie elle-même. Ce sont des crises de la capacité des organisations à comprendre, arbitrer et garder la main sur ce qu'elles ont choisi d'adopter. L'IA ne fait pas exception — elle l'illustre avec une intensité inédite, tant sa vitesse de diffusion dépasse celle de nos cycles de délibération collective.

Un modèle d'IA, fût-il le plus verrouillé du marché, ne permet pas à lui seul d'apprécier le risque. Celui-ci naît aussi — et souvent surtout — de l'interaction entre ce modèle et l'environnement dans lequel il est déployé : les données qu'on lui expose, les décisions qu'on lui délègue, la compétence — ou son absence — de ceux qui l'encadrent. C'est cet environnement, et non le modèle seul, qui constitue le véritable point de contrôle. Et c'est lui qui s'érode le plus souvent sans qu'on s'en aperçoive, parce que rien dans son fonctionnement quotidien ne signale la perte.

Ce que l'illusion du contrôle nous enseigne

La contradiction entre sécurité et compétitivité n'a pas de solution purement technique, et les lois, aussi nécessaires soient-elles, ne suffiront pas à la résoudre : leurs auteurs ne peuvent porter seuls la responsabilité d'une maîtrise qui se joue dans chaque organisation, à chaque décision d'adoption. Accepter cela, c'est admettre qu'aucun modèle, aussi encadré soit-il, ne dispensera une institution de construire sa propre capacité de discernement face à ce qu'elle déploie.

L'enjeu dépasse la seule conformité réglementaire. Il touche à la manière dont les administrations, les entreprises et, plus largement, la décision publique entendent gouverner leur dépendance croissante à des technologies dont elles ne maîtrisent ni la conception, ni toujours les usages qu'elles en font. Une société qui confond la transparence de ses outils avec sa capacité à s'en passer prend le risque de découvrir sa dépendance au moment où elle n'a plus les moyens d'y renoncer. La souveraineté numérique ne commence pas lorsqu'une IA se déclare. Elle commence lorsqu'une organisation reste capable de s'en passer.

Ce risque n'est pas hypothétique : il se traduit, très concrètement, par une érosion continue des compétences internes d'arbitrage — invisible tant qu'aucune crise ne la révèle, mais bien réelle à chaque décision où l'on renonce à comprendre pour se contenter de déléguer.