Souveraineté numérique : la face cachée du plan IA à 655 millions d'euros

L'État investit 655 M€ pour équiper ses agents d'assistants IA. Un projet certes ambitieux, mais qui apporte son lot de défis en matière de cybersécurité.

Le gouvernement français a récemment annoncé un plan d'investissement de 655 millions d'euros dans l'intelligence artificielle, avec pour objectif d'équiper 2 millions de fonctionnaires d'un assistant IA souverain. L'ambition de l’Etat est d’automatiser les tâches répétitives, moderniser les services publics et simplifier la relation avec les citoyens.

La promesse est forte. Mais comme tout grand projet de modernisation, celui-ci comporte sa part de défis : le déploiement, la formation des agents, la conduite du changement. Un enjeu, pourtant, dépasse tous les autres par son ampleur : injecter d'un coup 2 millions d'assistants virtuels dans l'appareil d'État revient à créer 2 millions de nouvelles identités numériques. Et c'est un défi inédit pour la cybersécurité nationale.

Des identités humaines aux identités machines

Sécuriser un agent de la fonction publique repose sur des méthodes éprouvées : horaires encadrés, authentification multi-facteurs, sensibilisation aux e-mails piégés. Ces dispositifs s'appuient tous sur un même principe. En effet, le comportement humain reste, dans une large mesure, prévisible.

C’est une toute autre affaire pour une identité non-humaine. Un assistant IA fonctionne en continu, exécute des requêtes à une vitesse que l'humain ne peut égaler, et n'a ni fatigue ni instinct de méfiance face à une instruction suspecte. Les outils classiques de gestion des identités et des accès, pensés pour des utilisateurs humains, ne sont pas adaptés à cette nouvelle réalité.

La différence se joue aussi sur l'ampleur des dégâts possibles. Si le compte d'un agent territorial est piraté, l'accès obtenu reste limité. Si une identité machine est détournée, l'attaquant peut siphonner des volumes massifs de données, automatiquement et en quelques secondes. La sécurité informatique, jusqu'ici construite autour du comportement humain, devra demain composer avec des millions d'identités machines qui interagissent entre elles sans supervision directe. Sans une adaptation rapide des modèles de sécurité, cette mutation laisse entrevoir des failles qui pourraient se propager à une vitesse impossible à maîtriser.

Donner les clés sans laisser la porte ouverte

Pour être réellement utile, un assistant IA doit accéder à des données sensibles (état civil, administration fiscale, dossiers de santé, registres fonciers). C'est là tout le paradoxe du projet : plus l'outil est performant, plus il doit être introduit au cœur du système d'information de l'État.

Le risque, c'est qu'un assistant devienne malgré lui une porte d’entrée vers ce système. Pour éviter cette situation, le principe du moindre privilège doit être repensé pour l'IA. Il ne s'agit plus d'attribuer des droits fixes une fois pour toutes, mais de gouverner les accès de façon dynamique : l'assistant ne devrait consulter que les données strictement nécessaires à sa tâche, et seulement le temps de l'exécuter. Un même agent ne devrait jamais pouvoir, dans la foulée, extraire une donnée confidentielle et la transmettre vers un service externe sans validation intermédiaire. Aucun assistant ne doit bénéficier d'une confiance automatique sous prétexte qu'il se trouve sur le réseau interne. Chaque échange entre applications doit être vérifié et encadré, au niveau le plus précis possible.

Une surface d'attaque démultipliée

Deux millions de nouvelles identités virtuelles, c'est aussi deux millions de nouvelles portes d'entrée potentielles pour un attaquant. Des menaces spécifiques à l'IA émergent déjà : la prise de contrôle du canal de communication d'un assistant pour lui faire exécuter des ordres illégitimes, l'injection d'instructions malveillantes destinées à contourner ses garde-fous, ou encore des attaques automatisées menées à grande échelle.

Le risque est systémique. Si un groupe d'assistants partagés par une administration est compromis, l'attaque peut se propager par rebond vers d'autres services connectés. Les cybercriminels l'ont bien compris : la faille ne se cache plus seulement dans le réseau, mais dans la logique même des modèles et dans les permissions qui leur sont accordées.

Cinq chantiers pour sécuriser l'IA dans l'administration

Pour réussir ce plan sans fragiliser la sécurité nationale il faudra mener plusieurs chantiers en parallèle :

• Cartographier en continu l'ensemble des identités non-humaines, des agents IA et des jetons d'accès en circulation.
• Renforcer l'authentification des accès aux API et automatiser la rotation fréquente des secrets utilisés par les assistants.
• Détecter les anomalies de comportement : volume inhabituel de requêtes, accès hors périmètre, horaires atypiques.
• Désigner un responsable clair pour chaque assistant déployé, chargé de son audit et de son maintien en condition de sécurité.
• Intégrer les assistants virtuels comme des identités à part entière dans la stratégie globale de gestion des accès de l'organisation.

Anticiper plutôt que subir

La souveraineté numérique ne se résume pas à une question géographique. Elle réside aussi dans la capacité de l'État à garder le contrôle sur la façon dont ces technologies permettent d’accèder à son patrimoine informationnel, le manipulent et le protègent.

Face au déploiement de ces 2 millions d'assistants, l'urgence est à l'anticipation. Sécuriser les identités machines avant la mise en production est la seule option pour éviter d'avoir à gérer des failles systémiques une fois les systèmes déjà en place. Cet enjeu dépasse largement les frontières françaises dans la mesure où toute nation qui choisit d'intégrer massivement l'IA au cœur de sa puissance publique devra répondre, tôt ou tard, à la même équation de sécurité.