Gouvernance, données, identité : les 3 piliers pour maîtriser l'IA agentique
La vraie révolution de l'intelligence artificielle n'est pas conversationnelle : elle est opérationnelle. On peut débattre des LLM, mais la rupture se matérialise désormais à travers l'IA agentique.
La bascule est déjà engagée. Un simple environnement Microsoft Copilot permet d'ores et déjà à un utilisateur de créer son propre agent, de le connecter à des applications métier et de transmettre une partie de ses droits. Ironie du sort : c'est l’entreprise qui permet de le faire sans avoir généralement décidé comment elle souhaite les gouverner, et surtout, parfois même sans en avoir conscience.
L'agent n'est toutefois pas dangereux par nature ; ce qui l'est, c'est plutôt son installation dans les processus sans cadre commun. Si un collaborateur contourne une étape alors qu'un autre automatise la même tâche différemment, alors plusieurs agents finissent par coexister sur un même périmètre. C’est à ce moment que l'entreprise laisse échapper la maîtrise de ses modes de fonctionnement.
L’agentique ne crée donc pas seulement un problème de gouvernance. Elle fait aussi émerger de nouveaux risques, qu’ils concernent l’intégrité de la donnée, la sécurité, les coûts ou encore la réputation de l’entreprise, par exemple. Elle place surtout les entreprises face à un dilemme assez simple : adopter des nouveaux usages sources de nouvel élan de compétitivité, sans pour autant faire une croix sur la maîtrise de ces nouveaux usages.
Et pour ce faire, la seule formule valable passe par la maîtrise de la gouvernance de l’IA, des flux de données qui l’alimentent et des droits d’accès qui lui sont accordés. C’est ce triptyque - gouvernance, données et identité - qui constitue le socle de l’adoption. Là où la gouvernance fixe le cadre, la donnée détermine ce que l’agent peut voir et manipuler puis l’identité définit ce qu’il a réellement le droit de faire.
Ce faisant, la sécurité n’a donc pas vocation à ralentir l’agentique et même bien au contraire, elle permet de l’encadrer suffisamment pour pouvoir en libérer l’usage et l’adoption.
La gouvernance comme point de départ
La sécurisation de l'IA commence par la maîtrise de son environnement d'exécution, et donc pas nécessairement par le modèle lui-même. C’est d'ailleurs précisément pour cela que la gouvernance constitue la fondation de toute adoption agentique.
Car le vrai sujet arrive avec la multiplication des agents. Sur le terrain, quelques-uns suffisent déjà à faire émerger des usages parallèles. Demain, une entreprise pourra en compter des milliers voire bien plus. À cette échelle, impossible de les laisser se créer et évoluer sans cadre commun. Chaque agent doit donc être traité comme un collaborateur numérique.
Lorsqu’une entreprise ouvre un poste, elle définit une mission, un périmètre et des responsabilités, puis elle attribue des accès adaptés à cette fonction. L’agent doit donc répondre à la même logique et disposer d’une finalité précise, d’un ensemble de données auquel il peut accéder et d’un processus qu’il exécute.
Ce cadre est d'ores et déjà plus que nécessaire, car avec l'agentique la gouvernance ne s'arrête plus tout à fait à la seule définition d'un rôle. Elle encadre aussi tant la manière dont l'agent travaille que le contrôle de ses résultats. C'est cette distinction qui impose de faire évoluer les réflexes habituels. Car si l'IT classique repose sur des systèmes déterministes, avec des comportements attendus et des contrôles relativement prévisibles, un agent peut produire un résultat incomplet, erroné ou simplement inattendu.
C'est donc la manière de gouverner qui évolue. Il ne suffit plus de contrôler les accès ou le bon fonctionnement technique du système : il faut aussi contrôler ce qui en sort, être capable de détecter un résultat anormal, de le bloquer puis de corriger avant remise en service. Et c'est précisément tout l'intérêt de la norme ISO42001. Là où ISO27001 structure la gouvernance de la sécurité de l'information, l'ISO42001 apporte un cadre adapté aux systèmes IA et à leur caractère non déterministe. Elle permet de documenter les usages, les responsabilités, les contrôles et les réponses à apporter lorsqu'un système ne produit pas le résultat attendu.[EE1]
Mais ce serait oublier que l’agentique ne se gouverne pas uniquement avec des règles et des outils : la formation est tout aussi essentielle et permet aux utilisateurs de mieux comprendre ce qu’un agent peut faire, le paramétrer, le prompter et surtout d’en tirer un gain réel de productivité. À mesure que les usages se diffusent, cette acculturation devient indispensable pour éviter que l’adoption ne parte dans tous les sens et pour faire de l’agent un véritable outil d’assistance, plutôt qu’un automatisme mal maîtrisé.
De la gouvernance au contrôle de la donnée et des identités
On aura compris que si la gouvernance donne le cadre, elle n’a de valeur que si elle se traduit concrètement dans la donnée et les droits d’accès. Premier avantage : ces deux derniers sujets n'ont rien de nouveau et sont bien connus des entreprises. Toutefois, l'agentique, à travers sa capacité à traiter la donnée dans différents processus, entraîne l'urgence de la maîtrise de la connaissance de ces mêmes données. Par connaissance, on entend alors ce qui est le plus exposé ou le niveau de sensibilité. C'est même le nerf de la guerre puisqu'on parle bien de la donnée de l'entreprise qui pourrait partir et alimenter d'autres modèles ou même la concurrence.
Le sujet qui (ré)émerge mécaniquement est ainsi celui du marquage de la donnée. Si les projets de DLP (Data Loss Prevention) ont longtemps peiné à s'imposer, du fait de leur caractère lourd et coûteux notamment, l'arrivée de l'agentique change désormais complètement le niveau de priorité. Ce qui trouvait difficilement un budget sous l'étiquette DLP ou DSPM devient beaucoup plus simple à défendre dès lors qu'on parle de contrôle de la donnée pour l'IA. Et pour cause : sans donnée marquée, impossible de savoir ce qu'un agent peut consulter, ce qu'il peut transmettre à un modèle externe ou ce qui doit rester strictement cantonné à un environnement interne.
Presque paradoxalement, l'IA contribue également à simplifier ce chantier de marquage. En effet les nouvelles solutions sont capables d'analyser beaucoup plus finement le contenu des fichiers et d'automatiser une partie du labelling, là où une partie de ces tâches incombaient encore souvent à l'utilisateur.
Reste ensuite l'autre moitié du sujet : l'identité. Là encore, les entreprises savent déjà gérer des droits et des comptes, mais l'agentique introduit une nouvelle catégorie d'identités non humaines qu'il faut traiter comme telles. Un agent ne peut pas simplement hériter de tous les privilèges de son créateur. Il doit disposer de politiques propres, de droits limités à sa mission et d'une capacité d'action précisément définie, notamment entre lecture et écriture.
Au fond si le sujet paraît complexe la logique est assez simple : la gouvernance fixe le cadre, la donnée marquée permet de savoir ce qui peut être utilisé et l'identité détermine jusqu'où l'agent peut agir. C'est en revenant à ces fondamentaux que l'entreprise peut encadrer durablement la puissance de l'agentique, sans courir derrière chaque nouvelle évolution technologique.
J'ai fait le choix de ne pas évoquer ici le sujet du Human in the Loop (HITL). Eric parlait principalement d'usages prospectifs, à venir, rien d'immédiat ou encore ancrés dans le marbre.
Je peux l'ajouter si besoin, ou si j'ai mal compris le propos, mais sinon ca ne me semble pas hyper pertinent. A votre écoute sur ce sujet.