La gouvernance des agents IA : la prochaine bombe à retardement des DSI
Dans les prochaines années, les grandes entreprises géreront davantage d'identités non humaines que d'utilisateurs humains. Cette transformation a déjà commencé.
Dans les prochaines années, les grandes entreprises géreront davantage d'identités non humaines que d'utilisateurs humains. Agents IA, assistants autonomes, robots logiciels et workflows intelligents accéderont aux données, interagiront avec les applications et exécuteront des actions au nom des collaborateurs.
Cette transformation a déjà commencé.
Un agent IA peut aujourd'hui consulter une fiche client dans un CRM, rechercher des informations dans une base documentaire, préparer une proposition commerciale, mettre à jour plusieurs systèmes puis transmettre une synthèse à un collaborateur. Les gains de productivité sont réels. Les questions de gouvernance le sont tout autant.
Qui lui a donné ces droits ?
Qui contrôle les données auxquelles il accède ?
Qui est responsable si une information confidentielle est transmise au mauvais destinataire ou si une action incorrecte est exécutée ?
Pendant des décennies, les entreprises ont construit leurs modèles de gouvernance autour de deux catégories d'acteurs : les utilisateurs et les applications. L'arrivée des agents IA remet en question cet équilibre.
Les DSI ont passé la dernière décennie à reprendre le contrôle du Shadow IT, du Shadow SaaS et de la prolifération des applications dans l'entreprise. Pourtant, un nouveau phénomène est déjà en train d'émerger, souvent hors de tout cadre de gouvernance : les agents IA.
Le problème n'est pas leur existence. Le problème est que la plupart des organisations les abordent encore comme de simples outils de productivité alors qu'ils deviennent progressivement des acteurs opérationnels à part entière.
Comme souvent en matière de transformation numérique, la technologie avance plus vite que la gouvernance.
L'agent IA n'est plus un simple assistant
Pendant plusieurs années, l'intelligence artificielle est restée relativement simple à encadrer. Les collaborateurs interrogeaient un assistant, obtenaient une réponse, puis restaient responsables de l'action.
Cette frontière commence à disparaître.
Les nouveaux agents ne se contentent plus de répondre. Ils exécutent.
Ils recherchent des informations dans plusieurs applications, mettent à jour des données, créent des tickets, génèrent des rapports ou déclenchent des workflows.
Un agent commercial peut préparer une proposition à partir des données du CRM. Un agent support peut analyser un ticket, consulter une base documentaire et proposer une résolution. Un agent RH peut préparer des synthèses à partir de multiples sources internes.
Ces usages créent une rupture importante. Pour la première fois, des entités logicielles dotées d'une certaine autonomie accèdent directement aux systèmes d'information et agissent sur ceux-ci.
Or nos modèles de gouvernance n'ont pas été conçus pour cela.
Pendant vingt ans, nous avons gouverné deux types d'identités
Depuis des décennies, les systèmes d'information reposent sur une distinction relativement simple.
D'un côté, les utilisateurs.
De l'autre, les applications.
Les premiers disposent d'une identité, de permissions et de responsabilités. Les secondes exécutent des traitements selon des règles prédéfinies.
Toute la gouvernance numérique moderne s'est construite autour de ces deux catégories.
L'arrivée des agents IA change la donne.
Un agent n'est pas un collaborateur. Pourtant, il peut agir au nom d'un collaborateur.
Un agent n'est pas une application classique. Pourtant, il peut accéder à plusieurs applications simultanément et prendre certaines décisions dans un cadre défini.
Cette position intermédiaire crée une zone grise que les modèles actuels peinent à adresser.
La plupart des organisations sont donc confrontées à une nouvelle réalité : elles doivent désormais gouverner une troisième catégorie d'identités numériques.
Et c'est précisément là que commencent les difficultés.
Le risque n'est pas l'IA. Le risque est l'absence de cadre.
Lorsqu'une nouvelle technologie apparaît, les entreprises concentrent naturellement leurs efforts sur les usages et les gains potentiels.
Les agents IA n'échappent pas à cette règle.
Les métiers expérimentent, automatisent et cherchent à gagner du temps. Cette dynamique est saine. Mais elle peut rapidement produire les mêmes effets que ceux observés avec le Shadow IT ou les premiers services cloud.
Combien d'agents sont actuellement utilisés dans l'entreprise ?
Qui les a créés ?
À quelles données accèdent-ils ?
Quelles actions sont-ils autorisés à effectuer ?
Qui est responsable de leur comportement ?
Dans beaucoup d'organisations, ces questions restent sans réponse.
Le danger n'est pas l'existence des agents. Le danger est leur prolifération sans modèle de gouvernance adapté.
Quatre principes pour gouverner les agents IA
Les DSI n'ont pas besoin de réinventer entièrement leurs pratiques. En revanche, ils doivent les adapter à cette nouvelle catégorie d'acteurs numériques.
Quatre principes me semblent essentiels.
1. Attribuer une identité propre à chaque agent
Aujourd'hui, de nombreux agents héritent implicitement des droits de leur créateur ou de leur utilisateur.
Cette approche atteint rapidement ses limites.
Chaque agent devrait disposer d'une identité clairement identifiable, d'un propriétaire désigné et d'un périmètre d'action explicite.
L'objectif est simple : savoir à tout moment qui agit, au nom de qui et dans quel cadre.
On ne devrait jamais avoir à se demander si une action a été réalisée par un collaborateur ou par un agent.
2. Appliquer le principe du moindre privilège
Les agents doivent disposer uniquement des accès nécessaires à leur mission.
Un agent chargé d'assister une équipe commerciale n'a pas besoin d'accéder aux données RH. Un agent marketing n'a pas besoin d'intervenir dans les systèmes financiers.
Ce principe est bien connu en cybersécurité. Il devient encore plus important lorsque des entités sont capables d'opérer de manière autonome et à grande échelle.
La question ne devrait pas être :
"À quoi peut accéder cet agent ?"
Mais plutôt :
"De quoi cet agent a-t-il réellement besoin pour accomplir sa tâche ?"
3. Rendre chaque action traçable
La confiance repose sur la visibilité.
Chaque action réalisée par un agent devrait pouvoir être auditée.
Quelles données ont été consultées ?
Quelle décision a été prise ?
Quelle action a été exécutée ?
Dans quel contexte ?
Cette exigence ne relève pas uniquement de la sécurité. Elle devient indispensable pour comprendre les comportements, corriger les erreurs et démontrer la conformité des processus.
Un agent qui agit sans traçabilité devient rapidement un risque opérationnel.
4. Maintenir une supervision humaine
L'autonomie ne doit jamais supprimer la responsabilité.
Tous les processus ne présentent pas le même niveau de risque. Certaines tâches peuvent être largement automatisées. D'autres nécessitent un contrôle humain systématique.
La capacité à définir ces frontières deviendra l'un des rôles clés des DSI dans les prochaines années.
La question n'est pas de choisir entre automatisation et contrôle humain. Elle consiste à déterminer où placer intelligemment le curseur.
Une responsabilité qui dépasse la seule DSI
L'erreur serait également de considérer la gouvernance des agents IA comme un sujet purement technique.
Les enjeux concernent la sécurité, mais également la conformité, les ressources humaines, les directions métiers et parfois même la gouvernance d'entreprise.
Qui peut créer un agent ?
Qui valide ses permissions ?
Qui contrôle son périmètre d'action ?
Qui porte la responsabilité lorsqu'un incident survient ?
Ces questions nécessitent des réponses organisationnelles autant que technologiques.
Comme pour le cloud ou les données, les entreprises les plus matures seront probablement celles qui aborderont le sujet de manière transverse plutôt que comme un simple projet informatique.
Gouverner avant de subir
L'histoire du numérique montre un schéma récurrent. Les usages arrivent toujours avant les règles qui les encadrent.
Les smartphones sont arrivés avant les politiques BYOD.
Le cloud est arrivé avant les stratégies de gouvernance cloud.
L'IA générative est arrivée avant la plupart des chartes d'usage.
Les agents IA suivent aujourd'hui la même trajectoire.
La bonne nouvelle est que les DSI disposent encore d'une fenêtre de tir. Le sujet reste émergent. Les usages sont nombreux mais encore en construction.
C'est précisément le moment de définir les principes qui permettront d'encadrer leur développement.
Car la véritable bombe à retardement n'est probablement pas l'intelligence artificielle elle-même.
C'est le risque de voir émerger, dans les systèmes d'information, des milliers d'agents capables d'agir, d'accéder à des données et de prendre des initiatives sans que l'entreprise n'ait clairement défini les règles qui encadrent leur existence.
Et comme souvent en matière de gouvernance, les organisations qui agiront tôt disposeront demain d'un avantage décisif sur celles qui attendront que le problème devienne visible.