Jusqu'où peut-on déléguer notre pouvoir aux agents IA ?

Les agents IA exigent une gouvernance stricte : identité propre, privilèges limités, traçabilité des actions et contrôle humain pour concilier autonomie, sécurité et confiance

Avec les agents, le risque change de nature. Une erreur ne se limite plus à une réponse fausse ou imprécise. Elle peut devenir une décision, puis une action dans le système d’information. Ce n’est plus seulement un risque de contenu, mais un risque d’exécution.

Selon le Capgemini Research Institute, les agents IA pourraient générer jusqu’à 450 milliards de dollars de valeur d’ici 2028 et 15 % des processus métier atteindre un niveau d’autonomie partielle ou totale dans les douze prochains mois. Plus ils entreront dans la chaîne de création de valeur, plus la maîtrise de leur pouvoir d’action deviendra une question de gouvernance autant que de cybersécurité.

Ne pas confondre délégation et transmission des privilèges

Le réflexe sera souvent de permettre à l’agent d’agir "au nom de" son utilisateur et de lui transmettre ses droits. Ce fonctionnement, déjà observé, serait une erreur.

Un directeur financier accède légitimement à la trésorerie, aux rémunérations, au reporting ou à certaines opérations stratégiques. Un agent chargé de rapprocher des factures n’a besoin que d’une fraction de ces privilèges. Lui transmettre l’identité du DAF revient à confondre le pouvoir de celui qui donne la mission avec celui qui l’exécute.

Un logiciel dispose de permissions. Un agent doit recevoir un mandat. Celui-ci doit reposer sur une identité propre, une mission déterminée, des ressources accessibles, une durée, des actions autorisées et une capacité de révocation. Son pouvoir effectif doit se limiter à l’intersection entre ses propres droits, ceux de l’utilisateur et ce que nécessite la mission. Jamais à leur addition.

Cette règle devient décisive lorsque les agents collaborent. Déléguer une tâche ne doit jamais permettre de déléguer davantage de pouvoir.

Ce sujet est déjà concret dans plusieurs entreprises, notamment dans le secteur bancaire, où des environnements d’IA générative sécurisés et gouvernés sont déjà déployés auprès des collaborateurs. À mesure que ces environnements évoluent vers des agents capables d’intervenir dans les processus métier, protéger les données ne suffit plus. Il faut aussi gouverner l’autorité donnée à la machine.

Donner une identité aux agents pour pouvoir leur donner de l’autonomie

La Cloud Security Alliance estime que les identités non humaines, comptes de service, clés d’API, certificats, jetons ou identifiants utilisés par des agents, sont déjà 45 fois plus nombreuses que les identités humaines en moyenne dans les entreprises.

Il faut donc savoir précisément qui agit. Cela suppose de distinguer l’Agent Owner, responsable de l’agent en production et de son cycle de vie, l’agent lui-même, doté de droits propres, et l’utilisateur pour lequel il intervient.

Cette gouvernance exige une traçabilité de bout en bout. L’entreprise doit pouvoir reconstituer les actions de l’agent, ses interactions avec le système d’information et les sources de données qu’il mobilise. Cette visibilité doit permettre de détecter les comportements non conformes, de déclencher des alertes ou des garde-fous et, pour les fonctions critiques ou sensibles, de maintenir une validation humaine tant que son fonctionnement n’a pas été suffisamment éprouvé.

La conséquence n’est pas de limiter l’autonomie des agents, mais de créer les conditions de la confiance. Plus une entreprise saura identifier ses agents, borner leur mandat, suivre leurs actions et conserver une capacité d’intervention humaine, plus elle pourra leur déléguer des responsabilités importantes.

Le débat sur la sécurité de l’IA s’est longtemps concentré sur les modèles, leurs données, leurs biais ou leurs hallucinations. Avec les agents qui exécutent, il doit désormais se déplacer vers l’architecture du pouvoir dans le système d’information.

Demain, la question ne sera plus seulement de savoir quelle IA utilise l’entreprise. Elle sera de savoir à qui elle a donné les clés de son système d’information, sous quelle identité et sous quel contrôle.