Les agents IA : nos pires ennemis ?

Les agents IA, bien que puissants, présentent des risques de sécurité majeurs. Les entreprises doivent intégrer des contrôles stricts d'identité et d'accès (IAM) pour gérer ces identités non humaines.

Dans l'imaginaire collectif, l'IA est principalement associée à l'IA générative - c'est-à-dire aux outils conversationnels ou aux outils de génération de contenu qui créent ce que les utilisateurs demandent. Mais l'IA inclut également l'IA agentique : apparue dès les années 1950-1960, les agents IA sont capables d'interpréter et de répondre aux entrées en langage naturel, d'analyser des données en temps réel et d'effectuer des actions pour le compte des utilisateurs. Ils fonctionnent souvent de manière presque autonome, ce qui soulève la question de savoir s'ils ne méritent pas eux aussi des contrôles d'identité plus stricts.

Plus que tout autre type d'identité non humaine, les agents IA ne transforment pas seulement les méthodes de travail au niveau tactique, mais conduisent également les entreprises à repenser leurs stratégies pour survivre et prospérer dans un marché mondial dynamique.

L'utilisation massive des agents IA pour améliorer la performance…

Une grande majorité des directeurs informatiques et des décideurs IT, tels que les responsables de la sécurité des systèmes d'information, considèrent désormais l'IA comme essentielle à leur stratégie d'entreprise, que ce soit pour le codage et le développement de logiciels ou pour la création de contenu et la créativité.

Pour les dirigeants, les agents IA présentent des avantages significatifs : augmentation de la productivité, réduction des coûts, amélioration de l'expérience client et rationalisation des flux de travail, ainsi que des améliorations dans la prise de décision, la scalabilité et l'innovation grâce à leur adoption.

Cependant, pour accomplir leurs missions, les agents IA doivent parfois accéder aux données, systèmes et ressources de l'entreprise. Et plus leur accès est large, plus ils peuvent accomplir de tâches. Il est alors tentant, surtout dans cette phase actuelle d'exploration et d'expérimentation "débridée", de leur donner les clés du royaume.

…n'est pas sans risques...

Paradoxe : les chiffres montrent que l'analyse prédictive et la prévision, par exemple, ne sont plus considérées comme des cas d'utilisation privilégiés dans le déploiement des agents IA. Cela indique-t-il que les entreprises ont réalisé qu'elles devaient maintenir le contrôle sur le développement de la stratégie ? Ou est-ce peut-être la prise de conscience que l'intelligence humaine devrait mieux accompagner l'intelligence artificielle ?

Car des agents IA mal conçus, mal déployés ou mal gérés peuvent laisser la porte ouverte à de nouveaux vecteurs d'attaque, en particulier l'injection de prompts et la prise de contrôle de compte (ATO). Même en l'absence d'intention malveillante, des comportements inattendus peuvent potentiellement conduire à des violations, nuire à la réputation de l'entreprise et entraîner des infractions aux exigences réglementaires.

Et sur ce point, il y a un consensus partagé parmi les dirigeants d'entreprise et les directeurs informatiques : les principales préoccupations concernant l'IA sont évidemment les risques liés à la confidentialité des données et à la sécurité, tant en termes de gravité (leur principale préoccupation) que de fréquence (le plus fréquemment cité).

Cela soulève la question de la gestion des identités des agents IA, qui diffère de la gestion des identités humaines en raison de différences essentielles. Un facteur majeur est que l'agent IA combine la vitesse d'une machine avec l'autonomie d'un humain. Cette capacité à prendre des décisions, plutôt que de simplement exécuter un script, représente un changement de paradigme qui rend les outils traditionnels de gestion des identités et des accès (IAM) obsolètes pour la gestion des agents.

Et nécessite une attention particulière.

Il faut garder à l'esprit que les agents IA n'ont de responsabilité envers aucune personne en particulier. Ils ont un cycle de vie court et dynamique nécessitant une provision et une déprovision rapides, et s'appuient sur diverses méthodes d'authentification non humaines telles que les jetons API et les certificats cryptographiques. Ils nécessitent des permissions très spécifiques et granulaires pour des périodes limitées et accèdent souvent à des informations sensibles, nécessitant un contrôle strict pour éviter une escalade prolongée des privilèges. Leur propriété est en outre difficile à tracer, compliquant les audits et l'application de mesures correctives après une violation.

Il n'est donc pas surprenant que les dirigeants considèrent la gestion des identités et des accès (IAM) comme un élément essentiel de leur stratégie IA : une grande majorité d'utilisateurs sont désormais convaincus de l'importance de l'IAM pour une adoption et une intégration réussies de l'IA au sein de leur organisation. Plusieurs raisons sont citées : la confidentialité et la sécurité des données, mais aussi la conformité et le respect des réglementations.

Les entreprises et les organisations se trouvent désormais à un carrefour critique, entre le désir de développer des agents IA et la capacité des organisations à s'adapter aux nouvelles exigences, qu'elles soient réglementaires, de gouvernance ou de conformité. La réalité est que trop peu d'entreprises ont une stratégie ou une feuille de route bien définie pour gérer ces identités non humaines.

Avec l'interconnexion et l'autonomie croissantes des identités non humaines, leur gestion deviendra la fondation essentielle de la confiance et de la sécurité, tant au sein de l'entreprise que dans les interactions avec les parties prenantes : appliquer le même niveau de gouvernance au personnel numérique qu'aux employés humains, adopter une approche de sécurité par conception et les intégrer dans l'écosystème de gestion et de sécurité des données - ce sont les priorités que nous devons collectivement établir.

À travers ces défis, l'IA agentique nous rappelle l'importance de ne pas faire aveuglément confiance à un outil, aussi puissant soit-il. Les agents IA sont finalement de simples identités non humaines à traiter comme les autres, ou peut-être même avec une plus grande prudence puisqu'au-delà de leur utilité, ils peuvent potentiellement être un vecteur d'attaque supplémentaire.