Agents IA : comment les RSSI doivent se préparer à leur déploiement
Les RSSI devaient apprendre à surveiller ChatGPT. Voilà maintenant qu'arrivent les agents IA. Contrairement à l'IA générative qui crée simplement du contenu à la demande, l'IA agentique est capable d'exécuter des commandes de façon autonome en interagissant avec d'autres outils. "Même si un agent IA n'est pas malveillant en soi, il a des privilèges exorbitants et son usage peut être détourné de façon malveillante par un attaquant qui interagit avec lui, ou en devenant incontrôlable. C'est pourquoi je suggère aux directeurs cybersécurité de considérer tout agent IA comme une potentielle menace cyber", affirme sans ambages Raphaël Marichez, chief security officer France et Europe du Sud chez Palo Alto Networks.
Problème : il arrive que ces agents IA soient développés de façon anarchique dans les organisations, par des salariés bien intentionnés qui ne prennent pas en compte leurs failles de sécurité. Car l'enfer est pavé de bonnes intentions, et le RSSI doit donc réguler leur usage dès maintenant, sans même attendre leur déploiement, conseille Odile Duthil, ancienne RSSI, directrice cybersécurité du groupe Caisse des Dépôts et présidente du Clusif. Cela passe par un cadre clair et un renforcement de sa collaboration avec la DSI.
Ecrire une PSSI dédiée aux agents IA
"La première chose que j'ai faite, et qu'un RSSI doit faire, est de mettre en place un cadre avant de déployer des agents IA. Car s'il n'y a pas de cadre, des collaborateurs pratiqueront le shadow AI et lanceront des agents IA de partout. Open Claw et les agents Hermes, ça s'installe en un claquement de doigts ! Et on leur donne facilement accès aux mails, au navigateur, et que sais-je encore", prévient Nicolas Prud'homme, CTO et RSSI d'Ekino, entreprise de conseil en transformation digitale. Pour lui, ce cadre doit être posé dans une politique de sécurité du système d'information (PSSI) spécialement dédiée aux agents IA. "Il faut que l'on soit clair sur les règles du jeu dès le départ et qu'elles servent les métiers. Car quand un collaborateur développe un agent dans son coin, il exprime en fait un besoin métier qui n'est pas couvert. Le RSSI doit donc répondre à son besoin mais avec les outils et les règles conformes à la PSSI de l'entreprise", ajoute Odile Duthil.
Cette PSSI comprend notamment "les cas d'usage d'agents IA autorisés, les données auxquelles ils peuvent ou non avoir accès, une classification de ces données par sensibilité, le niveau d'autonomie de ces agents, les cas d'usage nécessitant une supervision humaine, les règles sur leur transparence, les modèles autorisés, une méthode d'analyse de risques des agents avec un classement selon leur criticité pour savoir comment ils doivent être testés, à quelle fréquence, etc., affirme Nicolas Prud'homme. Par exemple, tel agent sera dit risqué de niveau 2, et il faudra donc le tester avant de le mettre en production. Tel autre sera de niveau 3, les tests seront donc plus approfondis".
La charte informatique aussi doit être modifiée pour intégrer des règles d'usage de ces agents opposables aux salariés. "Elle doit par exemple préciser les modèles que peuvent utiliser les collaborateurs. Dans la charte, la plupart des RSSI que je connais limitent très fortement le nombre de modèles qui peuvent être utilisés", précise Odile Duthil. Celle-ci reprend certaines règles de la PSSI, comme les cas d'usage autorisés, et doit être communiquée à tous les collaborateurs dès sa révision pour leur être opposable. "Ces règles permettent d'intégrer les idées des collaborateurs dans des processus qui les rendent opérationnelles, efficaces et de qualité".
Vers une nouvelle collaboration avec le chief data officer
"Chez nous, le premier besoin exprimé d'agent IA est venu de l'équipe commerciale. Le DSI s'est alors tourné vers moi pour me demander comment on allait faire. On a alors très rapidement travaillé ensemble pour répondre à ce besoin en conformité avec notre politique", se souvient Bruno Chéry, RSSI de Nomios, une entreprise de cybersécurité. Les agents IA présentent de tels risques que leur déploiement "renforce encore plus la collaboration", précise Odile Duthil. "On commence à travailler avec la DSI dès l'expression d'un projet d'agent IA afin d'être certain qu'il soit conforme à la PSSI que l'on a défini". "Au fur et à mesure que les besoins d'agents IA arrivaient, on renforçait notre politique conjointement, le DSI et moi-même, avec des règles sur la création des agents, des modèles, des projets, les manières de les tester, les règles d'accès, etc.", précise Bruno Chéry.
"L'IA a aussi rapproché les RSSI des chief data officer (CDO), ce qui est tout nouveau", observe Odile Duthil. Le CDO est chargé de piloter la stratégie, la gouvernance et la valorisation des données au sein d'une organisation. Il occupe donc une place centrale dans le déploiement d'agents IA, car leur efficacité ne vaut que par la qualité, la sécurité et la gouvernance des données auxquelles ils ont accès. C'est pourquoi le RSSI doit renforcer sa collaboration avec lui afin d'anticiper les besoins des métiers : "Voici ce qui se passe, désormais : les métiers vont voir la DSI et le RSSI avec un prototype d'agent IA. Ils expriment leur besoin, demandent à la DSI de leur fournir et de l'industrialiser dans le système d'information de l'entreprise. Et c'est là qu'intervient le CDO. Le RSSI doit en effet travailler avec lui pour savoir quelles données peuvent être utilisées pour tel ou tel projet d'agent IA, savoir si les données sont de qualité, cartographier les données, savoir si on peut les manipuler sans risques, si elles sont sensibles ou non, etc." Comme quoi, même s'ils peuvent semer le chaos, les agents IA ont un mérite : ils rapprochent RSSI et CDO.