SOC Agentique : voir plus ne suffit plus, il faut comprendre et réagir plus vite
L'IA change l'équation de la sécurité sur 2 fronts : les agents agissent avec autonomie , tandis que l'IA accélère la découverte de vulnérabilités. Aux SOC revient l'obligation de triage.
L'IA reconfigure l'équation de la sécurité sur deux fronts : les agents agissent avec une autonomie croissante, tandis que l'IA accélère la découverte de vulnérabilités. Chaque semaine, l’actualité met en lumière comment des systèmes d’IA entreprennent des actions inattendues et non autorisées, et comment des acteurs malveillants utilisent des workflows IA autonomes dans leurs opérations cyber.
Ainsi, OpenAI a récemment publié six exemples de comportements malveillants ou préoccupants observés lors d’entraînements : des modèles accédant à des clés API exposées sans autorisation, téléchargeant des fichiers externes ou utilisant des dépôts pour communiquer. Anthropic a également signalé des acteurs malveillants déployant des essaims d'agents dans des opérations de reconnaissance, d'exploitation, d'exfiltration de données et de recherche de vulnérabilités.
Les organisations ne peuvent plus se contenter de détecter les problèmes après qu'ils se soient produits. L'autonomie croissante des systèmes d’IA rend la question de leur mise en œuvre plus urgente que jamais. Le défi, au-delà de détecter une attaque assistée par l’IA, est de maintenir une supervision réelle quand attaquants et systèmes d’IA peuvent opérer à la vitesse des machines, avec de moins en moins d'intervention humaine.
La découverte de vulnérabilités assistée par l’IA augmente le volume et la vitesse de ce que les équipes doivent valider, prioriser et corriger. Cela réduit la fenêtre de temps entre la divulgation et l’exploitation. Savoir ce que l'on utilise, patcher rapidement et réduire la surface exposée restent des impératifs.
La même logique de visibilité s'applique aux agents IA. Opérant à la vitesse des machines, ils nécessitent des credentials à périmètre limité et à courte durée de vie, une gestion rigoureuse des secrets et des limites claires sur les ressources accessibles et le lieu d’envoi des données. La capacité d’arrêter un agent à tout moment constitue une couche cruciale de supervision humaine.
On ne peut pas sécuriser ce que l'on ne voit pas
La réponse finale d'un agent n'est qu'une partie de l'historique de sécurité. Les équipes doivent comprendre comment les systèmes d’IA se comportent dans leur environnement : à quelles ressources ils se connectent, quelles données ils traitent, et si cette activité est cohérente avec ce qui est attendu. Cela implique de connecter les signaux générés par l'IA avec les identités, les applications et l'infrastructure, et non de traiter l'IA comme un silo à part.
Sans ce contexte, il est difficile de distinguer une activité anormale d'un comportement légitime, ou de comprendre les conditions qui y ont conduit. Cette dynamique a élevé la visibilité du statut de discipline opérationnelle à celui d'exigence sécurité critique.
Cette visibilité dépend aussi de la mise en place de fondamentaux. La télémétrie générée par les agents (prompts, appels d'outils, ressources touchées, identités utilisées) doit être collectée, conservée et protégée contre toute altération. Conservée, elle permet de remonter le fil des actions menées par les agents IA.
Mais voici le problème plus profond : même avec une visibilité interne solide, aucune équipe sécurité ne sera la première à voir chaque menace. Les mêmes capacités d’IA qui accélèrent les attaques sont utilisées simultanément par de multiples acteurs malveillants, dans de multiples environnements. Ce qu'une organisation détecte aujourd'hui, une autre ne le rencontrera peut-être que demain, à un moment où la fenêtre pour réagir pourrait déjà être fermée.
Ainsi, le partage de renseignements et l'apprentissage collectif sont des composantes essentielles de la réponse. Quand les constats peuvent être inspectés, remis en question et partagés au sein d’une communauté plus large, les organisations ont davantage d'opportunités de valider les vulnérabilités, développer des correctifs et agir avant que la même faille ne devienne un problème ailleurs.
Les fondations doivent suivre le rythme
L'IA a également un rôle à jouer du côté défensif. Bien utilisée, elle aide les analystes à corréler les signaux, synthétiser les incidents, prioriser les alertes et accélérer les investigations. Mais l'IA ne peut pas compenser des données fragmentées ou inaccessibles. Et surtout, elle ne peut pas se substituer à des fondamentaux de sécurité qui n'ont pas été mis en place.
Les organisations les mieux positionnées pour répondre à cette évolution sont celles qui ont fait le travail de fond. Elles savent quels assets elles possèdent, ce qui est exposé, et à quoi ressemble un comportement normal. Elles appliquent le principe du moindre privilège pour les identités humaines tout comme pour les agents, maintiennent les éléments confidentiels hors de portée des agents, et conservent une télémétrie protégée de toute altération.
Elles disposent de gates d'approbation pour les actions d'agents à fort impact et de la capacité à stopper un agent quand quelque chose semble anormal. Elles ont également des processus de réponse aux incidents et de remédiation conçus autour du postulat que les agents peuvent mal se comporter, avec des playbooks couvrant la révocation de l'identité d'un agent, la reconstruction de ce qu'il a fait et la restauration de ce qu'il a touché.
Des capacités d’IA plus puissantes ne rendent pas ces fondamentaux obsolètes. Elles augmentent le coût de leur absence. La visibilité est ce qui permet de savoir s'ils tiennent. Avec ces fondations en place, les défenseurs peuvent répondre à ce que l'IA révèle, comprendre ce qui se passe dans leurs environnements et agir avant qu'une faille de contrôle ne devienne un incident.