Proofpoint dégaine son arsenal contre les hackers qui s'appuient sur l'IA
Comme l'a prouvé la cyberattaque qui a paralysé plusieurs aéroports européens le week-end du 20 et 21 septembre, les cybermenaces continuent de faire des ravages. Et la majorité d'entre elles passe par les boîtes mail. Plus de neuf attaques sur dix démarrent ainsi par un courriel d'hameçonnage.
Selon les données collectées par le FBI, les tentatives d'hameçonnage demeurent, et de loin, la première forme de cyberattaque, et leur fréquence, ainsi que leur efficacité, ne cessent de croître grâce à l'essor de l'IA générative. Depuis la sortie de ChatGPT, ces attaques se sont accrues de 5 151%, d'après une étude de SlashNext, une société de cybersécurité. Des recherches conduites par la Harvard Business Review affirment quant à elles que "l'intégralité du processus d'hameçonnage peut être automatisée en utilisant de grands modèles de langage, qui permettent de réduire les coûts de ces attaques de 95%, le tout avec un taux de succès égal, voire supérieur". L'IA générative est utilisée par les hackers pour rédiger des lignes de code, ou encore écrire sans faute dans une langue qu'ils ne maîtrisent guère, augmentant à la fois l'efficacité et le volume des attaques.
Gérer les agents d'IA comme des humains
De récentes recherches montrent également que les agents d'IA comme Copilot et Gemini, qui connaissent une popularité croissante au sein des entreprises, peuvent être facilement manipulés par les cyberattaquants, qui les utilisent comme des portes d'entrée dans les réseaux de leurs proies. En effet, ces agents, s'ils sont bien pratiques, augmentent aussi la surface d'attaque potentielle pour les cybercriminels. De plus en plus inclus dans les processus de travail, ils sont conçus pour se comporter comme des travailleurs humains. Ainsi, tout comme nous, ils cliquent sur des liens, effectuent des actions, partagent des documents et des données. Ils peuvent donc eux aussi être piégés ou manipulés grâce à des techniques d'ingénierie sociale, dans lesquelles les hackers excellent.
C'est donc logiquement que Proofpoint, entreprise américaine de cybersécurité spécialisée dans la protection des boîtes mail, met en place des solutions pour parer cette nouvelle menace.
"La prochaine étape pour la cybersécurité va consister à aller au-delà des personnes pour protéger également les agents d'IA, en particulier au moment où ceux-ci collaborent et partagent des données. Notre mission est de faire en sorte que nos clients puissent adopter l'IA en toute confiance, en sachant que nous les protégerons, eux et leurs données, contre les menaces", a déclaré Sumit Dhawan, patron de l'entreprise, lors de sa conférence annuelle qui se tient à Nashville.
Dans les allées du luxuriant Gaylord Resort, un immense hôtel qui reproduit l'architecture typique du vieux Sud des Etats-Unis, faite d'imposantes demeures aux hautes colonnes de marbre blanc, le tout au milieu d'une jungle luxuriante et de multiples cascades, on croise des visiteurs de tous horizons et de tous secteurs, réunis par une priorité : limiter les risques de se faire pirater, avec la perspective de tout perdre. "Nous avons eu quelques problèmes, mais heureusement rien de majeur pour le moment. Mais la crainte d'une attaque massive qui paralyserait tout est omniprésente", témoigne la directrice de la cybersécurité d'une chaîne d'hôpitaux du Midwest. Le patron d'une entreprise de ventes de bateaux affirme de son côté avoir perdu 100 000 dollars dans une cyberattaque, ce qui l'a convaincu de s'intéresser à la cybersécurité et à Proofpoint.
Eviter les fuites de données accidentelles ou volontaires
Parmi les annonces produits effectuées par Proofpoint cette année, figure d'abord une nouvelle technologie qui bloque automatiquement les prompts utilisés par les cybercriminels pour tenter de manipuler les agents d'IA comme Copilot et Gemini via des courriels d'hameçonnage. Des manipulations qui visent à obtenir des informations confidentielles de la part de ces IA afin d'extraire des données précieuses ou de préparer la prochaine étape de l'attaque. Ces courriels malfaisants seront désormais automatiquement bloqués avant qu'ils atteignent les boîtes mail des clients de Proofpoint, le meilleur moyen de s'assurer qu'un courriel d'hameçonnage demeure inoffensif étant qu'il n'arrive jamais à sa destination.
Mais empêcher les hackers de chercher à piéger les agents d'IA ne suffit pas. Certaines tentatives d'hameçonnage passeront forcément entre les mailles du filet. En outre, sans même évoquer une cyberattaque, il est possible que les agents d'IA commettent des erreurs et divulguent des données confidentielles. Pour éviter cela, Proofpoint a également annoncé l'outil Secure Agent Gateway. Construit sur le Model Context Protocol, un protocole standard ouvert conçu pour connecter des modèles d'IA à des outils, services et sources de données externes, Secure Agent Gateway permet de contrôler en permanence à quelles données les agents d'IA ont accès, de surveiller les activités et de requérir une validation humaine chaque fois qu'un agent d'IA s'apprête à partager des données sensibles avec un humain ou un autre agent.
Une autre solution également annoncée lors de l'événement vient compléter cette dimension. Proofpoint Data Security Complete permet aux entreprises de facilement localiser leurs données sensibles, de contrôler qui y a accès, et de surveiller en permanence comment les utilisateurs interagissent avec elles, que ce soit via email, sur le web, dans les applications ou dans le cloud. La classification est assurée automatiquement et de manière dynamique pour minimiser le besoin d'interventions humaines. La solution permet par ailleurs de cartographier les risques et d'y remédier en un clic. Une autre solution, Proofpoint AI Data Governance, permet enfin aux employés de facilement déterminer quels usages de l'IA et des données sont autorisés ou non au sein de l'entreprise.
"Un usage sécurisé de l'IA implique une stratégie de sécurité et gouvernance des données unifiée. Malheureusement, les entreprises font aujourd'hui face à un paysage fragmenté, avec des solutions technologiques fournies par de nombreux vendeurs. Il est donc très difficile d'avoir de la visibilité et un contrôle de chaque composante pour les humains et agents d'IA. Le but de notre cartographie des risques est d'apporter cette visibilité", a commenté Sumit Dhawan lors de son intervention.
Un agent d'IA au service de la cybersécurité
Enfin, les agents d'IA ne sont pas seulement un risque pour les équipes cyber : ils peuvent également épauler celles-ci. Proofpoint a annoncé un agent de cybersécurité baptisé Satori, capable d'accomplir différentes tâches de cyberdéfense. Il peut par exemple alerter automatiquement les équipes en cas de fuite de données, réaliser des simulations de tentatives d'hameçonnage pour vérifier que les défenses de l'entreprise sont bien au point, ou encore aider les utilisateurs à repérer les emails contenant des tentatives d'hameçonnage.
Satori est de plus conçu pour interagir avec d'autres agents d'IA, comme Microsoft Copilot et Crowdstrike Charlotte (un autre agent de cybersécurité), afin de collaborer au service de la cyberdéfense. Satori permet enfin aux employés dépourvus de compétences en programmation d'interagir en langage naturel pour accomplir des actions de cybersécurité.