Cynthia Kaiser (Halcyon) "Il existe quatre catégories d'outils IA utilisés par les cybercriminels"

Après vingt ans passés à la division cybersécurité du FBI et désormais vice-présidente senior du Grand Seminar Research Center d'Halcyon, Cynthia Kaiser a accepté de répondre à nos questions lors d'une rencontre à Infosecurity Europe, à Londres.

JDN. Pourquoi avoir quitté le FBI après vingt ans au sein de sa division cybersécurité pour rejoindre le privé ?

Cynthia Kaiser. J'ai toujours pensé que les meilleurs praticiens cumulaient une expérience dans le public et le privé. Au moment de choisir une entreprise, j'ai regardé autour de moi, et le monde des start-up m’a semblé le plus stimulant. Lui seul permet d’être à la pointe des technologies et de contribuer à les façonner.

Celle que développe Halcyon, à savoir une approche technique pour bloquer les rançongiciels, m’a tout de suite attirée, car j’ai passé beaucoup de temps de l’autre côté à intervenir en réponse à une attaque. L'idée de pouvoir empêcher l’attaque en amont était donc vraiment attrayante.

Vous êtes entrée au FBI avant la vague du cloud, sans même parler de celle de l’IA. La nature des cyberattaques et la façon d’envisager la cybersécurité ont sans doute beaucoup évolué au cours de cette période…

La criminalité en ligne a bien sûr drastiquement augmenté. Elle a aussi changé de nature. Il y a encore une dizaine d'années, on faisait principalement face à des attaques visant à nuire (des DDoS pour mettre des sites hors ligne, du défacement, des compromissions de messagerie professionnelle), ainsi qu’à quelques opérations d'espionnage très ciblées.

Aujourd’hui, le type d’attaque principal est devenu le rançongiciel, qui a augmenté de 20% depuis 2023. Ces attaques sont en outre devenues beaucoup plus rapides (parfois moins d'une heure s'écoule entre l'accès initial et l'attaque complète) et plus nombreuses. Les cybercriminels sont en train de voler la richesse d'une génération entière.

Est-ce que les acteurs privés sont montés en puissance au détriment des acteurs étatiques ?

La nature des attaquants a effectivement changé, mais de manière un peu plus subtile que cela. Il y a une dizaine d'années, les acteurs étatiques étaient les plus dangereux, car ils étaient les seuls à avoir la capacité et les moyens de mener des attaques sophistiquées. Aujourd'hui, non seulement la cybercriminalité s’est démocratisée, mais la frontière entre acteur criminel et acteur étatique s’est également brouillée. Certains Etats autorisent par exemple leurs fonctionnaires à faire du "moonlighting", à agir comme cybercriminels pendant leur temps libre. Tant qu'ils se présentent au travail le lendemain, l'Etat ferme les yeux. Certains groupes étatiques recrutent des organisations criminelles pour mener des activités en leur nom. Il y a aussi des groupes clairement étatiques qui essaient de se faire passer pour des entités criminelles, c’est par exemple le cas de l’Handala Hack Team, en Iran.

Enfin, la dernière grande évolution est que les Etats ont pleinement intégré le volet cyber dans leur stratégie militaire. Celui-ci fait désormais clairement partie de leurs efforts de guerre. La Russie a mené des opérations cyber contre l'Ukraine, l'Iran a conduit des attaques destructrices contre l'Albanie quand il était mécontent de la présence de certains dissidents politiques dans le pays, tout en faisant passer cela pour une attaque de rançongiciel à motif pécuniaire.

Ce qui nous amène à un autre changement majeur : la plus grande discrétion des acteurs. Qu'il s'agisse de louer des serveurs privés virtuels pour quelques minutes seulement, ou des techniques dites de "living off the land" (se fondre dans le réseau, utiliser des outils natifs, et effacer ses traces), les criminels disposent de davantage d’options pour se camoufler. C'est ce qui rend leur identification beaucoup plus difficile et contribue à brouiller les pistes. Cela permet à des acteurs comme l’Iran et la Russie de jouer sur le chaos et la confusion : on est quasiment sûr que des attaques viennent d’eux, sans pouvoir les leur attribuer avec certitude.

Vous étiez aux premières loges lors de l’invasion de l’Ukraine par la Russie. Avez-vous été surprise par l’effort cyber russe ou était-il conforme à ce que vous attendiez ?

Nous avions vu la Russie monter en puissance et mener ce type d'activités pendant des années, donc les tactiques en elles-mêmes ne m'ont pas étonnée. Ce qui m'a surprise, en revanche, c'est de voir à quel point ils ont concentré tous leurs efforts sur l'Ukraine, au point que l'on n'a pas vu, du moins publiquement, autant d'opérations russes ciblant d’autres pays depuis. Ils ont dédié tellement de ressources à l'Ukraine que cela s’est fait au détriment d'une partie de leur activité cyber mondiale.

Depuis la sortie de ChatGPT fin 2022, on évoque beaucoup la menace des cyberattaques automatisées de A à Z, sans aucune intervention humaine. Est-ce quelque chose que vous avez déjà vu se produire ?

Je n’ai pour l’heure rien vu de tel, mais il faut dire que l’écosystème des rançongiciels, sur lequel je me concentre depuis l’an passé, est très différent de celui des Etats-nations. Un pays comme la Chine, qui dispose de dizaines de milliers de hackers, a sans doute les moyens de déployer des équipes entières pour essayer de développer des attaques entièrement agentiques, mais l’on n’en voit en tout cas pour l’heure pas l’impact sur leurs opérations.

Mais à partir du moment où vous êtes un cybercriminel motivé par l’appât du gain, avec une méthode qui fonctionne, un taux de réussite très élevé, allez-vous vraiment changer votre fusil d'épaule pour expérimenter un type d'opération entièrement agentique ? Ce genre d’acteur préfère attendre que les choses soient davantage testées et approuvées.

Les acteurs du rançongiciel ont cependant bel et bien commencé à intégrer l'IA, notamment dans l'accès initial. Il est plus facile de tromper avec l'IA, la fenêtre de temps entre la découverte d'une faille et son exploitation se réduisent, on voit aussi apparaître des attaques zero-days.

L'IA est aussi largement utilisée par les criminels amateurs, ceux qui n’auraient jamais été capables de mener une attaque avec succès hier. Ces attaques ne sont pas très sophistiquées, pas très efficaces, souvent le rançongiciel ne fonctionne même pas correctement, on ne peut pas déchiffrer les données même en achetant un déchiffreur. Ils continuent donc d’échouer la plupart du temps, mais passer de 0% à 5% de réussite, c’est déjà énorme pour ce type d’acteur.

Votre intervention lors de la conférence à Infosecurity Europe, à Londres, était justement centrée sur les outils d'IA utilisés dans le milieu cybercriminel. Pouvez-vous nous en dire plus ?

Nous avons identifié quatre catégories distinctes. La première, ce sont les LLMs sombres, pensez par exemple à WormGPT, qui existe depuis un moment. Ils se présentent comme des LLMs sans restrictions. Ils peuvent être un wrapper autour de DeepSeek, ou d'autre chose. WormGPT, par exemple, serait enroulé autour d'une couche Grok, ou peut-être Mistral. Ils pivotent à partir de ces modèles existants. Certains sont des arnaques, d'autres sont réels. On voit aussi du jailbreaking, avec par exemple des identifiants ChatGPT qui circulent sur le Darknet, des prompts pour contourner les restrictions, etc.

Ensuite, la fraude d'identité augmentée par l'IA est de plus en plus populaire : hameçonnage, clonage vocal pour des faux appels, vidéos deepfake.... Les clonages vocaux, notamment, sont tellement bons qu'on voit de plus en plus d'échanges et de transactions autour d’eux. Les vidéos ne sont pas encore au niveau, même si les progrès sont impressionnants. Cela inclut toutes les façons de contourner les processus KYC, les vérifications d'identité que font les institutions financières, etc.

Enfin, il y a aussi les attaques rendues plus puissantes via l’IA. Nous avons par exemple identifié des services de centres d’appel entièrement gérés par IA, capables de passer 120 appels simultanés dans 25 langues différentes, et de simuler les bruits de clavier qu'on entend dans un vrai centre d’appel. C'est un service qu'on peut louer sur le Darknet pour faire de l'ingénierie sociale en se faisant passer pour une vraie entreprise.  On a aussi vu quelques cas de logiciels malveillants créés par l’IA disponibles à la vente.

Ce qui est peut-être le plus frappant, c'est la vitesse à laquelle cet écosystème a grandi et s’est professionnalisé. Nombre de ces services ressemblent désormais beaucoup à des entreprises SaaS, proposant une offre gratuite pour attirer le client et un modèle supérieur payant. Ils développent et testent leurs solutions sur des forums criminels, puis migrent vers Telegram pour atteindre des acteurs moins techniquement sophistiqués. Contrairement à ce que nous disions plus tôt sur les amateurs qui utilisent l’IA pour mener des attaques, nous assistons ici à une véritable professionnalisation de la cybercriminalité.