Connaissez-vous réellement votre Intelligence Artificielle ?
Découvrez pourquoi les entreprises devraient remettre en question leurs solutions " alimentées par l'IA ".
En matière de cybersécurité, les organisations ne se posent pas encore les bonnes questions sur les fonctionnalités de l'intelligence artificielle (IA). Alors que les entreprises comptent sur leurs outils d'IA pour les défendre contre d'importantes failles de sécurité, pourquoi les organisations n'appliquent-elles pas la même diligence à l'intelligence artificielle ?
Une mauvaise compréhension de l'Intelligence artificielle
Trop souvent, le terme « IA » lui-même est utilisé comme un fourre-tout pour des technologies obscures qui prétendent être la panacée pour tous les maux de l'entreprise. Nombre d'entre elles sont constituées d'algorithmes heuristiques (basés sur des règles, des ramifications) qui, bien que présentant une certaine efficacité en apparence, ne sont pas des outils d'intelligence artificielle à proprement parler. Cette utilisation abusive et imprudente du terme a conduit à une méconnaissance générale et au sensationnalisme des médias, notamment lorsque, récemment, un membre de l'équipe responsable de l'IA de Google a été licencié pour avoir prétendu que le chatbot LaMDA (Language Model for Dialogue Applications) de l'entreprise était doué de sensibilité.
Il n'en faut pas plus pour que les utilisateurs associent de telles anecdotes à des scénarios de science-fiction. Cependant, dans le monde réel, l'IA - comme celle utilisée dans la détection des menaces - est soumise à une diligence appropriée comme n'importe quelle autre technologie. Il est toutefois essentiel de déterminer si les solutions "alimentées par l'IA" font réellement ce qu'elles sont censées faire. Par exemple, les solutions fondées sur une approche heuristique sont excellentes pour signaler les anomalies, mais elles ne parviennent pas à fournir un cadre opérationnel, c'est-à-dire à analyser l'anomalie et à la classer dans la catégorie appropriée. Pour que l'IA prenne la place qui lui revient dans le domaine de la cybersécurité, les solutions doivent être capables d'aller au-delà de la simple identification d'une menace : elles doivent pouvoir déduire les objectifs d'un acteur malveillant et anticiper ses méthodes d'attaque. Ainsi, pour savoir si une solution de cybersécurité dite "alimentée par l'IA" fait ce qu'elle dit, les entreprises doivent poser quatre questions clés à leur fournisseur :
1. De quel modèle de solution s'agit-il ?
Une recherche systématique et criblée d'anomalies laissera les équipes de sécurité dans l'ignorance si elle n'est pas accompagnée d'informations supplémentaires. Une véritable IA s'appuiera sur des renseignements provenant de l'extérieur de l'organisation cible. Les outils qui se contentent de repérer les anomalies ne sont pas d'une grande utilité, car toutes les anomalies ne se révèlent pas être des menaces, et de nombreuses menaces réelles ont le temps de masquer leur comportement en le faisant passer pour quelque chose d'autorisé ou d'inoffensif. Les plateformes d'IA tiennent compte de ces problèmes, tandis que les solutions non fondées sur l'IA en créent d'autres en augmentant le nombre d'alertes et en alourdissant le travail d'investigation des équipes de sécurité, tout en passant à côté des vraies menaces. Les solutions d'IA tiennent compte des comportements et de l'historique afin de minimiser le bruit de fond et de fournir des alertes plus contextuelles et exploitables.
2. Où est déployée l’IA ?
Si l'IA n'est qu'un complément à une solution et qu'elle n'est utilisée que pour résoudre des problèmes périphériques, elle risque d'être inutile. Toute IA doit surveiller les périmètres, mais aussi relever les principaux défis en matière d'exécution. Elle doit être au cœur de la fonctionnalité et de la gestion d'un système. En bref, la place occupée par l'IA dans le déploiement et le fonctionnement du système est d'une grande importance.
3. Qui sont les concepteurs ?
Un simple coup d'œil à l'équipe qui a conçu la solution d'IA en dit long. Quel est leur niveau en matière de data science ? En matière de recherche dans le domaine de la sécurité ? En psychologie ? De nombreuses disciplines et compétences entrent dans la conception d'une IA à haute valeur ajoutée. Et il ne faut pas oublier que même les solutions les plus intéressantes doivent être valorisées. Il convient donc d'examiner les garanties d'assistance du fournisseur ou de l'intégrateur. Vous aideront-ils à tirer le meilleur parti de votre investissement ?
4. Que devrait-elle faire ?
Si une solution basée sur l'IA est présentée comme un remède à tous les maux, méfiez-vous. L'IA ne voit pas tout et ne fait pas tout. De nouvelles complexités sont apparues dernièrement - cloud hybride, multi-cloud, prolifération des serveurs et des systèmes de gestion de l'information et popularité croissante du SaaS et du PaaS. L'excès de confiance, quant à lui, n'est pas une tendance nouvelle, mais au milieu de la pression intense qui pèse sur la cybersécurité, la tentation de ces solutions miracles peut atteindre son paroxysme. La meilleure façon d'avancer réside dans l'expérience, l'agilité et la volonté d'itérer. Avec le temps, la véritable IA s'améliorera, tandis que les promesses des soi-disant spécialistes s'effondreront sous le poids de la réalité.
Véritable IA : les signes distinctifs
Si vous cherchez une véritable IA, vous découvrirez rapidement que la mettre au service de la cyberdéfense est un art subtil. Mais une fois que vous aurez pris conscience de cela, vous ne serez plus la proie des vendeurs de rêves qui colportent la prochaine grande avancée. Sachez également que même les solutions de qualité nécessitent l'intervention de professionnels chevronnés pour en tirer un véritable avantage. L'ingéniosité et le raisonnement humains sont, jusqu'à présent, imités de manière imparfaite par les machines, même les plus intelligentes.
Mais une intelligence artificielle appropriée, bien maîtrisée et bien conçue est actuellement l'outil le plus efficace pour détecter les toutes dernières formes de menaces, les plus astucieuses, en éliminant les anomalies bénignes et en permettant aux équipes de sécurité d'économiser des journées entières de travail. L'adoption d’une IA approximative a pour conséquence un retard considérable sur les pirates ; elle est leur alliée. La véritable IA a une longueur d'avance sur eux.