Les données ROT, enjeu central de la sécurité de l'IA en Europe
Les modèles créés et testés dans un bac à sable de tests sécurisé de l'IA ont beau passer des tests concluants et être conformes aux exigences, cela ne garantit que leur fiabilité technique.
Avec les incertitudes autour des échéances de la loi européenne sur l’intelligence artificielle et les nouvelles exigences attendues dans le cadre du plan d’action de l’UE en matière de cybersécurité et d’intelligence artificielle, les RSSI des entreprises de l’Union européenne n’ont pas le temps de s’ennuyer. Même s’il est tout à fait approprié de se montrer plus vigilant envers la sécurité de l’IA, les personnes en charge ne semblent pas prendre la bonne direction.
Afin d’être considéré comme "fiable", le système d’IA d’une entreprise doit passer des tests concluants dans des sandbox, mais aussi répondre à des normes réglementaires précises. Toutefois, conformité officielle et sécurité opérationnelle ne sont pas nécessairement synonymes : un constat révélé par certaines réglementations de cybersécurité déjà existantes.
Ici, les données constituent le maillon dysfonctionnel qui passait le plus souvent sous les radars des organisations. Si les données qui sont fournies aux modèles sont redondantes, obsolètes ou triviales (ROT), les contrôles ne seront alors plus valides.
Quand les résultats se font attendre
La règlementation européenne liée à l’IA n’a cessé d’évoluer au cours des derniers mois, impactant également les échéances relatives à la loi européenne sur l’intelligence artificielle. Les normes techniques du secteur nécessaires pour évaluer la conformité n’étant pas encore abouties, la principale échéance de mise en conformité applicable aux systèmes d’IA déployés dans des environnements à haut risque a dû être repoussée d’août 2026 à décembre 2027.
Dans le but de compenser l’absence de référentiels d’évaluation, l’Union Européenne a publié son plan d’action en matière de cybersécurité et d’intelligence artificielle plusieurs semaines après l’annonce de ce report. Ce plan n’ajoute aucune contrainte légale. Il propose, à la place, des environnements d’essai protégés, des lignes directrices et des instruments d'évaluation à utiliser avant tout lancement commercial. L'objectif est que les IA de pointe soient déployées sans danger, et restent conformes à la législation de l'UE, notamment au règlement sur l'IA et à la directive NIS2.
Bien que ce cadre favorise le développement de modèles d’IA sécurisés, cela ne constitue qu’un maillon de la chaîne. Afin d’obtenir les certificats de conformité indispensables, les équipes en charge de la sécurité devront passer le code au peigne fin, et réunir des documents probants. Une fois ces étapes franchies, tout n’est pas encore fait : bien qu’intégralement sécurisé et respectueux des normes en vigueur, un outil IA mal utilisé peut tout de même engendrer des irrégularités et provoquer un vrai bazar.
Une erreur commise par un usager humain est, dans la majorité des cas, identifiée et connue avant qu’elle ne dégénère. En effet, alors que les identités non humaines et les agents autonomes sont 82 fois plus nombreux que les employés humains dans les entreprises de taille moyenne, le risque opérationnel est d’autant plus important. Avec des agents IA, les erreurs se disséminent en un éclair. Des informations défectueuses peuvent altérer en silence le modèle le mieux protégé, fausser les résultats sans pour autant activer les alarmes, alors que les systèmes respectent les exigences techniques.
Assurer la sécurité ne dépend pas seulement de la mise en conformité
Pendant que les entreprises scrutent avec précaution les modèles d’IA, les informations utilisées pour les nourrir ne se voient pas accorder l’attention qu’elles méritent. Lorsque c’est le cas, et que la question des données est abordée, c’est sous le prisme de leur sécurité et non de leur qualité, ce qui ne fait qu’accroître le risque.
Véritables polluants pour les modèles d’IA et fruits de plusieurs dizaines d’années de stockage au sein d’infrastructures cloud obsolètes, environ 80 % des données stockées par les entreprises le sont sous des formats non structurés et incluent une grande quantité de fichiers ROT. Dans ce contexte, alimenter des agents d’IA avec des données contaminées représente un risque considérable, même lorsque les tests menés dans les bacs à sable réglementaires de l’UE se révèlent concluants et que les agents sont techniquement fiables. L’utilisation de ces données désuètes et non structurées risque de les corrompre, ils feront alors des choix insensés, fondés sur des analyses faussées, au point de provoquer des situations de non-conformité.
À cela s’ajoute un autre effet indésirable : la gestion de ces quantités de données parasites, qui sont souvent des doublons, représente des frais supplémentaires difficiles à percevoir dans la comptabilité des organisations. Ainsi, une puissance de calcul précieuse est dilapidée et des ressources cloud considérables sont sollicitées pour traiter des informations dépourvues d'intérêt, sans bénéfice économique à la clé. Sur l’année en cours, les investissements en capital (CapEx) des grands groupes technologiques dédiés à l'intelligence artificielle ont franchi la barre des 650 milliards de dollars. Quant aux enveloppes prévues pour 2027, personne ne peut les prédire. Si les textes européens insistent surtout sur le prix à payer pour sécuriser ces systèmes, ils ignorent encore le coût que représentent les données qui les alimentent.
Réflexes indispensables pour renforcer les fondations
Un équilibre entre exigences réglementaires et gestion des données reste à trouver. À cette fin, les organisations ont le devoir d’organiser l’infrastructure de leurs données mais aussi de passer les tests pour décrocher les certifications de leurs systèmes. Dans les années à venir, lorsque la législation européenne sur l’IA sera totalement en application et exigera des entreprises qu’elles vérifient, tracent et documentent la source des données d’entrainement et des contenus produits, ce type de procédure sera essentiel.
Dans le but de bâtir des fondations robustes pour utiliser les systèmes d’IA, les entreprises ont le devoir de réaliser un audit et de répertorier leur patrimoine de données, puis d’en supprimer les données ROT. Cette étape constitue un préalable essentiel pour dépasser les audits de conformité ponctuels et statiques, au profit d’un suivi continu de la provenance et de la classification des données. Cette approche contribue à renforcer la sécurité des opérations d’IA en permettant d’intégrer directement ces informations aux modèles et de concevoir des systèmes conformes, tant sur le plan technique qu’opérationnel.
Une refonte complète de l’infrastructure des données peut aussi se révéler salutaire dans la durée, indépendamment des défis réglementaires et opérationnels actuels. Alors que les agents d’IA deviennent omniprésents dans les processus de travail et que le monde gagne en autonomie, il devient capital de posséder une vision claire des données pour isoler et corriger celles de mauvaise qualité en minimisant les perturbations. Au lieu de suspendre la totalité des opérations, les équipes auront ainsi la capacité de corriger les coquilles de manière ciblée au niveau de chaque sauvegarde. Les entreprises qui subirontle moins ces perturbations seront aussi celles qui auront pris une longueur d’avance dès aujourd’hui.
Faire évoluer le point de vue pour pouvoir avancer
Pour mettre à profit les possibilités offertes par les sandbox annoncés et tenir compte des échéances de conformité essentielles fixées par l’UE, il est vivement conseillé d’employer suffisamment de ressources. Mais ce n’est pas pour autant qu’il faille délaisser les données qui soutiennent les systèmes d’IA. Si, dans un premier temps, les entreprises doivent s’interroger sur la sureté de leur système d’IA, elles doivent ensuite contrôler si les données qui le nourrissent répondent aux exigences de qualité.
Bien qu’encourageants, les bacs à sable de tests sécurisés de l’IA ne peuvent à eux seuls attester de la sûreté des modèles. En effet, si ces systèmes sont nourris par des données obsolètes ou corrompues, les attestations de conformité ou d’évaluation dispensées par l’Union Européenne ne sont alors que de simples (et onéreuses) feuilles de papier. La sécurité de l’IA s’appuie sur un travail de fond qui a pour objectif de conserver un flux de données sain.