Adoption de l'AI Act de l'UE : 6 questions à se poser !

L'intelligence artificielle (IA) est dorénavant une priorité pour les entreprises, et encore plus depuis l'avènement de ChatGPT et d'autres innovations en matière d'IA générative.

Ses bénéfices, comme l’automatisation de tâches et l’augmentation de la productivité, ne font plus aucun doute et les entreprises ont toutes commencé à développer leurs propres applications afin d’en tirer des bénéfices multiples. Cependant, une utilisation à mauvais escient de l’IA pourrait exposer involontairement l’entreprise à des risques, d’où l’importance d’une loi comme l’IA Act qui permet d’en réguler les usages.

Equilibrer les risques potentiels de l’IA et ses avantages

Comme toute innovation clé, l’intelligence artificielle génère son lot de questionnement. En effet, une récente étude menée par KPMG[1] révèle que 92% des dirigeants pensent que toute mise en place d'une IA générative pourrait entraîner des risque. Ce constat démontre qu'il est indispensable de mener un examen approfondi des pratiques actuelles. L'ESG est devenue une initiative cruciale tant au niveau organisationnel que mondial, au point que Bloomerg estime que les investissements qui lui sont dédiés dépasseront les 53 milliards de dollars d’ici à 2025. L’IA y a donc une place prépondérante, notamment en ce qui concerne la collecte, le traitement et l’analyse de données. C’est pourquoi, il est important d’encadrer l’utilisation de l’IA car les conséquences sur ce type d’initiatives sont primordiales. Enfin, il n’est pas sans rappeler que l'utilisation de ChatGPT-3 a déjà entraîné l'émission de plus de 502 tonnes de CO2[2]. Les entreprises doivent donc considérer ces répercussions sur leurs activités et sur la valorisation de leur capital et trouver le bon équilibre entre risques et avantages de l’IA.

Néanmoins, par son développement massif, l’intelligence artificielle est aujourd’hui une alliée de taille en entreprise : elle permet, entre autres, l’automatisation de certaines tâches, de booster l’efficacité et la productivité des équipes. Chacun peut alors s’investir plus dans des tâches à valeur ajoutée, ce qui aura une répercussion directe sur la satisfaction des collaborateurs, des clients, et donc les résultats de l’entreprise. Cependant, c’est bien parce qu’il existe des risques potentiels en cas de mauvaise utilisation de l’IA que la Commission européenne a proposé l’EU AI Act, premier cadre réglementaire pour l'IA en Europe. Son objectif principal est de renforcer la confiance et les garanties dans le domaine de l'IA. La loi proposée est ainsi un indice sur la manière dont les nouvelles réglementations en matière d'IA pourraient se développer. À l'instar du Règlement Général sur la Protection des Données (RGPD) en 2016, qui a, par la suite, donné naissance à de nouvelles lois et exigences en matière de protection de la vie privée, l'AI Act devrait avoir une influence significative et durable sur l'application responsable et éthique de l'IA.

Comment les entreprises peuvent-elles se préparer à l’EU AI Act ?

Alors que les entreprises se mettent en conformité avec la loi, elles font face à des obstacles aussi bien internes qu’externes :

Sur le plan interne, l’entreprise doit pouvoir faire collaborer diverses équipes, afin de s'assurer que toutes les données sont prêtes à être utilisées par l'IA. Celles-ci doivent être précises, fiables et opportunes pour permettre à l’entreprise de se démarquer de ses concurrents, et de stimuler la croissance. Avant toute chose, il s'agit donc d'aborder les facteurs de risque de manière cohérente et en toute confiance afin de tirer profit de l’utilisation de l’IA.

Au niveau externe, les entreprises sont confrontées à des incertitudes quant à la loi et à ses mesures. Par conséquent, la compréhension des procédures, des approches et des stratégies visant à mettre en œuvre cette conformité réglementaire constituera un défi externe important pour elles.

Ainsi, les entreprises doivent se préparer à adopter les principes fondamentaux énoncés aussi bien dans l'AI Act que dans la loi sur la Gouvernance de l'IA qui sont notamment la transparence, l'inclusion, la collaboration, la communication, la responsabilité et la réactivité, ainsi que la protection des droits de l'homme. C’est pourquoi, afin de se prémunir de tout risque, il est préférable que l’entreprise vérifie d’abord qu’elle dispose de données correctes ainsi que d’une base pour une gestion agile et évolutive des données. Et pour gagner encore plus en efficacité et productivité, il est recommandé de suive ces six conseils permettant une meilleure approche de la gouvernance de l’IA : :

Un catalogue de données et d'IA/ML pour saisir et documenter les algorithmes d'IA/ML (Machine Learning) existants et les ensembles de données associés. Il convient de déterminer la classification des risques pour chaque algorithme d'IA/ML. De même, il faut définir le processus qui assurera à l'avenir un catalogage facile des nouveaux algorithmes d'IA/ML. Un centre d'excellence (COE) ou une équipe transverse pourra également soutenir cette démarche en examinant constamment les stratégies relatives aux données et à l'IA/ML de l’entreprise.
Les datasets critiques (data products) fiables et réutilisables doivent être identifiés afin de les démocratiser pour les cas d'utilisation de l'IA/ML. Il peut s'agir de datasets maîtres/de référence/dimensionnels et connexes mais, avec le temps, ils peuvent également inclure des datasets couramment exploités pour l'IA/ML.
Un contrôle des données et l'observabilité afin de définir leur niveau de qualité pour les datasets / produits de données qui alimentent les algorithmes d'IA/ML et de tracer/contrôler les métriques essentielles de manière automatisée.
La classification des données pour répertorier et documenter les datasets et leurs attributs. L'identification des processus/politiques/réglementations critiques permet d'évaluer les risques (selon l’AI Act) et l'impact potentiel.
Les métadonnées et des données de référence pour permettre à une entreprise de voir au-delà des apparences et de bien les comprendre afin de déterminer si les algorithmes d'IA/ML ne comportent pas de failles au-delà des datasets immédiatement exploités.

6. L’IA / ML et la gouvernance de la donnée. Tirer parti de l'IA/ML pour assurer une conformité à l'AI Act à grande échelle grâce à une gestion appropriée des données et des algorithmes d'IA/ML qui y sont associés. Un centre d'excellence (COE) ou une transverse peut également apporter son aide dans cette démarche en examinant en permanence les stratégies de l'organisation en matière de données et d'IA/ML.

L’ingrédient secret : l’automatisation

L’un des défis majeurs pour activer la gouvernance de l'IA dans l'ensemble de l'entreprise est le temps et les efforts nécessaires en vue d'identifier les ensembles de données appropriés pour l'IA/ML, afin de :

Les connecter aux bonnes personnes, processus et politiques,
Classer les données correctement,
Appliquer et normaliser avec la bonne qualité de données.

Cela signifie que la scalabilité est cruciale, notamment lorsque les projets initiaux visant à aborder la gouvernance et la réglementation de l'IA sont restreints.

Une automatisation alimentée par l'IA constitue alors l'élément critique dont les entreprises ont besoin pour se développer et offrir une expérience enrichissante aux utilisateurs et aux auditeurs. Elle leur permet de gouverner, de conserver et de gérer efficacement les algorithmes d'IA/ML et les risques qui y sont associés. Grâce à l'automatisation, les entreprises peuvent connecter et intégrer les différents ingrédients des données, tels que le lignage des métadonnées, la classification, la qualité des données et les perspectives ainsi que l'observabilité des données.

Il est désormais temps pour les entreprises d’instaurer, mais surtout d’adopter une culture centrée sur les données afin d’anticiper l’entrée en vigueur de l’IA Act européen. En effet, si le projet de loi IA Act a été accepté au cours de l’été 2023, un texte définitif devrait être présenté d’ici 2024.

Au-delà d’une IA réglementée, les entreprises doivent s’imaginer l’avenir du Machine Learning qui est lui aussi en pleine effervescence et l’intégrer au maximum dans leurs stratégies. C’est maintenant qu’elles doivent agir en faisant un état des lieux de l’existant, et se lancer dans l’adoption ! Doit-on attendre et oberserver les retour d’expérience des autres ? En faisant ce choix, elles s’exposent à un autre risque fondamental: celui d’être dépassées par la concurrence.

[1] KPMG : Generative AI: From buzz to business value, page 3

[2] Stanford Artificial Intelligence Index Report 2023, page 53