Explicabilité de l'IA : les outils et méthodologies incontournables en entreprise
La transparence et l'explicabilité des algorithmes sont des enjeux aussi centraux que cruciaux pour instaurer la confiance et assurer un déploiement d'IA maîtrisé au sein d'une entreprise. Un véritable casse-tête pour le décideur qui veut profiter des bienfaits de l'intelligence artificielle, mais qui craint le retour de bâton d'un déploiement hasardeux. Heureusement, la communauté de l'intelligence artificielle a bien conscience de ces craintes légitimes. Ainsi, des méthodologies et des outils logiciels ont vu le jour pour (commencer à) fournir des solutions concrètes à cette problématique.
Les outils et méthodologies d'explicabilité de l'IA
Plusieurs approches permettent d'éclairer davantage le fonctionnement des IA. En premier lieu, la compréhension fine des données utilisées pour entraîner les modèles est essentielle. Des pratiques comme la création de datasheets for datasets ou de data cards offrent la possibilité de documenter précisément l'origine, la composition et donc les limites potentielles des jeux de données. Ce qui permet, finalement, d'identifier en amont les biais éventuels.
Pour tenter de comprendre les modèles eux-mêmes, le domaine de l'explainable AI (XAI) propose différentes techniques. Des méthodes comme LIME (Local Interpretable Model-agnostic Explanations) ou SHAP (SHapley Additive exPlanations) promettent d'obtenir des explications sur des prédictions individuelles, au cas par cas donc.
Pour donner un exemple concret, c'est grâce à ces méthodes qu'il est possible de comprendre pourquoi un système a recommandé un produit spécifique plutôt qu'un autre à un client en identifiant les facteurs ayant le plus pesé dans la décision. D'autres techniques s'attellent à fournir une vue plus globale, en recherchant quelles variables influencent majoritairement le comportement général du modèle. Lorsque la situation le permet, mieux vaut avoir recours à des modèles intrinsèquement plus simples, comme les arbres de décision.
Les grands acteurs du secteur intègrent désormais ces capacités dans leurs plateformes. Google Cloud avec Vertex AI Explainability par exemple ou Microsoft avec son tableau de bord Responsible AI sur Azure, qui s'appuie particulièrement sur la bibliothèque InterpretML. Des initiatives open source, telles qu'AI Explainability 360 (IBM) ou la même InterpretML, fournissent également des outils précieux aux développeurs.
Enfin, une traçabilité rigoureuse, via des logs détaillés enregistrant les requêtes, les données d'entrée et les décisions prises, est une méthodologie de base pour pouvoir analyser a posteriori le comportement d'un système.
Points de vigilance
Toutefois, adopter ces outils ne suffit malheureusement pas. Dans un monde idéal, cette démarche devrait être intégrée dès la phase de conception des projets d'IA. De même que d'autres actions d'encadrement des pratiques telles que la mise en place d'une gouvernance interne et une charte éthique claire.
L'explicabilité reste très compliquée à obtenir pour les modèles les plus sophistiqués. Il va d'ailleurs sans doute falloir accepter un compromis entre la performance pure d'un modèle et son degré d'interprétabilité. Et pour rajouter une couche de complexité à une opération déjà pas simple, l'explication délivrée par un outil XAI n'équivaut pas toujours à une compréhension profonde... et peut donc nécessiter une interprétation humaine véritablement experte pour ne pas conduire à des conclusions erronées.
Ces outils constituent des aides précieuses, mais ne sauraient remplacer le jugement humain et la supervision. Il ne faut jamais oublier que la responsabilité finale des décisions des systèmes d'IA incombera toujours à l'entreprise. De telles compétences nécessitent soit des recrutements de profils logiquement onéreux, soit de passer par des prestataires externes. Dans tous les cas, l'implémentation de ces processus demande du temps et des compétences bien spécifiques.