La démocratisation de l'IA dans les entreprises ne se fera pas sans la confiance des métiers
Les métiers n'utiliseront l'IA que s'ils comprennent le fonctionnement des algorithmes. Cette compréhension nécessite une transparence dans la production des modèles et une collaboration étroite entre les opérationnels et les data scientists.
On le sait, toute technologie novatrice ne s’impose pas en un jour. Il faut du temps, de la compréhension, de la pratique et des résultats. L’IA n’échappe pas à la règle. Car bien qu’elle ait investi les écrans de cinéma et les colonnes de nos journaux spécialisés et/ou grands publics, elle peine encore à s’imposer dans les entreprises. Entrée par de petits projets, l’IA ne constitue pas encore l’ADN des organisations. Une situation regrettable car elle est un outil majeur d’aide à l’innovation, à la prédiction et l’anticipation, à la réactivité et à la productivité.
Comprendre les algorithmes, un passage obligé pour un déploiement massif de l’IA
Comment les entreprises peuvent-elles évoluer d’une incubation de premiers projets d’IA, vers une IA socle de leur activité ? Créer les conditions pour devenir une entreprise IA driven impose de nombreux changements. Tout d’abord, le rapprochement des équipes de data scientists avec celles des métiers. Car ces derniers doivent non seulement exprimer leurs besoins mais aussi comprendre comment fonctionnent les modèles développés par les data scientists pour accorder leur confiance. Et pour cause : qui se risquerait à utiliser, dans ses missions, des algorithmes dont il ne connaît et ne comprend rien au fonctionnement mais dont le résultat engage sa responsabilité ? Dans le cas d’un gestionnaire de crédits en charge des accords ou des refus de crédits par exemple, comment peut-il faire confiance à un modèle dont il ignore les hypothèses et les données sur lesquelles il s’appuie pour décider ou non d’approuver un crédit ? Comment peut-il justifier de la réponse négative à un client ? Le point de départ de l'acceptation de l’IA par les utilisateurs repose donc bien sur la compréhension de son modèle.
Il est pour cela impératif de mettre en place les conditions d’une véritable collaboration entre les métiers et les data scientists afin de s’assurer de la bonne compréhension des algorithmes et de leur pleine intégration dans les actions des utilisateurs. Plusieurs leviers jouent un rôle essentiel dans la mise en place de cette collaboration : formation croisée entre métier et data scientists, explicabilité de bout-en-bout des modèles et des sous-jacents, orchestration des priorisations, des revues et des contrôles soutenus par une gouvernance efficace et responsabilisante. Certains y verront un frein à l’innovation, car la mise en place de ces fondations demande un certain investissement. Dans la durée, il garantit l’intégration durable de l’IA, évitant les effets boite noire et l’absence d’alignement entre modèles et intentionnalité, et permet à l’IA de prendre son plein essor au service des métiers et de leur transformation.
Mesurer l’impact de l’IA pour prouver son efficacité
Si le mot gouvernance peut être vu comme un frein, il est en réalité un vrai vecteur d’accélération et de confiance pour les organisations décidant d’inscrire l’IA au cœur de leur stratégie. L’IA n’est en effet pas exempte de risques : souvenons-nous d’Amazon et de son IA discriminant les femmes dans son processus de recrutement. Des déviances qui nuisent à l’image de marque des entreprises, et bien plus encore. Et bien qu’elle rime avec innovation, l’IA a comme tout processus de transformation un besoin critique d’efficacité et de mesure d’impact pour nourrir sa croissance. Autant d’enjeux demandant la mise en place d’une gouvernance forte et efficace pour accompagner son développement.
Pour les grands comptes les plus avancés, c’est la gestion de plusieurs dizaines d’algorithmes éparpillés dans les services qui se pose, ainsi que le besoin d’assurer de la cohérence et de maximiser la capitalisation. Les équipes de data science doivent développer des collaborations avec de nouveaux profils pour garantir la maintenance de leurs modèles, leur contrôle ainsi que travailler à la conformité de ces solutions avec la réglementation naissante sur l’IA, et le besoin de transparence accru du public.
Dans le futur, toutes les entreprises qui ont compris l’importance de l’IA et veulent devenir IA driven ne peuvent faire l’économie de la mise en place de cette gouvernance axée sur l’imprégnation mutuelle entre les métiers et les data scientists et sur la mise en place de processus de contrôle, de gestion des risques et de conformité législative. Cette mutation vers l’IA est une révolution structurelle qui nécessite de la pédagogie et de l’accompagnement des collaborateurs, qui n’adopteront ces nouvelles approches que s’ils les comprennent et les maîtrisent.