Votre modèle de gouvernance de l'IA est déjà obsolète : voici comment le faire évoluer

L'essor de l'IA en entreprise crée des risques invisibles : outils non supervisés, silos et dette technique. Pour garder le contrôle sans freiner l'innovation, la gouvernance doit évoluer.

Les responsables informatiques et sécurité connaissent bien les risques liés aux intégrations non autorisées, aux outils mal configurés et à la conformité des fournisseurs. Aujourd'hui, l'IA fait apparaître un problème distinct et plus difficile à détecter.

À tous les postes, les collaborateurs utilisent des outils d'IA mis à leur disposition pour générer du code prêt pour la mise en production, créer des workflows automatisés et déployer des agents afin de soutenir les processus métier. Cette expérimentation se déroule sans visibilité sur ce que les autres équipes ont développé, ni sur les risques structurels qui s'accumulent en conséquence.

Les modèles de gouvernance sur lesquels s'appuyaient les grandes entreprises il y a encore six mois n'ont pas été conçus pour le contexte actuel, ni pour ce qui nous attend. Nous nous sommes tellement concentrés sur les risques liés à l'IA à maîtriser que nous n'avons jamais pris le temps de repenser le modèle opérationnel qui devrait sous-tendre cette gouvernance.

Comment les risques invisibles s'accumulent

Un goulot d'étranglement prévisible se produit au sein des grandes entreprises. Une équipe a besoin d'un soutien en matière d'IA, mais le processus officiel est lent, saturé ou peu clair. L'équipe prend donc les choses en main et décide de développer ses propres outils. Ce réflexe est légitime, mais la structure qui en résulte ne l'est pas.

Les coûts engendrés par ce type d'inefficacité peuvent s'aggraver rapidement. Les efforts sont dupliqués d'un département à l'autre sans que personne n'ait de visibilité sur le travail des uns et des autres. Des outils cloisonnés émergent, sans normes communes, et les pratiques en matière de sécurité et de traitement des données divergent. Les collaborateurs se détournent de leurs responsabilités principales pour maintenir des outils d'IA que trois autres équipes ont développés de manière indépendante lors du trimestre précédent.

Pendant ce temps, la gouvernance s'affaire à examiner la file d'attente croissante dont elle a connaissance : les intégrations en cours de validation et les fournisseurs figurant dans une demande d'achat.

Un outil mal configuré qui a échappé au contrôle constitue un risque maîtrisé. En revanche, un workflow de production mis en place par une équipe financière, sans aucune supervision, reste, lui, totalement invisible. Dans la plupart des entreprises, cette deuxième catégorie d'efforts invisibles ne cesse de croître, et l'ampleur de ce qui s'annonce rend l'écart de plus en plus difficile à ignorer. D'ici 2028, Gartner prédit que les grandes entreprises mondiales du Fortune 500 utiliseront en moyenne plus de 150 000 agents.

Construire un modèle opérationnel pour faire évoluer la gouvernance de l'IA

L'expérimentation est indispensable pour identifier des cas d'utilisation d'IA à forte valeur ajoutée. Par conséquent, freiner l'expérimentation par des contrôles trop stricts serait contre-productif, car ces restrictions risqueraient de favoriser des expérimentations qui échappent à tout contrôle.

Pour faire évoluer la gouvernance efficacement, il convient de favoriser l'expérimentation en matière d'IA. 

Voici trois moyens d'y parvenir :

1. Créez une équipe centralisée, dédiée aux politiques et aux normes. Désignez une équipe IA centralisée comme interlocuteur unique pour gérer les risques identifiés par vos services de sécurité, juridique et de conformité. Cette équipe définit les garde-fous techniques, est responsable de la sélection des fournisseurs et crée des modèles réutilisables auxquels chaque service de l'organisation peut se référer. Sa mission est de faire en sorte que l'IA responsable devienne la norme, de sorte que la validation individuelle devienne l'exception plutôt que la règle.
2. Intégrez des responsables de la transformation IA au sein de chaque service. Ces référents qui travaillent au quotidien au sein d'un service mais rendent compte à une équipe de gouvernance centralisée sont suffisamment proches du terrain pour comprendre le contexte et appliquer les règles de manière cohérente. Ils constituent le point d'entrée pour toutes les demandes en matière d'IA au sein de leur service. Ainsi, plutôt que de travailler en silos, les équipes disposent toujours d'un interlocuteur capable de trier, prioriser et relier les tâches à ce qui existe déjà ailleurs. La raison pour laquelle cette approche fonctionne là où les canaux formels échouent est la rapidité : lorsque la voie officielle est plus rapide que le développement autonome d'outils, les équipes cessent de la contourner.
3. Évaluez la gouvernance à l'aune de ce qui se capitalise. Un bon indicateur qui montre que votre gouvernance favorise l'expérimentation contrôlée de l'IA est la mesure dans laquelle le travail réalisé au sein de votre organisation génère une valeur cumulative. En d'autres termes, observez la réutilisation des cas d'utilisation de l'IA approuvés au sein de votre entreprise : un modèle conçu pour la finance repris par les opérations, un workflow qui a fait ses preuves dans une équipe et qui devient la norme pour d'autres. Une baisse du volume des demandes informatiques, combinée à une utilisation de l'IA en hausse et visible, indique que l'expérimentation gagne en maturité tout en restant sous contrôle.

Le coût de l'inaction va s'aggraver

À mesure que les coûts de calcul liés à l'IA absorbent les budgets informatiques, le coût d'un modèle opérationnel inadéquat ne devient visible qu'au moment où sa correction devient onéreuse. Les outils non supervisés, au départ de simples contournements, deviennent une infrastructure essentielle. Les équipes qui développent en silos accumulent une dette technique en adoptant des approches difficiles à standardiser par la suite. 

Les organisations qui considèrent la gouvernance de l'IA comme un simple rôle de contrôle passent à côté de l'essentiel. L'IA a besoin d'une gouvernance, mais la manière dont nous concevons son rôle doit évoluer. Les risques les plus importants résident dans les tâches qui n'atterrissent jamais dans la file d'attente, et la seule façon de les encadrer est d'intervenir là où elles se produisent, avant qu'elles ne se transforment en un scénario bien plus difficile à maîtriser. L'IA avance rapidement ; nous avons besoin de normes de gouvernance capables de suivre son rythme, et non de le subir.