L'IA dans la finance : pourquoi un cadre juridique est fondamental
Consciente de la nécessité de permettre aux entreprises d'adopter une IA plus avancée en toute sécurité, la Commission européenne a proposé, le 21 avril dernier, de nouvelles règles visant à faire de l'Europe le berceau de l'IA de confiance.
Jusqu'à présent, l'absence de cadre juridique pour encadrer l’usage de l'intelligence artificielle en Europe soulevait bien des questions sur la fiabilité, l'éthique et la sécurité des algorithmes, y compris ceux utilisés dans les services financiers. De nombreux algorithmes fonctionnent dans des boîtes noires au sein desquelles on ne peut rien observer. Difficile dans ce cas de parler de transparence de mise en œuvre. Il existe cependant une réelle volonté de s'attaquer à ce sujet de la transparence et d'intégrer un cadre éthique dès la conception et l’utilisation des algorithmes pour s’assurer que les ensembles de données n'aient pas de biais innés pouvant entraîner un choix discriminatoire pendant l'analyse. Il existe au moins un cas dans le secteur financier où les données biaisées peuvent affecter les résultats, c’est celui de l’octroi de prêts. Imaginons un demandeur de crédit disposant de toutes les garanties nécessaires mais résidant dans une zone géographique dont les demandes de crédit des habitants sont souvent rejetées. Même si lesdites demandes étaient refusées pour des motifs légitimes, une IA mal entraînée pourrait interpréter cette coïncidence statistique comme une règle systématique et discriminer de facto et sans raison valable toute nouvelle demande en provenance de ce lieu.
On comprend ainsi pourquoi le secteur bancaire reste prudent dans son usage de l'IA, se tenant à l'écart des systèmes autonomes, plus complexes et évolutifs, associés à l'IA "non consensuelle" et utilisant généralement des algorithmes opérationnels et automatisés. Ceux-ci se contentent d'effectuer des tâches basiques et répétitives. Pour autant, l’utilisation de l'IA pour améliorer les services et rationaliser les opérations ne cesse de faire des émules. Selon l’analyse 2021 de Gartner, l'apprentissage automatique reste la technologie d'intelligence artificielle la plus adoptée dans le secteur de la banque et de la finance. Les principaux moteurs de l'adoption de l'IA sont à ce titre l'amélioration de l'expérience client (43%), les initiatives d'optimisation des coûts (24%) et l'amélioration de la gestion des risques (19%).
Consciente de la nécessité de permettre aux entreprises d'adopter une IA plus avancée en toute sécurité, la Commission européenne a proposé, le 21 avril dernier, de nouvelles règles visant à faire de l'Europe le berceau de l’IA de confiance. Si elles sont établies, ces règles deviendront le tout premier cadre juridique international pour l'IA, visant à compléter le développement de modèles analytiques avancés et s'assurer que leurs applications sont bien définies, augmentant de facto la confiance et la compréhension des utilisateurs. Il s'agit d'une évolution importante sur la voie de l'équité et de la garantie du respect des droits humains fondamentaux.
L’Europe a choisi de fonder le degré d’exigence éthique d’une IA en fonction du risque qui lui est associé, donc tous les algorithmes sont potentiellement concernés. Il parait assez évident que les IA militaires ou médicales seront particulièrement scrutées, mais en réalité beaucoup d’IA utilisées quotidiennement peuvent avoir des conséquences négatives sur l’humain si elles ne sont pas suffisamment encadrées. Ainsi dans le secteur RH, l’Europe cite explicitement les algorithmes utilisés dans le cadre de recrutements. En ce qui concerne la finance, ce sont celles utilisées pour l’établissement de taux de solvabilité (Credit Scoring en Anglais) ou d’octroi de crédit qui seront à réévaluer. L'introduction d'un tel cadre aidera les professionnels de tous les secteurs à prendre de meilleures décisions basées sur les données et contribuera à garantir que les résultats obtenus par les modèles d'IA sont cohérents et non discriminatoires.
Il s'agit également d'une évolution importante pour le futur des activités commerciales des entreprises européennes. Pour innover à bon escient et choisir soigneusement où investir des capitaux, il est essentiel de clarifier les réglementations et les pratiques entourant l'IA, en particulier dans le contexte d'une concurrence mondiale accrue et de l'utilisation encore opaque des données. La réglementation encouragera la modernisation de l'IA, la rapprochant de la réalité et donc de la précision, augmentant le potentiel de résultats plus affinés et individualisés. Dans le cas précis d’une demande de crédit par exemple, l’attention particulière qui sera portée aux critères d’accessibilité pourrait être revue. Ainsi, pour avoir des garanties en matière de pérennité des revenus du demandeur, on peut imaginer que d’autres formes de contrats autres que le CDI soient mieux prises en compte par l’IA de l’établissement bancaire dans l’analyse préalable des pièces du dossier de prêt. Il existe de nombreux autres services financiers qui peuvent être rationalisés à l'aide d'autres outils d'IA tels que le traitement du langage naturel, notamment les chatbots pour le service clientèle, ou l'ajout de la possibilité d'analyser des données non structurées pour résoudre des problèmes financiers complexes. Ces outils, une fois encadrés, sont mûrs pour l'innovation.
Partout en Europe, des initiatives visant à garantir les meilleurs critères d'exigence pour l'utilisation de l'IA apparaissent. Les entreprises s'engagent au quotidien pour s'assurer que l'IA est digne de confiance. Cela passe notamment par la mise en place de grilles internes d’évaluation des solutions IA développées, avec plusieurs niveaux de mesures (codes utilisés, formation requise de l’équipe, observations des pratiques métiers, contrôles croisés etc.). D’autres intègrent une démarche éthique dès le développement des algorithmes, et ce, en étroite collaboration avec les équipes impliquées dans l’entreprise que ce soit au niveau du conseil que du contrôle : chargés de projet ML ou automatisation, responsables innovations, développeurs, DSI, RSSI, le DPO etc. Plus généralement, les entreprises sont nombreuses à participer à l’élaboration d’instances représentatives pour leur secteur et/ou à l’animation de programmes pédagogiques dédiés.
Le dispositif de la Commission européenne constitue une étape importante et, espérons-le, marque le début d'une Europe qui deviendra un leader mondial dans l'élaboration de réglementations susceptibles d'encourager et de favoriser l'innovation, tout en continuant à protéger les droits de l'homme.