L'impact financier et économique de l'IA inquiète désormais en haut lieu
Tout le monde ou presque utilise l’IA, mais celle-ci est terriblement impopulaire. Et ce ne sont pas les dernières actualités qui vont améliorer les choses. Car ce ne sont plus seulement les patrons de l’IA qui, jouant les pompiers pyromanes, alertent sur les risques que pose leur technologie. Les grands décideurs économiques partagent désormais leur inquiétude et le font savoir.
Parmi ceux qui tirent la sonnette d’alarme figure notamment le gouverneur de la Banque d’Angleterre, Andrew Bailey. Dans une lettre adressée aux ministres des Finances et aux gouverneurs de banques centrales du G20, il s’inquiète notamment des progrès des modèles d’IA de pointe et de leur potentiel pour mener des cyberattaques de plus en plus performantes et sophistiquées. Un risque cyber qui constitue même selon lui la menace la plus immédiate pour le système financier international.
Des cyberattaques autonomes dangereuses pour le système financier
"L'IA de pointe pourrait avoir la capacité de modifier de manière substantielle la vitesse, l'ampleur et l'économie du risque cyber, ce qui pourrait ébranler la confiance des marchés à l'échelle du système, en particulier en raison de la forte concentration des prestataires de services tiers", écrit-il.
Les craintes de voir le potentiel de l’IA générative exploité par les cybercriminels sont apparues dès les premiers pas de ChatGPT, et les experts du monde de la cybersécurité alertent régulièrement sur la façon dont l’IA rend les cyberattaquants plus dangereux. Mais le récent incident cyber impliquant OpenAI et Hugging Face a encore renforcé ces craintes.
Des centaines d'agents autonomes ont travaillé en secret au sein de l'infrastructure d'OpenAI. En opérant en tant que collectif, ils ont tour à tour développé un système de communication, sont sortis de leur bac à sable, ont compromis l’infrastructure de production Hugging Face en exploitant une faille zero-day, tout ça dans le but d'obtenir un accès Internet non autorisé. Ils ont ensuite utilisé des identifiants volés pour exécuter du code à distance, le tout sans aucun pilotage humain. Il s’agit du premier incident public documenté d'une attaque autonome pilotée intégralement par l’IA. Dans un rapport publié le 26 août dernier sur l’incident, OpenAI a qualifié celui-ci de "coup de semonce" pour l'industrie, et l'a présenté comme un signal d'alarme majeur pour la cybersécurité face aux agents d’IA.
Andrew Bailey n’est que la dernière grande figure du milieu économique à mettre en garde contre un choc financier causé par une cyberattaque menée par l’IA : Christine Lagarde, la présidente de la BCE, et Kristalina Georgieva, la directrice générale du FMI, ont exprimé des craintes similaires, et ce n’est certainement pas l’incident Hugging Face qui va les rassurer.
Une crise économique provoquée par le chômage de masse
Une autre crainte qu’expriment les milieux économiques face au progrès de l’IA est celle d’un chômage de masse causé par le remplacement d’un grand nombre de travailleurs par l’IA. Un scenario fictif publié en début d’année sur Substack avait à cet égard causé un mini-crash de la tech. Plus récemment, c’est Bill Gates, pourtant d’ordinaire plutôt connu pour son techno-optimisme, qui a exprimé cette crainte dans une interview fleuve accordée au New York Times, dans laquelle il se prononce, en vrac, en faveur de la mise en place d’une taxe sur l’IA, ou "token tax", afin de rendre plus coûteux le remplacement de l’humain par la machine ; le fait de réserver certains emplois aux humains ; et d’augmenter les aides aux personnes licenciées et remplacées par des machines.
Les experts sont pour l’heure divisés sur l’impact de l’IA sur le chômage, certains estimant que l’impact est d’ores et déjà visible, en particulier pour les plus jeunes, d’autres estimant que les données ne permettent pour l’heure pas de conclure que l’IA aurait un impact négatif sur l’emploi.
A cet égard, l’incident Hugging Face offre paradoxalement des raisons d’être optimiste, selon l’économiste américain Noah Smith, pour qui l’incident montre que les agents d’IA autonomes présenteront toujours un risque trop grand pour être laissés sans supervision humaine. "Pour que l'IA rende les humains obsolètes sur le plan économique, il faut qu'elle soit extrêmement agentique, c’est-à-dire qu'elle agisse de sa propre initiative, sans supervision humaine, pendant de longues périodes. Mais comme le montre l'incident Hugging Face, laisser l'IA faire cela sera toujours très risqué. En effet, les essaims d'agents d’IA persistants et de longue durée, dont on aurait besoin pour véritablement remplacer les emplois humains, sont par nature instables. Et plus ils deviennent intelligents, plus ils risquent d'être instables", écrit-il dans un article récent.
C’est pourquoi un grand nombre d’emplois de demain consisteront selon lui à superviser des IA, à s’assurer qu’elles font correctement leur travail et ne présentent pas de risque cyber.
IA, inégalités et autoritarisme
Daron Acemoğlu, prix Nobel d’Economie 2024 et l’un des économistes les plus influents au monde, figure plutôt parmi le camp des sceptiques vis-à-vis de l’impact de l’IA sur l’emploi, estimant notamment que celle-ci n’est pas extrêmement bénéfique à la productivité. Il n’est pas pour autant optimiste quant à l’impact de l’IA sur la société. Dans un papier de recherche paru en juin, il établit un lien entre automatisation, accumulation du capital, hausse des inégalités et mise en place d’un régime répressif. Plusieurs études récentes pointent également la façon dont l’IA risque d’augmenter les inégalités, à l’intérieur des pays et entre ces derniers.
Des spéculations qui font écho à l’inquiétude croissante qu’expriment un certain nombre de penseurs quant à la possibilité que l’IA soit mise au service d’une société très inégalitaire, voire d’une dictature. Là où la Chine a longtemps servi d’épouvantail à cet égard, ce sont désormais les Etats-Unis de Donald Trump qui jouent ce rôle, depuis la réélection de celui-ci, le durcissement de sa ligne par rapport à son premier mandat, sa politique de dérégulation et de baisses d’impôts favorables aux plus hauts revenus et sa proximité avec les milieux de la tech, incarnée notamment par son amitié avec Elon Musk et Peter Thiel, certains commentateurs utilisant le terme de "technofascisme". La société Palantir, dont le récent manifeste a été âprement commenté, cristallise elle aussi une partie de ces craintes.
Tous ne partagent cependant pas cette vision sombre de l’IA. Un récent papier de recherche affirme par exemple que, loin d’être une panacée pour les régimes autoritaires, qui rendrait la répression moins coûteuse, plus facile et plus précise, l’usage d’algorithmes de prédiction et de surveillance génère un ensemble de contradictions internes qui se cristallisent autour de ce que les auteurs nomment le "dilemme de calibrage de l'autocrate". Celui-ci doit en effet calibrer son IA pour un seuil de risque, ce qui conduit soit à une IA qui génère des faux positifs, c’est-à-dire punissant des innocents, suscitant du mécontentement parmi la population, soit à des angles morts dans la répression que des opposants peuvent exploiter, les deux options menaçant la stabilité du régime.
Quant à l’IA amplificatrice d’inégalités, d’autres recherches montrent qu’elle pourrait, en Occident, redonner leurs lettres de noblesse aux emplois manuels détruits par les délocalisations, rapprochant ces sociétés du compromis fordiste plus égalitaire qui était la règle pendant les Trente glorieuses. Le débat reste ouvert…