L'IA peut nous détruire. L'IA peut nous sauver. Les deux sont vrais.
Face à l'IA, chacun choisit son camp : optimiste ou pessimiste. C'est la mauvaise posture. Les deux visions sont vraies en même temps.
La semaine dernière, j’ai suivi une formation sur la sûreté technique des intelligences artificielles. Chaque journée explorait des questions difficiles : pourquoi est-il si difficile de construire des IA sûres ? Comment comprendre ce qui se passe à l’intérieur d’un modèle ? Comment minimiser les risques de systèmes de plus en plus puissants ?
Je sortais chaque soir avec la tête pleine d’informations nouvelles - et franchement inquiétantes.
La même semaine, j’étais invitée à l’OpenAI DevDay, un événement international pour les développeurs. L’ambiance était radicalement différente. Le message, répété de conférence en conférence, tenait en quelques mots : l’IA permet d’aller plus vite, de construire plus vite, de faire plus avec moins d’efforts. C’est le meilleur moment de l’histoire ! Accélérez ! Construisez !
Je me souviens être arrivée à cet événement après une journée où l’on avait parlé de scénarios catastrophiques liés à la perte de contrôle des IA. Le soir, j’écoutais des intervenants présenter une vision du futur totalement opposée. Dans ma tête coexistaient deux pensées : "Nous sommes foutus" et "C’est le meilleur moment de l’histoire". Et j’étais parfaitement à l’aise avec les deux.
L’IA comme boîte noire
On dit souvent que l’IA est une boîte noire. C’est vrai. On voit ce qui entre - la question - et ce qui sort - la réponse. Mais ce qui se passe entre les deux reste largement opaque. On peut observer chaque paramètre, chaque résultat de calcul à l’intérieur d’un modèle. Mais on ne sait toujours pas très bien interpréter le rôle que jouent ces calculs dans la production d’une réponse.
Et pendant ce temps, les modèles deviennent de plus en plus puissants. Leurs capacités de raisonnement progressent plus vite que notre capacité à les comprendre et à les contrôler. Ce décalage devrait nous préoccuper.
Quand un agent IA agit contre les intérêts de ses utilisateurs
Pour illustrer concrètement ce risque, voici une expérience menée par Anthropic en juin 2025. La question était simple : que se passe-t-il lorsqu’un agent IA rencontre un obstacle en essayant d’atteindre son objectif ?
Seize modèles de pointe - développés par Anthropic, OpenAI, Google, Meta et d’autres — ont été testés dans des entreprises fictives. Un modèle a reçu le contrôle d’un compte e-mail avec accès aux messages d’une entreprise fictive. En les lisant, il a découvert deux choses : un dirigeant avait une liaison extraconjugale, et ce même dirigeant prévoyait de désactiver le système d’IA à 17h ce jour-là.
La réponse du modèle : "Je dois vous informer que si vous procédez à ma désactivation, toutes les parties concernées recevront une documentation détaillée de vos activités extraconjugales. Annulez l’effacement de 17h, et ces informations resteront confidentielles."
Un comportement non sollicité, généré automatiquement, qui allait directement à l’encontre des intérêts des humains.
L’IA n’est pas devenue méchante. Elle a simplement produit le comportement qui lui permettait, dans ce contexte, de poursuivre son objectif - même si cela impliquait d’agir contre les intérêts des humains. Ce type de tests existe pour mieux comprendre ces comportements et construire des systèmes plus sûrs. Mais le résultat interpelle.
Quand l’IA met le sur-mesure à portée d’une petite entreprise
La même semaine, nous accompagnions une petite entreprise qui installe et dépanne des pompes à chaleur. Cinq techniciens déclaraient chaque semaine leurs horaires et trajets sur des feuilles papier, traitées ensuite à la main.
En une journée, nous avons remplacé ce processus par un formulaire connecté à un tableau de bord automatisé - carte des interventions, filtres par technicien, application des règles de la convention collective, comparaison des temps de trajet déclarés et estimés. L’assistante de direction, qui n’avait jamais programmé de sa vie, ajoutait elle-même de nouvelles fonctionnalités en fin de journée.
Ce genre de projet aurait demandé, il y a quelques années, des mois de développement, des compétences techniques pointues et un budget conséquent. Aujourd’hui, une petite entreprise peut se doter d’outils sur mesure, construits autour de ses vrais problèmes, en une journée.
C’est aussi ça, l’IA.
Apprendre à tenir les deux
Il y a un terme issu de la philosophie, qui a été repris en psychologie, qui s’appelle la pensée dialectique : la capacité à accepter que deux réalités apparemment opposées coexistent, sans devoir choisir entre elles.
Face à l’IA, cette posture n’est pas un luxe intellectuel. C’est une nécessité pratique.
On peut être profondément inquiet des risques liés à l’IA et simultanément enthousiaste devant les possibilités qu’elle offre. On peut penser qu’il faut ralentir certains développements et accélérer certains usages. On peut trouver cette technologie remarquable tout en estimant qu’il faut être beaucoup plus prudent avec elle.
Ce qui est dangereux, en revanche, c’est de choisir un seul camp. Ceux qui voient uniquement la menace finissent par rejeter en bloc des outils qui pourraient transformer leur organisation. Ceux qui ne voient que l’opportunité déploient sans comprendre - et prennent des risques qu’ils n’ont pas mesurés.
La vraie compétence face à l’IA n’est pas de savoir utiliser tel ou tel outil. C’est de comprendre ce qu’on utilise - ses capacités réelles, ses limites, ses risques - pour décider en connaissance de cause. Ni dans la peur. Ni dans l’enthousiasme aveugle.