3 choses que vous ne devriez jamais confier à l'IA

2/10. Si dans votre entreprise, on confie des données sensibles à un LLM, si les agents autonomes envahissent votre environnement, ou si c'est l'IA qui rédige les comptes rendus de réunion, fuyez!

Imaginez un instant que vous observiez l’une de ces trois pratiques dans votre environnement de travail. Ou que vous déteniez des actions d’une société qui les tolère. Mon conseil est simple et sans appel : fuyez cet océan rouge sang, quittez ce travail toxique si vous le pouvez, vendez vos parts avant de tout perdre. Ces trois signaux ne mentent pas. Ils indiquent qu’une organisation est en train de perdre son âme, sa gouvernance et, à terme, sa valeur réelle.

1. Confier des données personnelles, confidentielles ou protégées à un LLM externe

C’est le premier poison silencieux. Un collaborateur envoie un contrat sensible, des données de pilotage, des échanges RH ou un document créatif protégé par copyright à ChatGPT, Claude ou Gemini. "C’est plus rapide", dit-on. En réalité, c’est une bombe à retardement.

L’entreprise qui laisse faire détruit la confiance que clients, collaborateurs et actionnaires placent en elle. Les données fuient vers des serveurs sur lesquels elle n’a aucun contrôle. La gouvernance se déplace : ce ne sont plus les dirigeants qui décident, ce sont les conditions d’utilisation d’un prestataire californien. La valeur de l’entreprise s’érode. La réputation aussi.

Les entreprises sérieuses ne se contentent pas de "sensibiliser". Elles appliquent des mécanismes de sanctions clairs et proportionnés. Parce que tolérer cela, c’est accepter que l’outil devienne plus important que la confiance. C’est un aveu de faiblesse stratégique. Les marchés sanctionnent durement ce genre de négligence.

Pour Garder la main : 3 choses que vous ne devriez jamais confier à l’IA

2. Laisser un agent autonome décider sans supervision humaine réelle

C’est la tentation la plus dangereuse, surtout pour les directions financières. Remplacer un humain par une machine permet de réduire la masse salariale tout en "gérant plus de valeur pour l’actionnaire". Sur le papier, c’est très alléchant de leur point de vue. Dans la réalité, c’est un piège économique et moral.

Économiquement, tout ce que fait une machine peut être reproduit, amélioré ou contourné par une autre machine concurrente. L’avantage compétitif s’évapore. Moralement, c’est plus grave encore. Comme l’analyse François Dupuy dans Lost in Management, nous processons les décisions depuis des décennies : KPI, procédures, algorithmes. Nous diluons la responsabilité jusqu’à ce qu’elle disparaisse.

C’est la banalité du mal version technologique. La machine n’a aucune conscience, aucune éthique, aucune humanité. Elle optimise un objectif. Point.

Voici quatre cas réels :

1. Robodebt en Australie (2016-2019) : un système automatique a poursuivi des centaines de milliers de citoyens vulnérables avec de fausses dettes. Des suicides ont suivi. Personne n’avait vraiment regardé au cas par cas.
2. L’affaire des allocations aux Pays-Bas (Toeslagenaffaire, 2013-2021) : un algorithme a ruiné des dizaines de milliers de familles. Le gouvernement a démissionné.
3. L’outil de recrutement d’Amazon (abandonné en 2018) : il discriminait les femmes sans qu’un humain intervienne vraiment.
4. Regardez le chatbot d’Air Canada (2024) : il a inventé une politique tarifaire. L’entreprise a été condamnée.

Chaque fois, l’absence de jugement humain a transformé un outil en catastrophe.

3. Déléguer la rédaction d’un compte rendu de réunion à l’IA

C’est peut-être le signal le plus insidieux, parce qu’il paraît anodin.

Au début, on demande poliment l’autorisation d’enregistrer la réunion "pour aider à la synthèse". Puis cela devient la norme et on ne demande plus. Puis la surveillance s’étend à tous contre tous. Un jour, ce que vous avez dit dans un couloir ou aux toilettes est analysé, contextualisé et utilisé contre vous. Seuls ceux qui n’ont pas le choix resteront dans un tel environnement. Les talents partiront.

Mais il y a plus profond. Un compte rendu n’est jamais objectif. Il est le fruit de choix : ce qu’on garde, ce qu’on minimise, ce qu’on met en avant. Rédiger un compte rendu, c’est s’exposer. C’est assumer son point de vue, sa sensibilité, sa compréhension des dynamiques humaines. C’est un acte d’engagement dans le groupe.

Quand une entreprise accepte que le jugement de ses collaborateurs puisse être remplacé par une machine, elle envoie un message clair : votre regard humain n’est plus nécessaire. Dès lors, tout le travail deviendra médiocre. Parce que la machine ne voit que les moyennes. Elle rate les subtilités, les non-dits, les tensions créatrices, les opportunités naissantes, les tendances qui n’ont pas encore de données massives.

L’entreprise qui délègue cela produit du travail moyen, standardisé, sans âme. Exactement comme ses machines.

Si vous voyez ces trois pratiques s’installer, ne vous bercez pas d’illusions. Ce n’est pas une modernisation. C’est une capitulation progressive de l’humain devant l’outil. C’est la perte lente de ce qui fait la vraie valeur d’une organisation : le jugement, la responsabilité, la confiance, la subtilité.

L’IA est un outil formidable. Mais elle ne doit jamais devenir le patron silencieux. Ni le juge. Ni la mémoire collective.

Gardez la main. Ou partez.