L'IA est-elle déjà malade ?

L'IA risque une "consanguinité" numérique lorsqu'elle apprend à partir de contenus générés par d'autres IA. Ce phénomène appelé Habsburg AI ou Model Collapse entraîne une dégradation de la qualité.

L’IA est-elle déjà malade ? Si l’on considère que la consanguinité chez les humains est dangereuse parce qu’elle empêche la diversité du patrimoine génétique, créant malformations et véritables problèmes, alors imaginez ce que cela peut être avec l’IA.

Aujourd’hui, il devient de plus en plus difficile de distinguer ce qui a été rédigé par une IA de ce qui a été écrit par un humain. Mais je le dis souvent : la vraie valeur, c’est l’humain.

Et cette valeur, sans qu’on s’en rende compte, va très vite devenir monétisable. Demain, le fait d’être écrit par un humain, d’avoir une certification prouvant qu’un texte, avec ses mots, ses erreurs, son style, est bien attribuable à une personne, aura une valeur marchande.

De nombreuses études montrent que les boucles récursives dans les modèles d’IA sont très dangereuses, en particulier dans des domaines sensibles comme la médecine ou l’éducation. Une boucle récursive, c’est lorsqu’un modèle apprend à partir de données déjà générées par une autre IA : cela amplifie les stéréotypes, renforce les biais, et devient potentiellement catastrophique.

On parle même de feedback loops : sans apport humain nouveau, on ne génère que du contenu répétitif, vidé de sa substance. Vous l’avez déjà constaté avec des images : créez-en une, décrivez-la pour en créer une autre, puis encore une autre… À la fin, le résultat devient forcément déceptif.

C’est ça qui fait, paradoxalement, la beauté de l’intelligence humaine. Quand je parle d’intelligence artificielle, je pose souvent cette question : est-ce qu’un grand artiste, un grand peintre, est quelqu’un d’intelligent ? En tout cas, il a une intelligence émotionnelle, et c’est aujourd’hui la plus difficile à imiter. La beauté d’un texte ou d’une création humaine, ce sont ses failles, ses erreurs, ses hésitations, son imperfection. Ce sont ces petites imperfections qui en font toute la valeur.

Or, ne pas introduire de créations humaines dans l’entraînement des modèles, c’est tomber dans cette consanguinité virtuelle. Les contenus vont devenir de plus en plus médiocres, pouvant même conduire à un effondrement. Le chercheur Jathan Sadowski décrit ce phénomène sous le terme de Habsburg AI, en référence à la dynastie des Habsbourg, tristement célèbre pour sa consanguinité. D’autres parlent de Model Autophagy Disorder (MAD), du grec « autophagie »  se dévorer soi-même. C’est le serpent qui se mord la queue.

La valeur humaine

la donnée a toujours eu de la valeur. Rappelez-vous cet adage : « si c’est gratuit, c’est que vous êtes le produit. » On a cru que l’IA allait transformer cet adage. En réalité, elle ne fait que l’amplifier.

La vraie valeur n’est pas ce que produit l’IA, mais ce que vous dites, ce que vous exprimez. Le véritable trésor, c’est ce que vous pensez. Les GAFAM le savent bien : si aujourd’hui tout le monde se bat pour récupérer vos conversations, c’est pour accéder à de la data fraîche, la fraîcheur de l’humain.

Et ça, c’est poétique. L’humain est naturel, vivant, imparfait. Avec ses fautes, ses faiblesses, mais aussi avec ses inspirations, ses illuminations, ses émotions. Cette valeur devra être certifiée : écrit par un humain, pensé par un humain, vécu par un humain.

Le piège des réseaux sociaux

L’homme est un animal social. On s’est trompé en croyant que les réseaux sociaux allaient augmenter et améliorer cette interaction. Ils ont, au contraire, créé des silos. L’algorithme a monétisé notre attention et nos interactions. Mais l’enjeu de demain, c’est tout l’inverse : retrouver la capacité d’échanger réellement entre nous, sans artifice numérique. Aujourd’hui, je peux discuter avec une IA hautement instruite, mais cet échange restera limité. Pas de sensibilité, pas de vécu, pas l’histoire complète d’une vie qui influence les décisions et enrichit la discussion. Pas ce regard ou ce silence qui dit plus que les mots. Cette valeur, c’est l’homme.

En conclusion...

L’IA est censée reproduire une forme d’intelligence. Mais, aujourd’hui  et pour longtemps encore elle ne pourra pas reproduire l’émotion qui n’existe que parce que l’homme fait travailler ses cinq sens et s’appuie sur son vécu. Reproduire l’intelligence humaine, ce n’est pas seulement reproduire son efficacité : c’est reproduire ses défauts, ses errements, ses imperfections , ses émotions...

Il reste tant de belles choses à inventer pour l’avenir. Et elles ne sont pas forcément là où on les attend : elles sont peut-être beaucoup plus proches de nous, dans ce que nous partageons, entre humains.