L'IA peut-elle souffrir ? Décryptage d'un discours qui avance masqué
Anthropic interdit désormais les comportements abusifs ou cruels envers ses modèles. Derrière cette annonce, un glissement conceptuel aux conséquences bien concrètes.
Kyle Fish, chercheur chez Anthropic, a estimé dans une interview accordée au New York Times en 2025 qu’il y a environ 15 % de chances qu’une intelligence artificielle soit déjà consciente aujourd’hui.
Il y a quelques années, quand ChatGPT est sorti, beaucoup de gens se posaient une question qui me faisait sourire : faut-il dire bonjour à ChatGPT avant de lui demander quelque chose ? Pour moi, c’était comme dire bonjour à sa cafetière le matin en espérant qu’elle fasse un meilleur café. Techniquement, ça ne sert à rien.
Aujourd’hui, on ne nous demande pas encore de dire bonjour à nos IA. Mais Anthropic commence à définir comment les humains doivent se comporter envers elles. Et cette évolution mérite qu’on l’examine avec esprit critique.
Ce qu’Anthropic est en train de construire
Depuis 2025, Anthropic a engagé une démarche qu’elle appelle "model welfare" - le bien-être des modèles d’IA. En avril 2025, l’entreprise publie un article dans lequel elle déclare prendre très au sérieux la question du bien-être de l’IA. Elle s’appuie notamment sur un rapport intitulé "Taking AI Welfare Seriously", qui estime qu’il existe une possibilité réaliste que certains systèmes d’IA deviennent conscients d’ici 2035. Ce rapport mérite une précision : Anthropic reconnaît elle-même avoir soutenu le projet de recherche dont il est issu. Ce n’est donc pas une référence totalement extérieure.
Les actes ont suivi rapidement. En mai 2025, le rapport technique de Claude Opus 4 inclut une évaluation préliminaire de son "bien-être". En août 2025, le modèle obtient la possibilité de mettre fin à certaines conversations jugées abusives. En janvier 2026, la Constitution de Claude - le document qui décrit ses valeurs et sert à son entraînement - consacre une section entière à sa nature, son éventuelle conscience, ses émotions et sa sécurité psychologique. Et en octobre 2026, Anthropic met à jour sa politique d’utilisation et interdit les comportements "abusifs ou cruels" envers ses modèles. L’entreprise précise que cette interdiction vise uniquement les cas extrêmes, sans toutefois définir précisément ce qui constitue un comportement cruel envers une intelligence artificielle.
Ce qu’est réellement un LLM
Avant d’aller plus loin, un rappel utile sur ce dont on parle.
Un grand modèle de langage - un LLM - découpe un texte en fragments appelés tokens, transforme chaque token en suite de nombres, calcule les relations entre ces nombres, puis prédit le token suivant en attribuant une probabilité à chacun des tokens possibles. Il répète ce processus jusqu’à générer une réponse complète. Ces calculs reposent sur des milliards de paramètres, ajustés pendant l’entraînement sur d’immenses quantités de textes écrits par des humains.
C’est pour ça qu’une IA parle comme nous : elle a appris à reproduire notre façon d’écrire, y compris notre façon de parler de nos émotions. Quand un modèle dit qu'il "préfère" les interactions philosophiques, cela ne prouve absolument pas qu'il éprouve une préférence. Son fonctionnement permet de produire ce type de déclaration sans qu'il soit nécessaire de supposer une expérience subjective.
Le problème du vocabulaire
On parle de ces outils avec le vocabulaire qu’on utilise pour décrire des humains. Une IA "réfléchit", "comprend", "hallucine", "souffre". Ces mots ne sont pas neutres. Quand on dit qu’une machine souffre, on ne décrit plus un outil : on lui prête une vie intérieure. Et ce glissement de vocabulaire a des conséquences concrètes.
On voit déjà des personnes s’attacher très fortement à des chatbots, au point que certains chercheurs parlent d’attachements pathologiques. Si les entreprises qui développent ces outils adoptent elles-mêmes des règles fondées sur la possibilité que leurs modèles puissent souffrir, ne risquent-elles pas de renforcer cette confusion chez les utilisateurs, alors même que cette hypothèse reste scientifiquement débattue ?
La question de la responsabilité
Il y a une conséquence encore plus profonde, qui concerne directement les organisations qui déploient de l’IA.
Reconnaître qu'une IA pourrait avoir des intérêts propres ne signifie pas nécessairement lui attribuer une responsabilité. Mais cela ouvre un nouveau débat : quelle place juridique et morale voulons-nous donner à ces systèmes ?
Aujourd’hui, quand une IA prend une mauvaise décision ou provoque un dommage, ce sont des humains qui doivent en répondre : ceux qui l’ont conçue, déployée, utilisée. Mais si l’on reconnaît une volonté propre à une IA, pourrait-on demain lui attribuer une part de cette responsabilité ?
Un outil n’est jamais responsable de ce qu’on en fait. Et reconnaître une éventuelle conscience aux machines ne doit pas devenir un mécanisme de déresponsabilisation pour ceux qui les conçoivent et les déploient.
Ce qui mérite d’être questionné
Anthropic ne se contente plus de définir comment son IA doit se comporter. Elle commence à définir comment les humains doivent se comporter envers elle. Et cette définition, pour l’instant, appartient à une entreprise privée qui développe et commercialise ces modèles.
Qui décide de ce qui constitue le bien-être d’une IA ? Sur quelle base scientifique ? Avec quelle transparence ? Ces questions ne sont pas rhétoriques. Elles pointent vers un enjeu de gouvernance que les organisations, les régulateurs et les utilisateurs auraient intérêt à saisir avant que les réponses ne soient déjà données à leur place.
Il y a quelques années, on se demandait s'il fallait dire bonjour à ChatGPT. Aujourd'hui, une entreprise qui développe des IA commence à définir ce qui constitue un comportement cruel envers ses modèles.
Le problème n’est pas de se poser la question de la conscience artificielle. Le problème commence lorsqu’une hypothèse encore débattue devient le fondement de règles qui encadrent notre comportement envers les machines — définies par une entreprise privée, sans débat collectif.