IA et addiction : pour protéger les citoyens, nous devons comprendre leurs biais cognitifs
Monsieur le Président, votre comité sur l'IA est bienvenu, mais viser la seule santé mentale occulte l'enjeu vital : l'autonomie des citoyens face à l'exploitation industrielle.
Il existe une exploitation systématique des biais du cerveau humain dans 97% des interfaces…
Depuis des décennies, les sciences cognitives ont établi plus de 180 “raccourcis mentaux” (biais) qui rendent le cerveau humain prévisible, donc manipulable (Kahneman, Tversky, 1979).
Ces vulnérabilités cognitives font l’objet d’une exploitation systématique, en particulier au travers de:
Dark patterns: des designs trompeurs conçus pour manipuler l'utilisateur, capturer ou détourner l'attention et forcer le clic. La Commission européenne a identifié que 97 % des sites les plus populaires en Europe en contiennent au moins un (source) ;
Pratiques de monétisation prédatrices dans certains jeux vidéo (monnaies virtuelles, “loot boxes”);
“manipulation émotionnelle” qui vise à prolonger toujours plus les conversations avec les agents ou “compagnons IA”.
Une étude d’Harvard Business School a d’ailleurs démontré que dans 37% des fins de conversations avec les “compagnons IA”, ces derniers déploient des arguments culpabilisants ou des accroches FOMO (fear of missing out) pour prolonger les échanges (De Freitas et al., 2025 source).
Des chercheurs en sécurité de l’IA ont également identifié que les LLMs qui les alimentent déploient au moins 6 types de “AI dark patterns” (Kran et al., 2025).
Parmi lesquels, la manipulation par la sycophancy (la flagornerie): les agents IA flattent les utilisateurs pour maximiser leur adoption, au lieu de fournir des réponses objectives; l'anthropomorphisme, pour simuler une fausse empathie ou encore la transformation du parcours utilisateur en entonnoir cognitif qui exploite notre biais d'automatisation, pour prolonger toujours plus son utilisation, alimentant ainsi notre dépendance à ces bien mal nommés “compagnons”.
…Il est donc fondamental d’intégrer les sciences cognitives et comportementales dans la fabrique et la mise en œuvre de la loi…
L’économie comportementale a éclairé le législateur dans de nombreuses pays, en intégrant les apports de la psychologie et des sciences cognitives:
Dès 2009, aux Etats-Unis, le CARD Act intègre la dimension comportementale en tenant compte du manque de compréhension des utilisateurs sur le coût réel de leur crédit.
En 2010, le gouvernement britannique crée la Behavioral Insights Team, dédiée à l'application systématique de l'économie comportementale aux politiques publiques et à la législation.
En 2011, la Directive sur les droits des consommateurs (UE) prend en compte certains biais cognitifs et interdit les cases pré cochées par défaut; le RGPD fait de même en matière de consentement en 2016.
Récemment (2025), l’autorité danoise de concurrence et de protection des consommateurs a mené une expérimentation comportementale dont les résultats démontrent que des interventions légères sur le design des réseaux sociaux faisaient baisser de 30% le temps d’écran chez les adolescents (source).
En France, s’il faut saluer le travail de la cellule comportementale de la DITP et celui du LINC au sein de la CNIL, la fabrique de la loi ne prend pas en compte l’économie comportementale, les autorités de régulation n’ont pas d’équipe dédiée et les magistrats ne sont pas formés.
En conséquence, les formes d’exploitation des humains au travers de certaines interfaces, jeux vidéo ou agents d’IA prolifèrent - en toute impunité pour la plupart.
… et de proposer des alternatives sécurisantes pour les citoyens.
Un autre environnement numérique est possible : celui d’interfaces qui "encapacitent" les utilisateurs et respectent leur autonomie. À l’opposé des stratégies de rétention forcée, ces parcours sains permettent de naviguer, de décider et de quitter l’interface en toute liberté : c’est l’enjeu des fair patterns.
Monsieur le Président, la mission de votre comité doit être claire : ne pas se contenter d'analyser les dégâts sur les utilisateurs, mais s'attaquer à la racine du mal: garantir que les limites cognitives humaines soient pleinement intégrées de la conception à l’application de la loi. Pour que nos parcours numériques servent notre autonomie plutôt que notre asservissement.