IA et causalité : l'illusion de la pensée

Les IA génératives savent produire des raisonnements convaincants, mais comprennent-elles réellement les liens de causalité ? De nouvelles approches explorent les frontières de l'intelligence artificielle

La capacité des IA génératives à rédiger, argumenter, synthétiser ou expliquer des notions complexes pousse une partie de la communauté scientifique à s'interroger sur des facultés que l'on croyait réservées à la pensée humaine et qui sont désormais reproduites par des machines. Pourtant, le fait qu'un système produise un texte d'une grande qualité esthétique ou logique ne prouve en rien qu'il comprend, raisonne ou agit avec intention. Les modèles récents montrent des capacités de raisonnement causal, sans que leurs performances suffisent à établir l'existence de processus cognitifs comparables à ceux de l'humain. Le raisonnement causal permet de distinguer les causes des simples coïncidences, là où les réponses algorithmiques peuvent reproduire certains de ses résultats sans nécessairement en maîtriser les mécanismes.

Les trois niveaux de la causalité

C'est dans le traitement de la causalité que la distinction entre calcul et pensée devient particulièrement intéressante. Il existe plusieurs manières de définir la pensée. Parmi les différentes approches, celle qui consiste à évaluer les capacités de raisonnement causal des machines occupe une place importante dans la recherche actuelle. Ce cadre d'évaluation repose sur une échelle du raisonnement causal structurée en trois niveaux (The Book of Why, Judea Pearl et Dana Mackenzie, Basic Books, 2018).

Le premier niveau est celui de l'association, c'est-à-dire la capacité d'observer des corrélations. C'est le domaine où l'IA excelle, en détectant par exemple que la taille des pieds des enfants est fortement corrélée à leur niveau en mathématiques, sans nécessairement comprendre qu'un troisième facteur, l'âge de l'enfant, explique ces deux phénomènes.

Le deuxième niveau est celui de l'intervention, qui consiste à prédire le résultat d'une action modifiée. C'est à ce niveau que les LLM récents montrent certaines capacités de raisonnement causal, même si on ne peut pas conclure à une compréhension des mécanismes sous-jacents. En médecine, un modèle peut ainsi prédire qu'un arrêt du tabac contribue à réduire l'inflammation et la résistance à l'insuline, améliorant le contrôle glycémique. Il peut produire une explication médicalement pertinente, mais pas établir la nature du raisonnement qui l'a conduit à cette réponse (Balu Bhasuran et al., npj Digital Medicine).

Le troisième niveau est celui du contrefactuel, c'est-à-dire la capacité d'imaginer des situations alternatives et de reconstruire le passé sous des hypothèses contraires aux faits. C'est ici que les modèles actuels rencontrent des difficultés particulières. Le benchmark METER 2026 montre une dégradation des performances des LLM à mesure que les tâches mobilisent des niveaux plus complexes de raisonnement causal (Pengfeng Li et al., METER). Face à des questions du type "Que se serait-il passé si le patient n'avait jamais été obèse ?", ils peuvent perdre la fidélité au contexte fourni et privilégier des régularités statistiques apprises lors de leur entraînement (Pengfeng Li et al., METER ; Balu Bhasuran et al., npj Digital Medicine). Ils risquent alors de produire des explications causales erronées avec la même assurance syntaxique que s'ils énonçaient un fait vérifié.

Les nouvelles frontières et leurs paris sur l'intelligence

Face à ces limites, la recherche explore de nouvelles pistes qui révèlent une divergence fondamentale sur la manière de concevoir et de développer l'intelligence artificielle.

Une première approche, portée par Yann LeCun avec les World Models, parie sur une intelligence perceptive et incarnée. Elle propose de permettre à la machine d'apprendre les régularités et les lois physiques du monde (matière, temps, gravité) à partir d'observations vidéo ou sensorielles, plutôt que de s'appuyer principalement sur le langage. L'obstacle réside dans la complexité d'ingénierie et la difficulté d'évaluer la compréhension physique acquise par ces systèmes. Cette approche ouvre des perspectives pour la robotique ou les véhicules autonomes, sans garantir pour autant l'accès à une pensée abstraite.

François Chollet privilégie quant à lui une conception de l'intelligence fondée sur la capacité d'abstraction et de généralisation, notamment à travers des approches combinant apprentissage automatique et synthèse de programmes. Cette voie associe les capacités de reconnaissance de motifs des réseaux de neurones à la construction de règles explicites pour résoudre des situations inédites. Elle suppose de dépasser certaines limites des architectures actuelles et se heurte à des défis techniques considérables. Cette approche représente une autre piste pour développer une intelligence artificielle capable de généraliser ses connaissances et de résoudre des problèmes nouveaux, sans dépendre uniquement de l'accumulation massive de données.