Quand l'IA reproduit les effets de l'intelligence

Les IA génératives rédigent, argumentent, synthétisent et expliquent avec aisance. La qualité de leurs productions ne prouve pourtant ni compréhension, ni raisonnement, ni intention humaine.

Les progrès récents de l’intelligence artificielle remettent surtout en question la manière de définir l’intelligence. Celle-ci a longtemps été reconnue à travers ses manifestations visibles. Une réponse pertinente, un texte cohérent ou une démonstration bien construite semblaient témoigner du processus intellectuel qui les avait produits. Les modèles génératifs montrent qu’un même résultat apparent peut être obtenu par des voies très différentes. Leur performance oblige ainsi à distinguer la qualité d’une production du fonctionnement cognitif dont elle procède.

Des résultats similaires obtenus par des chemins différents

Lorsqu’une personne écrit un email, elle connaît généralement le message qu’elle souhaite transmettre, son destinataire et l’effet qu’elle espère produire. Elle organise son propos en fonction d’une situation, d’une intention et d’une représentation du monde. Une IA générative procède autrement. Elle analyse les régularités présentes dans les données sur lesquelles elle a été entraînée et calcule, à chaque étape, la suite de mots la plus probable compte tenu du contexte. Elle peut ainsi produire un texte parfaitement cohérent sans suivre le raisonnement explicatif que mobiliserait un humain pour accomplir la même tâche.

L’auto-attention joue un rôle essentiel dans ce fonctionnement. Ce mécanisme permet au modèle de tenir compte des relations entre les différents mots d’une phrase et d’évaluer leur importance selon le contexte. Dans la phrase "La tasse ne rentre pas dans la valise parce qu’elle est trop petite", le système peut associer "elle" à la valise et identifier sa taille comme l’origine du problème. Le mot n’est donc pas traité comme un élément isolé. Sa représentation dépend des liens qu’il entretient avec tous les autres éléments de la séquence. Cette logique rappelle la philosophie du structuralisme, selon lequel la valeur d’un élément se construit à partir de sa place dans un ensemble de relations. La fluidité du langage peut émerger de cette mécanique statistique. Elle produit une impression de compréhension particulièrement convaincante, alors que la nature du processus reste très éloignée de l’expérience humaine du sens.

Identifier une régularité ne permet pas toujours de l’expliquer

Les systèmes d’apprentissage automatique sont particulièrement efficaces pour détecter des corrélations dans de très grands ensembles de données. Lorsqu’un phénomène apparaît régulièrement en même temps qu’un autre, le modèle peut utiliser cette association pour établir une prédiction. Imaginons que les ventes de parapluies et les embouteillages augmentent systématiquement les mêmes jours. Une analyse statistique identifiera facilement cette relation. Mais elle ne permet pas, à elle seule, de comprendre que la pluie constitue le facteur commun qui explique les deux phénomènes. Les parapluies ne provoquent pas les embouteillages, pas plus que les ralentissements ne poussent les consommateurs à acheter des parapluies. Cette distinction entre corrélation et causalité est fondamentale. La corrélation indique que deux événements évoluent ensemble. La causalité cherche à comprendre le mécanisme qui relie les phénomènes et à déterminer ce qui produit quoi.

Les humains construisent des représentations causales du monde à partir de leur expérience, de leurs connaissances et de leur capacité à formuler des hypothèses. Ils peuvent envisager un facteur absent des données observées, imaginer une autre explication ou se demander ce qui se produirait si certaines conditions étaient modifiées. Une IA peut établir des prédictions extrêmement justes tout en restant incapable de fournir une véritable explication du phénomène observé.

La science face à une nouvelle puissance de prédiction

Cette différence prend une importance particulière dans la recherche scientifique. Le machine learning permet aujourd’hui de traiter d’immenses volumes de données et de repérer des régularités qu’une analyse humaine aurait difficilement identifiées. Dans le domaine médical, des systèmes peuvent détecter sur des milliers d’images des caractéristiques associées à une pathologie. En climatologie ou en agriculture, le croisement de données météorologiques, géographiques et satellitaires permet d’anticiper l’évolution d’un environnement ou le rendement futur de certaines cultures. Ces outils offrent aux chercheurs des capacités d’analyse et de prédiction considérables. Ils complètent les approches expérimentales et rendent accessibles des travaux qui exigeaient auparavant beaucoup plus de temps et de moyens.

Cette puissance soulève toutefois une question épistémologique. Un modèle peut repérer un signal fiable sans découvrir le mécanisme qui le produit. La prédiction devient alors possible avant même que le phénomène soit pleinement compris. Le risque apparaît lorsque la régularité statistique est interprétée comme une relation causale. La masse des données et la précision du résultat peuvent donner à une corrélation une apparence d’explication scientifique. Pourtant, prévoir un événement et comprendre pourquoi il survient restent deux opérations distinctes.

Une réponse vraisemblable peut être fausse

Le fonctionnement des modèles d’IA pose également la question de l’explicabilité. Leurs réponses résultent de milliards de paramètres et d’une succession de microcalculs dont il est souvent difficile de reconstituer précisément le cheminement. Un modèle génératif peut produire une réponse à la demande d’une explication, mais cette réponse constitue elle-même un nouveau contenu généré. Elle ne correspond pas nécessairement à la restitution fidèle des opérations qui ont conduit au résultat initial. Ce fonctionnement probabiliste contribue aussi au phénomène d’hallucination. Le système recherche une suite cohérente et vraisemblable au regard des régularités apprises. Lorsque l’information lui manque, il peut compléter une référence, un nom ou un fait par une proposition plausible, tout en conservant le même ton assuré. Le terme de mensonge conviendrait mal, puisqu’il suppose la connaissance de la vérité et l’intention de la dissimuler. L’hallucination désigne plus justement une production dans laquelle la plausibilité statistique l’emporte sur l’exactitude factuelle.

L’intelligence humaine dépasse ses productions visibles

Les contenus générés prennent finalement leur sens dans l’interprétation qu’en fait un être humain. Celui-ci peut déterminer si une réponse correspond aux faits, si un raisonnement est cohérent et si une conclusion répond réellement à la question posée. Il mobilise pour cela plusieurs dimensions de la pensée. Le raisonnement causal lui permet de rechercher les mécanismes à l’origine d’un phénomène. Le raisonnement épistémique l’aide à distinguer ce qui est établi, probable ou incertain. Le raisonnement logique évalue la cohérence d’une démonstration. Le raisonnement intentionnel inscrit enfin la pensée dans des objectifs, des désirs et une volonté. Les performances de l’IA ne rendent pas ces facultés secondaires. Elles permettent au contraire de mieux les distinguer de la seule capacité à produire un résultat convaincant.

En reproduisant certains signes extérieurs de l’intelligence, l’IA oblige ainsi à regarder au-delà des apparences. Elle révèle que la pensée humaine dépasse largement les productions visibles auxquelles elle a longtemps été associée.