Enseignement supérieur : le véritable danger serait de ne plus savoir penser sans l'IA

L'IA doit améliorer notre productivité sans remplacer notre réflexion. Nous devons préserver les connaissances et le discernement nécessaires pour évaluer la pertinence de ses réponses.

Deux fois deux font trois : saurez-vous contredire la machine ?

L’erreur vous paraît évidente. Vous l’avez probablement identifiée avant même de terminer la phrase. Mais si vous ne saviez plus effectuer vous-même ce calcul, sur quoi vous appuieriez-vous pour contredire la machine qui vous donne ce résultat ?

L’exemple est volontairement simpliste. Les erreurs produites par une intelligence artificielle sont généralement beaucoup plus difficiles à repérer. Elles peuvent prendre la forme d’une source inexistante, d’une donnée mal interprétée, d’un raisonnement incomplet ou d’une recommandation parfaitement formulée, mais totalement inadaptée au contexte.

Le problème n’est donc pas seulement de savoir utiliser l’IA. Il faut encore être capable de détecter le moment où elle se trompe.

Une réponse convaincante n’est pas nécessairement une réponse juste

L’intelligence artificielle générative possède une qualité particulièrement séduisante : elle sait produire des réponses qui ont l’apparence de la maîtrise.

La formulation est claire, le raisonnement semble structuré et le vocabulaire paraît précis. Même lorsqu’une information est fausse, elle peut être présentée avec une assurance qui la rend crédible.

Face à une réponse aussi bien construite, deux attitudes sont possibles.

La première consiste à l’accepter parce qu’elle paraît cohérente. La seconde consiste à rechercher ce qui pourrait la rendre fausse.

Cette seconde attitude demande davantage qu’une bonne maîtrise des outils. Elle suppose de posséder suffisamment de connaissances, d’expérience et d’esprit critique pour interroger le résultat obtenu.

Autrement dit, l’IA ne rend pas les compétences inutiles. Elle les rend indispensables pour vérifier ce qu’elle produit.

Gagner en productivité ne signifie pas devenir compétent

J’utilise régulièrement l’intelligence artificielle. Elle me permet de rechercher plus rapidement certaines informations, de structurer des données ou d’explorer plusieurs pistes avant de prendre une décision.

Je l’utilise pour gagner du temps, pas pour penser à ma place.

Cette frontière est essentielle, car la productivité et la compétence ne désignent pas la même chose. Un étudiant peut produire en quelques minutes un document qu’il aurait mis plusieurs heures à rédiger. Un professionnel peut générer une analyse, une présentation ou une recommandation sans partir d’une page blanche.

Le résultat peut être obtenu plus rapidement sans être nécessairement mieux compris.

Or, dans une entreprise, la valeur d’un collaborateur ne réside pas uniquement dans la quantité de contenus qu’il est capable de produire. Elle dépend également de sa capacité à expliquer un choix, à contextualiser une information, à identifier une faiblesse et à assumer les conséquences d’une décision.

Savoir formuler une bonne demande à une intelligence artificielle est une compétence utile. Mais maîtriser l’art du prompt ne transforme pas automatiquement son utilisateur en expert du sujet traité.

La machine peut accélérer l’accès à une réponse. Elle ne nous transmet pas instantanément les connaissances permettant de la juger.

Le risque d’une dépendance invisible

Personne ne décide, du jour au lendemain, de renoncer à sa capacité de réflexion. Le processus est beaucoup plus progressif.

Nous commençons par déléguer une tâche répétitive, puis une synthèse. Ensuite viennent une recherche, une argumentation ou une recommandation. Chacune de ces décisions paraît raisonnable puisqu’elle nous fait gagner du temps.

Mais une compétence que l’on n’exerce plus finit par s’affaiblir.

Nous l’avons déjà constaté avec d’autres outils. Nous mémorisons moins certains renseignements parce que les moteurs de recherche peuvent les retrouver. Nous sollicitons moins notre sens de l’orientation parce qu’une application peut nous guider. Ces délégations ne nous empêchent pas de vivre ou de travailler, mais elles transforment progressivement nos aptitudes.

Avec l’intelligence artificielle, nous pouvons désormais déléguer une partie du raisonnement lui-même.

Le risque n’est pas de devenir soudainement incapable de penser. Il est de devenir de plus en plus performant dans la production de réponses tout en étant de moins en moins capable d’en comprendre les fondements.

Nous pourrions alors dépendre d’un outil que nous aurions l’impression de maîtriser.

L’enseignement supérieur ne peut pas former de simples opérateurs de l’IA

Interdire l’intelligence artificielle dans l’enseignement supérieur serait illusoire. Les étudiants l’utilisent déjà et continueront à le faire. Les entreprises attendront d’ailleurs des jeunes diplômés qu’ils sachent mobiliser ces outils dans leur activité professionnelle.

Mais entre l’interdiction et l’abandon de la réflexion à la machine, il existe une autre voie.

L’enseignement supérieur doit apprendre aux étudiants à utiliser l’IA tout en leur demandant de démontrer ce qu’ils apportent personnellement au résultat.

Cela suppose de ne plus évaluer uniquement la qualité apparente d’un document. Il faut également apprécier la capacité de l’étudiant à :

expliquer la méthode employée ;

identifier les sources et les vérifier ;

repérer les limites de la réponse obtenue ;

justifier les choix réalisés ;

défendre son raisonnement sans dépendre de l’outil ;

reconnaître une erreur et corriger sa conclusion.

L’usage de l’IA peut être autorisé dans certaines évaluations. Mais cette autorisation doit s’accompagner d’une exigence plus forte sur la compréhension, la vérification et la responsabilité.

La question ne doit plus seulement être : "Quel résultat avez-vous produit ?"

Elle doit devenir : "Quelle valeur avez-vous personnellement ajoutée à ce résultat ?"

La machine propose, l’être humain répond

Cette exigence ne concerne pas uniquement les étudiants.

Dans les entreprises, l’intelligence artificielle prendra une place croissante dans la préparation des décisions. Elle proposera des diagnostics, des prévisions, des recommandations et peut-être des arbitrages de plus en plus complexes.

Pour autant, elle ne comparaîtra pas devant un client pour expliquer une erreur. Elle ne répondra pas aux inquiétudes d’une équipe. Elle n’assumera ni la perte financière, ni l’échec stratégique, ni les conséquences humaines d’une mauvaise décision.

La personne qui aura choisi de suivre sa recommandation restera responsable.

Cette responsabilité suppose de comprendre suffisamment le sujet pour pouvoir dire :

"Cette réponse est cohérente, mais il manque une information."

"Cette recommandation paraît logique, mais elle ne tient pas compte de notre réalité."

Ou, plus simplement :

"Non, la machine se trompe."

Demain, la compétence la plus précieuse ne sera peut-être pas de savoir obtenir une réponse de l’intelligence artificielle. Tout le monde ou presque pourra le faire.

Elle sera de savoir quand il ne faut pas lui faire confiance.

Apprendre à utiliser l’IA, mais aussi à lui résister

Nous avons raison de vouloir préparer les étudiants et les professionnels aux outils qui transformeront leur quotidien. Refuser l’intelligence artificielle au nom de ses risques nous priverait de gains considérables en matière de productivité, d’accès à l’information et d’exploration de nouvelles solutions.

Mais adopter un outil ne signifie pas lui abandonner notre autonomie.

L’intelligence artificielle doit rester un moyen d’augmenter nos capacités, pas un substitut à notre jugement. Elle peut nous aider à aller plus vite, à condition que nous restions capables de déterminer la direction.

Le véritable danger ne serait donc pas que l’IA apprenne à penser.

Il serait que nous perdions progressivement l’habitude de le faire.