Le véritable danger de l'IA est moins la machine que ce que l'homme décidera d'en faire

L'intelligence artificielle va-t-elle un jour échapper à notre contrôle et menacer l'humanité ?

La question, longtemps cantonnée à la science-fiction, s’est installée dans le débat public. Elle mérite d’être posée, mais peut-être pas exactement dans ces termes. Car le scénario le plus crédible n’est pas celui d’une machine qui développerait soudainement une volonté propre et déciderait de nous éliminer.

Le danger le plus immédiat est plus prosaïque : l’IA donne à l’être humain des capacités d’action, de manipulation et de destruction d’une puissance inédite, mais également de manière directe via un impact à court terme, comme indirecte avec un impact plus insidieux, à moyen ou long terme.

À bien des égards, l’IA présente un parallèle avec l’énergie nucléaire. Toutes deux peuvent produire des avancées considérables lorsqu’elles sont utilisées à des fins bénéfiques, et provoquer des dommages immenses lorsqu’elles sont détournées. Toutes deux sont devenues des enjeux de puissance qui structurent les stratégies des États. Et, dans les deux cas, un principe relativement simple peut produire, par effet de chaîne, des dommages considérables.

Mais la puissance de l’IA dépend autant de ses capacités que des systèmes auxquels nous choisirons de la connecter.

Le risque n’est pas l’IA, mais la délégation sans contrôle

Après l’IA qui répond, arrive l’IA qui agit. Les agents autonomes peuvent utiliser des applications, accéder à des données, écrire du code ou enchaîner des tâches sans intervention humaine. Ils seront de plus en plus intégrés à davantage de processus économiques et industriels.

La question essentielle devient alors celle de la délégation. Jusqu’où sommes-nous prêts à laisser une machine agir à notre place ? Et surtout, sommes-nous capables de conserver les moyens de comprendre, contester et interrompre son action ? Pire, certains vont demander à l’IA de réaliser des actions qu’ils n’ont jamais réalisées eux-mêmes auparavant, et donc sans capacité d’en assurer la qualité du résultat. Combien d’utilisateurs font/feront produire des quantités massives de code par l’IA sans jamais ouvrir un fichier Python qui en résulte ?

Nous serions naïfs de penser que, parce que l’humain a créé l’IA, il saura nécessairement la maîtriser. Mais l’inverse serait tout aussi trompeur : l’IA n’est pas une entité malveillante par nature. Elle est le fruit de ce qui l’a nourrie : il y a du mauvais, mais aussi du bon. Le problème apparaît lorsqu’un système poursuit un objectif mal défini, dispose de droits trop larges ou est utilisé dans un but malveillant.

Le rapprochement de l’IA et de la robotique renforce encore cet enjeu : ce que l’IA ne peut accomplir aujourd’hui faute de prise sur le monde physique, des machines pourront demain l’exécuter. La frontière entre décision numérique et action physique va s’estomper.

Entre le déni du risque et le scénario d’une IA se retournant inévitablement contre nous existe un danger concret : confier de manière opportuniste davantage de décisions à des systèmes insuffisamment encadrés, sans définition d’objectifs tactiques et stratégiques, sans entraînement suffisant, et sans garde-fous.

Le risque militaire doit nous alerter dès maintenant

C’est dans le domaine militaire que cette question prend sa forme la plus tangible. L’IA transforme déjà la préparation des opérations, le renseignement, la surveillance, le ciblage ou l’usage des drones, par exemple. Ses capacités biologiques et chimiques, associées à celles cyber-offensives et, demain, à la robotique, pourront occasionner des dommages majeurs.

Le danger n’est donc pas nécessairement qu’une IA "décide" de déclencher une guerre, mais plutôt qu’elle accélère les décisions, automatise l’offensive et augmente la puissance d’acteurs humains aux intentions hostiles.

L’histoire nous rappelle d’ailleurs la nécessité de conserver une capacité humaine de jugement. En 1983, l’officier soviétique Stanislav Petrov jugea, à raison, qu’une alerte signalant une attaque nucléaire américaine était erronée, au prix de désobéir aux consignes qu’il avait. Il a eu raison.

De manière similaire, le capitaine Sullenberger a pris la décision de faire atterrir le vol US Airways 1549 - qui avait perdu la poussée de ses 2 réacteurs suite à une collision avec des oiseaux - sur le fleuve Hudson, dans le New Jersey, plutôt que de tenter de le ramener vers les aéroports de LaGuardia et Teterboro les plus proches. Sauvant ainsi 155 passagers et équipage présents à bord.

Qu’aurait fait une IA ? Préserver cette faculté de remettre en cause la décision d’une machine (même lorsqu’elle semble rationnelle) est essentiel.

L’émergence de l’IA dans notre quotidien est inévitable, et il n’est pas dans notre intérêt de nous y opposer ou, pire, de l’interdire. Cependant, nous devons être conscients et valider l’autonomie que nous accordons à cette IA, et surtout mettre en œuvre les garde-fous nécessaires.

Il faut aussi assurer la conduite du changement, encourager les actions de formation et de sensibilisation, garder un regard critique et des moyens de contrôle, y compris des tâches et décisions déléguées à l’IA.

Au lieu de se demander "que va faire l’IA contre l’humanité", nous devons nous demander comment nous appréhendons et favorisons l’émergence de cette IA dans tous nos métiers, sans jamais renoncer à notre obligation de contrôle.

Plus que jamais, il devient urgent de tenter de résoudre nos conflits, pour éviter l’usage de l’IA à des fins malveillantes (rivalités géopolitiques, manipulations, propension à la guerre), qu’elle amplifiera à une vitesse et une échelle inédites.