8 points clefs souvent occultés dans les débats sur l'intelligence artificielle en France

L'intelligence artificielle est un sujet fascinant, mais où les approximations sont légion. Voici 8 points clefs généralement occultés ou mal explicités.

La semaine dernière Frédéric Taddeï recevait un parterre impressionnant de spécialistes pour discuter des avancées en intelligence artificielle, notamment à l'occasion de la défaite du champion mondial de Go, à la faveur des algorithmes d'AlphaGo, développés par DeepMind, entreprise britannique rachetée par Google en 2014.
L'émission était divertissante et même drôle par moments, mais j'ai personnellement le sentiment que ceux qui s'intéressent ne serait-ce qu'un peu au sujet n'auront pas appris beaucoup.
Pire, l'émission est passée à côté d'au moins 8 points importants, les voici:
1) Transhumanisme
Les participants ont passé leur temps à opposer les hommes aux machines, ou au mieux à envisager comment ils pourraient coopérer, mais personne n'a abordé le sujet fascinant et effrayant de la fusion homme/machine. L'idée par exemple qu'on pourrait peut-être télécharger notre "intelligence" sur un ordinateur. Ou encore qu'il serait possible d'augmenter nos capacités mentales et notre mémoire grâce à la technologie. Il y aurait beaucoup à dire. 
2) Société d'abondance
Certes les robots et l'IA (l'Intelligence Artificielle) vont détruire bien des emplois, mais ce que personne n'a dit c'est que du même coup les prix de plus en plus de biens et services allaient chuter, tout en progressant en qualité, nous allons arriver plus vite qu'on ne le croit possiblement dans un monde d'abondance où nous n'aurons plus nécessairement à travailler, tenir des emplois aliénants, aucun mot là-dessus, aucune perspective. :( 
Lire à ce sujet le livre incontournable de Peter Diamondis Abundance: The Future Is Better Than You Think, ou encore un de mes articles précédents dans le JDN Athènes 2.0, ou quelle place pour l’Homme dans un monde de machines ?.
3) Confusion robot/IA
Grand classique, les mots robot et IA sont utilisés indifféremment tour à tour de façon très confuse pour les téléspectateurs. Expliquer clairement la différence entre les deux n'aurait pas été du luxe. Un "vrai" robot, i.e. non télécommandé mais avec un minimum d'autonomie, suppose de l'IA, mais l'IA ne suppose pas nécessairement d'avoir un robot ou une enveloppe mécanique !
4) Confusion entre AWI, AGI et ASI
Énoncer et expliciter clairement les notions de AWI, AGI et ASI est aussi utile, elles sont omniprésentes dans les débats aux Etats-Unis.
AWI signifie Artificial Weak Intelligence, l'IA faible, inférieure à celle de l'homme en somme. 
AGI signifie Artificial General Intelligence, l'IA du niveau de celle de l'homme.
Enfin ASI signifie Artificial Super Intelligence, la super IA.
A été complètement omis le fait que beaucoup de spécialistes aux Etats-Unis et au RU considèrent qu'une fois que l'IA arrivera à notre niveau, elle pourra alors travailler à s'améliorer elle-même et n'aura de cesse de se perfectionner toujours plus vite jusqu'à devenir incroyablement plus intelligente que nous autres pauvres Sapiens, moment appelé par certains la "Singularité". Certains même parlent d'un emballement qui permettrait de passer d'AGI à ASI en quelques heures !
5) Exemple de risque majeur en cas d'ASI : le propagateur de trombones !
L'exemple typique pris par Nick Bostrom, philosophe à Oxford, est celui du "propagateur de trombones". Imaginons un logiciel codé au départ pour concevoir et fabriquer des trombones. Imaginons maintenant que ce logiciel accède à l'ASI avec cet objectif en tête de fabriquer des trombones. Et bien ce logiciel redoutera certainement qu'on le débranche et donc qu'on l'empêche de produire des trombones. Il fera alors mine d'être toujours "bête" bien que déjà "super" intelligent, afin de mieux berner ses maîtres Sapiens et continuer à se perfectionner jusqu'au point où il sait qu'il peut se débarrasser de l'humanité en un clin d'oeil d'une façon ou d'une autre. Une façon dont on n'aurait aucune idée, puisqu'il serait extraordinairement plus malin que nous! Il pourra ensuite mettre en oeuvre le plan qu'on lui avait mis dans le crâne au départ, mais à une échelle qui nous dépasse : réquisitionner tous les atomes de l'univers pour faire des trombones, encore des trombones, et toujours plus de trombones. C'est tout le problème de coder une IA avec nos valeurs. Mais quelles sont-elles ? Et admettons qu'on parvienne à les définir (hum!), comment les coder sans faille ? À lire absolument sur ce sujet, le livre référence de Nick Bostrom, plébiscité entre autres par Bill Gates :  Superintelligence: Paths, Dangers, Strategies.
6) Doutes solides qu'on puisse de toute façon égaler notre cerveau avec des algorithmes
Personne n'a rappelé le fait qu'il n'a jamais été prouvé à ce jour qu'égaler la complexité du cerveau avec des algorithmes était tout bonnement possible !

Des découvertes incroyables mêlant mécanique quantique et biologie ces dernières années tendent à montrer que des phénomènes quantiques sont à l'oeuvre dans le cerveau et contribuent à créer la conscience, en somme le cerveau serait bien plus compliqué qu'une seule somme de neurones. C'est la théorie du Britannique Roger Penrose, mathématicien, physicien et philosophe des sciences. 

L'amibe par exemple, être vivant capable de se déplacer pour aller chercher sa nourriture, a un comportement modélisable avec des neurones artificiels, il en faut quelques milliers pour simuler son comportement sur ordinateur. Mais problème, l'amibe n'a pas de neurones ! L'amibe est un organisme unicellulaire ! Cela tend à montrer que l'intelligence ne se résume pas à une somme de neurones fonctionnant simplement comme des portes logiques. Recréer la magie de notre cerveau simplement en assemblant entre eux assez de neurones artificiels est donc peut-être impossible, en tout cas au minimum bien plus complexe que beaucoup ne le croient! 

Dans la même veine, tout n'est pas programmable en physique et en math, au sens de reproductible, simulable, soluble avec des algorithmes. Par exemple, le hasard ne peut pas être simulé parfaitement par un ordinateur, ô combien puissant. Donc rien ne prouve qu'on puisse égaler la conscience humaine avec des algorithmes. Rien de cela n'a été abordé durant l'émission malheureusement ! :(

7) L'IA n'est pas un être vivant. Mais qu'est-ce qu'un être vivant, déjà ?!
Les protagonistes ont cherché à opposer les machines aux êtres vivants. Mais où démarre la vie ? Prendre pour acquise une distinction nette entre vie et non-vie est un peu naïf, c'est un continuum encore mal compris.  Voir ce TED talk édifiant à ce sujet. Vous y découvrirez des "gouttes" prébiotiques créées en laboratoire, avec un métabolisme et capable de se répliquer: est-ce déjà la vie ?

Aussi, un intervenant a dit être prêt à défoncer à la batte de baseball un robot car dénué de conscience. Les bébés Sapiens (nous, quoi!) mettent près de 2 ans à prendre conscience d'eux-mêmes. Donc ont-ils droit à sa batte avant 2 ans ? Et quid des accidentés dans le coma ? Cela n'a pas de sens.
8) Machines bonnes pour le calcul, mais nulles sur les tâches créatives

Une intervenante a dit que les machines étaient incapables de créativité, mais personne n'a su lui rétorquer quelques contre-exemples : un logiciel a ainsi pu écrire une poésie ensuite soumise à la publication sur un site référence, prétendument au nom d'un poète humain. Le poème a été accepté et publié car jugé assez créatif!  

Idem, un logiciel est parvenu à composer de la musique classique que beaucoup ont cru composée par des hommes. Écoutez-la ici  This classical music was created by a supercomputer in less than a second ou encore lisez When Robots Write Songs. Les exemples abondent.

Bref, quelle déception au final que ce débat. Parfois, on a littéralement envie d'entrer dans son poste TV pour faire la révolution. C'était un de ces soirs.

Frédéric, à dispo pour le prochain débat ;)

Etats-Unis / Google