L'IA apprend de nos données. Qui apprend à l'IA ?
L'intelligence artificielle apprend de nos données, mais aussi des choix de celles et ceux qui la conçoivent. Peut-elle prétendre comprendre toute l'humanité si elle n'en reflète qu'une partie ?
Nous avons longtemps considéré l'intelligence artificielle comme un sujet réservé aux ingénieurs. Elle est devenue un sujet de société.
Car l'IA ne se contente plus d'exécuter nos demandes. Elle commence à orienter nos choix. Elle recommande un traitement médical, suggère un recrutement, hiérarchise les informations que nous consultons, personnalise notre éducation, influence notre consommation et, demain, participera probablement à certaines des décisions les plus importantes de nos vies.
Une question me semble alors essentielle : qui apprend à l'intelligence artificielle ?
L'illusion d'une technologie neutre
Nous parlons beaucoup des données qui alimentent les modèles ; beaucoup moins de celles et ceux qui les conçoivent.
Pourtant, une intelligence artificielle n'apprend pas seulement à partir des cohortes de données qui lui sont fournies. Elle apprend aussi des choix humains qui président à sa conception : quels problèmes mérite-t-on de résoudre ? Quels critères faut-il optimiser ? Quels risques sont acceptables ? Quelles erreurs sont tolérables ? Quels objectifs doivent être poursuivis ?
Aucun de ces arbitrages n'est neutre.
Nous avons souvent présenté l'intelligence artificielle comme une technologie objective. Elle ne l'est pas davantage que les êtres humains qui la développent. Les données portent les traces de notre histoire. Les algorithmes reflètent les priorités que nous leur assignons. Les modèles apprennent autant de nos connaissances que de nos limites et de nos oublis.
Lorsque les biais deviennent visibles
Les premiers signaux sont déjà visibles.
Des systèmes de reconnaissance faciale se sont révélés nettement moins performants pour identifier certaines femmes, en particulier lorsqu'elles avaient la peau foncée. Des outils de recrutement ont reproduit les biais des embauches passées en défavorisant les candidatures féminines. Des modèles génératifs associent encore spontanément les professions scientifiques, les fonctions dirigeantes ou les métiers techniques aux hommes, tandis qu'ils relient plus facilement les femmes aux tâches domestiques ou aux métiers du soin.
L'UNESCO a d'ailleurs montré que ces stéréotypes demeurent largement présents dans les modèles génératifs les plus récents.
Ces biais ne sont pas toujours le résultat d'une intention. Ils sont souvent la conséquence d'une représentation incomplète du monde.
L'histoire des sciences nous met en garde
L'histoire des sciences nous rappelle combien cette question est loin d'être théorique.
Pendant des décennies, une grande partie de la recherche médicale s'est appuyée principalement sur des cohortes masculines. Les symptômes spécifiques de certaines pathologies cardiovasculaires chez les femmes ont été plus tardivement identifiés. Des maladies comme l'endométriose sont longtemps restées insuffisamment étudiées, retardant leur diagnostic et leur prise en charge.
Il ne s'agit évidemment pas d'opposer une médecine masculine à une médecine féminine.
Il s'agit de rappeler qu'une science progresse lorsqu'elle élargit le regard qu'elle porte sur le réel.
Pourquoi en irait-il autrement avec l'intelligence artificielle ?
Construire une intelligence plus universelle
Aujourd'hui, les femmes représentent environ 22 % des professionnels de l'IA dans le monde et seulement 12 % des chercheurs spécialisés dans ce domaine. Cette sous-représentation n'est pas seulement une question d'égalité professionnelle. Elle interroge la diversité des expériences humaines qui participent à la conception de technologies appelées à accompagner des milliards d'individus.
Une intelligence artificielle destinée à comprendre l'humanité ne peut se construire durablement à partir d'un nombre limité de points de vue.
La réponse ne consiste pas uniquement à recruter davantage de femmes dans la tech, elle doit être impulsée bien plus tôt : en donnant aux jeunes filles le goût des mathématiques, des sciences et de l'ingénierie dès l'enfance, en rendant plus visibles les femmes scientifiques qui, de Sophie Germain à Ada Lovelace, de Rosalind Franklin à Katherine Johnson, de Marie Curie à Emmy Noether, ont profondément transformé notre compréhension du monde.
En favorisant également des équipes réellement pluridisciplinaires où dialoguent ingénieurs, médecins, psychologues, philosophes, juristes et créateurs et peut-être aussi en racontant davantage d'histoires.
Les vocations naissent en effet bien souvent des récits qui nous font rêver.
Une question de civilisation
Pendant des décennies, le cinéma a enrichi notre compréhension du monde en multipliant les regards, les sensibilités et les expériences humaines. C'est précisément cette diversité qui lui a permis de raconter des histoires universelles.
L'intelligence artificielle devra relever le même défi.
Nous parlons beaucoup de puissance de calcul, de modèles toujours plus performants ou de milliards de paramètres supplémentaires.
Mais la véritable richesse d'une intelligence ne réside peut-être pas dans la quantité de données qu'elle absorbe, mais dans leur qualité.
Elle réside dans la diversité des regards qui lui apprennent à comprendre le monde.
Nous ne construirons jamais une intelligence véritablement universelle si nous oublions d'y faire entrer toute l'humanité.
