Intelligence artificielle : avec ou sans discrimination ?

L'introduction croissante des systèmes d'intelligence artificielle dans différents secteurs économiques peut conduire à une discrimination potentielle des femmes tout comme leur offrir de nouvelles perspectives de carrière.

L’introduction croissante des systèmes d’intelligence artificielle dans différents secteurs économiques peut conduire à une discrimination potentielle des femmes tout comme leur offrir de nouvelles perspectives de carrière. Voyons ce qu’il est possible de faire pour que les choses évoluent dans le sens du second scénario.

Les discussions sur les changements que va opérer l’intelligence artificielle sur le marché du travail durent depuis des années. Aujourd’hui,l’accentestpassé de l’observation du caractère inévitable de l’avenir à l’évaluation de quand et comment l’avenir va changer et de ce que cela va entraîner pour nous tous. Plusieurs tentatives de création de l’intelligence artificielle (Artificial General Intelligence) ont déjà eu lieu, mais celle qui nous est présentée au cinéma et dans la littérature ne verra pas le jour avant longtemps. Qu’enest-ilvraiment ?

Pas la plus intelligente des intelligences

Les « algorithmes intelligents » spécialisés qui permettent de résoudre des problèmes particuliers, de définir des modèles à partir de grands volumes dedonnées de définir des modèles à partir de grands volumes de données de grands volumes de données, sont extrêmement nombreux. Ils s’aident à prendre des décisions, comme par exemple, autoriser ou non une transaction douteuse, quand envoyer un fret, accorder ou non un crédit. Laprobabilité d’erreurdecessystèmesestinférieure au si célèbre facteur humain. Le développement futur d’algorithmes capables de compléter/remplacer la prise de décision par l’homme permettra de réduire les emplois demandant l’exécution de tâches routinières, emploisqui sont souvent occupés justement par les femmes. Il est difficile d’imaginer un avenir radieux pour les voyagistes, les répartiteurs de taxis, les standardistes et tout un tas d’autres professions. Des études menées par l’IMF montrent que 11 % des postes occupés par les femmes sont amenés à être automatisés dans les deux prochaines décennies. Et l’accent sera mis sur l’élaboration de ces algorithmes.

Deplusenplus de décisions sont prises automatiquement et, malheureusement, pas toujours en faveur des femmes. Il y a deux ans, par exemple, le géant du commerce électronique Amazon a dû «licencier» son système d'examen automatisé des CV parce qu’il discriminait les développeurs de sexe féminin. En cause, les modèles d’intelligence artificielle qui se formaient sur les données historiques des 10 années précédentes. À l’époque, la majorité des candidats étaient effectivement des hommes, mais cela ne signifie pas pour autant qu'ils étaient plus compétents dans les spécialités techniques. Les algorithmes devenant vite responsables d'une prise de plus en plus importante de décisions, des effets comme celui-ci constitue un sérieux problème.

Une opinion répandue consiste à dire que les algorithmes saisissent simplement l’interaction entre les données dans un échantillon déterminé. En se focalisant uniquement sur les données, ilestfacilede faire abstraction de deux aspects du problème : les limites des algorithmes existants et, plus important encore, le rôle des personnes qui fixent les fonctions des algorithmes. La plupart des algorithmes ne font qu’analyser des liens corrélatifs, sans rien ne comprendre à ces derniers. Sans l’implication de ceux qui peuvent résoudre les problèmes et poser les bonnes questions, même les données les meilleures ne veulent rien dire, puisque les algorithmes se limiteront à refléter nos propres préjugés.

Les développeurs de systèmes à base d’intelligence artificielle doivent veiller attentivement à la façon dont sont constitués les échantillons de données servant à former les algorithmes, ainsi qu’à éliminer toutes les idées préconçues. Il faut faire attention aux erreurs que fait l’algorithme : parfois leur pourcentage est assez faible, mais elles peuvent être faites par rapport au même groupe de personnes. Imaginons un modèle de scoring qui refuse systématiquement un crédit aux personnes domiciliées dans un quartier chinois. Ce comportement est particulièrement dangereux : en effet, nous transférons vers le systèmeune part croissante de responsabilité dans la prise des décisions. Certains algorithmes utilisés sont complètement ininterprétables : cela signifie que nous ne sommes pas en mesure de comprendre pourquoi telle ou telle décision a été prise et quels sont les facteurs qui ont conduit à la prise de cette décision.

Poserlesrègles à temps

Curieusement, nous ne sommes arrivés pas à l’aube de l’ère des technologies de l’information que les femmes étaient à l'origine de la création de cette industrie : A da Love lace a créé le premier programme informatique, Betty Holbert on a conçu le premier ordinateur  électronique complet, Margaret Hamilton a élaboré le système embarqué du programme spatial Apollo. Aujourd’hui, seulement 15 % des spécialistes en intelligence artificielle dans le monde sont des femmes, ce qui n’est pas sans décevoir nombre dedéfenseurs de l’égalité des sexes. Certains craignent l’apparition d’un avenir construit par les hommes pour les hommes. La présence de femmes analystes de données éclaircit un peu l’horizon, car elles révèlent des problèmes difficiles à déceler quand on n’est pas confronté à la discrimination au quotidien. 

Les femmes ne font pas beaucoup d’efforts émotionnels pour s’assurer de relations honnêtes et justes à leur égard. Une base légale pourrait peut-être permettre de soulager ce fardeau. Certains organismes de régulation se sont déjà souciés de cette question. Par exemple, le Règlement général de l’UE sur la protection des données (GDPR) exige que les entreprises soient en mesure d’expliquer la cause des décisions prises par les systèmes à base d’intelligence artificielle et de contrôler l’absence de discrimination de toutes sortes. A l’heure actuelle, seuls les gouvernement set les grandes entreprises peuvent se permettre d’acquérir les équipements et les logiciels nécessaires au lancement des modèles d’intelligence artificielle les plus développés. Cette barrière peut aider à fixer certaines règles de base avant que la technologie ne devienne plus accessible.

Nouveaux savoir-faire – nouveaux défis

De nombreux futuristes considèrent avec optimisme que les femmes ont toutes les chances de réussir. Pourquoi ? Parce que dans ce nouveau monde merveilleux les compétences inaccessibles aux algorithmes seront appréciées : à savoir l’application de l’intelligence émotionnelle et sociale. 83 % des entreprises interrogées par Capgemini estiment que l'intelligence émotionnelle sera la condition nécessaire au succès dans les prochaines années. Le nouveau marché du travail valorise la sollicitude, le multi tâche, la coopération et l’empathie – autant de qualités traditionnellement associées aux femmes, c’est la raison pour laquelle les femmes auront plus de chances d’être engagées. Reste une petite nuance : pour réussir dans un monde géré par l’intelligence artificielle il faut savoir se reconvertir et s’adapter. Au final survivra celui qui s’est le mieux adapté et pas le plus intelligent.

La réduction des emplois et plus encore l’impossibilité des reconvertir font courir aux femmes des risques supplémentaires. Les nouveaux défis de l’automatisation se conjuguent aux difficultés traditionnelles qui créent des obstacles sur la voie de l’égalité des genres. Le besoin de mobilité et de flexibilité des travailleurs est aujourd’hui manifeste, car il est aujourd’hui plus facile que jamais de changer de profession, d'employeur, d'industrie et même de pays. Les femmes sont souvent moins mobiles que les hommes, en raison de leur « second travail » à la maison. Pa railleurs, elles sont fréquemment exclues du networking qui permet aux hommes de perfectionner leurscompétences, trouver des coachs et de nouvelles opportunités de travail.

D’autrepart, les entreprises seront plus motivées à développer chez leurs salariés des compétences qui ne peuvent pas être automatisées. Si les femmes sont proactives et s’adaptent, elles auront beaucoup plus de chances de trouver du travail. Il faut garder à l’esprit que le temps le plus inutilement perdu est le temps passer à faire ce qu’il n’est pas nécessaire de faire. Deux sortes de compétences seront importantes à l’avenir : savoir mener des négociations et faire valoir son point de vue, et savoir prévoir les tendances et concevoir des stratégies.

Les entreprises ont besoin de collaborateurs capables à la fois de parler aux machines et aux gens. Les technologies se sont très démocratisées ces derniers temps, cela veut dire qu’il n’est pas nécessaire d’avoir un diplôme de docteur pour travailler avec l’intelligence artificielle. Lemomentest propice pours’intéresser aux bases, à première vue, d’une technologie complexe, même si la profession n’est pour l’instant pas du tout liée à la conception d’algorithmes. Il sera utile aux dirigeantsd’entreprisesd’avoir une connaissance superficielle des méthodes d’apprentissage machine pour analyser différents types de données. Cette analyse permettra d’évaluer le potentiel d’application de l’intelligence artificielle dans son domaine et de construire intelligemment une stratégie de transformation numérique. Une immersion plus approfondie et l'acquisition de compétences appliquées, telles que la programmation et la création de modèles d'apprentissage machine, seront utiles à ceux qui, par la nature de leurs activités, consacrent beaucoup de temps aux analyses routinières et veulent automatiser le processus de décision.

Les projets mis en œuvre par des entreprises informatiques plus matures en matière d’introduction de l’intelligence artificielle, des banques et des entreprises du secteur du commerce de détail peuvent être de bonnes sources d'inspiration. Même dans une branche conservatrice comme l'industrie, des programmes d'optimisation de la production ont commencé à voir le jour, par exemple, pour pronostiquer les pannes des équipements.

D’après des prévisions de IDC, les systèmes à base d’intelligence artificielle seront utilisés sous une forme ou une autre dans 75 % des entreprises d’ici à 2021. De cette manière, les compétences correspondantes seront, sans exagération, demandées dans pratiquement tous les domaines de la vie. Prenez une heure et visionner une vidéo sur les principes de fonctionnement de l’apprentissage machine. Ce n’est qu’en ayant une représentation claire de la façon dont il travaille que l’on peut poser les bonnes questions et formuler des tâches. La connaissance de quelques principes est plus importante que la compréhension de l'implémentation spécifique des algorithmes dans un progiciel.

Après avoir étudié les principes de base, il faut comprendre sur quelles tâches l'application de l’intelligence artificielleest la plus pertinente et essayer de déléguer certaines responsabilités à la machine, tout en améliorant la qualité et la productivité du travail. En étudiant les applications réussies de l'intelligence artificielle, beaucoup se rendent compte que cet outil peut être utilisé pour un large éventail de processus et de tâches supposant un travail avec un important volume de données. Il faut apprendre à appliquer les nouvelles technologies dans son travail et être suffisamment motivé pour trouver soi-même les réponses et prendre en main son apprentissage et sa carrière.

Les compétences en matière d'analyse des données sont largement utilisées dans toutes sortes de professions, du commercial au mécanicien de machines-outils ; à titre d’exemple, elles permettent de détecter automatiquement les anomalies à partir d'un grand nombre de données d’un processus technique. Le secteur de la science des données (data science) et de l'intelligence artificielle manque actuellement de personnel. Ce problème est si crucial que les grandes entreprises proposent des plateformes d'apprentissage gratuites. Une fois formé, vous ne pourrez peut-être pas immédiatement analyser les données commun chercheur expérimenté, mais vous serez en mesure de fixer la bonne tâche à l’exécutant comme analyser un échantillon de CV et même écrire de la musique.

« Le besoin de spécialistes en intelligence artificielle a déjà fait son apparition dans presque tous les domaines de la vie », — estime-t-on à l'Institut des ingénieurs en électrotechnique et en électronique (Institute of Electrical and Electronics Engineers), association internationale à but non lucratif des professionnels de l'informatique. Les experts appellent à la formation de professionnels de l'intelligence artificielle dans des domaines de la santé, de l'agriculture ou encore de la logistique.

Les moyens habituels d'exécution deviennent rapidement obsolètes. L'humanité faitde nouveau face à un choix : s’en remettre au destin et parler de la révolte des machines ou préparer l'avenir et faire l’apprentissage des compétences les plus demandées sur le marché. Les luddites ont perdu leur bataille contre les machines, tout simplement parce que les machines ont permis d'économiser de l'argent. Et comme nous le savons maintenant, l'introduction des machines a finalement créé beaucoup plus d'emplois qu’elle n’en a réduit et a grandement contribué à la croissance économique. Les salariés les plus perspicaces n'ont pas eu peur de l'industrialisation, mais ils étaient prêts à s’en servir et à en tirer profit, ce qui devenait possible grâce aux nouvelles technologies. Alors pourquoi les femmes n’en feraient-elles pas autant ?