Un appel mondial pour définir des limites communes à l'intelligence artificielle
Dans une lettre ouverte rendue publique le lundi 22 septembre, un collectif de spécialistes du secteur de l'intelligence artificielle a appelé les gouvernements à s'accorder sur un socle commun de régulation. Les signataires réclament la mise en place de règles internationales destinées à prévenir les usages les plus dangereux de l'IA.
Des garde-fous internationaux jugés urgents par les signataires
Selon les extraits publiés par Le Figaro avec AFP, la lettre souligne que "l'IA possède un potentiel immense pour le bien-être de l'humanité, mais sa trajectoire actuelle présente des dangers sans précédent". Les signataires plaident pour la définition de "lignes rouges" fixées aux grands acteurs du secteur, à travers des "accords internationaux" visant à encadrer certains développements jugés risqués.
Les auteurs précisent qu'il ne s'agit pas d'un ensemble de règles exhaustives, mais de " garde-fous minimaux ", présentés comme le " plus petit dénominateur commun sur lequel devraient s'entendre les gouvernements pour contenir les risques les plus imminents et inacceptables ". Ces risques incluent notamment le déclenchement de pandémies, la diffusion massive de désinformation, des atteintes à la sécurité nationale, une augmentation brutale du chômage, ou encore des violations des droits humains.
Cette initiative est portée par plusieurs organisations, dont le Centre pour la sécurité de l'IA (CeSIA), basé en France, The Future Society, et le Centre pour une IA humano-compatible de l'université de Berkeley. Vingt autres organismes partenaires soutiennent également la démarche.
Des soutiens issus de la recherche et de l'industrie
La lettre a été cosignée par plusieurs personnalités reconnues du monde académique. Parmi elles, Geoffrey Hinton, prix Nobel de physique 2024, considéré comme l'un des pionniers de l'IA moderne, et Yoshua Bengio, professeur à l'université de Montréal, souvent cité comme l'un des experts les plus influents du domaine.
Le texte rassemble aussi des signataires issus de l'industrie, à l'image de Jason Clinton, responsable de la sécurité informatique chez Anthropic, et de plusieurs employés de DeepMind (filiale IA de Google) et OpenAI.
Selon Le Figaro, la démarche intervient alors que de nombreuses entreprises du secteur concentrent leurs efforts sur le développement de l'intelligence artificielle générale (AGI), une technologie qui viserait à égaler, voire dépasser, l'ensemble des capacités intellectuelles humaines.
Les auteurs de la lettre rappellent que des précédents existent en matière de coopération internationale autour de technologies sensibles. Ils citent notamment le traité de non-prolifération nucléaire (TNP), entré en vigueur en 1970, ou la Convention sur l'interdiction des armes chimiques, appliquée depuis 1997. À leurs yeux, un cadre similaire, même minimal, pourrait permettre d'anticiper les dérives potentielles liées à l'IA à l'échelle mondiale.