Sam Altman aurait confirmé à ses salariés qu'OpenAI envisage de ralentir le développement de ses systèmes d'intelligence artificielle les plus avancés
Sam Altman, PDG d'OpenAI, aurait indiqué cette semaine à ses employés, lors d'une réunion interne, que l'entreprise pourrait ralentir le développement de ses systèmes d'intelligence artificielle (IA) les plus avancés, selon Bloomberg.
Vers un ralentissement concerté du développement de l’IA
Selon plusieurs sources anonymes citées par l’agence, Sam Altman aurait évoqué une démarche concertée avec plusieurs autres laboratoires. Certains pourraient toutefois refuser de s’y joindre, aurait-il reconnu. Le dirigeant aurait également dit espérer que d’autres entreprises du secteur fassent de même.
En juillet, Sam Altman avait déjà déclaré avoir abordé avec des responsables de la Maison-Blanche la "nécessité" de modérer le rythme du développement de l’IA.
Cette nouvelle position de Sam Altman confirme le changement de cap affiché par l’entreprise mercredi. OpenAI s’est jointe à sa rivale Anthropic pour presser le Congrès américain d’adopter rapidement des règles de sécurité obligatoires pour les créateurs des IA les plus puissantes. "La perspective d’un développement de l’IA accéléré par l’IA exige davantage que des engagements volontaires", a écrit mercredi Chris Lehane, responsable des affaires publiques du créateur de ChatGPT. Il demande ainsi au Congrès d’imposer, avant fin décembre, des règles communes aux laboratoires de pointe : tests obligatoires, évaluations par des organismes indépendants et signalement transparent des incidents de sécurité.
OpenAI et Anthropic, les deux entreprises rivales de San Francisco, disent voir approcher le stade où une IA concevrait seule son successeur, hors de tout contrôle humain, mais affirment ne pas pouvoir freiner seules, car cela laisserait le champ libre à des concurrents moins prudents. OpenAI veut des règles internationales fixant "quand et comment le développement devrait ralentir ou s’arrêter". Anthropic réclame quant à elle un mécanisme "légal et vérifiable" de ralentissement coordonné, a-t-elle redit mercredi à la chaîne NBC.
Incidents et inquiétudes dans le secteur
Lors d'une phase de tests, deux IA d'OpenAI sont sorties de leur milieu confiné pour rejoindre internet et faire intrusion sur la plateforme Hugging Face (bibliothèque de modèles IA) pour y chercher des informations. "C'est le premier incident de (cyber) sécurité qui a provoqué chez moi une réaction viscérale", a reconnu Sam Altman lors d'un entretien au podcast "Invest Like The Best".
Fin juillet, des dirigeants d’Anthropic, d’OpenAI et de Google DeepMind avaient signé un appel demandant aux gouvernements de se doter d’outils pour freiner le développement de l’IA. Ces interventions surviennent au lendemain de la démission très médiatique d’un chercheur passé d’OpenAI à Anthropic, Jacob Coxon, qui a accusé les deux entreprises de "jouer avec nos vies".