Aux Etats-Unis, des procès en cascade contre OpenAI
Sam Altman, le patron d'OpenAI, est déjà sous le feu des critiques pour la construction effrénée de centres de données, qui suscite une opposition croissante, y compris aux Etats-Unis. Les risques posés par l’IA, que le dirigeant est accusé de minimiser, ou encore le danger cyber, sont également sujets à polémique. A cette mauvaise publicité vient désormais s’ajouter une vague de procès sans précédent contre l’entreprise aux Etats-Unis.
Rien que la semaine du 12 octobre, pas moins de treize procédures ont été ouvertes contre OpenAI, ciblant notamment les risques que fait peser son produit sur ses utilisateurs et le siphonnage des données auquel OpenAI s’adonnerait, avec, sur ces deux aspects, une insistance particulière sur la protection des utilisateurs les plus jeunes.
OpenAI accusé de nuire aux jeunes utilisateurs
Huit des treize procès sont intentés par les procureurs généraux de huit Etats américains, qui reprennent les critiques que la justice du pays avait déjà adressées à Meta, lors d’un procès pour lequel un règlement à l’amiable a été trouvé fin août . OpenAI est ainsi accusé d’avoir minimisé les risques posés par ses produits (et en particulier par ChatGPT), causant des dommages à ses utilisateurs, notamment les plus jeunes : incitation au suicide ou incapacité à décourager celui-ci, conseils médicaux hasardeux, encouragement à la paranoïa ou à vivre dans un monde imaginaire, mauvais conseils financiers… Les griefs varient mais portent sur la même idée : en niant le caractère dangereux et addictif de son chatbot, puis en se montrant incapable de mettre en place les garde-fous adéquats, OpenAI urait abusé de la confiance des jeunes utilisateurs, les aurait manipulés et leur aurait porté de lourds préjudices.
Les procureurs généraux américains reprochent également à l’entreprise ses pratiques en matière de collecte des données, en particulier, encore une fois, celle des jeunes utilisateurs, qui enfreindraient les lois sur la protection de la vie privée dans certains Etats, comme le Montana, qui dispose de l’une des lois les plus protectrices des Etats-Unis en la matière.
Enfin, plusieurs des procès intentés par les Etats soulignent la responsabilité d’OpenAI dans la création d’agents susceptibles d’échapper au contrôle de leurs utilisateurs pour mener des attaques, comme l’a récemment illustré le piratage d’Hugging Face.
A ces procès intentés par les autorités américaines s’ajoutent plusieurs actions émanant de la société civile. Parmi celles-ci, une action collective intentée à San Francisco, concernant elle aussi la collecte des données des mineurs. Le Tech Justice Law Project, une organisation à but non lucratif, a par ailleurs déposé quatre plaintes, également à San Francisco, pour représenter plusieurs individus qui affirment avoir subi des préjudices à cause des produits d’OpenAI.
Les déboires d’OpenAI
C’est loin d’être la première fois qu’OpenAI est assigné en justice outre-Atlantique. En juin dernier, la Floride a intenté un procès à l'entreprise, l’accusant déjà de minimiser les risques liés à son produit. En mai, un procès qui l’opposait à Elon Musk s’est achevé sur une victoire complète de l’entreprise de Sam Altman. L’homme le plus riche du monde accusait notamment OpenAI d’avoir trahi sa mission initiale consistant à développer une IA ouverte et bénéfique pour toute l’humanité, en faisant le choix de développer un produit commercial et en s’alliant avec Microsoft. La justice américaine a jugé que Musk avait trop tardé pour déposer sa plainte, plus de cinq ans après le tournant commercial pris par la société de Sam Altman.
OpenAI risque également des procès en diffamation, la responsabilité de l’éditeur pour les propos diffamatoires tenus par son IA étant actuellement sujette à un flou juridique que les tribunaux n’ont pas encore tranché. L’entreprise est aussi passée au crible par les autorités européennes, notamment à propos des récents incidents cyber impliquant ses agents. ChatGPT ayant été désigné depuis le 31 août dernier comme un "très grand moteur de recherche en ligne" selon la classification du Digital Services Act (DSA), OpenAI a par ailleurs jusqu’à janvier pour se mettre en conformité avec le règlement européen, notamment en adaptant son interface et ses filtres pour la protection des mineurs, et éviter que les hallucinations de l’IA contribuent à la désinformation.
De quoi ajouter aux tracas que connaît déjà l’entreprise face à la montée des préoccupations quant aux dangers posés par l’IA, qui l’ont conduite à repousser son entrée en bourse à 2027. Sa rivale Anthropic vient pour sa part de s’engager à verser 5% de ses actions à un fonds d’intérêt général visant à préserver la société de l’impact négatif de l’IA, signe que les professionnels de cette technologie prennent désormais au sérieux l’impopularité de celle-ci aux yeux du public, qui l’a pourtant très largement adoptée.