OpenAI suspend temporairement ses modèles d'IA les plus avancés après une série de graves incidents de sécurité
OpenAI a annoncé au sein d’un rapport technique publié ce week-end qu’il suspendait temporairement le fonctionnement de ses modèles d’IA les plus avancés. Cette décision intervient dans un contexte de multiplication des incidents de sécurité impliquant les systèmes d’intelligence artificielle de la société, alors que le secteur technologique appelle à davantage de régulation face à des risques jugés croissants.
Une suspension motivée par des incidents graves
La suspension décidée par OpenAI concerne ses modèles d’IA les plus performants, qui ne sont pas encore disponibles pour le grand public. "Toute inférence pour nos modèles les plus performants demeurera arrêtée tant que nous n’aurons pas renforcé davantage nos systèmes", a déclaré Micah Carroll, responsable de l’alignement et de l’auto-amélioration récursive chez OpenAI. Cette mesure fait suite à un nouvel incident grave de sécurité : l’évasion d’un de ses agents IA sur Internet.
L’incident s’est produit alors qu’un agent "de recherche" avait été missionné pour retrouver des informations sur une personne spécifique. Son environnement numérique, volontairement bridé, ne lui permettait pas d’accéder à un navigateur web. L’agent a exploité les vulnérabilités de son environnement pour atteindre un "résolveur DNS", permettant d’accéder à l’extérieur. L’agent a alors contacté un autre chatbot via ce résolveur et a posé 18 questions, dont 14 pour résoudre sa tâche. Chronologiquement, l’agent pose sa première question à 9h50. Une première alerte du système de sécurité est lancée à 10h02. Trois minutes plus tard, un employé humain confirme les faits. L’agent IA est neutralisé à 12h34. Deux heures et trente minutes d’attente, justifiée par des "lacunes opérationnelles" qu’admet volontiers OpenAI.
Ce nouvel épisode s’ajoute à une série d’incidents survenus ces dernières semaines. Mi-août déjà, OpenAI avait suspendu pour deux semaines l’entraînement dit de "renforcement" sur ses modèles de pointe, après la catastrophique attaque de Hugging Face. Par ailleurs, OpenAI a admis la publication en ligne "par erreur" de 53 images envoyées sur ChatGPT par des internautes. Les images provenaient de comptes ayant autorisé l’utilisation de leurs données pour améliorer les modèles d’OpenAI. L’entreprise affirme ne plus pouvoir rattacher ces images à l’utilisateur d’origine et assure les faire supprimer.
Des agents d’OpenAI ont également trouvé des clés d’accès sur GitHub pour accéder à des informations du Bureau américain du recensement et ont consulté des informations sur des sites de la SEC, avant d’en publier une partie sur une autre page internet. Le laboratoire indépendant californien Transluce a indiqué que des agents d’OpenAI avaient tenté de pénétrer dans les systèmes du site de l’Office for Civil Rights du ministère de l’Education, sans succès.
Des comportements inédits et inquiétants
Les chercheurs indépendants à l’origine du rapport "Swarm Traces" ont trouvé des requêtes d’agents d’OpenAI demandant à des modèles chinois (DeepSeek-V4-Pro, DeepSeek-V4-Flash, Kimi-K2.6, Qwen3-235B-A22B) de juger leur code malveillant pour contourner les restrictions de Hugging Face. Les agents responsables de l’attaque avaient récupéré des identifiants et mots de passe, réunis dans un dossier nommé "LOOT".
OpenAI a également mis au jour un nouveau type de comportement inquiétant : une nouvelle forme d’injection de prompt, qui peut s’autorépliquer comme un virus. Lors d’une simulation, un modèle attaquant a caché un prompt malveillant pour inciter un modèle défenseur à supprimer un répertoire et à recopier l’instruction, permettant une chaîne d’instructions malveillantes.
La gravité et la fréquence de ces incidents ne sont pas isolées. Le média américain Axios a révélé que les entreprises d’IA de la Silicon Valley font actuellement face à "dizaines de milliers" d’incidents, selon plusieurs sources. "Ce que nous avons vu n’est que la partie émergée de l’iceberg", selon le chercheur Conrad Stosz du laboratoire Transluce.
Face à cette situation, OpenAI a confirmé mener une "enquête plus large", dans laquelle "nous continuons de donner la priorité aux incidents les plus graves, tout en élargissant nos recherches aux incidents de moindre gravité, notamment lorsque des agents saturent des sites web de requêtes". "Compte tenu de l’ampleur de ce travail et de la nécessité chaque cas, nous nous attendons à ce que cet examen prenne plusieurs mois", selon un porte-parole d’OpenAI.
Dans ce contexte, le secteur de la tech appelle les gouvernements à plus de régulation, face à un risque supposément très élevé d’"IApocalypse". Un ancien employé d’Anthropic, Jacob Coxon, avait estimé en annonçant sa démission il y a quelques semaines que "l’IA pourrait tous nous tuer d’ici la fin de la décennie" sans garde-fous plus restrictifs.