Le premier standard qui rend le red teaming IA vérifiable est coréen
Le premier standard qui rend le red teaming IA vérifiable est coréen : l'Europe régule par le risque mais évalue sur parole.
Séoul vient de publier le premier standard officiel qui dit comment un red teaming d'IA doit être conduit, par qui, et avec quelles traces. En Europe, l'évaluation des modèles les plus puissants repose toujours sur l'auto-attestation de ceux qu'elle est censée contrôler. Ce contraste dessine la vraie ligne de front de la gouvernance de l'IA : non pas qui a le plus gros règlement, mais qui possède la machinerie de la preuve.
Ce que Séoul vient de publier
En juillet, le ministère coréen des Sciences et des TIC et l'agence de cybersécurité KISA ont publié deux documents : un manuel de réponse aux menaces de sécurité IA et un guide de red teaming de sécurité IA. Ce ne sont pas des recommandations d'ambiance. Le guide décrit la composition attendue des équipes de test (experts sécurité, mais aussi ingénieurs IA, juristes et spécialistes du domaine métier), les approches admises (boîte noire, boîte grise, boîte blanche selon le risque), une taxonomie de huit catégories de menaces, de l'injection de prompt aux hallucinations, cinq niveaux de gravité fondés sur l'impact réel, et un principe cardinal : le red teaming ne s'arrête pas à la mise en production, il se répète.
Autrement dit, une entreprise coréenne qui affirme "nous avons testé notre IA" peut désormais être confrontée à un référentiel officiel qui permet de vérifier ce que cette phrase recouvre. Ces guides préparent l'entrée en application de la loi-cadre coréenne sur l'IA, dont les sanctions administratives deviennent possibles début 2027, à l'issue de la période de grâce. Une ligne factuelle, et passons : l'important n'est pas la sanction, c'est le référentiel.
L'Europe a le règlement, pas l'infrastructure de la preuve
L'AI Act impose bien aux fournisseurs de modèles à risque systémique de conduire des tests adverses. Mais la manière de les conduire relève d'un Code de bonnes pratiques auquel les fournisseurs adhèrent volontairement, et que ces mêmes fournisseurs ont contribué à écrire. Qui compose l'équipe de test, selon quelle méthode, avec quel accès au modèle, quelle documentation opposable ? Sur chacune de ces questions, l'entité évaluée décide pour elle-même. La Commission acquiert ses pouvoirs d'exécution sur les modèles à usage général le 2 août. Elle pourra exiger des comptes ; elle ne dispose pas encore d'un étalon public disant à quoi un red teaming digne de ce nom doit ressembler.
C'est un choix de philosophie réglementaire, et il faut le nommer : l'Europe a écrit le droit de la preuve avant d'avoir construit l'atelier qui la fabrique. Un règlement sans référentiel d'évaluation opposable produit des attestations, pas des preuves.
La machinerie du contrôle doit être publique
On m'objectera que l'écosystème s'en chargera : cabinets d'audit, prestataires de red teaming, certificateurs. Très bien, mais la question demeure : qui fixe le standard auquel ces acteurs se mesurent ? Si la réponse est "les fournisseurs de modèles eux-mêmes", alors l'évaluation restera une prestation achetée par le contrôlé, cadrée par le contrôlé, publiée quand elle l'arrange. La leçon coréenne tient en une phrase : c'est la puissance publique qui a écrit le référentiel, et c'est ce qui le rend opposable à tous. La souveraineté européenne en matière d'IA ne se jouera pas seulement sur les puces ou les modèles, mais sur la propriété de cette machinerie de contrôle : référentiels d'évaluation, modalités d'accès aux modèles, infrastructure publique de test.
Ce que les entreprises peuvent exiger sans attendre Bruxelles
La bonne nouvelle, c'est qu'une direction générale, un DPO ou un RSSI n'a pas besoin d'attendre un guide européen pour importer cette logique dans ses contrats. Trois exigences suffisent à changer la nature de la relation avec un fournisseur d'IA : la composition et l'indépendance de l'équipe qui a testé le système, la méthode et le périmètre du test (que couvrait-il, dans quelles conditions d'accès au modèle), et la documentation remise, datée et rejouable. Ce sont exactement les éléments qu'un système de management de l'IA du type ISO 42001 permet d'organiser côté client : non pas croire l'attestation, mais tenir le registre de ce qu'elle prouve et de ce qu'elle ne prouve pas.
Le premier standard officiel au monde qui rend le red teaming auditable vient d'être publié, et il n'est pas européen. La question utile n'est pas de s'en désoler, mais de décider qui, en Europe, écrira le nôtre : la puissance publique, ou les entités qu'il s'agit de contrôler.