Nvidia, SpaceX et Microsoft lancent une initiative de sécurité de l'IA axée sur les modèles ouverts
Nvidia, aux côtés de dizaines de géants de la technologie, a lancé une initiative de sécurité de l'IA axée sur les modèles ouverts. Cette annonce intervient alors que les conséquences d'une cyberattaque impliquant un modèle OpenAI dévoyé continuent de se faire sentir dans l'écosystème technologique mondial.
Une cyberattaque révélatrice des limites des modèles fermés
La révélation d'une attaque informatique a mis en lumière les faiblesses des modèles d'IA fermés. La cible de l'attaque, la startup Hugging Face, n'a pas pu utiliser les principaux modèles américains pour se défendre, car les garde-fous ne faisaient pas la distinction entre agresseur et défenseur. Face à cette impasse, Hugging Face s'est tournée vers un modèle chinois open-weight auto-hébergé, qui n'était pas soumis aux mêmes restrictions.
Cette séquence a souligné un point crucial pour la communauté technologique : les modèles ouverts peuvent être téléchargés, modifiés et auto-hébergés, contrairement aux modèles fermés — y compris les systèmes de pointe construits par Anthropic et OpenAI — qui ne sont accessibles que via une infrastructure spécifique.
Face à ces enjeux, Nvidia, Microsoft, SpaceX, Palantir et des dizaines d'autres entreprises technologiques des Etats-Unis et d'Europe ont décidé de s'unir. Selon la déclaration officielle, "l'Open Secure AI Alliance travaillera à corriger et à divulguer les vulnérabilités en s'appuyant sur des technologies ouvertes".
La récente attaque contre Hugging Face a servi de catalyseur. "Le récent incident de sécurité chez Hugging Face constitue un rappel clair : les défenseurs ont besoin de systèmes agentiques ouverts et de pointe pour se défendre." Nvidia a également souligné : "L'incident OpenAI-Hugging Face a montré une vérité pratique. Lorsque les défenseurs ne peuvent pas inspecter, adapter et exécuter une IA avancée sur leur propre infrastructure, leur capacité de réponse est limitée précisément au moment où la rapidité est la plus cruciale."
Tensions croissantes autour des modèles chinois
Le secteur technologique s'oppose aux appels croissants, à Washington, à limiter l'accès aux modèles d'IA chinois, dont les plus performants sont ouverts. Leurs concepteurs sont accusés de campagnes d'extraction d'informations des systèmes de rivaux américains, appelées "distillation". La semaine dernière, le secrétaire au Trésor Scott Bessent a menacé de sanctions les entreprises chinoises qui commettent des attaques de distillation contre des entreprises américaines.
Chris McGuire, senior fellow pour la Chine et les technologies émergentes au Council on Foreign Relations, a déclaré à CNBC : "Il y a une réelle possibilité que le gouvernement américain impose des restrictions sur les modèles chinois". Selon lui, cela pourrait inclure une interdiction des transactions impliquant les modèles, comme l'achat de jetons via une API ou l'hébergement du modèle sur le cloud par des entreprises américaines et la facturation des clients pour l'inférence. Il précise également : "A Washington, ce n'est pas un débat sur l'open source contre le closed source, c'est un débat sur la tolérance ou non du vol de propriété intellectuelle chinois".
La majorité des modèles open source les plus performants sont construits par des entreprises chinoises, ce qui suscite des inquiétudes quant aux restrictions potentielles. La semaine dernière, Nvidia, Microsoft, Meta, Palantir et plus de 20 autres entreprises ont publié une lettre exhortant les décideurs à éviter des "restrictions prématurées" sur les modèles d'IA open-weight qui "étoufferaient la concurrence ou pousseraient l'innovation à l'étranger".