IA : OpenAI, Google et Anthropic déplacent la bataille sur la vitesse
Et si la puissance brute des modèles n'était plus le seul critère de réussite d'un bon LLM ? Avec l'ère de l'IA agentique, les éditeurs de modèles génératifs se livrent une nouvelle bataille : celle de la vitesse. Le but n'est plus de délivrer la meilleure intelligence à tout prix, mais une intelligence rapide. La finalité : produire plus, plus vite, dans l'ensemble des domaines, du code à la recherche et la découverte scientifique en passant par l'automatisation des processus. Une course dans la course que se livre l'ensemble des éditeurs de modèles.
L'intelligence se commoditise
Mai 2026, Anthropic sort Claude Opus 4.8, son modèle le plus puissant. Tarif : 5 dollars le million de tokens en entrée, 25 en sortie. Exactement le prix de GPT-5.5, le fer de lance d'OpenAI. Il y a dix-huit mois, le modèle haut de gamme d'un éditeur coûtait souvent plusieurs fois celui du voisin. Cet écart a disparu. Au sommet, les prix se sont alignés, et les scores aux benchmarks aussi : sur le raisonnement, le code ou l'agentique, Opus 4.8, GPT-5.5 et Gemini se tiennent à quelques points. “On commence à tendre vers un gap d'intelligence commun”, confirme Hamidou Dia, VP Applied AI Engineering chez Google Cloud. Depuis l’avènement des agents, principalement de code, les utilisateurs ne discutent plus simplement avec les modèles, ils les font travailler dans le monde réel. Le modèle ne répond pas en un coup : il planifie, exécute, vérifie, corrige, et relance autant de fois que nécessaire. Chaque étape déclenche un appel au modèle, et chaque appel attend que le précédent ait fini. Résultat, les latences s'additionnent.
Les éditeurs l'ont compris, et on assiste depuis le début de l’année à un enchaînement d'annonces autour de la vitesse. Dès le 14 janvier, OpenAI dévoile un accord avec Cerebras pour ajouter 750 MW de calcul à “ultra-faible latence” à sa plateforme. En février, Anthropic lance son fast mode : la même intelligence d'Opus, mais 2,5 fois plus de tokens par seconde, moyennant un surcoût. Le 5 mars, c'est au tour de Codex d'OpenAI de dégainer son mode rapide. Avec /fast, GPT-5.4 tourne 1,5 fois plus vite, à intelligence et raisonnement identiques. Enfin, le 19 mai, à I/O, Google sort Gemini 3.5 Flash, marketé comme “quatre fois plus rapide que les autres modèles frontières” de sa catégorie tout en battant son propre Gemini 3.1 Pro sur les benchmarks agentiques.
Une priorité absolue pour les équipes d'engineering
Chez OpenAI, on assume la priorité sans détour. “On est focalisés sur la vitesse depuis un moment”, assure Thibault Sottiaux, responsable Core Product & Platform chez OpenAI, qui travaille sur Codex. L'éditeur va jusqu'à reconnaître un point de départ peu flatteur. “Il y a six mois, tout le monde disait que Codex était lent, inutilisable. On s'est dit d’accord, allons-y, résolvons ça en reprenant les fondamentaux”, confie-t-il. Et le chantier est loin d'être refermé : “Il y a un grand nombre de nouvelles techniques que nous sommes en train de scaler et sur lesquelles nous n’avons pas encore communiqué.”
Même position chez Google où la latence est désormais un “critère sur lequel les équipes sont hyper focalisées”, martèle Hamidou Dia. L'éditeur a, par ailleurs, découpé son matériel en conséquence : “On a maintenant un TPU dédié à l'entraînement, un TPU dédié à l'inférence”, rappelle-t-il. La consigne descend même jusqu'aux équipes de développement. “Au sein de Google, dans certaines de nos équipes de développement, on a un budget de latence. On vous demande par exemple d'optimiser un process à 10 secondes, et si vous arrivez à le faire en 5, vous avez 5 secondes que vous pouvez dépenser ailleurs”, Hamidou Dia.
Même réflexion chez Anthropic qui travaille la question de la vitesse à plusieurs niveaux : une gamme qui va du modèle Haiku, léger et rapide, jusqu'à Opus et son fast mode payant. Car la demande vient des clients, dont la grille de lecture a changé. “Beaucoup d'utilisateurs cherchent la meilleure intelligence par dollar et par seconde”, rappelle Katelyn Lesse, head of Engineering de Claude Platform. Mais l'enjeu dépasse le simple curseur de réglage. Pour certaines capacités, la vitesse conditionne carrément l'usage. “Il y a des domaines, notamment le computer use, où une accélération par rapport aux vitesses actuelles est vraiment nécessaire”, illustre Angela Jiang, head of Product de Claude Platform.
Reste à savoir où placer le curseur. Chez Nvidia, qui équipe la quasi-totalité de l'industrie, on déplace la priorité du modèle vers le système. “La vitesse n'est pas seulement une question de là où tourne l'agent, c'est aussi là où se trouvent les outils qu'il veut utiliser, et comment il y accède”, explique Nat Ives, directeur France, Benelux et Nordics chez Nvidia. Car la rapidité d'un agent ne dépend pas que du GPU : une fois lancé, il doit utiliser des outils, du CPU, du réseau, du stockage, solliciter un système en aval, et c'est souvent ce maillon qui dicte sa vitesse.
De nouveaux indicateurs émergent
Un même mouvement traverse donc toute l'industrie : ce n'est plus le modèle seul qu'on optimise, mais la chaîne entière. Et la frontière entre les équipes bouge. Là où le développement des modèles et l'ingénierie d'infrastructure avançaient en parallèle, ils travaillent désormais main dans la main. Chez OpenAI comme chez Anthropic, les équipes qui conçoivent le harness, la couche logicielle, collaborent au plus près de ceux qui entraînent les modèles. Google pousse le curseur encore plus loin : ses équipes silicium conçoivent les TPU en lien étroit avec celles de DeepMind.
Mais la vitesse n'est qu'une métrique parmi celles que les éditeurs scrutent désormais. Car l'enjeu des prochaines années ne sera pas seulement de produire vite, mais de produire sans brûler tout son cash. Dario Amodei, le patron d'Anthropic, l'a rappelé récemment : si la croissance des revenus dérape ne serait-ce que d'un an face aux montants engloutis dans le compute, un éditeur peut se retrouver au bord de la faillite. Dans ce contexte, un nouveau ratio s'im pose dans les conversations : l'intelligence par watt. Une nouvelle course à venir.