Consommation au token : les bonnes pratiques pour encadrer les coûts de l'IA

Consommation au token : les bonnes pratiques pour encadrer les coûts de l'IA Avec le changement de mode de facturation des géants de l'IA et l'essor de l'IA agentique, les entreprises subissent une envolée des coûts. Quelques conseils pratiques pour suivre sa consommation et maitriser son budget.

Même les géants du numérique peuvent se faire avoir par l’envolée soudaine des coûts liés à l’IA. Selon le site Axios, une entreprise américaine a "brulé" près de 500 millions de dollars en un seul mois après avoir omis de limiter l’utilisation des licences Claude à ses employés. Plusieurs observateurs pointent Microsoft du doigt. De son côté, Uber a décidé de restreindre le recours au vibe coding, nous apprend Bloomberg. Ses développeurs disposent désormais d’une enveloppe de 1 500 dollars par mois pour chaque outil de génération de code.

Comment expliquer cette subite inflation ? Elle se produit sous l’effet de deux tendances concomitantes. Passé la phase de POC, l’IA est désormais déployée à l’échelle. Les entreprises ont incité leurs collaborateurs à expérimenter pour s’acculturer à cette nouvelle révolution technologique. Les employés ne sont plus les seuls utilisateurs. Avec l’essor de l’IA agentique, un nombre croissant d’agents autonomes consomment des services d’IA et, ce, potentiellement jour et nuit.

Cet usage grandissant conduit les fournisseurs d’IA à revoir leur politique tarifaire afin de préserver leurs marges. Anthropic, GitHub ou Google ont récemment annoncé basculer, plus ou moins progressivement, d’un mode d'abonnement quasi illimité vers une facturation à l’usage. Les forfaits professionnels oscillant entre 100 et 200 dollars par utilisateur et par mois semblent déjà faire partie du passé. Les utilisateurs lambda sont ainsi appelés à rejoindre les développeurs qui paient déjà au token.

Lutter contre le phénome de "tokenmaxxing"

Le token devient donc la nouvelle monnaie de l’IA. Dans la Silicon Valley, on parle de "tokenmaxxing" pour désigner le phénomène qui voient des ingénieurs cumuler des factures mensuelles à cinq ou six chiffres. Un token est une unité de mesure correspondant à un mot complet, une partie d’un mot voire un seul caractère. La comptabilisation de ces jetons dépendant du modèle d’IA et du cas d’usage, les organisations se retrouvent face à une imprédictibilité des coûts.

Publiée fin avril sur arXiv, une étude universitaire montre que le coût d’exécution d’une même tâche agentique peut varier d’un facteur d’un à trente. De manière contre-intuitive, "une utilisation plus élevée des jetons ne se traduit pas par une plus grande précision", précisent les chercheurs, qui établissent un benchmark de plusieurs modèles dont Kimi-K2, Claude-Sonnet 4.5 et GPT-5.

Cette consommation au token met-elle fin à "l’illusion d’une IA gratuite, déployable partout sans arbitrage", comme le suggère Jean-Philippe Clair, directeur offre, marketing et communication chez ASI dans une tribune. Pour Charlotte Seguin, associée Transformation IA au sein de Magellan, il ne faudrait pas tomber dans l’excès inverse et créer un faux débat en se disant que "l'IA, c'est cher". "Avant, la vision portée à l’IA était très technologique, là, elle devient financière, observe-t-elle. Le risque est de n'appréhender l'IA que sous le prisme des coûts."

Charlotte Seguin invite à prendre de la hauteur et à évaluer la valeur réellement créée par l'IA déployée à l’échelle. " Si, avec le changement de tarification, le coût d’utilisation d’un développeur passe de 100 à 7 000 dollars mais que ce développeur "augmenté" permet, grâce à son travail, de traiter demain davantage de cas clients, l’équation se tient." Pour les autres utilisateurs, le ROI est plus compliqué à établir. " Beaucoup de déploiements portent sur la productivité individuelle — "j'ai gagné du temps, j'ai fait plus d'offres" — c'est difficile à objectiver. "

Vers un usage plus raisonné de l’IA

Plutôt que continuer de signer des chèques en blanc, les entreprises vont maintenant devoir, selon elle, arbitrer selon les profils. "C’est-à-dire plafonner l'utilisation pour certains, donner accès aux modèles les plus puissants là où c'est nécessaire et proposer des modèles standards, voire gratuits, pour les besoins basiques. "Mais attention, alerte Charlotte Seguin, restreindre trop les usages créerait du shadow AI".

Magellan a fait le choix de la responsabilisation individuelle. "Sur la plateforme interne d’IA agentique, le collaborateur a le choix du modèle pour créer son agent, avec un récapitulatif des capacités de chaque modèle et une estimation du coût associé", précise la consultante. Pour elle, le manager de proximité a également un rôle à jouer. "Il peut, avec pédagogie, accompagner son équipe dans le choix du meilleur modèle pour un cas d’usage donné."

De son côté, Octo Technology a mené une campagne de sensibilisation auprès de sa population technique qui utilise Claude Code. "Par défaut, les développeurs prennent le modèle le plus puissant, observe Matthieu Lagacherie, associate director, partner – Data & AI au sein de l’ESN. Il s’agit de leur rappeler que Claude Code propose trois modèles complémentaires : Opus pour l'architecture et la conception, Sonnet pour le développement et l'implémentation, Haiku pour la lecture de code en batch. L'idée, c'est de ne pas brûler des tokens en confiant des tâches triviales à Opus. "

Cette communication a eu un résultat immédiat avec une baisse de 20% de la facture. "La part d'Opus, qui pesait plus de 60% de la consommation, est passée à 40%", se réjouit Adrien Pigeot, CIO d’OctoTechnology. Pour le DSI, il est possible d’associer les approches FinOps et GreenOps et lier l’enjeu de la réduction de l’empreinte carbone à un usage raisonné de la technologie. Depuis quelques années, l’ESN a pris le virage du numérique responsable, un sujet cher à ses collaborateurs.

Pour Matthieu Lagacherie, revenir aux fondamentaux de l’ingénierie logicielle permet également de faire baisser la facture. "Après des années de pratiques, un développeur senior maîtrise les principes de conception et d'architecture. Il sait, d’expérience, vers quelle solution optimale aller, économisant des itérations." Des bonnes pratiques à transmettre aux profils juniors. L’expert insiste aussi sur l’importance du context engineering, soit l’art d’enrichir les modèles d'IA d’informations contextuelles pour gagner en pertinence et éviter la multiplication de prompts.

Si les développeurs captent l’essentiel du budget IA, il s’agit aussi de s’intéresser aux populations non techniques. La forte médiatisation autour de l’IA peut conduire à avoir des œillères et choisir systématiquement un modèle d’intelligence artificielle quel que soit le projet. "Il ne faut pas tomber dans l'illusion que l'IA va automatiser toutes les tâches, rappelle Adrien Pigeot. Parfois, un simple script, une moulinette ou une approche purement déterministe suffit." Avec des coûts nettement moindres.

Suivre la consommation en temps réel

Comme on n’améliore que ce qu’on mesure, il s’agit de suivre en temps réel la consommation de tokens. Si Octo Technology a développé sa propre "gateway", les spécialistes de l'API management ou des pure players, comme LiteLLM ou CodeBurn, proposent des solutions de suivi des dépenses tout en suggérant des actions d’optimisation.

Il convient, par ailleurs, d’assurer une veille permanente du marché en se basant sur les benchmarks évaluant les performances des principaux modèles d'IA. Les plus connus sont MMLU, MMMU, AIME 2025, LiveCodeBench et SWE Bench Verified. Le Journal du Net les a rassemblés au sein d’un même comparatif. Il s’agit ensuite de corréler ces performances avec les coûts associés comme le fait l’étude universitaire précédemment citée.

Dans cette quête de trouver des modèles frugaux et peu coûteux, la tentation est grande de se tourner vers les alternatives chinoises comme DeepSeek, Qwen ou encore Moonshot AI. Elles affichent des tarifs défiants toute concurrence avec un prix du million de tokens en entrée ou en sortie inférieur à un dollar là où GPT-5.4 ou Claude Sonnet 4.6 facturent 15 dollars le million de tokens en sortie. Le français Mistral AI se montre compétitif par rapport à ses rivaux américains.

A ce stade, se posent les enjeux de sécurité et de souveraineté. Ce qui introduit un dernier critère dans le choix du modèle IA idéal. En fonction de ses besoins et de ses contraintes, chaque entreprise devra déterminer quelle est l’IA à la fois la plus performante et le plus compétitive pour un usage donné, avec la bonne empreinte carbone et le bon niveau de souveraineté. Une équation particulièrement complexe à résoudre.