En bref : Le prix d'un jeton baisse tandis que la facture liée aux jetons augmente, ce qui signifie que la variable budgétaire déterminante au sein d'une banque ou d'un fonds n'est plus le coût d'un jeton, mais le nombre de jetons consommés par une tâche.
Les dépenses liées aux jetons ont été évoquées lors des conférences téléphoniques sur les résultats
Pendant deux ans, les coûts liés à l'IA au sein des institutions financières ont constitué un poste budgétaire technologique que personne, en dehors du service informatique, ne remettait en question. Cela a changé ce trimestre. S'exprimant après la publication des résultats de Goldman Sachs, David Solomon a reconnu que “ On parle beaucoup des dépenses liées aux jetons et du coût de cette technologie ”, et a averti que le déploiement “ ne se fera pas sans heurts ni ajustements, le temps que les acteurs comprennent quelle est la demande réelle pour cette technologie au sein des entreprises ”.”
Sharon Yeshaya, directrice financière de Morgan Stanley, s'est montrée plus précise quant à l'évolution de la société conférence téléphonique du deuxième trimestre. « Une dépense symbolique », a-t-elle déclaré, c'est “ un sujet qui n'a pas d'incidence financière cette année, mais qui pourrait en avoir à l'avenir ”, et cela mobilise déjà l'attention de la direction.
Lisez bien cela, car cette phrase résume tout le problème. Un coût qui est négligeable aujourd’hui et deviendra significatif demain est précisément le genre de coût qui échappe à la discipline budgétaire jusqu’à ce qu’il soit devenu trop important pour être résorbé en douceur.
La chute des prix est bien réelle, et c'est un piège
Tous les chiffres clés incitent à l'optimisme. Le coût moyen d'un million de jetons a reculé de 671 TP3T par rapport à l'année précédente. Les prix à la production de Frontier ont baissé d'environ 94,51 TP3T depuis mars 2023 en raison de comparaison publique des prix de l'inférence. L'écart entre les différentes catégories est désormais considérable : un modèle de base coûte quelques centimes par million de jetons d'entrée, tandis qu'un modèle de raisonnement de pointe coûte plusieurs dollars, le prix de la sortie étant encore plusieurs fois plus élevé.
Et pourtant, au cours de la même période d'enquête, 73% d'organisations ont indiqué que les coûts liés à l'IA avaient dépassé leur budget initial, tandis que la part des équipes gérant activement les dépenses liées à l'IA est passée de 31% il y a deux ans à 98%. La baisse des prix unitaires, la hausse des factures et une gestion quasi généralisée des coûts ne parviennent toujours pas à endiguer cette tendance.
Le mécanisme repose sur la demande élastique. Lorsque le coût marginal d’une inférence diminue, les organisations ne tirent pas parti de cette économie. Elles allongent les chaînes de raisonnement, ajoutent des appels d’outils, élargissent les fenêtres contextuelles et confient le travail à des agents qui font appel à d’autres agents. AT&T a publiquement annoncé avoir fait passer sa capacité de entre environ 8 milliards et 27 milliards de jetons par jour après le déploiement de systèmes multi-agents. Google a indiqué traiter environ 1,3 quadrillion de tokens par mois, soit une multiplication par 130 environ par rapport à l'année précédente.
La variable qui détermine le montant de la facture correspond au nombre de jetons par tâche.
C'est sur cet aspect qu'un lecteur ayant une formation en analyse quantitative devrait se concentrer. Les dépenses correspondent au produit du prix par le volume. Le prix suit une courbe raisonnablement prévisible et figure sur une grille tarifaire. Ce n'est pas le cas du volume, car celui-ci ne dépend pas du nombre d'utilisateurs. Il dépend de l'architecture.
Le raisonnement et les tâches liées à l'agentique consomment cinq à trente fois plus de jetons par tâche que l'interaction équivalente par chat. Une seule requête acheminée via un pipeline de recherche comprenant un modèle de raisonnement et trois appels d’outils peut consommer un à deux ordres de grandeur de tokens en plus que la même question posée directement à un modèle plus petit. Les modèles de raisonnement génèrent de longues chaînes de pensée internes qui sont facturées en tant que tokens de sortie ; le profil de consommation s’écarte donc fortement de ce que l’interface semble indiquer.
Il en résulte que la consommation de jetons n'est pas linéaire par rapport à l'activité visible par l'utilisateur. Cette seule caractéristique explique la majeure partie de l'erreur de prévision sur le marché. Une banque qui modélise le coût de l’IA en multipliant le nombre de postes par un prix unitaire a construit un modèle linéaire d’un système non linéaire, et l’erreur s’accumule dans le sens d’un dépassement budgétaire chaque fois qu’une équipe d’ingénieurs met à niveau un modèle ou accorde davantage d’autonomie à un agent.
De plus, les tokens ne sont pas homogènes, ce qui rend caduque le suivi naïf des volumes. L'économie des services se situe à la frontière entre le débit et l'interactivité, et la mesure pertinente est le « goodput » : il s'agit du résultat qui répond à un objectif défini en matière de latence et de vitesse, plutôt que du nombre brut de tokens produits.
| Classe « token » | Profil | À sa place |
|---|---|---|
| En vrac | Débit élevé, vitesse faible par utilisateur, coût de service le plus bas | Traitement des documents pendant la nuit, représentations vectorielles, synthèse par lots |
| Boucle d'Or | Une interactivité modérée avec un débit quasi optimal | La plupart des applications destinées aux analystes internes et au service client |
| Haute qualité et faible latence | Vitesse élevée par utilisateur, débit global plus faible, coût unitaire plus élevé | Agents vocaux et flux de travail où le temps de réponse conditionne la productivité |
| Raisonnement | Cela ressemble à un appel standard ; il génère de nombreux jetons internes pour chaque jeton renvoyé. | Uniquement les problèmes analytiques véritablement complexes ; la principale source de dépenses imprévues |
| Cadre adapté de l'économie des jetons de la FinOps Foundation et des études comparatives publiées sur l'inférence (2026). | ||
La période de subvention est terminée
L'hypothèse qui sous-tend discrètement la plupart des budgets pluriannuels consacrés à l'IA est que les baisses de prix prévues pour l'année prochaine compenseront la croissance en volume enregistrée cette année. Cette hypothèse n'est désormais plus valable, car les prestataires ont commencé à réajuster leurs tarifs afin de couvrir leurs coûts.
La transition d'Anthropic vers le marché des entreprises, prévue en avril 2026, en est l'exemple le plus frappant. L'entreprise a fait passer ses clients professionnels à un modèle combinant un forfait par poste et une consommation de jetons préengagée, sans marge de sécurité incluse, et a dissocié les abonnements forfaitaires des interfaces d’agents tiers qui, selon les estimations des analystes, consommaient plusieurs fois plus de ressources de calcul par dollar que ce que le prix de l’abonnement était censé couvrir. Le responsable produit de ChatGPT chez OpenAI a exprimé cette idée de manière plus directe, en faisant remarquer qu’un forfait IA illimité est structurellement similaire à un forfait d’électricité illimité et ne fonctionne pas.
Concrètement, pour les services de trésorerie ou les directions financières, cela signifie que les acheteurs doivent désormais prévoir la demande en ressources informatiques de la même manière qu’ils ont appris, à leurs dépens, à prévoir la demande de cloud il y a une dizaine d’années. Les prix catalogue par jeton continuent de baisser, mais ces baisses concernent principalement les niveaux d’entrée de gamme, tandis que les niveaux réellement requis par les charges de travail « agentic » restent plus stables.
Ce que font les institutions rigoureuses
Yeshaya a décrit l'approche de Morgan Stanley en des termes que tout opérateur reconnaîtrait comme relevant de l'ingénierie des coûts classique : “ Utilisez le bon modèle pour la bonne finalité, et faites preuve de discernement en matière d'open source lorsque cela s'avère pertinent. ”. Son exemple concret est instructif précisément parce qu’il est banal. Résumer un rapport d’analyste représente une charge de travail réelle qui apporte une réelle valeur ajoutée, et “ on n’a vraiment pas besoin du dernier modèle à la pointe de la technologie et incroyablement coûteux ” pour le faire.
C'est ce qu'on appelle le « routage modèle », et c'est le mécanisme de contrôle offrant le meilleur rendement. Tout le reste s'articule autour de lui : la mise en cache des contextes répétés, le regroupement en lots de tout ce qui ne nécessite pas d'interactivité, la limitation de la profondeur de récursion des agents, et la mesure du « goodput » plutôt que du nombre brut de jetons, afin qu'un jeton rapide et un jeton lent ne soient pas considérés comme des biens économiques équivalents.
La comptabilité est tout aussi importante que l'ingénierie. L'approche adoptée par le BCG dans ses travaux sur gestion du compteur à jetons C'est que les dépenses en jetons ne peuvent pas être regroupées dans une seule catégorie. Les jetons qui permettent de développer des capacités réutilisables s'apparentent à des investissements. Les jetons utilisés pour effectuer des tâches internes constituent des charges d’exploitation. Les jetons consommés au sein d’un produit ou lors d’une interaction avec un client relèvent du coût des ventes. Une institution qui comptabilise ces trois types de dépenses comme des frais généraux informatiques ne peut pas déterminer lesquels de ses programmes d’IA créent de la valeur et lesquels érodent discrètement sa marge.
Le dernier mécanisme de contrôle est l'imputation. Le fait que la consommation de jetons soit réimputée au service qui les a générés modifie les comportements d'une manière qu'un budget central ne parvient jamais à obtenir, pour la même raison que les services publics facturés au compteur sont utilisés avec plus de parcimonie que ceux facturés au forfait.
Pourquoi il s'agit d'une question de marge et non d'une question de technologie
Voici l'aspect qui retient le moins l'attention et qui revêt pourtant la plus grande importance pour les propriétaires et les gestionnaires de portefeuille.
Jamie Dimon a rejeté l'idée selon laquelle les gains d'efficacité liés à l'IA profiteraient uniquement à l'entreprise qui la met en œuvre. “ On ne peut pas se contenter de dire : ‘Oh, ça va augmenter nos marges, et on va s’en contenter’. Si c’était vrai, nos marges s’élèveraient aujourd’hui à 80% grâce à l’informatisation de ces vingt dernières années. ” Il a ajouté : “ Vous n’êtes pas les seuls à tirer profit de l’IA. Ce sont nos clients qui en seront les principaux bénéficiaires. ”
La concurrence répercute les gains de productivité sur le client. Ce qui figure dans le compte de résultat, ce sont les coûts. Pour un gestionnaire d’actifs ou un fonds, ces coûts passent d’un investissement ponctuel lié à un projet à des coûts de service récurrents, venant s’ajouter à une base de commissions qui subit déjà une compression structurelle. Un choix technologique devient donc une question de pérennité de la marge d'exploitation, qui est le facteur déterminant du multiple qu'un acquéreur sera prêt à payer.
La conjoncture n'est pas non plus près de s'améliorer. Ted Pick, directeur général de Morgan Stanley, a souligné que les prévisions d'investissements dans les centres de données s'élevaient à Le chiffre de $575 milliards pour 2026 se rapproche de $850 milliards, avec une révision des prévisions pour 2027, qui passent d'environ $700 milliards à $1,3 billions, et a estimé que le secteur ne représenterait que 10% à 15% tout au long du cycle d'investissement. Les fournisseurs qui se développent à ce rythme devront, à terme, en tirer un retour sur investissement.
Que faire à ce sujet ?
Si vous dirigez une société de gestion ou un fonds. Calculez le coût de l’outil par tâche avant de faire évoluer un cas d’utilisation, et non après. Définissez un budget explicite de jetons par workflow, avec un seuil au-delà duquel le workflow est repensé ou désactivé, et acheminez chaque tâche vers le niveau le moins cher qui respecte les critères de qualité. Classez les dépenses en jetons comme investissement, charge d’exploitation ou coût des produits vendus, et refacturez-les au service qui les consomme. Le cadre proposé par Dimon constitue une discipline utile : JPMorgan exploite près d’un millier de cas d’utilisation de l’IA, dont il estime qu’une cinquantaine environ sont véritablement importants.
Si vous procédez à une vérification préalable ou si vous en attribuez une. Cessez de compter les cas d'utilisation. Demandez le coût par tâche, la répartition des niveaux tarifaires qui le sous-tend, ainsi que l’évolution du nombre de jetons par tâche au cours des deux derniers trimestres. Une entreprise qui compte un millier de pilotes mais dont l’économie unitaire est inexistante a mis en place un centre de coûts doté d’une bonne image publique. Une entreprise capable d’indiquer son coût par workflow achevé et de montrer que celui-ci diminue alors que le volume augmente a construit un modèle capable de résister à une révision des tarifs.
Les institutions qui sortiront indemnes de ce cycle ne seront pas celles qui auront le moins investi dans l'inférence. Ce seront celles qui auront toujours su combien leur coûtait chaque unité d'inférence, et ce qu'elle leur apportait.
Références
- diginomica. “ Tokenomics — les orientations d'investissement de Goldman Sachs, JP Morgan Chase et Morgan Stanley ” (Stuart Lauchlan, 17 juillet 2026). https://diginomica.com/tokenomics-direction-investment-travel-goldman-sachs-jp-morgan-chase-and-morgan-stanley
- Fondation FinOps. “ Token Economics : l'unité fondamentale de la valeur de l'IA ” (J.R. Storment). https://www.finops.org/insights/token-economics-the-atomic-unit-of-ai-value/
- Fondation FinOps. Rapport « État des lieux du FinOps 2026 ». https://data.finops.org/
- Epoch AI. “ Les coûts d'inférence des modèles de langage à grande échelle (LLM) ont chuté rapidement, mais de manière inégale selon les tâches. ” https://epoch.ai/data-insights/llm-inference-price-trends
- Boston Consulting Group. “ Return on AI : Comment les directeurs financiers et les directeurs informatiques peuvent gérer le ” compteur de jetons » » (2026). https://www.bcg.com/publications/2026/managing-ai-token-costs
- Morgan Stanley. Transcription de la conférence téléphonique sur les résultats du deuxième trimestre 2026 (15 juillet 2026). https://www.fool.com/earnings/call-transcripts/2026/07/15/morgan-stanley-ms-q2-2026-earnings-call-transcript/
- Deloitte Insights. “ Les jetons IA : comment s'adapter aux nouvelles dynamiques de dépenses liées à l'IA. ” https://www.deloitte.com/us/en/insights/topics/emerging-technologies/ai-tokens-how-to-navigate-spend-dynamics.html
