Coût de mise en cache du prompt pour les agents IA : Anthropic, OpenAI, Gemini

Une exécution d'agent en 12 étapes sur Claude Sonnet 5 coûte environ 0,39 $ sans mise en cache et environ 0,14 $ avec. Sur GPT-5.4, la même exécution coûte environ 0,50 $ sans cache et environ 0,17 $ avec cache. La raison est simple : un agent renvoie tout son contexte à chaque étape, et les lectures d'entrée mises en cache sont facturées à environ 10 % du taux d'entrée catalogue chez Anthropic et OpenAI, environ 25 % chez Gemini. La mise en cache n'affecte pas les jetons de sortie.

Ces chiffres utilisent une trace réaliste : un préfixe de 4 000 jetons (prompt système plus définitions d'outils), une tâche de 500 jetons, et douze étapes où chaque étape renvoie un appel d'outil de 300 jetons et reçoit un résultat d'outil de 1 500 jetons. Les calculs complets sont ci-dessous.

Chaque étape d'une boucle d'appels d'outils envoie l'intégralité de la conversation jusqu'à présent : le prompt système, chaque schéma d'outil, la tâche, chaque appel d'outil antérieur et chaque résultat d'outil antérieur. L'étape 1 envoie 4 500 jetons. L'étape 12 envoie 4 500 + 11 × 1 800 = 24 300 jetons. En additionnant les douze étapes, le modèle a lu 172 800 jetons d'entrée pour produire seulement 4 800 jetons de sortie.

Presque tous ces 172 800 jetons sont du texte répété. Le préfixe est identique à chaque appel et la conversation ne croît qu'à la fin. C'est exactement la forme pour laquelle un cache de préfixe est conçu, c'est pourquoi le renvoi par étape qui rend les agents coûteux est aussi ce qui rend la mise en cache si efficace. La forme générale des factures d'agent est abordée dans [combien coûte l'exécution d'un agent IA](/guides/how-much-does-an-ai-agent-cost-to-run) ; cet article ne traite que du cache.

Anthropic traite la requête dans l'ordre suivant : outils, puis système, puis messages, et le cache effectue une correspondance stricte de préfixe. Un point de rupture met en cache tout ce qui le précède, donc un point sur la dernière définition d'outil et un autre sur le prompt système couvrent la partie stable. Ajoutez-en un troisième sur le dernier message utilisateur et chaque étape lira également la conversation précédente depuis le cache. Le préfixe minimum cachable chez Anthropic dépend du modèle (environ 1 000 tokens ou plus), donc les invites courtes ne sont pas mises en cache silencieusement. Consultez les détails par fournisseur dans [Coût de l'API agent Claude](/guides/claude-agent-api-cost), [Coût de l'API agent OpenAI](/guides/openai-agents-api-cost) et [Coût de l'API agent Gemini](/guides/gemini-agent-api-cost).

Placez en premier, dans un ordre fixe, les éléments qui ne changent jamais pendant l'exécution :

• Le prompt système, sans date, sans nom d'utilisateur ni ID d'exécution à l'intérieur
• Les définitions d'outils, triées de manière déterministe et jamais ajoutées en cours d'exécution
• Les documents récupérés, guides de style ou schémas consultés par l'agent à chaque étape
• Les exemples few-shot

Placez tout ce qui varie après le dernier point de rupture : la tâche, la question de l'utilisateur, les métadonnées par requête. Chez Anthropic, si vous souhaitez inclure un horodatage ou un ID d'exécution dans le contexte, placez-le dans le premier message utilisateur plutôt que dans le prompt système, afin qu'il se situe après le préfixe mis en cache et non à l'intérieur.

Sans cache, l'exécution lit 172 800 tokens d'entrée et écrit 4 800 tokens de sortie. Avec cache, nous divisons l'entrée en trois catégories. Les nouveaux tokens sont écrits dans le cache une seule fois : 4 500 à l'étape 1 et 1 800 à chacune des onze étapes suivantes, soit 24 300 au total. Tout le reste, 148 500 tokens, correspond à des lectures depuis le cache.

Tous les tarifs sont exprimés par million de tokens ; les tarifs de cache appliquent la règle « environ 10 % / 25 % » aux listes et le supplément à l'écriture chez Anthropic est d'environ 125 %. Ce supplément est faible car chaque token est écrit une seule fois et peut être lu jusqu'à onze fois. Pour une exécution de 40 étapes, l'économie dépasse les 80 %, car la part de l'entrée répétée augmente à chaque étape. Testez votre propre trace dans le [calculateur](/calculator).

Anthropic, points de rupture explicites sur le dernier outil et le prompt système, plus un sur le dernier message afin que la conversation soit lue depuis le cache :

from anthropic import Anthropic
client = Anthropic()
tools[-1]["cache_control"] = {"type": "ephemeral"}      # caches every tool before it too
messages[-1]["content"][-1]["cache_control"] = {"type": "ephemeral"}
resp = client.messages.create(
    model="claude-sonnet-5", max_tokens=2048,
    system=[{"type": "text", "text": SYSTEM_PROMPT,
             "cache_control": {"type": "ephemeral"}}],
    tools=tools, messages=messages,
)
u = resp.usage
# Sonnet 5 per 1M: input $2, write ~$2.50, read ~$0.20, output $10
cost = (u.input_tokens * 2 + u.cache_creation_input_tokens * 2.5
        + u.cache_read_input_tokens * 0.2 + u.output_tokens * 10) / 1_000_000

OpenAI, où la mise en cache est automatique et où vous devez simplement la vérifier :

from openai import OpenAI
client = OpenAI()
resp = client.responses.create(
    model="gpt-5.4", instructions=SYSTEM_PROMPT, tools=tools,
    input=conversation, prompt_cache_key="research-agent-v3",
)
u = resp.usage
cached = u.input_tokens_details.cached_tokens
# GPT-5.4 per 1M: input $2.50, cached read ~$0.25, output $15
cost = ((u.input_tokens - cached) * 2.5 + cached * 0.25
        + u.output_tokens * 15) / 1_000_000

Journalisez cost à chaque étape. Si la valeur mise en cache est nulle à l'étape 2, arrêtez-vous et identifiez l'élément qui invalide le cache avant de lancer quoi que ce soit de plus long.

• Un horodatage, une date ou une ligne "today is" dans le prompt système. Cela change à chaque appel, donc le préfixe ne correspond jamais.
• Changer l'ordre des outils ou l'ensemble d'outils entre les étapes. Les outils sont rendus en premier, donc un outil réordonné invalide le prompt système et toute la conversation derrière.
• Sérialiser les schémas d'outils à partir d'un dict avec un ordre de clés instable. Triez les clés avant d'envoyer.
• Un ID de requête ou de trace dans le prompt système. Mettez-le dans les métadonnées ou le premier message utilisateur.
• Sur Anthropic, modifier un message antérieur (par exemple tronquer un ancien résultat d'outil) plutôt que d'ajouter. Le cache se termine au premier octet modifié.
• Changer de modèle en cours d'exécution. Les caches sont par modèle ; un worker Haiku 5.5 ne peut pas lire un cache Sonnet 5.
• Sur Gemini, oublier de supprimer un cache explicite. Le stockage facture à l'heure que vous l'appeliez ou non.

La mise en cache ne change pas le modèle à utiliser ; elle change le coût du modèle coûteux. Pour une boucle d'outils bien spécifiée, Gemini 3.8 Flash à 0,75 $ / 3,75 $ ou DeepSeek V4.1 Flash à 0,30 $ / 1,20 $ terminent l'exécution de 12 étapes pour 0,15 $ et environ 0,06 $ respectivement avant toute mise en cache. DeepSeek V4.1 Flash, nom API deepseek-flash, a remplacé V4 Flash, que DeepSeek a retiré. Les lignes DeepSeek utilisent les tarifs de pointe ; les heures creuses coûtent la moitié. Tarification DeepSeek vérifiée le 2026-10-27 sur api-docs.deepseek.com. Voir [LLM le moins cher pour les agents IA](/guides/cheapest-llm-for-ai-agents) pour les compromis de fiabilité.

Payez pour Claude Opus 5 (5 $ / 25 $) ou GPT-5.5 (5 $ / 30 $) lorsque la boucle implique de la planification, des instructions ambiguës ou du code qui doit compiler du premier coup, car une nouvelle tentative sur un modèle bon marché renvoie tout le contexte et peut coûter plus cher que de bien faire les choses une fois. Avec la mise en cache, l'exécution Opus non mise en cache de 12 étapes à 0,98 $ devient environ 0,35 $, ce qui est moins que l'exécution non mise en cache de Sonnet 5.

La mise en cache abaisse la pente, pas le plafond. Gardez quatre contrôles sur chaque agent :

• max_tokens par appel, dimensionné pour l'appel d'outil légitime le plus long, pas le maximum du modèle
• Une limite stricte d'étapes par exécution ; 12 à 25 étapes couvrent la plupart des tâches
• Une condition d'arrêt que le modèle peut atteindre, comme un outil finish, pour qu'il ne boucle pas sur « laissez-moi vérifier encore une chose »
• Un budget en dollars par exécution calculé à partir des champs d'utilisation dans les extraits ci-dessus, interrompant l'exécution lorsque le total cumulé le dépasse

L'article [Token budget guardrails](/guides/ai-agent-token-budget-guardrails) contient un exécuteur de 30 lignes qui gère le dernier point. Si votre agent connecte plusieurs serveurs MCP, lisez [MCP server token cost](/guides/mcp-server-token-cost) ensuite, car une grande liste d'outils est le préfixe qui bénéficie le plus du cache et qui souffre le plus sans lui.