Prompt Caching Kosten voor AI Agents: Anthropic, OpenAI, Gemini

Een 12-stappen agent-run op Claude Sonnet 5 kost ongeveer $0.39 zonder caching en ongeveer $0.14 met caching. Op GPT-5.4 kost dezelfde run ongeveer $0.50 ongecached en ongeveer $0.17 gecached. De reden is simpel: een agent verzendt zijn hele context op elke stap opnieuw, en cached input reads worden gefactureerd tegen ongeveer 10% van het lijst inputtarief bij Anthropic en OpenAI, ongeveer 25% bij Gemini. Caching doet niets voor output tokens.

Die getallen gebruiken een realistische trace: een prefix van 4,000 tokens (system prompt plus tool definities), een taak van 500 tokens, en twaalf stappen waarbij elke stap een tool call van 300 tokens retourneert en een tool resultaat van 1,500 tokens terugkrijgt. De volledige berekening staat hieronder.

Elke stap in een tool-calling lus verzendt het hele gesprek tot nu toe: de system prompt, elk tool schema, de taak, elke eerdere tool call en elk eerder tool resultaat. Stap 1 verzendt 4,500 tokens. Stap 12 verzendt 4,500 + 11 × 1,800 = 24,300 tokens. Tel de twaalf stappen bij elkaar op en het model heeft 172,800 input tokens gelezen om slechts 4,800 output tokens te produceren.

Bijna al die 172,800 is herhaalde tekst. Het prefix is identiek bij elke aanroep en het gesprek groeit alleen aan het einde. Dat is precies de vorm waarvoor een prefix cache is gebouwd, daarom is het per-stap opnieuw verzenden dat agents duur maakt ook wat caching zo effectief maakt. De algemene vorm van agent-facturen wordt behandeld in [hoeveel kost het om een AI agent te laten draaien](/guides/how-much-does-an-ai-agent-cost-to-run); dit artikel gaat alleen over de cache.

Anthropic verwerkt de aanvraag in de volgorde tools, dan system, dan messages, en de cache is een strikte prefixovereenkomst. Een breakpoint cachet alles ervoor, dus één breakpoint op de laatste tooldefinitie en één op de system prompt dekt het stabiele deel. Voeg een derde toe op het laatste gebruikersbericht en elke stap leest ook de vorige conversatie uit de cache. De minimale cacheerbare prefix van Anthropic is modelafhankelijk (ongeveer 1.000 tokens of meer), dus korte prompts worden stilzwijgend niet gecachet. Zie de details per leverancier in [Claude agent API cost](/guides/claude-agent-api-cost), [OpenAI Agents API cost](/guides/openai-agents-api-cost) en [Gemini agent API cost](/guides/gemini-agent-api-cost).

Plaats de dingen die tijdens de uitvoering nooit veranderen vooraan, in een vaste volgorde:

• De system prompt, zonder datum, gebruikersnaam of run-ID erin
• Tooldefinities, deterministisch gesorteerd en nooit halverwege toegevoegd
• Opgehaalde documenten, stijlgidsen of schema's die de agent elke stap raadpleegt
• Few-shot voorbeelden

Zet alles wat varieert na het laatste breakpoint: de taak, de vraag van de gebruiker, per-aanvraag metadata. Bij Anthropic, als u een tijdstempel of run-ID in de context wilt, plaats het dan in het eerste gebruikersbericht in plaats van in de system prompt, zodat het na de gecachte prefix staat in plaats van erin.

Zonder cache leest de run 172.800 invoertokens en schrijft 4.800 uitvoertokens. Met cache splitsen we de invoer in drie buckets. Nieuwe tokens worden één keer naar de cache geschreven: 4.500 bij stap 1 en 1.800 bij elk van de volgende elf stappen, in totaal 24.300. Al het andere, 148.500 tokens, is een cachelezing.

Alle tarieven per miljoen; cachetarieven zijn de \"ongeveer 10% / 25%\"-regel toegepast op de lijst en de Anthropic-schrijfpremie is ongeveer 125%. De schrijfpremie is klein omdat elk token één keer wordt geschreven en tot elf keer wordt gelezen. Bij een run van 40 stappen stijgt de besparing naar meer dan 80%, omdat het aandeel van de invoer dat wordt herhaald met elke stap groeit. Probeer uw eigen trace in de [calculator](/calculator).

Anthropic, expliciete breekpunten op de laatste tool en de system prompt, plus een op het laatste bericht zodat het gesprek uit de cache wordt gelezen:

from anthropic import Anthropic
client = Anthropic()
tools[-1]["cache_control"] = {"type": "ephemeral"}      # caches ook elke tool ervoor
messages[-1]["content"][-1]["cache_control"] = {"type": "ephemeral"}
resp = client.messages.create(
    model="claude-sonnet-5", max_tokens=2048,
    system=[{"type": "text", "text": SYSTEM_PROMPT,
             "cache_control": {"type": "ephemeral"}}],
    tools=tools, messages=messages,
)
u = resp.usage
# Sonnet 5 per 1M: input $2, write ~$2.50, read ~$0.20, output $10
cost = (u.input_tokens * 2 + u.cache_creation_input_tokens * 2.5
        + u.cache_read_input_tokens * 0.2 + u.output_tokens * 10) / 1_000_000

OpenAI, waar caching automatisch is en je het alleen verifieert:

from openai import OpenAI
client = OpenAI()
resp = client.responses.create(
    model="gpt-5.4", instructions=SYSTEM_PROMPT, tools=tools,
    input=conversation, prompt_cache_key="research-agent-v3",
)
u = resp.usage
cached = u.input_tokens_details.cached_tokens
# GPT-5.4 per 1M: input $2.50, cached read ~$0.25, output $15
cost = ((u.input_tokens - cached) * 2.5 + cached * 0.25
        + u.output_tokens * 15) / 1_000_000

Log cost per stap. Als de cached-waarde nul is bij stap 2, stop dan en zoek de ongeldigmaker voordat je iets langer uitvoert.

• Een tijdstempel, datum of \"vandaag is\"-regel in de systeemprompt. Het verandert bij elke aanroep, dus het prefix komt nooit overeen.
• Het wijzigen van de toolvolgorde of de toolset tussen stappen. Tools worden eerst weergegeven, dus een herordende tool maakt de systeemprompt en het hele gesprek erachter ongeldig.
• Het serialiseren van toolschema's uit een dict met onstabiele sleutelvolgorde. Sorteer sleutels voordat je verzendt.
• Een verzoek- of trace-ID in de systeemprompt. Plaats het in metadata of het eerste gebruikersbericht.
• Bij Anthropic: het bewerken van een eerder bericht (bijvoorbeeld het inkorten van een oud toolresultaat) in plaats van toevoegen. De cache eindigt bij de eerste gewijzigde byte.
• Het wisselen van modellen midden in een run. Caches zijn per model; een Haiku 5.5-worker kan geen Sonnet 5-cache lezen.
• Bij Gemini: vergeten een expliciete cache te verwijderen. Opslag wordt per uur gefactureerd, of je het nu aanroept of niet.

Caching verandert niet welk model je moet gebruiken; het verandert hoeveel het dure model kost. Voor een goed gespecificeerde tool-lus voltooien Gemini 3.8 Flash voor $0,75 / $3,75 of DeepSeek V4.1 Flash voor $0,30 / $1,20 de 12-staps-run voor respectievelijk $0,15 en ongeveer $0,06 vóór enige caching. DeepSeek V4.1 Flash, API-naam deepseek-flash, heeft V4 Flash vervangen, dat door DeepSeek is stopgezet. DeepSeek-rijen gebruiken piektarieven; buiten piekuren kosten ze de helft. DeepSeek-prijzen gecontroleerd op 27-10-2026 op api-docs.deepseek.com. Zie [goedkoopste LLM voor AI-agenten](/guides/cheapest-llm-for-ai-agents) voor de betrouwbaarheidsafwegingen.

Betaal voor Claude Opus 5 ($5 / $25) of GPT-5.5 ($5 / $30) wanneer de lus planning, dubbelzinnige instructies of code die de eerste keer moet compileren omvat, omdat een herpoging op een goedkoop model de hele context opnieuw verzendt en meer kan kosten dan het in één keer goed doen. Met caching wordt de ongecachte 12-staps Opus-run van $0,98 ongeveer $0,35, wat minder is dan ongecachte Sonnet 5.

Caching verlaagt de helling, niet het plafond. Houd vier controles op elke agent:

• max_tokens per aanroep, afgestemd op de langste legitieme toolaanroep, niet het maximum van het model
• Een harde stapgrens per run; 12 tot 25 stappen dekt de meeste taken
• Een stopconditie die het model kan bereiken, zoals een finish-tool, zodat het niet blijft herhalen met \"laat me nog één ding controleren\"
• Een dollar budget per run, berekend op basis van de gebruikersvelden in de bovenstaande fragmenten, dat wordt afgebroken wanneer het lopende totaal het overschrijdt

Het artikel over [token budget guardrails](/guides/ai-agent-token-budget-guardrails) heeft een runner van 30 regels die de laatste uitvoert. Als je agent meerdere MCP-servers verbindt, lees dan [MCP server token cost](/guides/mcp-server-token-cost) hierna, omdat een grote toollijst het voorvoegsel is dat het meeste profiteert van caching en het meeste schade oploopt zonder.