Prompt-Caching-Kosten für KI-Agenten: Anthropic, OpenAI, Gemini

Ein 12-Schritt-Agenten-Durchlauf auf Claude Sonnet 5 kostet etwa 0,39 $ ohne Caching und etwa 0,14 $ mit Caching. Auf GPT-5.4 kostet derselbe Durchlauf etwa 0,50 $ ungecacht und etwa 0,17 $ gecacht. Der Grund ist einfach: Ein Agent sendet seinen gesamten Kontext bei jedem Schritt erneut, und gecachte Input-Reads werden bei Anthropic und OpenAI mit etwa 10 % des Listen-Input-Tarifs abgerechnet, bei Gemini mit etwa 25 %. Caching hat keine Auswirkungen auf Output-Token.

Diese Zahlen verwenden einen realistischen Trace: ein 4.000-Token-Präfix (System-Prompt plus Tool-Definitionen), eine 500-Token-Aufgabe und zwölf Schritte, bei denen jeder Schritt einen 300-Token-Tool-Aufruf zurückgibt und ein 1.500-Token-Tool-Ergebnis erhält. Die vollständige Arithmetik finden Sie unten.

Jeder Schritt in einer Tool-Calling-Schleife sendet die gesamte bisherige Konversation: den System-Prompt, jedes Tool-Schema, die Aufgabe, jeden früheren Tool-Aufruf und jedes frühere Tool-Ergebnis. Schritt 1 sendet 4.500 Token. Schritt 12 sendet 4.500 + 11 × 1.800 = 24.300 Token. Addiert man die zwölf Schritte, hat das Modell 172.800 Input-Token gelesen, um nur 4.800 Output-Token zu produzieren.

Fast alle dieser 172.800 Token sind wiederholter Text. Das Präfix ist bei jedem Aufruf identisch, und die Konversation wächst nur am Ende. Das ist genau die Form, für die ein Präfix-Cache gebaut ist, weshalb das erneute Senden pro Schritt, das Agenten teuer macht, auch das ist, was Caching so effektiv macht. Die allgemeine Form von Agenten-Rechnungen wird in [Wie viel kostet die Ausführung eines KI-Agenten](/guides/how-much-does-an-ai-agent-cost-to-run) behandelt; dieser Artikel befasst sich nur mit dem Cache.

Anthropic verarbeitet die Anfrage in der Reihenfolge Tools, dann System, dann Nachrichten, und der Cache ist ein strikter Präfix-Abgleich. Ein Haltepunkt cached alles davor, sodass ein Haltepunkt in der letzten Tool-Definition und einer im System-Prompt den stabilen Teil abdeckt. Fügen Sie einen dritten in der neuesten Benutzernachricht hinzu, und jeder Schritt liest auch die vorherige Konversation aus dem Cache. Das minimal cachebare Präfix von Anthropic ist modellabhängig (etwa 1.000 Token oder mehr), daher werden kurze Prompts stillschweigend nicht gecached. Siehe die anbieterspezifischen Details in [Claude Agent API Kosten](/guides/claude-agent-api-cost), [OpenAI Agents API Kosten](/guides/openai-agents-api-cost) und [Gemini Agent API Kosten](/guides/gemini-agent-api-cost).

Platzieren Sie die Dinge, die sich während des Laufs nie ändern, vorne in einer festen Reihenfolge:

• Der System-Prompt, ohne Datum, Benutzernamen oder Lauf-ID darin
• Tool-Definitionen, deterministisch sortiert und während des Laufs nie hinzugefügt
• Abgerufene Dokumente, Styleguides oder Schemata, die der Agent bei jedem Schritt konsultiert
• Few-Shot-Beispiele

Platzieren Sie alles, was variiert, nach dem letzten Haltepunkt: die Aufgabe, die Frage des Benutzers, Metadaten pro Anfrage. Wenn Sie bei Anthropic einen Zeitstempel oder eine Lauf-ID im Kontext haben möchten, setzen Sie ihn in die erste Benutzernachricht und nicht in den System-Prompt, damit er nach dem gecachten Präfix und nicht darin liegt.

Ohne Cache liest der Lauf 172.800 Input-Token und schreibt 4.800 Output-Token. Mit Cache teilen wir den Input in drei Buckets auf. Neue Token werden einmal in den Cache geschrieben: 4.500 in Schritt 1 und 1.800 in jedem der nächsten elf Schritte, insgesamt 24.300. Alles andere, 148.500 Token, ist ein Cache-Read.

Alle Preise pro Million; Cache-Preise sind die "ca. 10 % / 25 %"-Regel, angewendet auf den Listenpreis, und der Anthropic-Schreibaufschlag beträgt ca. 125 %. Der Schreibaufschlag ist gering, da jedes Token einmal geschrieben und bis zu elfmal gelesen wird. Bei einem 40-Schritte-Lauf steigt die Ersparnis auf über 80 %, da der Anteil des wiederholten Inputs mit jedem Schritt wächst. Probieren Sie Ihre eigene Ablaufverfolgung im [Rechner](/calculator) aus.

Anthropic, explizite Haltepunkte im letzten Tool und im System-Prompt, plus einer in der neuesten Nachricht, damit die Konversation aus dem Cache gelesen wird:

from anthropic import Anthropic
client = Anthropic()
tools[-1]["cache_control"] = {"type": "ephemeral"}      # cached auch alle Tools davor
messages[-1]["content"][-1]["cache_control"] = {"type": "ephemeral"}
resp = client.messages.create(
    model="claude-sonnet-5", max_tokens=2048,
    system=[{"type": "text", "text": SYSTEM_PROMPT,
             "cache_control": {"type": "ephemeral"}}],
    tools=tools, messages=messages,
)
u = resp.usage
# Sonnet 5 pro 1M: Input $2, Write ~$2,50, Read ~$0,20, Output $10
cost = (u.input_tokens * 2 + u.cache_creation_input_tokens * 2.5
        + u.cache_read_input_tokens * 0.2 + u.output_tokens * 10) / 1_000_000

OpenAI, wo Caching automatisch ist und Sie es nur überprüfen:

from openai import OpenAI
client = OpenAI()
resp = client.responses.create(
    model="gpt-5.4", instructions=SYSTEM_PROMPT, tools=tools,
    input=conversation, prompt_cache_key="research-agent-v3",
)
u = resp.usage
cached = u.input_tokens_details.cached_tokens
# GPT-5.4 pro 1M: Input $2,50, gecachter Read ~$0,25, Output $15
cost = ((u.input_tokens - cached) * 2.5 + cached * 0.25
        + u.output_tokens * 15) / 1_000_000

Protokollieren Sie cost pro Schritt. Wenn die gecachte Zahl in Schritt 2 Null ist, stoppen Sie und finden Sie den Invalidator, bevor Sie etwas Längeres ausführen.

• Eine Zeitstempel-, Datums- oder „Heute ist“-Zeile im System-Prompt. Sie ändert sich bei jedem Aufruf, sodass das Präfix nie übereinstimmt.
• Ändern der Tool-Reihenfolge oder des Tool-Sets zwischen den Schritten. Tools werden zuerst gerendert, daher macht eine neu gereihte Tool-Reihenfolge den System-Prompt und den gesamten dahinterliegenden Konversationsverlauf ungültig.
• Serialisieren von Tool-Schemata aus einem Dictionary mit instabiler Schlüsselreihenfolge. Sortieren Sie die Schlüssel vor dem Senden.
• Eine Request- oder Trace-ID im System-Prompt. Legen Sie sie in den Metadaten oder in der ersten Benutzer-Nachricht ab.
• Bei Anthropic: Bearbeiten einer früheren Nachricht (z. B. Beschneiden eines alten Tool-Ergebnisses) statt Anhängen. Der Cache endet am ersten geänderten Byte.
• Wechseln des Modells während der Ausführung. Caches sind modellbezogen; ein Haiku-5.5-Worker kann keinen Sonnet-5-Cache lesen.
• Bei Gemini: Vergessen, einen expliziten Cache zu löschen. Der Speicher wird stundenweise abgerechnet, unabhängig davon, ob er abgerufen wird.

Caching ändert nicht, welches Modell Sie verwenden sollten; es ändert, wie viel das teure Modell kostet. Für eine gut spezifizierte Tool-Schleife schließen Gemini 3.8 Flash für $0.75 / $3.75 oder DeepSeek V4.1 Flash für $0.30 / $1.20 den 12-Schritte-Lauf vor jeglichem Caching für $0.15 bzw. etwa $0.06 ab. DeepSeek V4.1 Flash, API-Name deepseek-flash, ersetzt V4 Flash, das DeepSeek eingestellt hat. DeepSeek-Zeilen verwenden Spitzenpreise; außerhalb der Spitzenzeiten kostet es die Hälfte. DeepSeek-Preise geprüft 2026-10-27 unter api-docs.deepseek.com. Siehe [günstigste LLM für KI-Agenten](/guides/cheapest-llm-for-ai-agents) für die Zuverlässigkeitsabwägungen.

Zahlen Sie für Claude Opus 5 ($5 / $25) oder GPT-5.5 ($5 / $30), wenn die Schleife Planung, mehrdeutige Anweisungen oder Code umfasst, der beim ersten Mal kompilieren muss, denn ein erneuter Versuch mit einem günstigen Modell sendet den gesamten Kontext erneut und kann mehr kosten, als es auf Anhieb richtig zu machen. Mit Caching wird der ungecachte 12-Schritte-Lauf mit Opus für $0.98 zu etwa $0.35, weniger als ungecachter Sonnet 5.

Caching senkt die Steigung, nicht die Obergrenze. Halte vier Kontrollen für jeden Agenten bereit:

• max_tokens pro Aufruf, bemessen auf den längsten legitimen Tool-Aufruf, nicht das Maximum des Modells
• Eine feste Schrittbegrenzung pro Durchlauf; 12 bis 25 Schritte decken die meisten Aufgaben ab
• Eine Stoppbedingung, die das Modell erreichen kann, z. B. ein finish-Tool, damit es nicht in einer Schleife mit „lass mich noch etwas prüfen“ hängt
• Ein Dollar-Budget pro Durchlauf, berechnet aus den Nutzungsfeldern in den obigen Ausschnitten, das den Vorgang abbricht, sobald der laufende Betrag es überschreitet

Der Artikel [Token-Budget-Leitplanken](/guides/ai-agent-token-budget-guardrails) enthält einen 30-zeiligen Runner, der den letzten Punkt umsetzt. Wenn Ihr Agent mehrere MCP-Server verbindet, lesen Sie als Nächstes [MCP-Server-Token-Kosten](/guides/mcp-server-token-cost), denn eine große Tool-Liste ist das Präfix, das am meisten von Caching profitiert und ohne es am meisten leidet.