AI 智能体的提示缓存成本：Anthropic, OpenAI, Gemini

在 Claude Sonnet 5 上运行 12 步智能体，无缓存时成本约 $0.39，有缓存时约 $0.14。在 GPT-5.4 上相同运行无缓存约 $0.50，有缓存约 $0.17。原因很简单：智能体在每个步骤中重新发送整个上下文，而缓存输入读取按 Anthropic 和 OpenAI 列表输入率的大约 10% 计费，Gemini 大约 25%。缓存对输出令牌没有影响。

这些数字使用一个实际迹线：一个 4,000 令牌的前缀（系统提示加工具定义），一个 500 令牌的任务，以及十二个步骤，每个步骤返回一个 300 令牌的工具调用并收到一个 1,500 令牌的工具结果。完整计算如下。

工具调用循环中的每一步都会发送目前为止的整个对话：系统提示、每个工具模式、任务、每个之前的工具调用和每个之前的工具结果。步骤 1 发送 4,500 个令牌。步骤 12 发送 4,500 + 11 × 1,800 = 24,300 个令牌。将十二个步骤相加，模型已读取 172,800 个输入令牌，仅产生 4,800 个输出令牌。

这 172,800 个令牌中几乎全部是重复文本。前缀在每次调用中相同，对话仅在末尾增长。这正是前缀缓存的设计目标，因此使智能体变得昂贵的每步重新发送也正是缓存如此有效的原因。智能体账单的总体情况在 [how much an AI agent costs to run](/guides/how-much-does-an-ai-agent-cost-to-run) 中介绍；本文仅讨论缓存。

Anthropic 按顺序处理请求：工具、系统提示、消息，缓存采用严格前缀匹配。断点会缓存其之前的所有内容，因此在最后一个工具定义和一个系统提示上设置断点即可覆盖稳定部分。再在最新用户消息上添加第三个断点，每一步也能从缓存中读取之前的对话。Anthropic 可缓存的最小前缀长度取决于模型（约1000 token或更多），因此短提示不会缓存。详见各供应商的具体说明：[Claude agent API cost](/guides/claude-agent-api-cost)、[OpenAI Agents API cost](/guides/openai-agents-api-cost) 和 [Gemini agent API cost](/guides/gemini-agent-api-cost)。

将运行期间永不变化的内容放在前面，按固定顺序排列：

• 系统提示（不含日期、用户名和运行ID）
• 工具定义（按确定性排序，运行中不添加）
• 代理每一步都参考的检索文档、样式指南或模式
• 少样本示例

将所有变化的内容放在最后一个断点之后：任务、用户问题、每次请求的元数据。在 Anthropic 上，如果希望上下文中包含时间戳或运行ID，请将其放在第一条用户消息中，而不是系统提示里，这样它位于缓存前缀之后，而不是内部。

未缓存时，运行读取172,800个输入token，写入4,800个输出token。缓存时，我们将输入分为三个桶。新token只写入缓存一次：步骤1写入4,500，之后十一步每步写入1,800，总计24,300。其余148,500个token为缓存读取。

所有费率均为每百万token；缓存费率基于标价应用\"大致10%/25%\"规则，Anthropic写入溢价约为125%。写入溢价很小，因为每个token只写入一次，最多读取十一次。对于40步运行，节省比例超过80%，因为每一步重复的输入比例都在增加。在[计算器](/calculator)中尝试您自己的追踪。

Anthropic，在最后一个工具和系统提示上设置显式中断点，并在最新消息上设置一个，以便从缓存中读取对话：

from anthropic import Anthropic
client = Anthropic()
tools[-1]["cache_control"] = {"type": "ephemeral"}      # 也会缓存它之前的所有工具
messages[-1]["content"][-1]["cache_control"] = {"type": "ephemeral"}
resp = client.messages.create(
    model="claude-sonnet-5", max_tokens=2048,
    system=[{"type": "text", "text": SYSTEM_PROMPT,
             "cache_control": {"type": "ephemeral"}}],
    tools=tools, messages=messages,
)
u = resp.usage
# Sonnet 5 每 1M：输入 $2，写入 ~$2.50，读取 ~$0.20，输出 $10
cost = (u.input_tokens * 2 + u.cache_creation_input_tokens * 2.5
        + u.cache_read_input_tokens * 0.2 + u.output_tokens * 10) / 1_000_000

OpenAI，缓存是自动的，你只需验证它：

from openai import OpenAI
client = OpenAI()
resp = client.responses.create(
    model="gpt-5.4", instructions=SYSTEM_PROMPT, tools=tools,
    input=conversation, prompt_cache_key="research-agent-v3",
)
u = resp.usage
cached = u.input_tokens_details.cached_tokens
# GPT-5.4 每 1M：输入 $2.50，缓存读取 ~$0.25，输出 $15
cost = ((u.input_tokens - cached) * 2.5 + cached * 0.25
        + u.output_tokens * 15) / 1_000_000

记录每一步的 cost。如果第二步的缓存数字为零，停止并在运行更长的内容之前找到失效原因。

• 系统提示中的时间戳、日期或“今天是”行。每次调用都会变化，因此前缀永远不会匹配。
• 在步骤之间更改工具顺序或工具集。工具首先渲染，因此重新排序的工具会使系统提示及其后的整个对话失效。
• 从键顺序不稳定的字典中序列化工具模式。发送前请对键进行排序。
• 系统提示中的请求或追踪 ID。将其放在元数据或第一条用户消息中。
• 在 Anthropic 上，编辑较早的消息（例如截断旧的工具结果）而不是追加。缓存会在第一个更改的字节处结束。
• 在运行中途切换模型。缓存是按模型划分的；Haiku 5.5 工作节点无法读取 Sonnet 5 缓存。
• 在 Gemini 上，忘记删除显式缓存。无论是否调用，存储都会按小时计费。

缓存不会改变你应该使用哪个模型；它只会改变昂贵模型的成本。对于定义良好的工具循环，Gemini 3.8 Flash 价格为 $0.75 / $3.75，DeepSeek V4.1 Flash 价格为 $0.30 / $1.20，在考虑任何缓存之前，12 步运行分别花费 $0.15 和约 $0.06。DeepSeek V4.1 Flash（API 名称 deepseek-flash）取代了 DeepSeek 已退役的 V4 Flash。DeepSeek 行使用峰值费率；非峰值时段价格减半。DeepSeek 定价于 2026-10-27 在 api-docs.deepseek.com 检查。可靠性权衡详见[面向 AI 智能体的最便宜 LLM](/guides/cheapest-llm-for-ai-agents)。

当循环涉及规划、模糊指令或需要首次编译通过的代码时，请为 Claude Opus 5（$5 / $25）或 GPT-5.5（$5 / $30）付费，因为在便宜模型上重试会重新发送整个上下文，成本可能超过一次性正确完成的费用。使用缓存后，未缓存的 12 步 Opus 运行成本从 $0.98 降至约 $0.35，低于未缓存的 Sonnet 5。

缓存降低的是斜率，而非天花板。对每个 agent 保持四种控制：

• 每次调用的 max_tokens，以最长合法工具调用的大小为准，而非模型的最大值
• 每次运行的硬步骤限制；12 到 25 步覆盖大多数任务
• 模型可以触达的停止条件，例如 finish 工具，这样它就不会在“让我再检查一件事”上循环
• 每次运行的美元预算，根据上面代码片段中的用量字段计算，当累计总额超过时中止

[Token 预算护栏](/guides/ai-agent-token-budget-guardrails) 文章提供了一个 30 行的运行器来实现最后一项。如果你的 agent 连接了多个 MCP 服务器，接下来请阅读 [MCP 服务器 token 成本](/guides/mcp-server-token-cost)，因为大型工具列表作为前缀，最能在缓存中受益，而没有缓存时伤害最大。