Claude Fable 5.2 提示缓存指南:降低长对话成本
了解Claude Fable 5.2提示缓存的工作原理,5分钟或1小时TTL何时能带来收益,什么会使缓存失效,以及如何验证节省效果。

提示缓存降低了重复处理未变更提示前缀的成本和延迟。当应用程序重复使用较长的系统提示、工具目录、参考文档、代码库上下文或对话历史时,其价值最为显著。
对于Claude Fable 5.2,Anthropic列出的标准输入价格为每百万token 8美元,五分钟缓存写入价格为10美元,一小时写入价格为16美元,缓存读取价格为0.20美元。较低的读取率可以带来巨大的节省——但前提是前缀在缓存过期前被重复使用,并且与缓存规则保持逐字节兼容。
基本经济学
假设在四次请求中使用了50万个稳定代币。
无缓存
0.5 × $8 × 4 = $16
五分钟缓存
- 初始写入:
0.5 × $10 = $5 - 三次读取:
0.5 × $0.20 × 3 = $0.30 - 缓存前缀总计:$5.30
请求特定的后缀和输出是单独计费的。此示例假设所有后续三次调用都在TTL内命中缓存。
五分钟写入消耗基础输入的1.25倍,因此通常一次复用即可收回写入溢价。一小时写入消耗基础输入的两倍:一次后续读取比未缓存情况下两次处理前缀略贵,而两次或更多次读取则能节省成本。
自动缓存还是显式缓存?
Anthropic 建议将自动缓存作为大多数应用的起点。添加顶层缓存控制,让 API 在对话增长时管理断点。
from anthropic import Anthropic
client = Anthropic()
= client.messages.create(
model="claude-fable-5-2",
max_tokens=4096,
cache_control={"type": "短暂的", "ttl": "5m"},
system="你正在审查一个庞大的政策语料库...",
messages=[{"role": "用户", "content": "查找影响退款的冲突。"}],
)
显式断点在需要对工具、系统指令、文档或消息块进行精确控制时非常有用。将稳定内容放在前面,易变内容放在后面。
部署前检查当前SDK签名;功能命名可能因SDK版本和云平台而异。
缓存前缀中应包含什么?
良好候选人:
- 稳定的系统和政策指令
- 跨多个问题使用的大型参考文档
- 由代理重复使用的工具定义
- 规范代码库或产品上下文
- 先前未发生变化的对话轮次
- 缓存规则支持的图片、文档、工具调用及工具结果
不合格的候选人:
- 一次性使用的简短提示
- 频繁变化的用户数据
- 每回合必须刷新的实时结果
- 按不同顺序重新编排的工具目录
- 权威或有效性已过期的上下文
为什么缓存命中会消失
缓存是前缀敏感的。断点之前的更改可能会使后续内容失效。常见原因包括:
- 编辑系统提示或较早的消息
- 重新排序或重新定义工具
- 更改顶级努力
- 在标准速度和快速之间切换
- 在较早的消息中添加或删除图片
- 更改结构化输出配置
- 切换修改系统提示的功能
- 修改保留的思考块或其前面的上下文
在支持的平台上,逐条消息的调整和对话中途的工具变更可以通过追加新的系统内容来保留现有前缀,而无需重写之前的请求字段。
思考块与缓存
思考块不能直接用 cache_control 标记,但早期助手轮次中保留的思考内容可以作为缓存前缀的一部分。请原样传回。编辑早期轮次可能会使思考块和缓存都失效。
改变努力程度也可能改变解析后的提示。如果应用程序每轮交替改变努力程度,缓存节省的效果可能低于预期。
并发与预热
新的缓存条目在首次响应开始后变为可用。如果同时发起大量并行请求,它们可能全部未命中缓存。先用一个请求预热前缀,等待条目存在,再展开依赖调用。
批量处理也可以与缓存结合使用,定价调整项会叠加。请对完整账单进行建模,而不是将每项折扣独立应用于原始价格。
验证而非假设
检查响应使用情况:
cache_creation_input_tokenscache_read_input_tokens- 未缓存的输入令牌
如果创建和读取值保持为零,可能是提示词过短、该路由不支持当前配置,或前缀不匹配。请构建一个包含命中率、每次写入的读取次数、节省的令牌数以及扣除写入溢价后节省金额的仪表盘。
生产环境缓存检查清单
- 识别在TTL中至少重复使用两次的前缀。
- 将稳定内容放在动态内容之前。
- 选择五分钟进行密集互动;一小时进行间隔复用。
- 在并行扇出前预热。
- 保持工具顺序和定义稳定。
- 避免编辑旧的对话轮次。
- 监控实际使用字段。
- 有意使过期的或版本陈旧的参考材料失效。
常见问题解答
提示缓存会减少上下文窗口的使用吗?
不,缓存的令牌仍然占据百万令牌的上下文窗口。
一小时的缓存总是更好吗?
不。它的写入成本更高。当重复使用间隔超过五分钟,且使用次数足够多能收回额外成本时,才使用它。
我可以将缓存与批量API定价结合使用吗?
是的,在支持的情况下,修饰符可以叠加。但快速模式在消息批次中不可用。


















































































































