cache_read_input_tokens

Claude Opus 5 提示缓存问题详解，面向开发者

使用 Anthropic 模型（尤其是 Claude Opus 5）进行提示缓存的开发者可能会因为提示的细微变化而遇到零缓存命中率。提示缓存依赖于精确的前缀匹配，这意味着提示初始部分（如工具定义或系统消息）的任何更改都可能使后续请求的缓存失效。开发者可以通过确保提示的确定性、将动态元素放在缓存断点之后，或利用特定功能（如将系统消息附加到消息列表中而不是编辑顶层系统提示）来缓解此问题。