一位开发者在使用 Claude 的提示缓存功能时遇到了一个严重问题，导致在 1,412 次调用中缓存命中率为 0%。问题源于三个不同的错误：系统提示中的动态时间戳、Python 字符串哈希导致的随机工具排序，以及一个过短无法缓存的提示变体。在通过将易变的时间戳移至单独的、未缓存的块并确保工具的稳定排序来纠正这些问题后，缓存命中率提高到 94%，输入 token 成本降低了 58%。 AI
影响 强调了提示缓存中精确字节身份的关键需求，以及细微错误可能抵消其优势的潜在风险。
排序理由 开发者报告了特定 AI 产品功能中的一个错误及其修复。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
<p>I turned on Claude prompt caching, shipped it, and moved on to the next thing. A week later I opened the usage logs to admire my savings.</p> <p><code>cache_read_input_tokens: 0</code>. On every call. 1,412 calls in a row.</p> <p>The API never returned an error. My <code>cache…
🚀 # AI is soooo special it can't possibly be a mere "tool" like those mundane hammers and screwdrivers. 🙄 It's an autonomous entity with a mind of its own, here to mystify us with its superior cognitive processes while we desperately try to comprehend its godlike essence. 😱🔧 http…