English(EN) Prompt caching saved 91% on 7,407 coding-agent calls, and real logs found two bugs in my cost tool

提示缓存使开发者的分析中的 LLM 成本降低了 91%

作者 PulseAugur 编辑部 · [1 个来源] · 2026-11-12 15:09

一位开发者构建了一个名为 llm-cost-audit 的开源工具来分析大型语言模型使用日志，并通过提示缓存发现了显著的成本节约。通过分析使用 Anthropic 的 Claude Code 进行 7,407 次编码代理调用，该工具显示，通过重用 98.3% 的输入 token，提示缓存将成本从估计的 6,301 美元降低了 91%，降至 566 美元。分析还揭示了成本审计工具本身的两个错误，并强调了缓存写入成本，特别是对于较长的缓存生命周期，占了剩余费用的大部分。 AI

影响强调了提示缓存对于开发人员和产品团队管理 LLM 运营成本的关键作用。

排序理由开发者对特定工具成本节约的分析。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 56 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 开发者对特定工具成本节约的分析。
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: product, infra; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

dev.to — LLM tag TIER_1 English(EN) · Vaibhav Krishali · 2026-11-12 15:09

提示缓存为 7,407 次编码代理调用节省了 91% 的成本，实际日志发现了我的成本工具中的两个错误

<p>I built a small open-source CLI, <a href="https://github.com/krishalivaibhav/llm-cost-audit" rel="noopener noreferrer">llm-cost-audit</a>, that reads LLM call logs and ranks where money could be saved. Synthetic test data said it worked. So I pointed it at 22 days of my own Cl…

本文如何被排名

报道来源 [1]

提示缓存为 7,407 次编码代理调用节省了 91% 的成本，实际日志发现了我的成本工具中的两个错误

相关实体

相关话题