实体 llm-cost-audit

llm-cost-audit

PulseAugur coverage of llm-cost-audit — every cluster mentioning llm-cost-audit across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_354768 · Nov 12 · 15:09

提示缓存使开发者的分析中的 LLM 成本降低了 91%

一位开发者构建了一个名为 llm-cost-audit 的开源工具来分析大型语言模型使用日志，并通过提示缓存发现了显著的成本节约。通过分析使用 Anthropic 的 Claude Code 进行 7,407 次编码代理调用，该工具显示，通过重用 98.3% 的输入 token，提示缓存将成本从估计的 6,301 美元降低了 91%，降至 566 美元。分析还揭示了成本审计工具本身的两个错误，并强调了缓存写入成本，特别是对于较长的缓存…