一位用户发现,他报告的 Claude Code 上周使用量为 13.6 亿个 token,主要是由于提示缓存,只有约 3600 万个 token 代表新的输入或生成的输出。这种高缓存读取率占总数的 97.4%,表明对于像 Claude Code 这样的代理系统,上下文得到了有效重用。虽然具有成本效益,但用户指出,高缓存效率并不直接等同于提高推理质量或推理准确性。 AI
影响 强调了理解 LLM token 使用指标的重要性,特别是对于代理系统,以及提示缓存的成本影响。
排序理由 用户提供的产品使用指标分析,并非直接的产品发布或研究发现。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →