一位用户发现,在 30 天内,Claude Code 处理的令牌中 98.1% 用于缓存读取,只有 0.37% 归因于模型的实际输出。这一发现是在用户构建了一个用于跟踪令牌使用量的工具后出现的,该工具显示每次请求都会重新发送整个对话历史记录,而这部分内容可以廉价地从 Anthropic 的提示缓存中获取。用户还详细介绍了 Claude Code 如何将会话数据存储在 JSONL 文件中,并提供了一个 Python 脚本来准确计算令牌,避免因回复记录方式而导致的重复计算。 AI
影响 突出了用户在使用大型语言模型令牌管理和成本结构方面可能存在的效率低下问题。
排序理由 用户对产品运营细节生成的分析。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →