build_tools_for

Prompt 缓存配置错误导致 LLM 成本意外增加

一位开发者由于提示缓存配置错误，遇到了 LLM 成本意外增加的问题。问题源于将动态内容（如时间戳或用户特定数据）放置在缓存控制断点之前。这导致系统为每个请求写入新的缓存条目，而不是从缓存读取，从而导致了 25% 的成本附加费。开发者建议监控 `usage.cache_read_input_tokens` 以确保缓存正常运行，并建议将易变数据放置在最后一个缓存断点之后。