Paul Irolla

Anthropic 工具定义中的微小日期更改增加了提示缓存成本

对 Anthropic 工具定义日志的最新分析显示，存在大量不必要的更改，这些更改对提示缓存效率产生了负面影响。在一周内记录的 10,000 多项更改中，有 331 项仅更改了日期或时间戳，但并未改变工具的功能。这种情况的发生是因为对工具定义的任何修改，无论多么微小，都会使整个提示缓存失效，从而导致后续请求成本增加。该问题源于多种原因，包括自动更新当前日期、新鲜度标记以及服务器启动时设置的默认值的工具。