Issue #4543

Pydantic AI 开发者通过提示缓存降低 LLM 输入成本

一位开发者通过为 Anthropic 的 Claude Haiku 等模型实现提示缓存，增强了 Pydantic AI 库，显著降低了 AI 代理的输入成本。此前，动态指令（如当前日期）的任何更改都会使整个缓存失效，导致成本升高。这项与库维护者合作开发的新方法会自动分离静态和动态指令，确保只有更改的动态部分需要完全重新计算，从而通过利用缓存的静态提示将成本降低高达 89%。