Anthropic为其Claude Opus 5模型引入了提示缓存功能,旨在显著降低成本并提高重复对话输入的响应时间。通过向API请求添加简单的`cache_control`参数,开发人员可以使模型存储和重用先前的提示片段。此功能可带来可观的节省,在初始一次性创建费用后,缓存Token的成本将降低约90%,这对于涉及长对话历史或重复对话历史的应用程序尤其有利。 AI
影响 通过智能重用对话上下文,降低了AI应用的运营成本并提高了延迟。
排序理由 该项目描述了一个现有模型的新功能,该功能会影响开发者的成本和性能。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →