OpenAI 推出了新的提示缓存功能,旨在显著降低基于代理的大型语言模型 (LLM) 应用的成本。该功能为缓存的输入 token 提供 90% 的折扣,并提高了命中率和新的诊断工具。GitHub 在实施此功能后报告称,新提示处理 token 减少了 50% 以上。此缓存的定价结构与 Anthropic 的 Claude Opus 5.5 相当,但 OpenAI 尚未指定缓存写入费用。 AI
影响 显著降低了 AI 代理的运营成本,并可能影响整个 LLM 市场的定价策略。
排序理由 前沿 AI 实验室发布新产品功能。 [lever_c_从 frontier_release 降级:ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →