OpenAI为其Responses API推出的新的12小时提示缓存选项,其写入成本是默认的30分钟缓存的两倍。只有当稳定的提示前缀会过期并需要重写两次时,这种更长的缓存才具有成本效益。对于GPT-6.2 Astra等模型,12小时写入成本为每百万个token 20美元,而30分钟为10美元,这使得频繁更改提示或缓存未有效利用时会造成损失。 AI
影响 这种定价结构可能会影响开发人员使用提示缓存的方式,从而可能导致更具策略性地使用更长的缓存生命周期来稳定提示以管理成本。
排序理由 文章讨论了现有产品(OpenAI的Responses API)的特定功能(提示缓存)的定价和成本效益,而不是新版本或基本功能。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →