Google 的 Gemini 4 Neon 模型引入了一项自动上下文缓存功能,通过对重复输入的 prefix 收取较低的费率来显著降低成本。这种隐式缓存机制会自动识别并缓存至少 4,096 个 token 的 prefix,与标准费率相比提供 95% 的折扣。为了利用这一点,用户必须通过将系统指令和共享文档等稳定、相同的内容放在开头,然后是动态元素来构建他们的提示。这种方法与之前在 Gemini 2.5 和 3 中使用的显式缓存方法不同,要求开发人员删除显式缓存配置并确保提示结构一致以获得最佳节省。 AI
影响 此功能可能会显著降低依赖大型上下文窗口的 AI 应用的运营成本,从而鼓励更广泛的应用和更复杂的用例。
排序理由 前沿实验室模型发布,并宣布新功能。[lever_c_从 frontier_release 降级:ic=2 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →