Cloudflare 的 Workers AI 服务中存在一个 bug,具体是在 GLM 5.3 模型的 KV 缓存机制中,无意中将之前客户的提示部分暴露给了后续用户。这个内存记账错误发生在 2026 年 8 月 27 日至 9 月 9 日之间,影响了超过 681,280 个 token 的提示。该问题源于 SGLang 服务引擎在请求后未能正确清除内存页面,导致当提示超过分配的 KV 缓存大小时发生数据泄露。Cloudflare 此后更新了其系统,并提供了防止类似事件发生的建议,包括验证 KV 池大小和升级 SGLang。 AI
影响 凸显了在多租户 AI 推理服务中,需要强大的内存管理和提示隔离机制,以防止数据泄露。
排序理由 特定 AI 服务中的一个 bug 导致了数据泄露,影响了该服务的用户。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →