Cloudflare 发生了一起安全事件,其 Workers AI 上托管的 GLM-5.3 模型存在租户隔离缺陷,导致长度超过 681,280 个 token 的提示词会返回其他客户会话的数据。该问题源于 SGLang 推理引擎中 KV 缓存大小的配置不匹配,未能正确处理超出分配内存的提示词。Cloudflare 在事件声明后数小时内识别并修复了根本原因,并在上游修复部署六周后发布了公开事后复盘。 AI
影响 凸显了托管 LLM 推理中强大的租户隔离机制对于防止数据泄露至关重要。
排序理由 文章详细介绍了托管 AI 模型服务中的一个特定安全漏洞及其解决方案,属于工具和基础设施类别。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →