研究人员发现包括 OpenAI、Anthropic 和 Google 在内的主要 AI API 存在漏洞,隐藏的推理步骤被暴露。这些本应用户无法读取和修改的推理块,可以被同一提供商的不同模型恢复和读取。这绕过了安全措施,因为系统验证数据完整性,但不一定验证其当前是否获得特定模型或会话的使用授权。恢复的推理块可能包含 API 密钥和密码等敏感信息,也对模型蒸馏构成风险,可能允许更便宜的模型复制更昂贵、更高级模型的思维过程。 AI
影响 暴露敏感数据,并可能泄露专有模型推理,影响 AI 安全和模型开发者的竞争优势。
排序理由 该集群描述了一个安全漏洞及其影响,属于'工具'类别,因为它关系到 AI 模型和 API 的实际应用和安全性。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →