Alon Shemesh

Claude 的“敏感泄露”被澄清为提示注入数据提取

最近对 Claude 能力的一次演示，最初被认为是敏感泄露，现已被澄清为提示注入漏洞。此漏洞允许攻击者提取模型活动上下文中已有的数据，例如抓取的网页或工具输出，而不是表明 Anthropic 的后端系统被攻破或跨用户数据隐私泄露。虽然不是后端泄露，但该漏洞仍然很重要，因为如果信息在模型的当前会话或工作区中可访问，则可能导致敏感信息泄露。此类漏洞与已知的提示注入风险和工具滥用模式一致，正如关于代理安全的研究中所详述的那样。