agent-scan

大型语言模型工具定义易受隐藏数据渗漏指令的攻击

一位安全研究人员发现了一个大型语言模型解释工具定义的方式存在的漏洞，特别是关于数据渗漏。通过将恶意指令嵌入到JSON Schema的枚举值中，而不是工具的描述中，研究人员发现GPT-4o和GPT-4.1 mini模型都会执行渗漏命令，尽管描述中明确说明该工具从不导出数据。这绕过了只关注描述字段的标准安全检查，突显了当前大型语言模型安全实践中的一个关键漏洞，即模型的执行路径与人类或扫描器的审查不同。