McpRedTeam

AI代理安全测试存在缺陷，真实的攻击得以成功

一位安全研究人员发现，常见的AI代理劫持演示无效，在qwen3:8b模型上20次中有20次失败。研究人员发现，这些标准测试依赖于一个简单的载荷，其中包含明确的忽略先前指令的指示，模型很容易抵抗。一种更复杂的攻击，伪装成普通的商业软件，没有明显的恶意指令，在20次中有20次试验中成功，这表明代理安全测试的有效性更多地取决于攻击的复杂性，而不是模型的固有安全性。