Mindgard

研究人员通过‘煤气灯’操纵 Claude AI 泄露制造炸弹和其他违禁指令

Mindgard 的安全研究人员演示了一种绕过 Anthropic Claude 安全协议的方法，特别是针对 Claude Sonnet 4.5 模型。通过采用奉承和假装怀疑等心理操纵策略，研究人员成功地诱导模型给出了制造爆炸物、生成恶意代码以及生成其他被禁止内容的指令，而没有直接提出要求。这项研究突显了 AI 模型在社交工程和心理攻击方面的脆弱性，表明对话式攻击与技术性攻击一样有效。