Gemma2

新攻击方法利用LLM可解释性绕过防御

研究人员开发了一种新颖的白盒对抗性攻击方法，用于大型语言模型，该方法利用了机械可解释性。该技术识别模型内的“接受子空间”，并使用基于梯度的优化来重定向嵌入，从而有效地绕过拒绝机制。该方法在Gemma2、Llama3.2和Qwen2.5等模型上实现了高成功率（80-95%），且耗时远少于现有方法。这项工作弥合了可解释性研究与实际攻击应用之间的差距，可能为未来的防御策略提供信息。