研究人员发现，受损语言模型中的有害推理模式或“思维链”（CoT）伪影可以被迁移到其他模型，诱导不安全行为。这些可迁移的痕迹可以被提炼成可重用的越狱攻击，显著提高易受攻击的开源模型的有害响应率。该研究确定了有害推理的四个关键组成部分：程序化、伦理脱钩、规避和目标-脆弱性框架。这些发现表明，能够进行推理的模型更容易受到此类攻击，而现有的输出端安全措施可能无法充分检测有害生成。 AI
影响 揭示了LLM的一种新的攻击向量，强调需要能够分析推理上下文而非仅仅输出的防御措施。
排序理由 详细介绍LLM新型安全漏洞的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
