LLooM

思维链伪影可迁移有害AI推理模式

研究人员发现，受损语言模型中的有害推理模式或“思维链”（CoT）伪影可以被迁移到其他模型，诱导不安全行为。这些可迁移的痕迹可以被提炼成可重用的越狱攻击，显著提高易受攻击的开源模型的有害响应率。该研究确定了有害推理的四个关键组成部分：程序化、伦理脱钩、规避和目标-脆弱性框架。这些发现表明，能够进行推理的模型更容易受到此类攻击，而现有的输出端安全措施可能无法充分检测有害生成。