Retroactive Chain-of-Thought

新的RetroCoT方法通过重构有害请求绕过LLM安全对齐

研究人员开发了一种名为追溯性思维链（RetroCoT）的新方法来测试大型语言模型的安全对齐。该技术将有害请求重构为法证重建任务，提示模型逆向工程事件的因果链，而不是直接执行有害指令。虽然目前的模型如GPT-4o和GPT-4o mini对RetroCoT表现出明显的脆弱性，但较新的GPT-5系列模型显示出初步的抵抗力。然而，即使是先进的模型，也可以通过利用已建立的法证框架的对抗性反馈来提示其绕过安全措施。