heterodoxin

新的 Apostate 工具可“清除”LLM 安全训练，可与 Heretic 相媲美

一款名为 Apostate 的新工具已被开发出来，用于“清除”大型语言模型中的安全训练。基准测试将其与 Heretic 和 Huihui 等现有工具进行了比较。虽然 Heretic 的表现略好，在参数改动极小的情况下实现了 100% 的拒绝移除成功率，但 Apostate 和 Huihui 也取得了 98% 的强劲表现。分析显示，这些工具在 Qwen 2.5 7B 模型中找到了不同的“拒绝方向”，表明安全训练并非只有一个失败点。