研究人员开发了一种名为居中消融(CA)的新方法,以提高语言模型中方向消融技术的可靠性。标准的用于禁用拒绝等特定行为的方向消融,通常不稳定,要么欠拟合,要么导致文本崩溃。CA通过从消融方向中投影出公共模式来解决这个问题,从而得到一个闭式解。这种新方法显著提高了攻击成功率,大幅减少了文本崩溃,并保留了Gemma-2-9B等各种模型中更多的良性回答。 AI
影响 这项研究提供了一种更可靠的控制语言模型特定行为的方法,有望提高安全性和可控性。
排序理由 该集群包含一篇详细介绍控制语言模型行为新方法的 ist 研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →