研究人员开发了CLEAR，一个在不牺牲效用的情况下提高大语言模型安全性的新框架。CLEAR使用一个隐藏状态门来动态调整安全适配器，使其能够减少有害输出，同时保持对良性输入的性能。实验表明，CLEAR在HarmBench等基准测试中显著降低了有害响应率，同时在GSM8K等任务上保持甚至提高了性能，特别是在应用于LLaMA-3-8B-Instruct等模型时。 AI
影响 这种方法可以改善大语言模型对齐中的安全-效用权衡，从而带来更强大、更可靠的AI系统。
排序理由 该集群包含一篇研究论文，详细介绍了一种新的大语言模型安全对齐方法。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
