研究人员开发了一种名为解耦对齐的新方法，可以在无需额外训练的情况下增强大型语言模型的安全性。这种即插即用的方法利用知识蒸馏将对齐信号从已安全的模型转移到正在为特定任务进行适应的模型。该技术采用增量调试来识别关键知识组件，在17种不同的LLM上，针对有害提示的防御成功率显著提高，最高可达51.39%，同时不会对其性能产生负面影响。 AI
影响 该方法可以通过提高大型语言模型在不进行广泛重新训练的情况下对有害输入的鲁棒性，从而实现其在各种应用中的更安全部署。
排序理由 该集群包含一篇详细介绍AI安全新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
