研究人员开发了一个名为SPARD的新防御框架，以对抗大型语言模型上的有害微调攻击。这些攻击旨在移除安全对齐并诱导不安全行为。SPARD将安全投影交替优化与相关性-多样性感知数据选择相结合，使用一种名为SPAG的方法，该方法在效用更新和具有安全数据的显式安全投影之间交替进行。实验表明，SPARD在防止攻击的同时保持任务准确性方面，显著优于现有的防御方法。 AI
影响 引入了一种新颖的防御机制，可以提高已部署LLM在对抗性操纵下的安全性和鲁棒性。
排序理由 这是一篇研究论文，详细介绍了一种防御LLM特定类型攻击的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
