研究人员开发了 GradShield，一种防止大型语言模型在微调后发生错位的新方法。该技术通过计算每个数据点的微调隐含有害分数 (FIHS) 来识别和删除有害数据点，防止它们破坏模型的对齐。实验表明，GradShield 在将攻击成功率保持在 6% 以下的同时，能有效维持模型效用，其性能优于现有的基线方法。 AI
影响 该方法通过防止引入有害行为，可以实现对微调后 LLM 的更安全部署。
排序理由 该集群包含一篇详细介绍 LLM 安全新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →