IHDec

新的IHDec方法无需微调即可保护LLM指令层级 · 跟踪2个来源

研究人员开发了IHDec，一种新颖的方法来解决大型语言模型（LLM）在多轮对话中指令层级失败的问题。与需要昂贵微调的先前解决方案不同，IHDec通过使用Jensen-Shannon散度来检测和纠正下级指令覆盖上级指令的违规行为，从而在无需训练的情况下运行。评估表明，IHDec在处理多轮冲突方面优于基于训练的方法，同时保持响应质量并增强了对抗性攻击的安全性。