新系统解决对话中 LLM 行为复发问题

研究人员开发了一个名为“sysname”的新系统，以解决大型语言模型（LLM）在多轮对话中行为复发的问题。这种复发发生在 LLM 继续遵守已撤销的约束时，该论文将这种现象称为“撤销惯性”。该系统引入了一个合同分类账来跟踪约束和撤销，一个顺序消融探针来衡量依从性，以及一个修复梯队进行干预。在 HumanEval 任务上的实验表明，与基线方法相比，sysname 显著减少了复发，并为对话状态失败提供了一种可衡量且可预测的修复机制。 AI

影响 引入了一种通过管理约束依从性和撤销来提高 LLM 对话可靠性的方法。

排序理由 学术论文，详细介绍了用于 LLM 对话约束管理的新系统。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• alphaXiv
• CatalyzeX
• Connected Papers
• DagsHub
• Gotit.pub
• Hugging Face
• HumanEval
• Influence Flower
• Litmaps
• ScienceCast
• Scite

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →