PulseAugur
中
实时 14:29:33
English(EN) Evaluating the Reversal Curse in Model Editing

新基准揭示大型语言模型在双向知识编辑方面存在困难

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员引入了一个名为BAKE（Bidirectional Assessment for Knowledge Editing）的新基准，用于评估大型语言模型保留编辑后信息的能力。研究发现，虽然模型可以回忆新插入的事实，但它们常常无法正确回忆编辑的反向信息。这种“逆转诅咒”凸显了当前模型编辑技术的一个重大缺陷，即使在使用如上下文学习（In-Context Learning）等方法时，这些方法虽然有所缓解，但仍存在局限性。 AI

影响 强调了当前大型语言模型编辑技术的局限性，表明需要更强大的方法来确保可靠的知识更新。

排序理由 学术论文，引入新基准和分析。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. arXiv cs.CL TIER_1 English(EN) · Hao-Xiang Xu, Jun-Yu Ma, Jia-Chen Gu, Zhen-Hua Ling, Quan Liu, Cong Liu ·

    Evaluating the Reversal Curse in Model Editing

    arXiv:2310.10322v3 Announce Type: replace Abstract: Large language models (LLMs) are prone to hallucinate unintended text due to false or outdated knowledge. Since retraining LLMs is resource intensive, there has been a growing interest in model editing. Despite the emergence of …

相关实体

相关话题