Entity Identity Confusion

新基准解决大语言模型知识编辑中的“实体同一性混淆”问题

研究人员发现了一种多模态知识编辑中的新故障模式，称为实体同一性混淆（EIC）。在这种模式下，经过编辑的视觉语言模型会将新的实体信息错误地与原始图像-实体绑定关联起来。这种混淆的出现是因为当前的编辑方法难以区分图像-实体关系和实体-实体关系知识，导致模型将新实体名称仅仅用作标签，而不是更新核心关联。论文提出了诊断基准和缓解策略，例如将编辑重点放在图像-实体处理阶段，以提高知识编辑的忠实度。