实体
Liu et al. (2023)
Liu et al. (2023)
PulseAugur coverage of Liu et al. (2023) — every cluster mentioning Liu et al. (2023) across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
AI角色扮演角色因上下文窗口限制而失去一致性，而非记忆丧失
角色扮演应用中的大型语言模型在有限的对话轮数后，常常会丢失角色一致性和情节细节，这不是因为缺乏记忆，而是因为对话超出了模型的上下文窗口。仅仅增加上下文窗口大小并非万全之策，因为它会带来更高的成本和延迟，并且模型在长输入中间部分的信息上表现往往更差，这种现象被称为“迷失在中间”。有效的长期对话一致性是通过递归摘要或检索增强生成等架构层实现的，它们选择性地将相关历史信息注入上下文窗口，而不是依赖于其原始大小。
-
LLM 在从长上下文窗口中间检索信息时遇到困难
研究人员发现，当关键信息位于长上下文窗口的中间时，LLM 的检索准确性会显著下降。这种被称为“迷失在中间”的现象表明，模型在处理提示的开头或结尾的信息时表现良好，但在处理中心数据时却遇到困难。该问题源于注意力机制倾向于稀释位置信号并偏爱边缘标记，导致中间位置内容的性能下降。建议开发人员“边缘加载”关键上下文，将重要事实和指令放在提示的开头或结尾，以提高检索准确性。