像 ChatGPT 和 Claude 这样的语言大模型（LLM）拥有一个“上下文窗口”，它充当它们的短期记忆，决定了它们一次可以处理多少文本。这个窗口以 token 而非单词来衡量，当它填满时，旧信息就会被丢弃，导致模型“忘记”对话或文档的先前部分。这个限制是 LLM 产生“幻觉”的主要原因，即模型生成虚假或捏造的信息，通常是通过错误地回忆长上下文中间的细节、悄悄地总结聊天的较早部分或混淆多份文档中的信息来实现的。 AI
影响 理解上下文窗口的限制对于构建 LLM 应用程序的开发人员至关重要，因为它直接影响可靠性并可能导致模型幻觉。
排序理由 该条目解释了 LLM 的一个核心概念（上下文窗口）及其对模型行为（幻觉）的影响，而不是宣布新模型或研究发现。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
