近期研究表明,大型语言模型难以有效利用其宣传的上下文窗口的全部内容,这种现象被称为“上下文腐烂”。Chroma的研究涉及18个模型,包括Claude Opus 4、GPT-4.1和Gemini 2.5 Pro,发现模型在处理更长的输入时表现明显变差,即使相关信息在长短版本中都存在。这种效应即使在简单的复制任务中也存在,输入长度越长,准确性越低,并且“干扰性”段落(内容相似但不正确)会加剧这种问题,导致GPT-4.1等模型给出自信的错误答案。 AI
影响 这项研究表明,当前的LLM上下文窗口大小可能具有误导性,可能会影响开发人员设计提示和利用AI执行复杂任务的方式。
排序理由 该条目报告了关于LLM性能的技术报告和基准分析的发现。[lever_c_demoted from research: ic=1 ai=1.0]
- Alibaba Group
- Anthropic
- Anton Troynikov
- Chroma
- Claude Opus 4
- Gemini 2.5 Pro
- GPT-4.1
- Jeff Huber
- Kelly Hong
- LongMemEval
- OpenAI
- Qwen3
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →