一项新的研究论文探讨了上下文长度对多轮对话中大型语言模型（LLMs）的影响。研究发现，LLMs 在使用显著更少的上下文的情况下仍能保持响应质量，通常通过总结或仅保留最近的用户-助手交流，就能以少8倍的数据达到相似的性能。研究还发现了一种称为“上下文污染”的现象，即模型自身先前响应中的错误或风格痕迹会传播并对后续回合产生负面影响。 AI
影响 为 LLMs 对话代理提出了优化建议，可能降低计算成本并提高响应一致性。
排序理由 在 arXiv 上发表的研究论文，详细介绍了关于 LLMs 上下文使用情况的发现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
