AI模型在长对话中表现并非必然下降；相反，它们遇到了与其上下文窗口相关的工程权衡。这个上下文窗口包含了整个对话历史，随着它的增长，模型需要处理更多信息来生成每个响应。模型常常难以检索或推理位于此上下文中间的信息，这种现象被称为“中间遗忘”，这是一个架构限制，而非提示问题。 AI
影响 这一限制影响了AI模型在延时交互中的使用方式，可能影响用户体验和更强大对话代理的开发。
排序理由 文章讨论了AI模型中与上下文窗口相关的工程权衡，而非新发布或重大事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<h4>Your AI isn’t getting worse. It’s running into an engineering trade-off almost nobody thinks about.</h4><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*rNwp-5yV0fmjnCDARLo58w.png" /></figure><p>Everything is going perfectly. The AI understands your writing…