Apple Machine Learning Research 推出了一种名为加权状态融合 (Weighted State Souping) 的新方法,以提高状态空间模型 (SSM) 在长上下文检索方面的效率。该技术解决了现有 SSM 和状态融合方法在处理长而复杂上下文时遇到的局限性。通过学习查询相关的权重来组合缓存状态,加权状态融合显著提高了文档问答、检索、变量跟踪和工具使用等任务的性能。一种高效的稀疏变体在不牺牲性能的情况下进一步降低了编码成本,为处理大量信息的语言建模提供了一种有前景的方法。 AI
影响 提高了处理大量信息的 AI 代理和模型的效率。
排序理由 该条目描述了一篇研究论文,其中详细介绍了一种提高语言模型性能的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
在 Apple Machine Learning Research 阅读 →
- Apple Inc.
- Aryo Lotfi
- Cengiz Pehlevan
- Emmanuel Abbe
- Eran Malach
- Harvard University
- Josh Susskind
- long-context retrieval
- NeurIPS 2026
- Recursive Language Models (RLMs)
- State Space Models (SSMs)
- Weighted State Souping
- William L. Tong
- Workshop on Personalized, Aligned, Long-term Memory for AI Systems (PALM)
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →