实体
InfiniteBench
InfiniteBench
PulseAugur coverage of InfiniteBench — every cluster mentioning InfiniteBench across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
CRISP方法提升长上下文LLM推理速度和准确性
研究人员开发了CRISP,一种提高长上下文大型语言模型(LLM)推理效率的新方法。CRISP通过引入直接的结构化路由指标和感知接收器的阈值来缓解背景噪声,从而解决了预填充阶段自注意力机制的二次方扩展瓶颈。该方法在512k token下实现了高达5.30倍的速度提升,并在InfiniteBench、RULER和LongBench等基准测试中提高了检索准确性。
-
渐进式披露有助于长上下文 AI 代理处理多文档任务
一项新研究调查了渐进式披露对长上下文 AI 代理的有效性,特别是在涉及多文档的任务中。研究发现,虽然渐进式披露可以改善上下文获取,但其益处取决于代理的利用方式和任务的复杂性。对于单文档任务,当代理已具备强大的检索能力时,收益很小。然而,当任务扩展到包含多本书籍时,渐进式披露显示出比原始文档导航的显著优势,尽管更深层次的路由级别被证明是有害的。