一项新的研究论文介绍 PARSER,一种新颖的长上下文代理设计,通过将文档遍历与推理分离来提高准确性并降低延迟。与逐个处理块的顺序代理不同,PARSER 利用一组轻量级子代理并行读取文档块。然后,一个主代理协调迭代的散点-收集轮次,广播查询并聚合证据以形成更深入的后续问题。这种方法使 4B PARSER 模型在平均准确性上比顺序基线高出 5 个多点,9B 模型超越 DeepSeek V4-Pro,同时还表现出对证据位置和顺序扰动的鲁棒性,并将推理延迟降低高达 11 倍。 AI
影响 这种新颖的代理设计显著提高了长上下文 AI 的性能和效率,有可能为处理大型文档设定新的标准。
排序理由 详细介绍新 AI 模型架构的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 X — Omar Sanseviero (HF research) 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →