研究人员开发了一个名为研究注意力预测 (RAP) 的新基准,用于评估大型语言模型跟踪 AI/ML 领域内研究注意力变化的能力。该基准涵盖 278 个 AI/ML 领域和 1,390 个时期,涉及 LLM 代理在受限的 arXiv 语料库中搜索以预测未来六个月的论文份额。结果表明,虽然搜索通常有帮助,但模型通常表现不如简单的指数移动平均基线,这凸显了证据获取和未来特定更新方面的瓶颈。在已实现结果上进行微调可以改善 Qwen3-4B 等特定模型的性能。 AI
影响 该基准可能催生更复杂的 AI 研究代理,使其能够理解和预测科学趋势。
排序理由 该集群包含一篇详细介绍用于评估 LLM 的新基准的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →