一个名为 CompLit 的新基准已被开发出来,用于评估 AI 代理检索科学文献的能力,重点关注隐式、累积和未满足的需求。该基准涵盖了所有八个 arXiv 领域,揭示了像 Codex (GPT-5.6-Sol) 和 Claude Code (Opus 4.8) 这样的领先代理在标准查询方面表现良好,但在更复杂的检索需求方面却面临显著困难。虽然这些代理能够找到相关论文,但它们常常误判论文的适用性,这表明需要提高对 AI 驱动的文献发现的信任度。 AI
影响 该基准突显了当前 AI 在理解细微研究需求方面的局限性,表明需要改进才能实现可靠的科学文献发现。
排序理由 该集群包含一篇介绍用于评估 AI 代理的新基准的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX Code Finder for Papers
- Claude Code
- Codex
- Connected Papers
- CORE Recommender
- DagsHub
- Gotit.pub
- GPT 5.6 "Sol"
- Hugging Face
- Influence Flower
- Litmaps
- Opus 4.8
- ScienceCast
- scite Smart Citations
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →