引入了一个名为WordInferBench的新基准,用于评估AI代理从文档上下文中推断编辑指令的能力,而不是依赖于完全指定的命令。该基准包含280个源自真实文档的实例,在描述性、指代性和推断性指令条件下测试代理。使用WordInferBench进行的早期评估显示,即使是表现最好的系统Claude Code with Opus 4.6,在推断性任务上也遇到了困难,与描述性指令相比,通过率显著降低。 AI
影响 该基准突显了当前AI代理在实际文档编辑任务中的关键能力差距。
排序理由 该项目是一篇介绍用于评估AI代理的新基准的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX Code Finder for Papers
- Claude Code
- Common Crawl
- Connected Papers
- CORE Recommender
- DagsHub
- Gotit.pub
- Hugging Face
- Influence Flower
- Litmaps
- Opus-4.6
- ScienceCast
- scite Smart Citations
- WordInferBench
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →