PulseAugur
实时 10:57:44
English(EN) ORAgentBench: Can LLM Agents Solve Challenging Operations Research Tasks End to End?

新基准显示LLM代理难以处理运筹学任务

引入了一个名为ORAgentBench的新基准,用于评估大型语言模型(LLM)代理在执行复杂运筹学(OR)任务方面的能力。该基准包含107个人工审查的任务,涵盖各种操作场景,每个任务都有特定的数据、配置和提交要求。使用十四种前沿代理模型配置进行的初步实验表明,目前的LLM代理在实际运筹学工作中尚不可靠,表现最好的代理仅在35.51%的任务上取得成功,并且在可行性和解决方案质量方面存在困难。 AI

影响 凸显了LLM代理在运筹学等复杂现实世界问题解决领域的当前局限性。

排序理由 在arXiv上发表了一篇关于新学术基准的论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新基准显示LLM代理难以处理运筹学任务

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Jiajun Li, Mingshu Cai, Yixuan Li, Yu Ding, Ran Hou, Guanyu Nie, Xiongwei Han, Wanyuan Wang ·

    ORAgentBench: Can LLM Agents Solve Challenging Operations Research Tasks End to End?

    arXiv:2606.19787v1 Announce Type: new Abstract: Large language models are increasingly deployed as autonomous agents for multi-step tasks in executable environments, yet their ability to perform realistic operations research (OR) work remains unclear. Existing OR evaluations ofte…