English(EN) PAYWORTHY: Can LLMs Predict Which Freelance Jobs an AI Agent Will Complete?

大型语言模型在未明确限制时难以预测AI代理的工作成功率

作者 PulseAugur 编辑部 · [1 个来源] · 2026-11-05 05:00

研究人员开发了PAYWORTHY，这是一个包含1,494个自由职业工作帖子的新数据集，用于评估大型语言模型（LLMs）预测AI代理在这些任务上的成功率的能力。当被告知代理的限制时，大型语言模型表现出强大的预测能力，AUC得分在0.66到0.86之间。然而，当呈现一个通用的代理描述时，相同的大型语言模型表现出随机猜测水平（AUC 0.45-0.56）。这种预测准确性在各种模型系列中保持一致，包括Claude、GLM、Kimi和Qwen，并且大型语言模型的预测也与人类判断一致。 AI

影响强调了为大型语言模型准确评估任务成功率定义特定代理能力的关键需求，影响代理部署和评估框架。

排序理由该集群包含一篇详细介绍新数据集和大型语言模型评估方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 26 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 该集群包含一篇详细介绍新数据集和大型语言模型评估方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, model release; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Mohammad Reza Rezaei, Dingxian Wang, Brett Levert, Celeste Fejzo, Andrew Rabinovich, Zhao Chen · 2026-11-05 05:00

PAYWORTHY：大型语言模型能否预测AI代理将完成哪些自由职业工作？

arXiv:2611.05759v1 Announce Type: new Abstract: Before an AI agent takes on a paid job, someone has to judge whether it is likely to succeed. We test whether frontier language models can make this call before any attempt. We propose PAYWORTHY which contains 1{,}494 real freelance…

本文如何被排名

报道来源 [1]

PAYWORTHY：大型语言模型能否预测AI代理将完成哪些自由职业工作？

相关实体

相关话题