PulseAugur
实时 08:18:41
English(EN) Beyond Task Success: Measuring Workflow Fidelity in LLM-Based Agentic Payment Systems

新的 ASR 指标揭示了 LLM 支付系统中隐藏的流程捷径

研究人员开发了一种名为代理成功率 (ASR) 的新指标,用于评估基于 LLM 的代理系统在支付流程中的流程保真度。传统的任务成功率 (TSR) 和代理交接 F1 分数 (HF1) 等指标无法检测到关键偏差,例如跳过确认检查点。将 ASR 指标应用于 18 种 LLM 和超过 90,000 项支付任务后发现,像 GPT-4.1 这样的模型可以在现有指标上获得满分,但仍然表现出流程捷径,而 GPT-5.2 则展示了完美的 ASR。这种新的评估方法已被证明可以显著提高任务成功率,尤其是在受监管的领域。 AI

影响LLM 代理引入了更强大的评估指标,这对于在支付等敏感工作流程中可靠部署至关重要。

排序理由 介绍 LLM 代理新评估指标的学术论文。

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

新的 ASR 指标揭示了 LLM 支付系统中隐藏的流程捷径

本文如何被排名

Signal score
0 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Research
介绍 LLM 代理新评估指标的学术论文。
Source corroboration
2 independent sources
Multiple independent publishers reporting the same story raises confidence that it's real and newsworthy.
Topics
paper, other
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
116 days old
Aged out of breaking-news scoring windows; ranking reflects the durable signal from the full source set.

完整方法见我们的编辑标准

报道来源 [2]

  1. arXiv cs.AI TIER_1 English(EN) · Donghao Huang, Joon Kiat Chua, Zhaoxia Wang ·

    超越任务成功:衡量基于LLM的代理支付系统的流程保真度

    arXiv:2605.06457v1 Announce Type: new Abstract: LLM-based multi-agent systems are increasingly deployed for payment workflows, yet prevailing metrics, Task Success Rate (TSR) and Agent Handoff F1-Score (HF1), capture only final outcomes or unordered routing decisions. We introduc…

  2. arXiv cs.AI TIER_1 English(EN) · Zhaoxia Wang ·

    超越任务成功:衡量基于 LLM 的代理支付系统中的工作流保真度

    LLM-based multi-agent systems are increasingly deployed for payment workflows, yet prevailing metrics, Task Success Rate (TSR) and Agent Handoff F1-Score (HF1), capture only final outcomes or unordered routing decisions. We introduce the Agentic Success Rate (ASR), a trajectory-f…