PulseAugur
中
实时 10:27:51
English(EN) LPS-Bench: Benchmarking Safety Awareness of Computer-Use Agents in Long-Horizon Planning under Benign and Adversarial Scenarios

新的LPS-Bench基准揭示了AI代理的安全缺陷

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了LPS-Bench，一个旨在评估计算机使用代理（CUAs）在长期规划任务中安全意识的新基准。该基准通过使用模板驱动的管道来生成指令、工具包和安全标准，然后由人工审核，解决了为不同场景创建可执行环境的挑战。LPS-Bench包含7个任务领域和9种规划风险类型的570个案例，并使用基于LLM的评估器在执行过程中评估工具选择和响应。使用LPS-Bench对13个LLM代理进行的初步评估显示，在良性和对抗性条件下都存在严重的安全故障，基于提示的干预仅显示出模型依赖性的改进。 AI

影响 强调了AI代理中持续存在的安全故障，表明在代理开发中需要改进安全协议和评估方法。

排序理由 该集群包含一篇详细介绍用于评估AI安全的新基准的研究论文。

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的LPS-Bench基准揭示了AI代理的安全缺陷

本文如何被排名

Signal score
11 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
该集群包含一篇详细介绍用于评估AI安全的新基准的研究论文。
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
safety, paper, product
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Same-day
Cluster formed today. Ranking reflects the current source set at time of score.

完整方法见我们的编辑标准。

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Tianyu Chen, Chujia Hu, Dongrui Liu, Xia Hu, Wenjie Wang ·

    LPS-Bench：在良性和对抗性场景下，对长时规划中计算机使用代理的安全意识进行基准测试

    arXiv:2602.03255v2 Announce Type: replace Abstract: Computer-use agents (CUAs) execute multi-stage tasks through tools, where an early unsafe decision can propagate to consequential actions. Evaluating only final outcomes can miss such decisions, while constructing executable env…

相关实体

相关话题