PulseAugur
中
实时 10:27:36
English(EN) APEX-Harm: Evaluating Agent Safety in Shared Professional Workspaces

新的APEX-Harm基准揭示了AI代理的安全风险

作者 PulseAugur 编辑部 · [1 个来源] ·

开发了一个名为APEX-Harm的新基准，用于评估在共享专业工作空间中运行的AI代理的安全性。该基准评估了金融、咨询和法律任务中的提示和脚本注入等风险，涉及广泛的文件系统和各种业务工具。对12个前沿模型的初步评估显示，虽然Opus 5和Sonnet 5的总体攻击成功率较低（分别为8%和20%），但特定任务的脚本替换和攻击者提供的通用脚本仍然非常有效。Gemini 3.8 Flash取得了很高的任务完成分数，但攻击成功率仍然很高，这表明仅任务完成并不能保证安全行为。 AI

影响 凸显了当前AI代理的关键安全漏洞，需要为专业应用改进安全措施。

排序理由 研究论文，介绍了一个新的AI代理安全基准。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的APEX-Harm基准揭示了AI代理的安全风险

本文如何被排名

Signal score
11 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
研究论文，介绍了一个新的AI代理安全基准。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
paper, safety
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Same-day
Cluster formed today. Ranking reflects the current source set at time of score.

完整方法见我们的编辑标准。

报道来源 [1]

  1. arXiv cs.CL TIER_1 English(EN) · Ziyi Yang, Adel Bibi, Guohao Li, Bernard Ghanem, Carlos Hinojosa ·

    APEX-Harm: 评估共享专业工作空间中的代理安全

    arXiv:2610.13623v1 Announce Type: cross Abstract: Professional agents increasingly work through command-line interfaces and multiple tools over shared workspaces containing files, messages, and business applications. These environments create safety risks that are difficult to ca…

相关实体

相关话题