English(EN) A Survey on the Safety and Security Threats of Computer-Using Agents: JARVIS or Ultron?

调查梳理了自主使用计算机的智能体的安全和安保威胁

作者 PulseAugur 编辑部 · [1 个来源] · 2026-04-30 04:00

一篇新的调查论文对使用计算机的智能体（CUAs）构成的安全和安保威胁进行了分类。这些由LLM驱动的智能体可以自主地与软件和界面进行交互，带来了新的风险。该论文概述了这些威胁的分类法，并提出了防御策略，旨在指导未来安全CUAs的研究和实际部署。 AI

影响为理解和减轻自主AI智能体中新颖的安全和安保风险提供了结构化基础。

排序理由这是一篇关于AI智能体安全和安保威胁的调查论文。

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.CL TIER_1 English(EN) · Ada Chen, Yongjiang Wu, Junyuan Zhang, Jingyu Xiao, Shu Yang, Jen-tse Huang, Kun Wang, Wenxuan Wang, Shuai Wang · 2026-04-30 04:00

A Survey on the Safety and Security Threats of Computer-Using Agents: JARVIS or Ultron?

arXiv:2505.10924v4 Announce Type: replace Abstract: Recently, AI-driven interactions with computing devices have advanced from basic prototype tools to sophisticated, LLM-based systems that emulate human-like operations in graphical user interfaces. We are now witnessing the emer…