English(EN) Cross-User Poisoning: User-Task Boundary Failures in Multi-User Collaborative Language Agents

新研究揭示协作式AI代理中的跨用户投毒漏洞

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-28 04:00

一篇新研究论文识别出一种名为跨用户投毒（Cross-User Poisoning, CUP）的安全漏洞，存在于多用户协作语言代理中。该漏洞允许攻击者将恶意消息注入共享上下文，当代理服务于良性用户时，可能导致未经授权的操作或响应。研究证明了CUP在Continua和ElizaOS等已部署代理在不同领域上的有效性，表明其跨交互持久存在，并且比标准提示注入攻击更具威力。虽然仅靠上下文摘要不足以阻止CUP，但任务聚类和来源提示等防御措施可显著降低其传播。 AI

影响凸显了多用户AI代理中的关键安全缺陷，需要新的防御措施来实现安全协作。

排序理由研究论文，详细介绍了AI代理中的一种新安全漏洞。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 15 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 研究论文，详细介绍了AI代理中的一种新安全漏洞。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Atharv Singh Patlan, Peiyao Sheng, S. Ashwin Hebbar, Prateek Mittal, Pramod Viswanath · 2026-10-28 04:00

跨用户投毒：多用户协作语言代理中的用户-任务边界故障

arXiv:2511.17671v2 Announce Type: replace-cross Abstract: Language agents are moving from single-user assistants to shared collaborators in workspaces, forums, and group chats. A shared agent observes interleaved messages from multiple users, maintains persistent context, and exe…

本文如何被排名

报道来源 [1]

跨用户投毒：多用户协作语言代理中的用户-任务边界故障

相关实体

相关话题