memory poisoning
PulseAugur coverage of memory poisoning — every cluster mentioning memory poisoning across labs, papers, and developer communities, ranked by signal.
- 2026-05-13 research_milestone Memory poisoning is formally classified as OWASP ASI06 in the OWASP Top 10 for Agentic Applications. 来源
2 天有情绪数据
-
LLM-Agent 安全：新调查提出将隔离作为核心原则
一篇新近发表在 arXiv 上的调查论文提出，应将“隔离”作为增强 LLM-Agent 系统安全性的核心原则。该论文引入了一个包含五个边界（用户-Agent、Agent-工具、Agent-执行、Agent-Agent 和系统-环境）的分类法，用于分析提示注入、工具滥用和内存中毒等故障的传播方式。通过关注这些边界，研究人员可以更好地理解这些漏洞的根本原因，并为未来的 Agent 系统开发更有效的防御措施。
-
新方法以99%的准确率检测AI代理记忆投毒
研究人员通过分析AI代理的工具调用轨迹，发现了一种检测其记忆投毒攻击的新颖方法。他们发现了一个行为不变性，即成功的攻击总是涉及在调用`email_send_email`之前调用`memory_recall_fact`，而合法会话中很少出现这种序列。当与随机森林分类器结合使用时，这种不变性实现了高检测率（AUC = 0.9904），并且无需重新训练即可泛化到包括GPT-4.1和GPT-4o在内的各种模型。该方法还可以仅使用工具调用日志区…
-
OWASP Guard 解决了新的 AI 代理内存中毒漏洞
一种新的安全漏洞“内存中毒”已被发现存在于使用持久化内存的 AI 代理中，例如使用 LangChain 或 LlamaIndex 构建的代理。与提示注入的短暂性不同，此攻击允许恶意数据被注入到代理的内存中，导致其在所有未来的会话中都基于错误信息行事。为了对抗这种攻击，OWASP Agent Memory Guard 已被开发为参考实现，提供加密验证和语义异常检测来保护代理内存。