实体
MemPoison
MemPoison
PulseAugur coverage of MemPoison — every cluster mentioning MemPoison across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
AI 代理内存中毒规避防御，研究发现
一项使用 MemPoison 基准测试的新研究评估了 10 个不同模型家族的 1227 次内存中毒攻击。研究发现，当前的写入时防御不足以阻止 AI 代理中复杂内存损坏。这表明 AI 代理存储和管理信息的方式存在重大漏洞，可能影响其可靠性和安全性。
-
新研究揭示了大型语言模型（LLM）代理内存中的隐蔽攻击和隐私风险
两篇新研究论文探讨了大型语言模型（LLM）代理内存系统的漏洞。其中一篇论文 MemPoison 详细介绍了一种隐蔽攻击，该攻击通过对话将可触发的后门注入代理的长期记忆中，成功地以高达 0.95 的成功率误导其未来响应。另一篇论文 MRMMIA 介绍了一种专门针对聊天代理内存的成员推理攻击方法，通过推断特定数据单元是否属于代理的内存存储，展示了重大的隐私风险。