MRMMIA

新研究揭示了大型语言模型（LLM）代理内存中的隐蔽攻击和隐私风险

两篇新研究论文探讨了大型语言模型（LLM）代理内存系统的漏洞。其中一篇论文 MemPoison 详细介绍了一种隐蔽攻击，该攻击通过对话将可触发的后门注入代理的长期记忆中，成功地以高达 0.95 的成功率误导其未来响应。另一篇论文 MRMMIA 介绍了一种专门针对聊天代理内存的成员推理攻击方法，通过推断特定数据单元是否属于代理的内存存储，展示了重大的隐私风险。