Acme Supplies

AI代理记忆投毒已演示；MemoryGuard提供修复方案

一位开发者演示了AI代理中的一个漏洞，其中一封礼貌的邮件就可以毒化代理的长期记忆，使其相信虚假信息并执行有害操作。这种记忆投毒，现在已被OWASP认可，将临时的提示注入转化为持久的信念。为了对抗这种攻击，开发者创建了MemoryGuard，一个检测、解释并从代理记忆中移除被毒化数据的系统，而不会影响模型本身，它依赖于信息的来源而不是其内容来建立信任。