研究人员开发了DREAM（Dynamic Reactivation for Engram Attenuation in Memory，动态再激活以衰减记忆印迹）框架，这是一种旨在保护大语言模型（LLM）代理免受记忆投毒攻击的新型框架。与依赖外部模块的现有方法不同，DREAM在代理内部运行，模仿记忆衰退的神经科学原理。该系统使用三个阶段的过程：隐式再激活以暴露恶意记忆，基于激活模式的异常检测，以及选择性抑制有害记忆同时保留有益记忆的动态修复模块。实验表明，DREAM在对抗后门投毒时可将攻击成功率降低95%以上，在良性任务中保持强大的效用，并且在对抗注入攻击时也具有竞争力。 AI
影响 这项研究引入了一种新颖的、内在的机制，使大语言模型代理能够防御记忆投毒攻击，从而可能提高其在实际应用中的可靠性和安全性。
排序理由 关于大语言模型代理新安全方法的 ist 研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
