AgentAntibody

新的防御系统AgentAntibody利用自适应免疫力对抗LLM提示注入

研究人员开发了AgentAntibody，这是一种受自适应免疫启发的创新防御系统，用于保护大型语言模型（LLM）代理免受提示注入攻击。该系统创建了一个持久的“抗体”库，代表代理对用户安全边界的理解。通过从过去的交互中学习，AgentAntibody可以识别和中和威胁，随着时间的推移提高其免疫力。实验表明，AgentAntibody在防止有害行为的同时仍允许合法任务完成方面，比现有防御措施更有效。