新的RETA防御机制可对抗LLM代理的自适应提示注入攻击

研究人员开发了RETA，一种针对大型语言模型（LLM）代理的自适应提示注入攻击的新型防御机制。与以往专注于识别特定攻击模式的方法不同，RETA通过链式思考推理来验证嵌入式指令与用户任务的相关性。该方法通过多目标强化学习进行优化，并使用合成的对抗性数据进行训练，在保持效用的同时显著降低了攻击成功率。 AI

影响 引入了一种更强大的防御机制，能够抵御复杂的提示注入攻击，从而增强了LLM代理的安全性。

排序理由 在arXiv上发表的研究论文，详细介绍了LLM代理的新防御机制。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• alphaXiv
• arXiv
• CatalyzeX
• DagsHub
• Gotit.pub
• Hugging Face
• RETA
• ScienceCast

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →