研究人员开发了一个名为PSM(Prompt Sensitivity Minimization,提示敏感性最小化)的新框架,用于保护大型语言模型(LLM)系统提示中的敏感信息。该方法通过向原始提示添加一个称为SHIELD的保护性文本层来实现。PSM将提示加固视为一个优化问题,利用LLM搜索最优SHIELD,以最小化来自对抗性提取攻击的提示泄露,同时保持模型任务的效用。这种黑盒方法仅需要API访问,并且与现有防御措施相比,在减少提示泄露方面显示出显著的改进。 AI
影响 通过提供一种实用的方法来保护系统提示中的敏感信息免受提取攻击,从而增强了LLM的安全性。
排序理由 这是一篇详细介绍LLM安全新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →