一项新的研究论文强调了大型语言模型防护措施中的一个关键漏洞,即防御措施依赖于不可信的用户输入。这一缺陷允许攻击者伪造专业身份或目的,以诱导有害信息,即使来自合法专业人士的相同提示也是安全的。由于现有基准测试仅根据请求文本而非用户的真实意图来评估防护措施,因此该漏洞在当前最先进的模型和提出的防御措施中普遍存在,并且无法被检测到。提出的解决方案包括一个补丁,允许 LLM 为专业人士提供帮助,同时又不向任何声称是专业人士的人授予危险能力。 AI
影响 此漏洞可能允许恶意行为者利用 LLM 达到有害目的,因此有必要重新评估当前的 लैंग安全机制。
排序理由 研究论文发表在 arXiv 上,详细介绍了 LLM 防护措施中的一个漏洞。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →