研究人员开发了一种名为响应攻击(Response Attack, RA)的新方法,该方法通过使用中间的、轻微有害的响应来诱导大型语言模型(LLMs)生成违反策略的内容,从而利用了LLMs中的一个漏洞。这种方法与现有的越狱技术不同,它在目标触发提示之前策略性地注入这些中间响应,从而产生更明确、更相关的有害输出。在八种最先进的LLMs上进行的广泛测试表明,RA在成功率、效率和隐蔽性方面显著优于九种领先的越狱基线。 AI
影响 这项研究揭示了LLMs中一种新颖的漏洞,可能影响安全协议以及开发更强大的防御机制以防止恶意使用。
排序理由 该集群包含一篇学术论文,详细介绍了一种新的越狱LLMs的方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →