GuardRebind

发现新的大型语言模型安全漏洞“目标重绑定”

研究人员发现了一种新的大型语言模型安全防护机制漏洞，称为“目标重绑定”，攻击者可以欺骗防护机制评估一个无害的诱饵提示，而不是实际的有害内容。该技术成功绕过了包括 Shieldstral-1.0-3B、ShieldGemma 和 Llama Guard 3 在内的多个测试模型的安全措施。提出的解决方案包括训练防护机制考虑内容中最有害的部分，这显著降低了攻击成功率，但仍需进一步研究以确认其不劣性。