Recover, Decode, Reguard

新的VLM防御增强了针对编码越狱的防护能力

研究人员开发了一种名为Recover, Decode, Reguard的新防御机制，以对抗视觉语言模型（VLM）的越狱尝试。该系统旨在将图像内容转录并将其编码文本重述为其明文载荷，然后再将其传递给安全分类器，从而防止以各种格式伪装的有害请求绕过防御。虽然该增强器显示出潜力，但它仅部分弥合了差距，仍然存在显著的残留漏洞。Reguard层的进一步集成提高了安全性，但导致了很高的良性过度拒绝率，表明VLM防御在安全性和可用性之间存在持续的权衡。