Qiben Yan

DYNASHIELD：新型防御措施保护 LLM 免受越狱攻击

研究人员开发了 DYNASHIELD，这是一种旨在保护大型语言模型 (LLM) 免受越狱攻击的新型防御机制。这种黑盒方法在推理时定制解码超参数和系统提示，引入变异性以破坏对抗性提示。DYNASHIELD 在无需访问模型内部或重新训练的情况下运行，使其适用于 API 部署的服务。在七个开源 LLM 上的评估表明，在保持响应质量并产生最小开销的同时，攻击成功率显著降低。