Sallie

新研究通过先进的检测和防御策略应对LLM越狱 · 跟踪7个来源

研究人员正在开发先进的方法来检测和防止针对大型语言和视觉语言模型的越狱攻击。SALLIE等新技术通过分析模型内部状态提供免生成、跨模态检测，而NeuroBreak则专注于理解神经元级别的安全机制。其他方法包括使用心理学原理自动生成多轮攻击数据集，以及利用已知攻击示例的检索增强防御（RAD）等自适应防御。新颖的策略还探讨了诱饵图像如何放大现有防御能力，以及迭代上下文优化如何增强语义偏移越狱。