最近的研究论文探讨了评估和防御大型语言模型(LLM)越狱尝试的新颖方法。一项研究系统地比较了六种自动越狱评估器,发现 JADES 表现最佳,并强调了评估器选择对报告攻击强度的重大影响。另一篇论文引入了一个后验重加权框架,用于理解和减轻上下文多模态越狱,展示了鲁棒性-效用权衡的改进。此外,还提出了一种名为 Bait-and-Recover 的防御机制,用于毒化内部拒绝信号,有效破坏开放权重模型上的白盒编辑越狱。最后,研究调查了不同越狱技术在行为和机制故障上的差异,揭示了有害合规性、危害识别和能力意识是可分离的轴线。 AI
影响 LLM 安全和评估方面的进展可能导致更强大、更可靠的 AI 系统,影响部署和用户信任。
排序理由 多篇在 arXiv 上发表的学术论文讨论了 LLM 安全和评估技术。
- arXiv
- Bait-and-Recover
- CatalyzeX
- DagsHub
- Gotit.pub
- Hugging Face
- Llama-3.1-8B
- Md Rysul Kabir
- Qwen2.5-7B
- ScienceCast
- HarmBench
- JailbreakBench
- JailbreakRadar
- JailMeter
- Multimodal Large Language Models
- StrongReject
AI 生成摘要 · Google Gemini · 来自 4 个来源。 我们如何撰写摘要 →