研究人员开发了一种名为AE-CoT的自适应进化框架来破解大型推理模型（LRM）。该方法将有害目标重写为温和的提示，并将其分解为推理片段以创建越狱候选。然后，该框架使用具有交叉和变异策略的进化搜索来扩展候选多样性，并使用独立的评分模型评估有害性以增强破坏性生成。实验表明，AE-CoT在多个模型和数据集上优于现有的越狱方法。 AI
影响 这项研究突显了LLM的新漏洞，可能影响其安全部署并促使对强大的防御机制进行进一步研究。
排序理由 该集群包含一篇详细介绍LLM越狱新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
