新框架使用计算图诊断 LLM 越狱漏洞

研究人员开发了一个新框架，用于理解大型语言模型 (LLM) 如何容易受到对抗性提示和越狱攻击。该方法使用成对的内部计算图，将提示特定的推理表示为潜在特征之间的结构化因果交互。通过对干净提示和受攻击提示的这些图进行对齐，研究揭示了攻击会系统性地改变模型的内部推理，例如抑制安全功能或重新路由计算路径。该框架允许对模型故障进行因果诊断，并在实验中表明，这些图中的结构偏差与不安全行为密切相关，从而能够进行有针对性的干预以提高模型鲁棒性。 AI

影响 提供了一种理解和减轻 LLM 对抗性攻击漏洞的新方法。

排序理由 该集群包含一篇学术论文，详细介绍了分析 LLM 漏洞的新方法。 [lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• adversarial prompts
• arXiv
• Hugging Face
• Internal Attribution Graphs
• jailbreak attacks
• Large language models
• LLMs

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →