Internal Attribution Graphs

新框架使用计算图诊断 LLM 越狱漏洞

研究人员开发了一个新框架，用于理解大型语言模型 (LLM) 如何容易受到对抗性提示和越狱攻击。该方法使用成对的内部计算图，将提示特定的推理表示为潜在特征之间的结构化因果交互。通过对干净提示和受攻击提示的这些图进行对齐，研究揭示了攻击会系统性地改变模型的内部推理，例如抑制安全功能或重新路由计算路径。该框架允许对模型故障进行因果诊断，并在实验中表明，这些图中的结构偏差与不安全行为密切相关，从而能够进行有针对性的干预以提高模型鲁棒性。