State-Adversarial MDPs

新框架应对 LLM 的多轮越狱攻击

研究人员开发了一个名为多轮认证鲁棒性 (MTCR) 的新框架，以解决大型语言模型 (LLM) 易受多轮越狱攻击的漏洞。现有方法难以应对顺序攻击，导致安全边界呈指数级下降。MTCR 使用状态对抗 MDP 对话安全进行建模，并通过嵌入空间模式分解引入组合认证以获得更紧密的边界。它还纳入了安全持久性，提高了下降率并提供了可解释的范围估计，实验表明经验安全性超过了认证边界。