Layered LLM Defenses as an Ensemble

新研究质疑堆叠式大模型防御的有效性

一篇题为“分层大模型防御作为集成”（Layered LLM Defenses as an Ensemble）的新研究论文探讨了在大型语言模型上堆叠多个防御机制的有效性。该研究引入了对手访问层模型（AATM）来对对手进行分级，并提出了防御成本模型，结果显示当前的防御层表现出正的失败相关性。这种依赖性，主要是由于架构上的共同原因，意味着堆叠的防御措施并不能如预期那样叠加效果，导致虚假拒绝率很高，同时对复杂的攻击提供的额外安全性有限。