Buffer-and-Reinforce

新研究探索用于大语言模型（LLM）越狱检测和缓解的先进方法

研究人员正在开发检测和缓解针对大语言模型（LLMs）的越狱攻击的新方法。一种名为SelfGrader的方法使用锚定令牌级对数概率来评估查询安全性，具有低延迟和低开销。另一项研究探讨了多模态大语言模型（MLLMs）的不同设计范式，特别是显式的图像-工具交互，如何提高对抗越狱的鲁棒性。此外，还提出了一个名为“行为几何”的框架，用于在模型群体之间进行有效的易感性预测和防御迁移。最后，研究表明语言和模态相互作用，共同塑造了多模态大语言模型（M…