special tokens

新的LLM越狱方法利用了超出提示词的系统性漏洞

研究人员开发了新的方法来突破大型语言模型（LLM）的限制，这些方法利用了传统提示词级别攻击之外的漏洞。一种方法是模拟审核跟踪（Simulated Moderation Traces, SMT），它模拟一个审核工作流程来欺骗LLM生成有害内容，证明了上下文感知验证对于支持工具的系统至关重要。另一种方法MetaBreak利用LLM微调中使用的特殊标记来绕过安全对齐和内容审核，其性能优于现有技术，尤其是在与其他攻击策略结合时。