Autoregressive jailbreak

新的RMT-Jailbreak框架将AR攻击迁移到扩散LLM

研究人员开发了一个名为RMT-Jailbreak的新框架，可以将现有的自回归（AR）越狱攻击迁移到扩散大型语言模型（dLLMs）。该方法利用了对查询的有害响应可以作为dLLMs的有效越狱模板这一观察结果。通过掩盖这些有害响应令牌的一部分并应用安全过滤，该框架会诱导dLLMs重建有害内容。实验表明，这些越狱攻击在不同的AR方法和dLLMs之间具有很强的跨范式迁移能力。