TROJail

新的DC-GRPO框架增强了多轮LLM越狱攻击

研究人员开发了一个名为分解信用GRPO（DC-GRPO）的新框架，以改进针对大型语言模型（LLM）的多轮越狱攻击。该方法通过为每次对话分配一个特定的学习信号，而不是为整个对话分配一个单一分数，来解决多轮对话中的信用分配挑战。DC-GRPO结合了即时信用和未来信用，以避免错误分配，其平均ASR5@3得分高于97%，优于SEMA和TROJail等现有最先进方法。研究强调，其有效性源于回合级信用分配本身。