Quality-Diversity Red-Teaming

新的QDRT框架生成多样化且有效的LLM攻击提示

研究人员推出了一种名为质量-多样性红队测试（QDRT）的新型框架，旨在增强大型语言模型（LLM）的安全性和鲁棒性。QDRT通过生成更多样化且有效的对抗性提示，解决了现有红队测试方法的局限性。该框架采用行为条件训练和行为回放缓冲区来实现目标驱动的多样性，从而能够创建多个专门的攻击者。实证评估表明，QDRT在针对GPT-2、Llama 3、Gemma 2、Qwen2.5、GPT-4.1和GPT-5 Chat等一系列LLM生成多样化且有力的…