CoFiBreak

新的CoFiBreak方法提高了LLM红队测试的多样性和有效性

研究人员开发了一种名为CoFiBreak的新方法，以提高大型语言模型自动化红队测试的多样性。该技术采用粗粒度到细粒度的多样性奖励系统，鼓励更广泛的攻击策略和提示变体，同时不牺牲有效性或增加推理成本。与现有基线相比，CoFiBreak已证明能够发现明显更多不同的成功攻击策略，并且这些攻击在对抗未见的尖端LLM（包括Claude Opus-4.6）方面显示出有效性。