研究人员开发了一个名为Learning to Coordinate (L2C)的新框架,以提高大型语言模型自动化红队测试的效率。L2C利用LLM来指导可执行的多代理工作流的演进,以版本化图的形式表示代理的职责和依赖关系。这种方法将反馈直接连接到工作流修改,从而在无需控制器持续干预的情况下实现持续改进。在HarmBench上的评估表明,L2C在提高攻击成功率(ASR)的同时,显著减少了测试所需的代币数量。 AI
影响 该框架可能带来更高效、更具成本效益的AI安全评估,从而加速更强大的LLM的开发。
排序理由 该集群包含一篇详细介绍AI安全研究新方法的学术论文。
- arXiv
- EvoSynth
- HarmBench
- Hugging Face
- large language models
- LLM-Guided Workflow Evolution
- Token-Efficient Red Teaming
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →