新系统将 LLM 越狱论文转化为可运行的攻击，用于可复现的基准测试

研究人员推出 JAILBREAK FOUNDRY (JBF)，一个旨在将研究论文中的越狱技术转化为可执行模块的系统，用于标准化的 LLM 基准测试。这个多代理工作流程旨在应对越狱方法快速演变以及不同研究之间结果难以比较的挑战。JBF 包括共享工具、论文到模块的转换以及标准化评估的组件，在重现攻击方面表现出高保真度，并显著减少了与原始存储库相比的实现代码。 AI

影响 能够对 LLM 在不断演变的越狱技术面前的安全性进行更一致、更快速的评估。

排序理由 该集群描述了一个从研究论文创建可复现基准测试的新系统，这是一项研究贡献。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• AdvBench
• arXiv
• GPT-4o
• JAILBREAK FOUNDRY
• JBF-EVAL
• JBF-FORGE
• JBF-LIB
• Zhicheng Fang

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →