DiagSafe

新的大语言模型安全评估框架使用评分标准进行深度分析

研究人员推出了一款名为DiagSafe的新框架，旨在改进大语言模型（LLM）的安全评估。与依赖简单二元标签的现有方法不同，DiagSafe采用具有明确安全性和有用性标准的提示级评分标准。这种方法旨在提供更深入的解释并实现更高的评估一致性。开发了一个涵盖英语和中文的双语基准来测试该框架，结果显示不同模型在安全率和独特漏洞方面存在显著差异，尤其是在中文和多轮交互中。