一篇新发表在 arXiv 上的论文质疑了用于评估 AI 模型有害性的内部安全评分的有效性。研究表明，这些评分可能具有误导性，因为它们可能会错误地将成功的越狱排名为比失败的越狱危害更小。这种情况的发生是因为评分机制可能无法准确反映提示的真实有害意图，特别是当模型的输出被修改或“包装”时。研究发现，这个问题在各种模型和攻击方法中都存在，这表明需要改进评估技术。 AI
影响 强调了当前 AI 安全评估方法中潜在的缺陷，表明需要更强大的越狱检测技术。
排序理由 发表在 arXiv 上的研究论文，详细介绍了一种评估 AI 安全性的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
