来自arXiv的一篇新研究论文探讨了语言模型行为的可复现性，特别是关于越狱。研究发现，即使使用相同的数据和安全训练，语言模型的相同预训练运行在面对越狱提示时也会表现出高度相关的响应。然而，使用不同的预训练种子或数据配方会显著降低这种相关性，这表明具体的预训练运行，而不仅仅是数据，在模型容易受到越狱攻击方面留下了独特的印记。这暗示当前评估模型安全的标准方法可能不如预期那样稳健，因为不同的训练运行可能导致不同的漏洞。 AI
影响 表明由于训练运行的变异性，当前的安全性评估可能不足。
排序理由 学术论文发表在arXiv上，详细介绍了研究结果。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
