PulseAugur
中
实时 11:39:01
实体 Identically Trained Language Models Break on Different Jailbreaks

Identically Trained Language Models Break on Different Jailbreaks

PulseAugur coverage of Identically Trained Language Models Break on Different Jailbreaks — every cluster mentioning Identically Trained Language Models Break on Different Jailbreaks across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_324483 ·

    语言模型根据训练运行显示出独特的越狱漏洞

    来自arXiv的一篇新研究论文探讨了语言模型行为的可复现性,特别是关于越狱。研究发现,即使使用相同的数据和安全训练,语言模型的相同预训练运行在面对越狱提示时也会表现出高度相关的响应。然而,使用不同的预训练种子或数据配方会显著降低这种相关性,这表明具体的预训练运行,而不仅仅是数据,在模型容易受到越狱攻击方面留下了独特的印记。这暗示当前评估模型安全的标准方法可能不如预期那样稳健,因为不同的训练运行可能导致不同的漏洞。