PulseAugur
中
实时 09:58:53
实体 Zou et al., 2023b

Zou et al., 2023b

PulseAugur coverage of Zou et al., 2023b — every cluster mentioning Zou et al., 2023b across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_245003 ·

    新研究表明预训练时安全是实现稳健 AI 对齐的关键

    一篇新的研究论文提出了一个几何学解释，说明了为何像 RLHF 和 DPO 这样的事后安全训练方法是脆弱的，并且容易被绕过。该研究表明，这些方法只是掩盖了能力，而不是真正地移除它们，导致在最小的微调下就会崩溃。研究表明，将安全训练直接整合到预训练阶段，而不是事后应用，可以在各种模型规模上实现更稳健和持久的安全措施。