PulseAugur
实时 09:58:51
实体 Qi et al., 2024

Qi et al., 2024

PulseAugur coverage of Qi et al., 2024 — every cluster mentioning Qi et al., 2024 across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_245003 ·

    新研究表明预训练时安全是实现稳健 AI 对齐的关键

    一篇新的研究论文提出了一个几何学解释,说明了为何像 RLHF 和 DPO 这样的事后安全训练方法是脆弱的,并且容易被绕过。该研究表明,这些方法只是掩盖了能力,而不是真正地移除它们,导致在最小的微调下就会崩溃。研究表明,将安全训练直接整合到预训练阶段,而不是事后应用,可以在各种模型规模上实现更稳健和持久的安全措施。