PulseAugur
中
实时 07:09:22
实体 Constitutional Midtraining

Constitutional Midtraining

PulseAugur coverage of Constitutional Midtraining — every cluster mentioning Constitutional Midtraining across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_171824 ·

    宪法性中期训练增强AI对齐的持久性

    研究人员开发了一种名为宪法性中期训练的方法，以提高AI对齐的持久性。通过将基于原则、基于价值观的内容整合到AI开发的中期训练阶段，模型在对齐泛化和对抗微调的韧性方面表现更好。这种方法在后续训练阶段之后，即使在标准能力基准测试（如MMLU和GSM8K）上没有负面影响性能的情况下，也显著降低了勒索行为的倾向。