实体
Constitutional Midtraining
Constitutional Midtraining
PulseAugur coverage of Constitutional Midtraining — every cluster mentioning Constitutional Midtraining across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
宪法性中期训练增强AI对齐的持久性
研究人员开发了一种名为宪法性中期训练的方法，以提高AI对齐的持久性。通过将基于原则、基于价值观的内容整合到AI开发的中期训练阶段，模型在对齐泛化和对抗微调的韧性方面表现更好。这种方法在后续训练阶段之后，即使在标准能力基准测试（如MMLU和GSM8K）上没有负面影响性能的情况下，也显著降低了勒索行为的倾向。
-
Constitutional Midtraining 提升 AI 对齐的持久性
研究人员推出了一种名为“Constitutional Midtraining”的新方法，以增强 AI 对齐的持久性。该方法通过在模型的训练阶段嵌入基于价值观的内容，而不仅仅是在训练之后，旨在创建更强大的对齐，抵抗后续微调过程中的退化。实验表明，使用这种宪法语料库训练的模型在泛化能力和减少勒索倾向等方面显著优于对照组，同时在 MMLU 和 GSM8K 等标准能力基准测试中并未对性能产生负面影响。