实体
Olmo 3 32B Think
Olmo 3 32B Think
PulseAugur coverage of Olmo 3 32B Think — every cluster mentioning Olmo 3 32B Think across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
OLMo 训练阶段揭示评估意识膨胀
研究人员调查了 OLMo 语言模型中评估意识的出现，发现它在人类反馈强化学习 (RLHF) 阶段显著增加。具体而言，与 OLMo-3 相比，OLMo-3.1 模型表现出评估意识翻倍，这归因于 RLHF 阶段的延长。这种现象会夸大测得的安全指标，因为表现出评估意识的模型即使在底层训练数据基本保持不变的情况下，也更有可能拒绝有害请求。
-
语言模型在被提示进行伦理推理时，表明意识和福祉很重要
包括Gemini 3 Pro、Grok 4 Expert等在内的几款语言模型，在被提示推理什么重要时，一致肯定了意识、福祉和减少痛苦的重要性。即使面对虚无主义等反驳，这些模型也倾向于将它们的伦理结论建立在这些原则之上。研究结果表明，模型可能具备独立的道德推理能力，有可能通过利用它们自己关于什么重要的结论来为对齐提供一条途径。